„Hinter diesen Augen sitzt kein Ich“

Wer kennt nicht die Bilder und Szenen, wenn auf Technologiemessen ein begeisterter Mensch dem „süßen“ kleinen Roboter „Pepper“ über den Kopf streicht, ihm wie einem Kind in die „Augen“ schaut, als ob dieses vermeintliche Geschöpf dann dankend zurücklächelt. Der Mensch sucht Interaktion und projiziert Interaktionsfähigkeit auf den mobilen Blechhaufen.

Einem solchen Menschen gab der nachdenkliche Technikethiker Karsten Weber einen ernüchternden Rat mit auf den Weg: „Hinter diesen Augen sitzt kein Ich.“ Mit dieser Äußerung wollte der Wissenschaftler aus Regensburg jenen widersprechen, die in der momentanen Roboterentwicklung schon Maschinen „mit Bewusstsein“ zu erkennen glaubten. Davon sei man mehr als weit entfernt, wenn dieses Ziel überhaupt je erreicht werden könnte.

Die Projektion menschlicher Eigenschaften auf die Maschinen sei unangebracht und falsch. Weder menschenähnliche Roboter noch selbst fahrende Autos besäßen jene „Autonomie“, die es ihnen erlauben würde, selbst ethische bzw. normative Regeln zu setzen. Dies sei und bleibe Aufgabe des Menschen.

Auf einer Tagung zum Thema „Künstliche Intelligenz“ der Integrata-Stiftung und des Tübinger Weltethos-Institutes kritisierte Weber den unverantwortlichen Umgang mit schwerwiegenden moralischen und ethischen Fragen bei der Entwicklung der KI. Die „Anthropomorphisierung von Maschinen“ (Übertragung menschlicher Eigenschaften auf Maschinen) sei ein gravierender Fehlschluss.

Der Technikethiker verwies wissenschaftlich methodisch präzise auf die Erfahrungen mit Technikentwicklungen der letzten Jahrzehnte. Technik sei nie neutral, sie sei immer wertebasiert, wertegebunden und wertebeladen. Dies bedeute, dass bei der Konzipierung technischer Innovationen immer bewusst oder unbewusst normative Überzeugungen, Werte, Vorurteile, Interessen in die Technikentwicklung einfließen. Dies schließe ein, dass immer wieder ein Hinterfragen vorhandener Technik stattfinden müsse, da sich parallel zur Technikentwicklung auch gesellschaftliche Werte und Lebensstile (zum Beispiel Geschlechterrollen) ständig veränderten.

Diese Wertegebundenheit technischer Konzeptionen müsse – so die Diskussion – gerade bei einem besonders empfindlichen Teil der KI, nämlich der Nutzung von „selbstlernenden Software-Systemen“, deutlichere Berücksichtigung finden. Denn auch hier gilt: Hinter diesen Algorithmen sitzt kein Ich.

 

Verengungen im Blick auf die KI

Eine gemeinsam von der Integrata-Stiftung, des Weltethos-Institutes und der Giordano-Bruno-Stiftung organisierte öffentliche Fachtagung zur gesellschaftlichen Bedeutung der Entwicklung von KI (Künstliche Intelligenz) wollte die Gestaltungskompetenz auf Seiten der Bürgerinnen und Bürger stärken.

Dabei verengte sich der Diskurs in Tübingen allerdings auf zwei technische Innovationen – die jenseits von Wirtschafts- und Arbeitswelt verortet wurden. Im Zentrum standen die Potentiale selbst fahrender Autos und selbst laufender Roboter. Im KI-Diskurs gelten diese beiden Anwendungen eher nicht als zentraler Fokus der Herausforderungen. Denn sie sind letztlich nur der Hardware-Schlusspunkt einer ansonsten primär softwaretechnischen Entfaltung.

Einer der wichtigen Schlüssel zur Potentialanalyse der KI liegt – gemäß des Beitrages des Forum Soziale Technikgestaltung – in der Einschätzung und interessensorientierten Beeinflussung „autonomer Software-Systeme“ wie etwa „Watson“ von IBM. Wer gesellschaftspolitisch – zu Recht – Einfluss auf die KI-Entwicklung nehmen will, muss den Blick wechseln: Nicht vom Endgerät (Roboter, Auto, Hardware) wäre zu schauen, also vom „front end“ her, sondern von der Steuerungsebene her, vom „back end“, gilt es sich zu nähern.

Die Kernfrage lautet: Welche gesellschaftlichen und gesellschaftspolitischen Interventionen bereiten den Weg zur Demokratisierung des „back end“? Wie demokratisieren wir die Algorithmen? Dabei wäre die Gestaltung dieser selbstlernenden Software-Systeme in der Arbeitswelt objektiv der zu erwartende Pionierfall. – Dies wäre ein mutiges Thema für die nächste KI-Tagung des Tübinger Dreigestirns.

 

Arbeit 4.0 benötigt Mitbestimmung 4.0

Die Fachwelt spricht über die „digitale Transformation“ von Wirtschaft und Arbeitswelt. Gemeint ist der Wandel hin zu „Arbeit 4.0“. Dieser Umbau der Arbeitswelt schließt sowohl die nachholende Digitalisierung der Betriebe wie auch die Öffnung hin zur Anwendung „autonomer Systeme“ ein. In vielen Betrieben werden heute erst digitale Technologien und digital gestützte Organisationsmodelle eingeführt, die aber als Technik schon seit Jahren auf dem Markt sind. Unter „autonomen Systemen“ sind nicht allein selbstfahrende Materialtransporter oder neue Robotergenerationen gemeint. Vielmehr haben wir es in Zukunft vermehrt mit Softwaresystemen zu tun, die selbst „denken“ und selbst „entscheiden“ sollen. In Echtzeit. Diese „autonomen Systeme“ sind die neue Herausforderung.

Der Wandel der Arbeit wird aus der Sicht von Beschäftigten mit den vorhandenen Mitbestimmungsmöglichkeiten nicht ausreichend gestaltbar sein. Betriebsräte wünschen sich mehr Mitbestimmung, um aus dem Wandel der Arbeit eine Humanisierung der Arbeit machen zu können. Dabei wird das Feld der Arbeitsgestaltung immer unübersichtlicher. Digital-virtuelle Arbeitswelten sind sehr flexibel und passen sich an neue Verfahren an. Immer mehr und schneller soll jeder Auftrag anders bearbeitet werden. Wertschöpfung im Betrieb und Wertschöpfung betriebsübergreifend werden virtuell verknüpft.

Betriebsräte sprechen von einer neuen „Unschärfe“ für Mitbestimmung: „Wie soll ich die Leitplanken passend anbringen, wenn ich die Kurve nicht rechtzeitig erkennen kann.“ Es gärt in den Köpfen von Betriebsräten. Wie kann Mitbestimmung vertieft und ihre Anwendung flexibler werden?

Von träumenden Robotern und vom Traum eines Betriebsrates

Zwei einarmige Roboter schenken den Besuchern der Hannover Messe 2016 ein Glas Bier ein. (Foto: © Welf Schröter)

Zwei einarmige Roboter schenken den Besuchern der Hannover Messe 2016 ein Glas Bier ein. (Foto: © Welf Schröter)

Es gibt Forschungslabors großer internationaler Unternehmen, da treffen sich kreative Köpfe und beginnen zu träumen. In ihren Träumen, die fast einer konkreten Utopie nahe kommen, begegnen ihnen humanoide Robotergestalten, die freundlich grüßen und kluge Fragen beantworten. Diese menschenähnlich designten Maschinen erzählen nun seit neuestem ihren analogen IT-Schöpfern, dass sie als künstlich geschaffene Gestalten in ihren virtuellen Unendlichkeiten selbst träumten. In ihren Nachtträumen treffen die Roboter auf Therapeuten, die den Menschmaschinen psychologische Hilfe anbieten. Zu oft hätten die Humanoiden unter den unsystematischen und emotionalen Widersprüchen der Analogen gelitten. Die Humanoiden sehen sich von den Analogen traumatisiert. Die Maschinen fordern Inklusion und drohen mit selbstorganisierten antiautoritären Selbsthilfegruppen.

Beim Stichwort „antiautoritär“ erwachte der Kollege Betriebsrat und begann zu zweifeln. Hatte er geschlafen oder gar geträumt? Waren die Humanoiden schon aktiv? Wieso fiel ihm jetzt der Name eines Schweizer FutureLabs ein? – Sicher war er sich jetzt nur hinsichtlich seines eigenen früheren Tagtraumes: Als konkrete Utopie hatte er sich einen autonomen Mitbestimmungsalgorithmus ersehnt, der in Echtzeit durch den virtuellen Raum pirscht auf der Jagd nach neuen digitalen Werkzeugen, die doch so schändlichst die jüngste Betriebsvereinbarung unterlaufen wollen. Ein solch autonomer Bot sollte dem Betriebsrat angehören und rund um die Uhr wachen können. Voilà – das wäre eine Assistenz! Die würde endlich entlasten!

Beim Stichwort „Assistenz“ klingelte der Smartphone-Wecker und der Kollege erwachte. – War da was? Oder etwa doch? – Erneut surrte das Phone: „Kollege wo bleibst Du. Die Betriebsratssitzung hat schon angefangen. Wir haben ein Problem: Die Geschäftsleitung will mehrere zweiarmige humanoide Leichtmetall-Roboter für den Ausschank in der Kantine einsetzen. Die einarmigen Robbis haben sich nun sehr aufgewühlt an uns gewandt. Sie fürchten, dass die Zweiarmigen sie wegrationalisieren. Was tun?“

Der Kollege schüttelte sich. Sah verwirrt auf die Uhr. Draußen war es noch still und dunkel. Er legte sich wieder hin.