„Hinter diesen Augen sitzt kein Ich“

Wer kennt nicht die Bilder und Szenen, wenn auf Technologiemessen ein begeisterter Mensch dem „süßen“ kleinen Roboter „Pepper“ über den Kopf streicht, ihm wie einem Kind in die „Augen“ schaut, als ob dieses vermeintliche Geschöpf dann dankend zurücklächelt. Der Mensch sucht Interaktion und projiziert Interaktionsfähigkeit auf den mobilen Blechhaufen.

Einem solchen Menschen gab der nachdenkliche Technikethiker Karsten Weber einen ernüchternden Rat mit auf den Weg: „Hinter diesen Augen sitzt kein Ich.“ Mit dieser Äußerung wollte der Wissenschaftler aus Regensburg jenen widersprechen, die in der momentanen Roboterentwicklung schon Maschinen „mit Bewusstsein“ zu erkennen glaubten. Davon sei man mehr als weit entfernt, wenn dieses Ziel überhaupt je erreicht werden könnte.

Die Projektion menschlicher Eigenschaften auf die Maschinen sei unangebracht und falsch. Weder menschenähnliche Roboter noch selbst fahrende Autos besäßen jene „Autonomie“, die es ihnen erlauben würde, selbst ethische bzw. normative Regeln zu setzen. Dies sei und bleibe Aufgabe des Menschen.

Auf einer Tagung zum Thema „Künstliche Intelligenz“ der Integrata-Stiftung und des Tübinger Weltethos-Institutes kritisierte Weber den unverantwortlichen Umgang mit schwerwiegenden moralischen und ethischen Fragen bei der Entwicklung der KI. Die „Anthropomorphisierung von Maschinen“ (Übertragung menschlicher Eigenschaften auf Maschinen) sei ein gravierender Fehlschluss.

Der Technikethiker verwies wissenschaftlich methodisch präzise auf die Erfahrungen mit Technikentwicklungen der letzten Jahrzehnte. Technik sei nie neutral, sie sei immer wertebasiert, wertegebunden und wertebeladen. Dies bedeute, dass bei der Konzipierung technischer Innovationen immer bewusst oder unbewusst normative Überzeugungen, Werte, Vorurteile, Interessen in die Technikentwicklung einfließen. Dies schließe ein, dass immer wieder ein Hinterfragen vorhandener Technik stattfinden müsse, da sich parallel zur Technikentwicklung auch gesellschaftliche Werte und Lebensstile (zum Beispiel Geschlechterrollen) ständig veränderten.

Diese Wertegebundenheit technischer Konzeptionen müsse – so die Diskussion – gerade bei einem besonders empfindlichen Teil der KI, nämlich der Nutzung von „selbstlernenden Software-Systemen“, deutlichere Berücksichtigung finden. Denn auch hier gilt: Hinter diesen Algorithmen sitzt kein Ich.

 

Verengungen im Blick auf die KI

Eine gemeinsam von der Integrata-Stiftung, des Weltethos-Institutes und der Giordano-Bruno-Stiftung organisierte öffentliche Fachtagung zur gesellschaftlichen Bedeutung der Entwicklung von KI (Künstliche Intelligenz) wollte die Gestaltungskompetenz auf Seiten der Bürgerinnen und Bürger stärken.

Dabei verengte sich der Diskurs in Tübingen allerdings auf zwei technische Innovationen – die jenseits von Wirtschafts- und Arbeitswelt verortet wurden. Im Zentrum standen die Potentiale selbst fahrender Autos und selbst laufender Roboter. Im KI-Diskurs gelten diese beiden Anwendungen eher nicht als zentraler Fokus der Herausforderungen. Denn sie sind letztlich nur der Hardware-Schlusspunkt einer ansonsten primär softwaretechnischen Entfaltung.

Einer der wichtigen Schlüssel zur Potentialanalyse der KI liegt – gemäß des Beitrages des Forum Soziale Technikgestaltung – in der Einschätzung und interessensorientierten Beeinflussung „autonomer Software-Systeme“ wie etwa „Watson“ von IBM. Wer gesellschaftspolitisch – zu Recht – Einfluss auf die KI-Entwicklung nehmen will, muss den Blick wechseln: Nicht vom Endgerät (Roboter, Auto, Hardware) wäre zu schauen, also vom „front end“ her, sondern von der Steuerungsebene her, vom „back end“, gilt es sich zu nähern.

Die Kernfrage lautet: Welche gesellschaftlichen und gesellschaftspolitischen Interventionen bereiten den Weg zur Demokratisierung des „back end“? Wie demokratisieren wir die Algorithmen? Dabei wäre die Gestaltung dieser selbstlernenden Software-Systeme in der Arbeitswelt objektiv der zu erwartende Pionierfall. – Dies wäre ein mutiges Thema für die nächste KI-Tagung des Tübinger Dreigestirns.

 

Von der Demokratisierung der Algorithmen zum mitbestimmten Algorithmus

Auf der Berliner Tagung der Friedrich-Ebert-Stiftung unter dem Thema „Digitaler Kapitalismus“ ermutigte das Forum Soziale Technikgestaltung die Kolleginnen und Kollegen aus Betriebs- und Personalräten sowie aus den Gewerkschaften die bisherigen Ziele der Mitbestimmung strategisch auszuweiten.

Er reiche nicht aus, nur betriebsbezogen mitbestimmen zu wollen. Neben dieser an vertikaler Wertschöpfung ausgerichteten Mitbestimmung müsse man sich gedanklich vorbereiten, auch eine Mitbestimmung entlang der betriebsübergreifenden horizontalen Wertschöpfungskette zu konzipieren. Die Zukunft des Betriebes und die Zukunft der dortigen Arbeitsplätze werden in Zukunft verstärkt von Einflüssen horizontaler Wertschöpfungsketten getrieben.

Darüber hinaus aber sei es zukünftig unabdingbar, sich werkzeugbezogen einzubringen. „Autonome Software-Systeme“ werden auf Dauer nicht nur in geschlossenen virtuellen Umgebungen implementiert. Ziel der IT-Szene ist es, solche Anwendungen auch in offenen Netzumgebungen zu ermöglichen.

Betriebs- und Personalräte sowie Gewerkschaften sollten sich daher rasch den Themen „Demokratisierung der Algorithmen“ und Modelle von „mitbestimmten Algorithmen“ (Schröter) öffnen, um Wege der „vorausschauenden Arbeitsgestaltung“, wie es das BMBF-Projekt „Prävention 4.0“ unter Leitung von Oleg Cernavin vorschlägt, begehbar zu machen. Laut Forum Soziale Technikgestaltung gilt es, sich von der gesellschaftlichen Demokratisierung der Algorithmen hin zum mitbestimmten Algorithmus aufzumachen.

 

Für eine gesellschaftlich verantwortete Dezentralisierung der Künstlichen Intelligenz

Für eine dezentrale regionalisierte Nutzung kluger KI-Anwendungen und gegen deren Zentralisierung durch Internetgroßkonzerne spricht sich der amerikanische Kritiker Evgeny Morozov aus. Er warnt in einem Interview für die Zeitschrift „Wirtschaftswoche“ (45/2017) vor einer Monopolisierung selbstlernender Software-Systeme in der Hand weniger Eigner von immensen Kapitalsummen und der sich dabei vollziehenden Sammlung riesiger Datenberge, die immer mehr dazu geeignet seien, menschliches Verhalten zu beeinflussen und zu steuern.

Eine Hinwendung zu dezentralen Datenerfassungen und Datensammlungen auf der Ebene von regionalen gemeinschaftlichen und gesellschaftlichen Akteursverbünden könne die Monopolbildung aufhalten. Die Daten dürften nicht dem Silicon Valley gehören. Daten müssten in der Hand der Betroffenen in der Region bleiben.

Morozov sieht jedoch erheblichen Beschleunigungsbedarf bei regionalen Politiken, Parlamenten und der Zivilgesellschaft. Wenn sich die Gegenkraft zur Monopolbildung nicht innerhalb der nächsten fünf bis zehn Jahre durchsetzt, sei der Kampf auf Dauer endgültig verloren. Für Morozov – und nicht nur für ihn – geht es um die Demokratisierung unserer Daten.

Integration und Inklusion: Vom „Betreuten Arbeiten“ zum „Betreuten Arbeiten 4.0“

Die Kolleginnen und Kollegen aus der Jugendsozialarbeit wissen Bescheid und verfügen über erhebliche Erfahrungen: Sie unterstützen junge Menschen, wenn diese Startschwierigkeiten haben, damit sie selbstständig ihr Berufsleben organisieren und gestalten können. Zahlreiche Jugendliche benötigen Betreuung, um mit den Alltäglichkeiten der Arbeitswelt zurande zu kommen. Das kann das Ringen mit den Anforderungen der Pünktlichkeit genau so betreffen wie den Betreuungsbedarf bei körperlichen oder kognitiven Beeinträchtigungen. Mehr Menschen als gedacht brauchen einen solchen solidarischen Rückenwind, um in der Arbeitswelt bestehen zu können.

Mit dem Einzug der Modelle von „Arbeiten 4.0“ nimmt der Grad der Abstraktion und der Komplexität im Arbeitsprozess zu. Zwischen den arbeitenden Menschen und das Produkt der Arbeit schieben sich eine oder mehrere digitale Plattformen. Diese steuern die Abläufe und „führen“ Mitglieder der Belegschaft. Diese Plattformen erschweren den direkten Produktbezug und verringern die Nachvollziehbarkeit der Arbeitsschritte. Wie aber kann „Betreutes Arbeiten 4.0“ für Jugendliche mit Förderbedarf erfolgen?

„Arbeiten 4.0“ stellt diese Gruppe von Jugendlichen vor neue Hemmnisse und Hindernisse. Im individuell empfundenen und erfahrenen Vorgang der digitalen Transformation benötigen diese Jugendlichen eine qualitativ erweiterte Betreuung. Die pädagogischen Fachkräfte sind zunächst gefordert, sich und ihre Arbeit in der Welt der plattformgesteuerten Arbeitswelt selbst neu zu verorten. Ihre Selbst-Neu-Verortung bildet eine wesentliche Basis für einen neuen Typ von persönlicher direkter Betreuung (face-to-face), die jedoch die Möglichkeiten der Überwindung von Zugangshindernissen und der Möglichkeit eines Coachings am Rande des Netzes eröffnen und beflügeln.

Jugendsozialarbeit im Rahmen von „Arbeiten 4.0“ steht vor großen Fragezeichen. Transparent organisierte Experimente und interdisziplinäre Projekte bieten die Chance, Fehler zu machen, aus denen man gemeinsam lernen kann. Sie erlauben den betroffenen Jugendlichen zugleich auch ein schrittweises Mitlernen, das sie ermutigt und sie wertschätzend ernst nimmt. Solche Projekte schaffen Räume für Fehler, Fehlertoleranz und kooperatives Lernen. Wer Inklusion meint, sollte in die Vier-Null-Projekte der Unternehmen auch Vorhaben der Jugendsozialarbeit integrieren. Das stärkt nicht nur die Wissensbilanz des Betriebes.

Unabdingbare Voraussetzung dieses neuen Typs von Betreuung ist dabei die Ermutigung der Ermutiger. Die Fachkräfte der Jugendsozialarbeit benötigen Zugang zu den regionalen und nationalen „Plattformen-Vier-Null“. Sie müssen sich vernetzen können. Ein zielgruppenspezifisches Förderprogramm könnte helfen, die Zahl der ausgeschlossenen oder sich ausgeschlossen fühlenden Jugendlichen zu verkleinern.