„Hinter diesen Augen sitzt kein Ich“

Wer kennt nicht die Bilder und Szenen, wenn auf Technologiemessen ein begeisterter Mensch dem „süßen“ kleinen Roboter „Pepper“ über den Kopf streicht, ihm wie einem Kind in die „Augen“ schaut, als ob dieses vermeintliche Geschöpf dann dankend zurücklächelt. Der Mensch sucht Interaktion und projiziert Interaktionsfähigkeit auf den mobilen Blechhaufen.

Einem solchen Menschen gab der nachdenkliche Technikethiker Karsten Weber einen ernüchternden Rat mit auf den Weg: „Hinter diesen Augen sitzt kein Ich.“ Mit dieser Äußerung wollte der Wissenschaftler aus Regensburg jenen widersprechen, die in der momentanen Roboterentwicklung schon Maschinen „mit Bewusstsein“ zu erkennen glaubten. Davon sei man mehr als weit entfernt, wenn dieses Ziel überhaupt je erreicht werden könnte.

Die Projektion menschlicher Eigenschaften auf die Maschinen sei unangebracht und falsch. Weder menschenähnliche Roboter noch selbst fahrende Autos besäßen jene „Autonomie“, die es ihnen erlauben würde, selbst ethische bzw. normative Regeln zu setzen. Dies sei und bleibe Aufgabe des Menschen.

Auf einer Tagung zum Thema „Künstliche Intelligenz“ der Integrata-Stiftung und des Tübinger Weltethos-Institutes kritisierte Weber den unverantwortlichen Umgang mit schwerwiegenden moralischen und ethischen Fragen bei der Entwicklung der KI. Die „Anthropomorphisierung von Maschinen“ (Übertragung menschlicher Eigenschaften auf Maschinen) sei ein gravierender Fehlschluss.

Der Technikethiker verwies wissenschaftlich methodisch präzise auf die Erfahrungen mit Technikentwicklungen der letzten Jahrzehnte. Technik sei nie neutral, sie sei immer wertebasiert, wertegebunden und wertebeladen. Dies bedeute, dass bei der Konzipierung technischer Innovationen immer bewusst oder unbewusst normative Überzeugungen, Werte, Vorurteile, Interessen in die Technikentwicklung einfließen. Dies schließe ein, dass immer wieder ein Hinterfragen vorhandener Technik stattfinden müsse, da sich parallel zur Technikentwicklung auch gesellschaftliche Werte und Lebensstile (zum Beispiel Geschlechterrollen) ständig veränderten.

Diese Wertegebundenheit technischer Konzeptionen müsse – so die Diskussion – gerade bei einem besonders empfindlichen Teil der KI, nämlich der Nutzung von „selbstlernenden Software-Systemen“, deutlichere Berücksichtigung finden. Denn auch hier gilt: Hinter diesen Algorithmen sitzt kein Ich.

 

Verengungen im Blick auf die KI

Eine gemeinsam von der Integrata-Stiftung, des Weltethos-Institutes und der Giordano-Bruno-Stiftung organisierte öffentliche Fachtagung zur gesellschaftlichen Bedeutung der Entwicklung von KI (Künstliche Intelligenz) wollte die Gestaltungskompetenz auf Seiten der Bürgerinnen und Bürger stärken.

Dabei verengte sich der Diskurs in Tübingen allerdings auf zwei technische Innovationen – die jenseits von Wirtschafts- und Arbeitswelt verortet wurden. Im Zentrum standen die Potentiale selbst fahrender Autos und selbst laufender Roboter. Im KI-Diskurs gelten diese beiden Anwendungen eher nicht als zentraler Fokus der Herausforderungen. Denn sie sind letztlich nur der Hardware-Schlusspunkt einer ansonsten primär softwaretechnischen Entfaltung.

Einer der wichtigen Schlüssel zur Potentialanalyse der KI liegt – gemäß des Beitrages des Forum Soziale Technikgestaltung – in der Einschätzung und interessensorientierten Beeinflussung „autonomer Software-Systeme“ wie etwa „Watson“ von IBM. Wer gesellschaftspolitisch – zu Recht – Einfluss auf die KI-Entwicklung nehmen will, muss den Blick wechseln: Nicht vom Endgerät (Roboter, Auto, Hardware) wäre zu schauen, also vom „front end“ her, sondern von der Steuerungsebene her, vom „back end“, gilt es sich zu nähern.

Die Kernfrage lautet: Welche gesellschaftlichen und gesellschaftspolitischen Interventionen bereiten den Weg zur Demokratisierung des „back end“? Wie demokratisieren wir die Algorithmen? Dabei wäre die Gestaltung dieser selbstlernenden Software-Systeme in der Arbeitswelt objektiv der zu erwartende Pionierfall. – Dies wäre ein mutiges Thema für die nächste KI-Tagung des Tübinger Dreigestirns.

 

Von der Demokratisierung der Algorithmen zum mitbestimmten Algorithmus

Auf der Berliner Tagung der Friedrich-Ebert-Stiftung unter dem Thema „Digitaler Kapitalismus“ ermutigte das Forum Soziale Technikgestaltung die Kolleginnen und Kollegen aus Betriebs- und Personalräten sowie aus den Gewerkschaften die bisherigen Ziele der Mitbestimmung strategisch auszuweiten.

Er reiche nicht aus, nur betriebsbezogen mitbestimmen zu wollen. Neben dieser an vertikaler Wertschöpfung ausgerichteten Mitbestimmung müsse man sich gedanklich vorbereiten, auch eine Mitbestimmung entlang der betriebsübergreifenden horizontalen Wertschöpfungskette zu konzipieren. Die Zukunft des Betriebes und die Zukunft der dortigen Arbeitsplätze werden in Zukunft verstärkt von Einflüssen horizontaler Wertschöpfungsketten getrieben.

Darüber hinaus aber sei es zukünftig unabdingbar, sich werkzeugbezogen einzubringen. „Autonome Software-Systeme“ werden auf Dauer nicht nur in geschlossenen virtuellen Umgebungen implementiert. Ziel der IT-Szene ist es, solche Anwendungen auch in offenen Netzumgebungen zu ermöglichen.

Betriebs- und Personalräte sowie Gewerkschaften sollten sich daher rasch den Themen „Demokratisierung der Algorithmen“ und Modelle von „mitbestimmten Algorithmen“ (Schröter) öffnen, um Wege der „vorausschauenden Arbeitsgestaltung“, wie es das BMBF-Projekt „Prävention 4.0“ unter Leitung von Oleg Cernavin vorschlägt, begehbar zu machen. Laut Forum Soziale Technikgestaltung gilt es, sich von der gesellschaftlichen Demokratisierung der Algorithmen hin zum mitbestimmten Algorithmus aufzumachen.

 

Für eine gesellschaftlich verantwortete Dezentralisierung der Künstlichen Intelligenz

Für eine dezentrale regionalisierte Nutzung kluger KI-Anwendungen und gegen deren Zentralisierung durch Internetgroßkonzerne spricht sich der amerikanische Kritiker Evgeny Morozov aus. Er warnt in einem Interview für die Zeitschrift „Wirtschaftswoche“ (45/2017) vor einer Monopolisierung selbstlernender Software-Systeme in der Hand weniger Eigner von immensen Kapitalsummen und der sich dabei vollziehenden Sammlung riesiger Datenberge, die immer mehr dazu geeignet seien, menschliches Verhalten zu beeinflussen und zu steuern.

Eine Hinwendung zu dezentralen Datenerfassungen und Datensammlungen auf der Ebene von regionalen gemeinschaftlichen und gesellschaftlichen Akteursverbünden könne die Monopolbildung aufhalten. Die Daten dürften nicht dem Silicon Valley gehören. Daten müssten in der Hand der Betroffenen in der Region bleiben.

Morozov sieht jedoch erheblichen Beschleunigungsbedarf bei regionalen Politiken, Parlamenten und der Zivilgesellschaft. Wenn sich die Gegenkraft zur Monopolbildung nicht innerhalb der nächsten fünf bis zehn Jahre durchsetzt, sei der Kampf auf Dauer endgültig verloren. Für Morozov – und nicht nur für ihn – geht es um die Demokratisierung unserer Daten.

Integration und Inklusion: Vom „Betreuten Arbeiten“ zum „Betreuten Arbeiten 4.0“

Die Kolleginnen und Kollegen aus der Jugendsozialarbeit wissen Bescheid und verfügen über erhebliche Erfahrungen: Sie unterstützen junge Menschen, wenn diese Startschwierigkeiten haben, damit sie selbstständig ihr Berufsleben organisieren und gestalten können. Zahlreiche Jugendliche benötigen Betreuung, um mit den Alltäglichkeiten der Arbeitswelt zurande zu kommen. Das kann das Ringen mit den Anforderungen der Pünktlichkeit genau so betreffen wie den Betreuungsbedarf bei körperlichen oder kognitiven Beeinträchtigungen. Mehr Menschen als gedacht brauchen einen solchen solidarischen Rückenwind, um in der Arbeitswelt bestehen zu können.

Mit dem Einzug der Modelle von „Arbeiten 4.0“ nimmt der Grad der Abstraktion und der Komplexität im Arbeitsprozess zu. Zwischen den arbeitenden Menschen und das Produkt der Arbeit schieben sich eine oder mehrere digitale Plattformen. Diese steuern die Abläufe und „führen“ Mitglieder der Belegschaft. Diese Plattformen erschweren den direkten Produktbezug und verringern die Nachvollziehbarkeit der Arbeitsschritte. Wie aber kann „Betreutes Arbeiten 4.0“ für Jugendliche mit Förderbedarf erfolgen?

„Arbeiten 4.0“ stellt diese Gruppe von Jugendlichen vor neue Hemmnisse und Hindernisse. Im individuell empfundenen und erfahrenen Vorgang der digitalen Transformation benötigen diese Jugendlichen eine qualitativ erweiterte Betreuung. Die pädagogischen Fachkräfte sind zunächst gefordert, sich und ihre Arbeit in der Welt der plattformgesteuerten Arbeitswelt selbst neu zu verorten. Ihre Selbst-Neu-Verortung bildet eine wesentliche Basis für einen neuen Typ von persönlicher direkter Betreuung (face-to-face), die jedoch die Möglichkeiten der Überwindung von Zugangshindernissen und der Möglichkeit eines Coachings am Rande des Netzes eröffnen und beflügeln.

Jugendsozialarbeit im Rahmen von „Arbeiten 4.0“ steht vor großen Fragezeichen. Transparent organisierte Experimente und interdisziplinäre Projekte bieten die Chance, Fehler zu machen, aus denen man gemeinsam lernen kann. Sie erlauben den betroffenen Jugendlichen zugleich auch ein schrittweises Mitlernen, das sie ermutigt und sie wertschätzend ernst nimmt. Solche Projekte schaffen Räume für Fehler, Fehlertoleranz und kooperatives Lernen. Wer Inklusion meint, sollte in die Vier-Null-Projekte der Unternehmen auch Vorhaben der Jugendsozialarbeit integrieren. Das stärkt nicht nur die Wissensbilanz des Betriebes.

Unabdingbare Voraussetzung dieses neuen Typs von Betreuung ist dabei die Ermutigung der Ermutiger. Die Fachkräfte der Jugendsozialarbeit benötigen Zugang zu den regionalen und nationalen „Plattformen-Vier-Null“. Sie müssen sich vernetzen können. Ein zielgruppenspezifisches Förderprogramm könnte helfen, die Zahl der ausgeschlossenen oder sich ausgeschlossen fühlenden Jugendlichen zu verkleinern.

 

Von der „Front End“-Nutzung zur „Back End“-Demokratisierung

Immer noch betrachten wir die Digitalisierung von der Perspektive der End-Nutzerin und des Endnutzers, des End-Gerätes, des „front end“. Wir beschränken uns allzu leicht auf ergonomische Gestaltungen der Bildschirme und dem gesundheitlich korrekt angelegten Design von Oberflächen sowie der Displays. Dies ist zweifellos wichtig und unabdingbar. Wir bleiben dabei aber zu sehr an der Nahtstelle zwischen Mensch und Gerät hängen. Wir müssen lernen zu verstehen, dass die radikale Umwälzung der Arbeitswelt wesentlich von der Strukturierung des „back end“, von dessen sozialer Gestaltung abhängt.

Auf der Tagesordnung steht nicht die Algorithmisierung der Demokratie sondern die Demokratisierung der Algorithmen. Wir müssen den Mut aufbringen, uns in neue Mitbestimmungsgalaxien aufzumachen, selbst wenn wir in der vorhandenen noch vieles zu korrigieren haben. Doch schon jetzt ist zu spüren, dass noch nicht vollständig funktionsfähige autonome IT-Welten bereits jetzt ihre Schatten und ihr Licht in die Gegenwart werfen. Das Noch-Nicht beeinflusst die Gegenwart.

Für eine mutige Gestaltung des „back end“ müssen wir aber keine IT-Expert/Inn/en sein. Wir sollten vielmehr über allgemeines Orientierungswissen verfügen und mit der IT-Szene gut vertrauensvoll vernetzt sein. IT-Kompetenz im Betriebsrat oder Personalrat hilft zusätzlich.

Wir können unsere sozialen und organisatorischen Anforderungen an die IT formulieren und aushandeln sowie die IT-Fachleute zur Umsetzung bzw. zu Spezifikationen motivieren. Um als Nutzer online eine barrierefreie Website zu erwarten, ist es ja auch nicht erforderlich, dass man selbst „HTML sprechen“ kann.

 

 

Mit dem Algorithmus auf Du und Du

In der Diskussion von Betriebsräten über die soziale Gestaltung von „Arbeit 4.0“ rücken immer mehr die sogenannten „Autonomen Software-Systeme“ in den Vordergrund. Damit sind nicht Roboter oder selbstfahrende Transportsysteme gemeint sondern Software. „Autonome Software-Systeme“ sollen in die Lage versetzt werden, selbst zu „lernen“, selbst zu „denken“ und selbst „Entscheidungen zu treffen“. Diese „intelligente“ Software soll Arbeits- und Geschäftsprozesse steuern. In Echtzeit.

„Autonome Software-Systeme“ (ASS) lassen sich im Moment vor allen Dingen in geschlossenen oder genau umrissenenen Netzzusammenhängen verwenden. Diese Versionen der ASS benötigen dazu vorbereitete Datenspeicher („Datensilos“), die in hoher Geschwindigkeit Informationen auswerten und diese in Entscheidungsabläufe verwandeln. Eine der bekanntesten Varianten dieses Typs von ASS ist das IBM-System „Watson“.

Am Horizont sind aber schon Pilotierungen erkennbar, die ASS auch in offenen betriebsübergreifenden Wertschöpfungsprozessen, im Handel und in der Erstellung von Kundenprofilen einsetzen wollen.

Ein global handelnder Technologiekonzern mit vielen tausend Beschäftigten und mehreren Werken in der Bundesrepublik hat beschlossen, die Produktion und die Dienstleistungen mit Hilfe von „Watson“ Standorte übergreifend in überschaubarer Zeit neu zu organisieren. Damit werden Arbeitsabläufe und Prozessketten erheblich umgestellt. Aus Sicht der Unternehmensleitung entstehen Effizienz- und Effektivitätsgewinne.

Ein bundesdeutscher Dienstleistungsanbieter mit großer Beschäftigtenzahl beginnt seinen internen Umbau mit der geplanten Integration von „Watson“ in die Verwaltungsabläufe. Damit sollen Verfahren Standorte übergreifend beschleunigt und die Bescheide qualifizierter werden.

Es ist unverkennbar, dass die Anwendung der „Autonomen Software-Systeme“ die Arbeitswelt in wenigen Jahren durchdringen werden. Dabei wird die Gestaltungskompetenz von Betriebsräten erheblich herausgefordert. Es lässt sich von einer Digitalisierung hinter der Digitalisierung sprechen.

 

Mitbestimmte Algorithmen

Noch finden in den meisten Unternehmen technologische Veränderungen statt, bei denen Technikbasislösungen, die es schon lange gibt, nun erst im Betrieb eingeführt werden. Man kann zu Recht von einer „nachholenden Digitalisierung“ sprechen. Dazu gehören mobile Endgeräte, „intelligente“ Kleidung, „intelligente“ Brillen sowie wesentliche Teile des „Internets der Dinge“. Eine neue Qualität der digitalen Transformation entfaltet sich dort, wo solche Technik verwendet wird, die den Menschen nicht nur physisch entlastet, sondern ihm zugleich kognitive Prozesse samt Entscheidungen abnehmen will.

Wer sogenannte „Autonome Software-Systeme“ (ASS) gestalten will, trifft auf einen besonderen Umstand, dass nämlich bestimmte ASS nach ihrem Start nicht mehr gestaltbar sind. Es muss vorher geschehen. Betriebsräte sind gefordert, auf ASS im Rahmen einer „vorausschauenden Arbeitsgestaltung“, eines „vorausschauenden Arbeitsschutzes“ und einer vorausschauenden Prävention so einzuwirken, dass bestimmte nachteilige Folgen für den Menschen nicht entstehen.

Die laufende Diskussion zeigt, dass der soziale Gestaltungsprozess somit bereits am und im Algorithmus ansetzen muss. Es beginnt ein Gestaltungsdiskurs über „mitbestimmte Algorithmen“. Dies würde bedeuten, dass soziale Anforderungen von der Beschäftigtenseite artikuliert werden und diese über einen IT-gestützten Spezifikationsprozess im Algorithmus hinterlegt werden, bevor die ASS „ihre Arbeit aufnimmt“.

Eine erste Kernforderung aus Beschäftigtensicht lautet daher ganz logisch: Kein ASS darf das Potenzial haben, im Rahmen seines „Lernens“ den eigenen Ausgangsalgorithmus zu verändern. Wenn ein Algorithmus sich selbst zur Eigenveränderung ermächtigen könnte, wäre eine soziale Gestaltung aushebelbar.

 

Unternehmensinterne Crowd-Plattformen entstehen

In der jüngsten Zeit haben sich Gewerkschaften immer mehr mit dem Thema „Crowdworking“ befasst. Darunter ist im Kern zu verstehen, dass Arbeitsaufgaben in kleinere Portionen zerlegt und über elektronische Plattformen offen an Freelancer und Soloselbstständige außerhalb des Betriebes gegen zumeist allzu niedrige Bezahlung vergeben werden. Dazu wird in den Gewerkschaften eine Debatte über soziale Standards für Freie geführt.

Parallel nimmt eine andere Variante des „Crowdworking“ zu: Die Etablierung von elektronischen Crowd-Plattformen innerhalb (!) von Unternehmen. Diese Form der Aufgabenverteilung wendet sich nur an die im Unternehmen regulär Beschäftigten. Dabei gelten soziale Standards, das Betriebsverfassungsgesetz und die Mitbestimmung des Betriebsrates. Bei internem „Crowdworking“ steht nicht die Parole „Billig-Billig“ im Vordergrund. Hier geht es um neue Methoden flexibler Arbeitsorganisation. Internes „Crowdworking“ ist ein Organisationsmodell.

Wer diese neue Organisation anstrebt, wird schnell mit dem Begriff „agiles Arbeiten“ konfrontiert. Dezentrales, selbstorganisiertes Arbeiten in einer Art teilautomoner Auftragsabwicklung wird bei guter Flankierung durch den Betriebsrat von Beschäftigten in der Regel als Verbesserung begrüßt. Wenn jedoch mangels Führungskompetenz der Geschäftsleitung teilautonome Teams überlastet und gestresst werden, verdreht sich der Vorteil in ein belastendes Gegenteil. Auf die Gestaltung durch den Betriebsrat kommt es deshalb in hohem Maße an.

 

Schwäbisches Prinzip Hoffnung

A Gschichd, wo koi Innovazioh in dr Hoimed meh isch, isch scho arg.

Grad hen se dr‘vo gschwätzed vo dära glaud, dr’Oddo ond s’Luisle.

Dr‘Oddo: Dr Aafang von dära Innovazioh isch, wemmr said: Do hot no koinr nix gmached.

S‘Luisle: S‘End von ällra Innovazioh isch abr scho au, wemmr älleweil nix duad.

Dr‘Oddo: Dees isch so, wia wenn do koinr koi gar koi Hofferei me hät. Des hot dr alt Bloch in Diebinga gsaid. Mr sotts halt abr zeama amol brobiera ond mache.

S‘Luisle: So ischs no au wiadr. Guck, där wo etzed hot ge schaffa ganga wella, isch no grad scho au nemme do. Oddr? Där isch wiadr drhoim, alloi. Nix hotr ofanga kenna. Sai glaud mit dära eidendidi isch weg. Verzoga. – S’isch halt nemme dees. Mit ohne nix got halt au nix.

Dr‘Oddo: So däd mr abr koi gar koi Hoimed fir dia Innovazioh in sälra glaud me kriaga. So et! – Hosch mr etzed mol so a Äpps‘le fir des Eipäd‘le odr ganga mr au hoim?

S‘Luisle: Noi, mr bleibed ond etzed fanga mr aa. Was hosch gsaid ischs Naikommewörtle? Innovazioh-viere-null? Odr et.

 

(Wer hierfür eine Dialektübersetzung möchte, öffne den Kommentar.)