Für eine gesellschaftlich verantwortete Dezentralisierung der Künstlichen Intelligenz

Für eine dezentrale regionalisierte Nutzung kluger KI-Anwendungen und gegen deren Zentralisierung durch Internetgroßkonzerne spricht sich der amerikanische Kritiker Evgeny Morozov aus. Er warnt in einem Interview für die Zeitschrift „Wirtschaftswoche“ (45/2017) vor einer Monopolisierung selbstlernender Software-Systeme in der Hand weniger Eigner von immensen Kapitalsummen und der sich dabei vollziehenden Sammlung riesiger Datenberge, die immer mehr dazu geeignet seien, menschliches Verhalten zu beeinflussen und zu steuern.

Eine Hinwendung zu dezentralen Datenerfassungen und Datensammlungen auf der Ebene von regionalen gemeinschaftlichen und gesellschaftlichen Akteursverbünden könne die Monopolbildung aufhalten. Die Daten dürften nicht dem Silicon Valley gehören. Daten müssten in der Hand der Betroffenen in der Region bleiben.

Morozov sieht jedoch erheblichen Beschleunigungsbedarf bei regionalen Politiken, Parlamenten und der Zivilgesellschaft. Wenn sich die Gegenkraft zur Monopolbildung nicht innerhalb der nächsten fünf bis zehn Jahre durchsetzt, sei der Kampf auf Dauer endgültig verloren. Für Morozov – und nicht nur für ihn – geht es um die Demokratisierung unserer Daten.

Integration und Inklusion: Vom „Betreuten Arbeiten“ zum „Betreuten Arbeiten 4.0“

Die Kolleginnen und Kollegen aus der Jugendsozialarbeit wissen Bescheid und verfügen über erhebliche Erfahrungen: Sie unterstützen junge Menschen, wenn diese Startschwierigkeiten haben, damit sie selbstständig ihr Berufsleben organisieren und gestalten können. Zahlreiche Jugendliche benötigen Betreuung, um mit den Alltäglichkeiten der Arbeitswelt zurande zu kommen. Das kann das Ringen mit den Anforderungen der Pünktlichkeit genau so betreffen wie den Betreuungsbedarf bei körperlichen oder kognitiven Beeinträchtigungen. Mehr Menschen als gedacht brauchen einen solchen solidarischen Rückenwind, um in der Arbeitswelt bestehen zu können.

Mit dem Einzug der Modelle von „Arbeiten 4.0“ nimmt der Grad der Abstraktion und der Komplexität im Arbeitsprozess zu. Zwischen den arbeitenden Menschen und das Produkt der Arbeit schieben sich eine oder mehrere digitale Plattformen. Diese steuern die Abläufe und „führen“ Mitglieder der Belegschaft. Diese Plattformen erschweren den direkten Produktbezug und verringern die Nachvollziehbarkeit der Arbeitsschritte. Wie aber kann „Betreutes Arbeiten 4.0“ für Jugendliche mit Förderbedarf erfolgen?

„Arbeiten 4.0“ stellt diese Gruppe von Jugendlichen vor neue Hemmnisse und Hindernisse. Im individuell empfundenen und erfahrenen Vorgang der digitalen Transformation benötigen diese Jugendlichen eine qualitativ erweiterte Betreuung. Die pädagogischen Fachkräfte sind zunächst gefordert, sich und ihre Arbeit in der Welt der plattformgesteuerten Arbeitswelt selbst neu zu verorten. Ihre Selbst-Neu-Verortung bildet eine wesentliche Basis für einen neuen Typ von persönlicher direkter Betreuung (face-to-face), die jedoch die Möglichkeiten der Überwindung von Zugangshindernissen und der Möglichkeit eines Coachings am Rande des Netzes eröffnen und beflügeln.

Jugendsozialarbeit im Rahmen von „Arbeiten 4.0“ steht vor großen Fragezeichen. Transparent organisierte Experimente und interdisziplinäre Projekte bieten die Chance, Fehler zu machen, aus denen man gemeinsam lernen kann. Sie erlauben den betroffenen Jugendlichen zugleich auch ein schrittweises Mitlernen, das sie ermutigt und sie wertschätzend ernst nimmt. Solche Projekte schaffen Räume für Fehler, Fehlertoleranz und kooperatives Lernen. Wer Inklusion meint, sollte in die Vier-Null-Projekte der Unternehmen auch Vorhaben der Jugendsozialarbeit integrieren. Das stärkt nicht nur die Wissensbilanz des Betriebes.

Unabdingbare Voraussetzung dieses neuen Typs von Betreuung ist dabei die Ermutigung der Ermutiger. Die Fachkräfte der Jugendsozialarbeit benötigen Zugang zu den regionalen und nationalen „Plattformen-Vier-Null“. Sie müssen sich vernetzen können. Ein zielgruppenspezifisches Förderprogramm könnte helfen, die Zahl der ausgeschlossenen oder sich ausgeschlossen fühlenden Jugendlichen zu verkleinern.

 

Von der „Front End“-Nutzung zur „Back End“-Demokratisierung

Immer noch betrachten wir die Digitalisierung von der Perspektive der End-Nutzerin und des Endnutzers, des End-Gerätes, des „front end“. Wir beschränken uns allzu leicht auf ergonomische Gestaltungen der Bildschirme und dem gesundheitlich korrekt angelegten Design von Oberflächen sowie der Displays. Dies ist zweifellos wichtig und unabdingbar. Wir bleiben dabei aber zu sehr an der Nahtstelle zwischen Mensch und Gerät hängen. Wir müssen lernen zu verstehen, dass die radikale Umwälzung der Arbeitswelt wesentlich von der Strukturierung des „back end“, von dessen sozialer Gestaltung abhängt.

Auf der Tagesordnung steht nicht die Algorithmisierung der Demokratie sondern die Demokratisierung der Algorithmen. Wir müssen den Mut aufbringen, uns in neue Mitbestimmungsgalaxien aufzumachen, selbst wenn wir in der vorhandenen noch vieles zu korrigieren haben. Doch schon jetzt ist zu spüren, dass noch nicht vollständig funktionsfähige autonome IT-Welten bereits jetzt ihre Schatten und ihr Licht in die Gegenwart werfen. Das Noch-Nicht beeinflusst die Gegenwart.

Für eine mutige Gestaltung des „back end“ müssen wir aber keine IT-Expert/Inn/en sein. Wir sollten vielmehr über allgemeines Orientierungswissen verfügen und mit der IT-Szene gut vertrauensvoll vernetzt sein. IT-Kompetenz im Betriebsrat oder Personalrat hilft zusätzlich.

Wir können unsere sozialen und organisatorischen Anforderungen an die IT formulieren und aushandeln sowie die IT-Fachleute zur Umsetzung bzw. zu Spezifikationen motivieren. Um als Nutzer online eine barrierefreie Website zu erwarten, ist es ja auch nicht erforderlich, dass man selbst „HTML sprechen“ kann.

 

 

Mit dem Algorithmus auf Du und Du

In der Diskussion von Betriebsräten über die soziale Gestaltung von „Arbeit 4.0“ rücken immer mehr die sogenannten „Autonomen Software-Systeme“ in den Vordergrund. Damit sind nicht Roboter oder selbstfahrende Transportsysteme gemeint sondern Software. „Autonome Software-Systeme“ sollen in die Lage versetzt werden, selbst zu „lernen“, selbst zu „denken“ und selbst „Entscheidungen zu treffen“. Diese „intelligente“ Software soll Arbeits- und Geschäftsprozesse steuern. In Echtzeit.

„Autonome Software-Systeme“ (ASS) lassen sich im Moment vor allen Dingen in geschlossenen oder genau umrissenenen Netzzusammenhängen verwenden. Diese Versionen der ASS benötigen dazu vorbereitete Datenspeicher („Datensilos“), die in hoher Geschwindigkeit Informationen auswerten und diese in Entscheidungsabläufe verwandeln. Eine der bekanntesten Varianten dieses Typs von ASS ist das IBM-System „Watson“.

Am Horizont sind aber schon Pilotierungen erkennbar, die ASS auch in offenen betriebsübergreifenden Wertschöpfungsprozessen, im Handel und in der Erstellung von Kundenprofilen einsetzen wollen.

Ein global handelnder Technologiekonzern mit vielen tausend Beschäftigten und mehreren Werken in der Bundesrepublik hat beschlossen, die Produktion und die Dienstleistungen mit Hilfe von „Watson“ Standorte übergreifend in überschaubarer Zeit neu zu organisieren. Damit werden Arbeitsabläufe und Prozessketten erheblich umgestellt. Aus Sicht der Unternehmensleitung entstehen Effizienz- und Effektivitätsgewinne.

Ein bundesdeutscher Dienstleistungsanbieter mit großer Beschäftigtenzahl beginnt seinen internen Umbau mit der geplanten Integration von „Watson“ in die Verwaltungsabläufe. Damit sollen Verfahren Standorte übergreifend beschleunigt und die Bescheide qualifizierter werden.

Es ist unverkennbar, dass die Anwendung der „Autonomen Software-Systeme“ die Arbeitswelt in wenigen Jahren durchdringen werden. Dabei wird die Gestaltungskompetenz von Betriebsräten erheblich herausgefordert. Es lässt sich von einer Digitalisierung hinter der Digitalisierung sprechen.

 

Mitbestimmte Algorithmen

Noch finden in den meisten Unternehmen technologische Veränderungen statt, bei denen Technikbasislösungen, die es schon lange gibt, nun erst im Betrieb eingeführt werden. Man kann zu Recht von einer „nachholenden Digitalisierung“ sprechen. Dazu gehören mobile Endgeräte, „intelligente“ Kleidung, „intelligente“ Brillen sowie wesentliche Teile des „Internets der Dinge“. Eine neue Qualität der digitalen Transformation entfaltet sich dort, wo solche Technik verwendet wird, die den Menschen nicht nur physisch entlastet, sondern ihm zugleich kognitive Prozesse samt Entscheidungen abnehmen will.

Wer sogenannte „Autonome Software-Systeme“ (ASS) gestalten will, trifft auf einen besonderen Umstand, dass nämlich bestimmte ASS nach ihrem Start nicht mehr gestaltbar sind. Es muss vorher geschehen. Betriebsräte sind gefordert, auf ASS im Rahmen einer „vorausschauenden Arbeitsgestaltung“, eines „vorausschauenden Arbeitsschutzes“ und einer vorausschauenden Prävention so einzuwirken, dass bestimmte nachteilige Folgen für den Menschen nicht entstehen.

Die laufende Diskussion zeigt, dass der soziale Gestaltungsprozess somit bereits am und im Algorithmus ansetzen muss. Es beginnt ein Gestaltungsdiskurs über „mitbestimmte Algorithmen“. Dies würde bedeuten, dass soziale Anforderungen von der Beschäftigtenseite artikuliert werden und diese über einen IT-gestützten Spezifikationsprozess im Algorithmus hinterlegt werden, bevor die ASS „ihre Arbeit aufnimmt“.

Eine erste Kernforderung aus Beschäftigtensicht lautet daher ganz logisch: Kein ASS darf das Potenzial haben, im Rahmen seines „Lernens“ den eigenen Ausgangsalgorithmus zu verändern. Wenn ein Algorithmus sich selbst zur Eigenveränderung ermächtigen könnte, wäre eine soziale Gestaltung aushebelbar.

 

Unternehmensinterne Crowd-Plattformen entstehen

In der jüngsten Zeit haben sich Gewerkschaften immer mehr mit dem Thema „Crowdworking“ befasst. Darunter ist im Kern zu verstehen, dass Arbeitsaufgaben in kleinere Portionen zerlegt und über elektronische Plattformen offen an Freelancer und Soloselbstständige außerhalb des Betriebes gegen zumeist allzu niedrige Bezahlung vergeben werden. Dazu wird in den Gewerkschaften eine Debatte über soziale Standards für Freie geführt.

Parallel nimmt eine andere Variante des „Crowdworking“ zu: Die Etablierung von elektronischen Crowd-Plattformen innerhalb (!) von Unternehmen. Diese Form der Aufgabenverteilung wendet sich nur an die im Unternehmen regulär Beschäftigten. Dabei gelten soziale Standards, das Betriebsverfassungsgesetz und die Mitbestimmung des Betriebsrates. Bei internem „Crowdworking“ steht nicht die Parole „Billig-Billig“ im Vordergrund. Hier geht es um neue Methoden flexibler Arbeitsorganisation. Internes „Crowdworking“ ist ein Organisationsmodell.

Wer diese neue Organisation anstrebt, wird schnell mit dem Begriff „agiles Arbeiten“ konfrontiert. Dezentrales, selbstorganisiertes Arbeiten in einer Art teilautomoner Auftragsabwicklung wird bei guter Flankierung durch den Betriebsrat von Beschäftigten in der Regel als Verbesserung begrüßt. Wenn jedoch mangels Führungskompetenz der Geschäftsleitung teilautonome Teams überlastet und gestresst werden, verdreht sich der Vorteil in ein belastendes Gegenteil. Auf die Gestaltung durch den Betriebsrat kommt es deshalb in hohem Maße an.

 

Schwäbisches Prinzip Hoffnung

A Gschichd, wo koi Innovazioh in dr Hoimed meh isch, isch scho arg.

Grad hen se dr‘vo gschwätzed vo dära glaud, dr’Oddo ond s’Luisle.

Dr‘Oddo: Dr Aafang von dära Innovazioh isch, wemmr said: Do hot no koinr nix gmached.

S‘Luisle: S‘End von ällra Innovazioh isch abr scho au, wemmr älleweil nix duad.

Dr‘Oddo: Dees isch so, wia wenn do koinr koi gar koi Hofferei me hät. Des hot dr alt Bloch in Diebinga gsaid. Mr sotts halt abr zeama amol brobiera ond mache.

S‘Luisle: So ischs no au wiadr. Guck, där wo etzed hot ge schaffa ganga wella, isch no grad scho au nemme do. Oddr? Där isch wiadr drhoim, alloi. Nix hotr ofanga kenna. Sai glaud mit dära eidendidi isch weg. Verzoga. – S’isch halt nemme dees. Mit ohne nix got halt au nix.

Dr‘Oddo: So däd mr abr koi gar koi Hoimed fir dia Innovazioh in sälra glaud me kriaga. So et! – Hosch mr etzed mol so a Äpps‘le fir des Eipäd‘le odr ganga mr au hoim?

S‘Luisle: Noi, mr bleibed ond etzed fanga mr aa. Was hosch gsaid ischs Naikommewörtle? Innovazioh-viere-null? Odr et.

 

(Wer hierfür eine Dialektübersetzung möchte, öffne den Kommentar.)

Kann ein autonomes Software-System ein drittes Rechtssubjekt in der Mitbestimmung darstellen?

Schon seit vielen Jahr quälen sich Fachleute aus Technik und Recht mit der Frage, ob ein Roboter, ein selbstfahrendes Auto oder ein Software-System im gerichtlichen Sinne ein Rechtssubjekt sein kann. Das bisherige Rechtsdenken gibt auf diese Frage nur zum Teil ausreichende Antworten. Im Zentrum steht stets die Suche nach der Zuordnung: Wer ist für einen Vorgang verantwortlich? Ist es der beauftragende Veranlasser der Technik oder die Technik selbst? Was passiert aber, wenn diese Zuordnung nicht eindeutig zu treffen ist, weil sich das technische System durch seine „Selbstlern“-Fähigkeit in Echtzeitschritten ständig verändert?

Der „Sachverständigenrat für Verbraucherfragen beim Bundesministerium der Justiz und für Verbraucherschutz“ hat im Dezember 2016 in seinem Gutachten „Verbraucherrecht 2.0 – Verbraucher in der digitalen Welt“ das Dilemma benannt: „Schwieriger wird es bei der rechtlichen Beurteilung von selbst-lernenden Algorithmen. Hier geht es letztendlich um die Frage, wie sich künstliche Intelligenz (KI) auf das Rechtssystem auswirkt, ob die Zuordnung des Agenten zum Prinzipal durchbrochen wird, ob der Software-Agent selbst zum autonom handelnden Rechtssubjekt wird oder der Prinzipal, der den selbst-lernenden Algorithmus konfiguriert hat, der Letztverantwortliche bleibt. Mit anderen Worten: wer ist der Prinzipal und wer ist der Agent?“.

Am Horizont der Debatte ist eine Erweiterung der Rechtslage erkennbar. Es ist zu erwarten, dass das Zivilrecht eine qualitative Korrektur in dem Sinne erfährt, dass es neben der „natürlichen Person“ (Bürgerin, Bürger) und der „juristischen Person“ (Unternehmen, Verein, Verband, etc.) auch eine „elektronische Person“ (autonome Systeme) geben wird. Doch wie soll diese definiert werden, wenn „autonome Software-Systeme“ (ASS) als „selbstlernende“ Einheiten sich nach ihrem Start unaufhörlich wandeln und potenziell ihren eigenen Algorithmus umbauen?

Ein unkonventioneller Blick in die Zukunft könnte auch noch eine andere Herausforderung formulieren: Was könnte eine „elektronische Person“ im Prozess der Mitbestimmung bedeuten? Angenommen ein ASS würde als „elektronische Person“ juristisch anerkannt, träte es dann im innerbetrieblichen Mitbestimmungsprozess neben der Unternehmensleitung und dem Betriebsrat als ein dritter „Partner“ an den Verhandlungstisch? Müsste eine „elektronische Person“ im Hinblick auf die Auswirkungen von „autonomen Software-Systemen“ in der betriebsinternen oder betriebsübergreifenden Wertschöpfungskette auch im Betriebsverfassungsgesetz verankert werden? Der Gedanke mag manchen schaudern lassen. Doch ist er nicht in sich logisch und konsequent? Was würde vorausschauende soziale Technikgestaltung in diesem Zusammenhang erfordern?

Prävention 4.0: Vorausschauende Arbeitsgestaltung und vorausschauender Arbeitsschutz unabdingbar

Das Bundesforschungsministerium fördert mit Bundesmitteln das Projekt „Prävention 4.0“. Das Vorhaben „verfolgt das Ziel, konkrete Handlungsempfehlungen und Leitlinien für eine präventive Arbeitsgestaltung in der Arbeitswelt 4.0 zu entwickeln, damit die Akteure in den Betrieben die Potenziale der betrieblichen Prävention in der digitalisierten Arbeitswelt wirkungsvoll nutzen können. Um die Potenziale von CPS zu nutzen und die Arbeitsbedingungen im Zuge der Integration von CPS in Arbeitsprozesse gesundheitsgerecht und produktiv gestalten zu können, müssen alle Akteure in den Unternehmen sowie die arbeitenden Menschen außerhalb der Betriebe und die Präventionsdienstleister sensibilisiert und handlungsfähig gemacht werden“ (www.praevention40.de).

Die ersten Ergebnisse legen den Entscheidungsträger/innen in den Geschäftsleitungen und in den Betriebsräten eine grundlegende Ergänzung ihres betrieblichen Handelns nahe. Die Recherchen, Untersuchungen, Expertengespräche und Workshops lassen unzweifelhaft erkennen, dass es für den Übergang zu tatsächlichen 4.0-Arbeitswelten auf der Basis der Anwendung „autonomer Software-Systeme“ einer kombinierten Strategie aus „vorausschauender Arbeitsgestaltung“ und „vorausschauendem Arbeits- und Gesundheitsschutzes“ bedarf.

Ausgangspunkt dieser Darlegung ist der Blick auf den jetzigen Status der „selbst lernenden“, „selbst denkenden“ und „selbst entscheidenden“ „autonomen Software-Systeme“(ASS): Diese sind – nach derzeitigem technischen Stand – nach ihrem Start nicht mehr gestaltbar. Technische, soziale und gesundheitliche Standards müssen somit vor der Nutzung der ASS bereits in der Software verankert werden.
Betriebsräte wie Geschäftsleitungen müssen vorausschauend analysieren, welche Wirkungen der ASS vermieden werden sollen bzw. müssen. Diese vorausschauend wahrgenommenen Interessen können dann ausgehandelt, vereinbart, spezifiziert und vor dem Start der ASS implementiert werden.

Auf diese neue zusätzliche Handlungsweise sind Betriebsräte bislang kaum vorbereitet. Sie benötigen zusätzliche Kompetenzen und Beratungsleistungen. Die Betriebsräte werden dabei mit einer stark zunehmenden Abstraktion und Komplexität der Abläufe konfrontiert.

Eine der zentralen Zielsetzungen des Projektes „Prävention 4.0“ besteht in der Erarbeitung und Bereitstellung wesentlicher Handlungsmöglichkeiten einer präventiven Arbeitsgestaltung für alle betrieblichen Akteure.

Das Forum Soziale Technikgestaltung, das zu den Partnern des BMBF-Vorhabens „Prävention 4.0“ gehört, startete das Projekt „BABSSY“ („BetriebsratsArbeit auf Basis autonomer Software-Systeme“), um den Kompetenzaufbau unter Betriebsräten und Beschäftigten zu unterstützen.

Schutz der Privatheit bedeutet Schutz der Demokratie

Wer kennt sie nicht die eifrigen Verführungen zum bereitwilligen Übermitteln persönlicher Daten. Da wird die persönliche Gesundheit mit Schritt- oder Pulszählern „optimiert“, Herzfrequenzen und Insulinangaben „gepostet“, familiäre Bilder und Informationen in Social Media-Plattformen zugänglich gemacht. Per Handy-GPS lassen sich Bewegungsbilder erstellen. Mit dem Zusammenführen von Links und „Likes“ werden Beziehungs- und Bekanntschaftslinien transparent. Im Supermarkt lässt das Pay back-Modell Kundenverhalten und Kundenprofile zu wertvollen Zielgruppenidentifikationen erwachsen.

Die Liste lässt sich fortsetzen, denn das „Lifelogging“ – das Vermessen von Alltags- und Lebensverhalten – wird um das betriebliche „Worklogging“ (Schröter) ergänzt. Neben direkten Mitarbeiterdaten und Profilen entfalten sich Profile aus indirekten Daten (Armbänder von Beschäftigten zeigen Raumwechsel, Geschwindigkeiten, Raucherpausen, Leistungsvermögen, undundund). Sie erlauben unsichtbare Rankings.

Wenn nun arbeitsweltbezogene Daten mit Freizeit- und Gesundheits-, Mobilitäts- und Konsumdaten verschmelzen, werden im aggregierten Profil immer mehr die Trennungen von Arbeit und Freizeit, von Beruf und Privatheit aufgehoben. Diese Tendenzen erfordern nicht nur einen verbesserten Arbeitnehmerdatenschutz sowie einen bürgerbezogenen „Identitätsschutz“ (Schröter). Noch ein weiterer Aspekt gewinnt an Relevanz:

Es ist dem Philosophen Jürgen Habermas hoch anzurechnen, dass er die Bedeutung des Schutzes der Privatheit für die Demokratie hervorgehoben hat. Zu Recht unterstreicht er, dass die verfassungsrechtlich gesicherte Privatheit von Bürgerinnen und Bürgern einen wichtigen Baustein im Fundament der Demokratie darstellt. Wenn durch digitale Vernetzungen faktisch die Privatheit beeinträchtigt wird bzw. werden kann, besteht die Gefahr, dass die demokratische Gesellschaft Schaden nimmt.

Eine soziale Gestaltung von 4.0-Arbeitswelten sollte den Schutz der Privatheit im Blick behalten.