Betriebs- und Personalräte wollen den Vorrang menschlicher Entscheidungshoheit bei algorithmischen Systemen

Aus den vielfältigen Diskursen und Diskussionen im „Forum Soziale Technikgestaltung“ (FST) zum Thema „Der mitbestimmte Algorithmus“ entstanden dreißig generische Kriterien zur Vorab-Gestaltung von Algorithmen und algorithmischen Entscheidungssystemen (1). Zu den Kernpositionen gehören die eindeutige Einschränkung der personenunabhängigen Entscheidungskompetenz von Delegationssoftware und das Festhalten an gestalteter Assistenztechnik:

„Grundsätzlich hat zu gelten, dass in den Arbeits- und Berufswelten, in Betrieben, Dienstleistungszentren und Verwaltungen sowie in KMUs nur solche Software-Systeme Anwendung finden, die gestaltbar sind. Geschlossene und nicht gestaltbare Systeme verletzen die Mitbestimmung. Bei der Gestaltung und dem Einsatz ,autonomer‘ und ,selbstlernender‘ Algorithmen und algorithmischer Entscheidungssysteme gilt der Vorrang menschlicher Entscheidungshoheit und menschlicher Aufsicht. Bei der Gestaltung und dem Einsatz ,autonomer‘ und ,selbstlernender‘ Algorithmen und algorithmischer Entscheidungssysteme muss die Beherrschbarkeit der Systeme zu jedem einzelnen Zeitpunkt durch den Menschen gegeben sein.“(2)

Der Gesamtpersonalrat (GPR) der Landeshauptstadt Stuttgart hat In Zusammenarbeit mit dem „Forum Soziale Technikgestaltung“ den Entwurf einer „Lernenden Rahmen- und Zukunfts-DV zum Einsatz von Informations- und Telekommunikationstechnik bei der Landeshauptstadt Stuttgart“ vorgelegt. Darin strebt der GPR unter anderem an:

„Sollte eine Software-Anwendung nach ihrer Implementierung technisch nicht mehr gestaltbar sein oder deren Gestaltung nur mit großen technischen Aufwendungen und Kosten möglich sein, sind die Gestaltungsanforderungen des Gesamtpersonalrates vorab im Algorithmus der Software verbindlich zu verankern. Eine technisch eigenständige Aufhebung der Zweckbindung durch eine ,selbstlernende‘ Software selbst muss technisch ausgeschlossen werden.“ (3)

(1) Welf Schröter: Der mitbestimmte Algorithmus. Arbeitsweltliche Kriterien zur sozialen Gestaltung von Algorithmen und algorithmischen Entscheidungssystemen. In: Welf Schröter (Hg.): Der mitbestimmte Algorithmus. Gestaltungskompetenz für den Wandel der Arbeit. Mössingen 2019, S. 101–150.
(2) Ebd., S. 138.
(3) Markus Freitag, Claudia Häussler, Chris Purz, Welf Schröter: Chance auf einen geordneten Zukunftsprozess. In: Welf Schröter (Hg.): Der mitbestimmte Algorithmus. Gestaltungskompetenz für den Wandel der Arbeit. Mössingen 2019, S. 213–240, S. 232. (Darin enthalten ist der vollständige Wortlaut von „RZDV-ITTK-LHS Lernende Rahmen- und Zukunfts-DV zum Einsatz von Informations- und Telekommunikationstechnik bei der bei der Landeshauptstadt Stuttgart“ (Entwurf)“ Vorgelegt vom Gesamtpersonalrat der Landeshauptstadt Stuttgart 2019“.)

 

Das herausfordernde FST-Planspiel „BABSSY“

Das Netzwerk „Forum Soziale Technikgestaltung“ (FST) lädt zur Nutzung des von ihm entwickelten neuen Planspiels „BABSSY“ ein. Die Abkürzung steht für „BetriebsratsArbeit auf Basis ,Autonomer Software-SYsteme‘“. Unter dem Planspiel ist ein eintägiger Bildungsbaustein mit rund sieben Stunden Länge im Rahmen eines Weiterbildungsseminars für Betriebsrätinnen und Betriebsräten zu verstehen.

„BABSSY“ will die Gestaltungskompetenz der Betriebsratsgremien stärken. In einem Szenario sollen Kolleginnen und Kollegen die sich verändernden Arbeits- und Wirtschaftsabläufe erkennen und eigene Handlungsschritte simulieren lernen. Was bedeutet der Einsatz bestimmter neuer Software-Systeme für die Wertschöpfung im Betrieb und die Wertschöpfungskette zwischen den wirtschaftlichen Akteuren?

Im Zentrum des Lernprozesses steht der Erwerb des Verständnisses und der Gestaltungsmöglichkeiten von sogenannten „selbstlernenden“, „selbstdenkenden“ bzw. „autonomen“ Software-Systemen. Natürlich „lernen“ und „denken“ diese Software-Systeme nicht wirklich. Sie stellen vielmehr außerordentlich hochspezialisierte und zum Teil sehr leistungsfähige mathematisierte Software-Werkzeuge dar. Das Planspiel will in mehreren, über den Tag verteilten Schritten, die Beteiligten mit den Herausforderungen vertraut machen. Das Ziel ist die Vermittlung von Orientierungswissen an Betriebs- und Personalräte, Vertrauensleute und Beschäftigte über Möglichkeiten der sozialen Gestaltung dieses Typs von Software im Rahmen der „digitalen Transformation“. Die Vermittlungsbausteine fußen vor allem auf der Analyse der „nachholenden Digitalisierung“ und der Bedeutung „Autonomer Software-Systeme“ (ASS).

Grundlage der Überlegungen aus dem „Forum Soziale Technikgestaltung“ ist dabei ein Perspektivwechsel: Die „autonomen Software-Systeme“ (ASS) stellen nicht nur Objekte der Mitbestimmung und der Gestaltung dar. Die Diskussionen im FST eröffnen zugleich den Blick auf neue Möglichkeiten des Handelns von Betriebs- und Personalräten. Im Zusammenhang mit dem FST-Planspiel entfaltet sich das Szenario einer möglichen Nutzung der ASS zu einer optimierten Betriebsarbeit und als Werkzeuge der Mitbestimmung durch die Beschäftigtenvertretungen selbst. Das Planspiel hilft beim Verständnis der „vorausschauenden Arbeitsgestaltung“ und bei der Annäherung an den „mitbestimmten Algorithmus“ (Schröter).

In einer Reihe außergewöhnlicher Zukunftsworkshops anlässlich des 25-jährigen Bestehens des „Forum Soziale Technikgestaltung“ arbeiteten sich die Kolleginnen und Kollegen aus Betriebs- und Personalräten über zwei Jahre hinweg buchstäblich in die Zukunft: „Wir sollten die neuen technischen Potenziale nicht nur als Teil der Arbeitswelt gestalten, wir sollten sie auch selbst im Betriebsrat anwenden. Mitbestimmung mit Hilfe von ASS-Echtzeit-Bedingungen.“

Im Idealfall nehmen 20 oder 25 Personen an „BABSSY“ teil. Das didaktisch angelegte und vom FST moderierte Planspiel mit einem vorgegebenen Basisszenario für einen simulierten betriebsübergreifenden Mitbestimmungsprozess und verschiedenen Rollen kommt völlig ohne Techniknutzung aus. Tisch, Stuhl, Papier, Bleistift und ein neugieriger Blick wollen Echtzeit in Zeitlupe zerlegen, um Nachvollziehbarkeit, Transparenz und Interventionsmöglichkeiten gedanklich vorausschauend erlebbar zu machen. Der „Klick“ muss im Kopf passieren, bevor er technisch simuliert wird.

Die Durchführung und Moderation des Workshops erfolgt über das Forum Soziale Technikgestaltung. Für das ganztätige Seminar fallen n. V. Honorar- und Reisekosten und ggf. Übernachtungskosten an. Kontakt zu BABSSY: schroeter@talheimer.de

 

Der 100. Blog-Eintrag: Bringt die digitale Transformation eine Rückbildung oder eine Weiterentwicklung der Arbeitswelt?

Als vor rund fünfzig Jahren das einflussreiche Buch von Johannes Agnoli und Peter Brückner mit dem Titel „Die Transformation der Demokratie“ erschien, trug das Wort „Transformation“ etwas Warnendes und Bedrohliches in sich. Die Autoren analysierten die Geschichte der jungen Bundesrepublik Deutschland seit 1949. Dabei stellten sie eine Rückbildung und politisch gewollte Rückentwicklung („Involution“) der Demokratie fest. Deutlich wurde dies – so die Autoren – unter anderem an der Durchsetzung der Notstandsgesetze, wogegen die damalige außerparlamentarische Opposition laut protestierte.

Heute begegnet uns der Begriff „Transformation“ erneut, jedoch anders, diesmal als Verheißung, als „digitale Transformation“ von Wirtschaft, Arbeitswelt und Gesellschaft. Heute eröffnet der Begriff ein eher janusköpfiges Potenzial: Die digitale Transformation kann den Weg ebnen zu einer Ausweitung von Demokratie, sozialen Standards, Partizipation und Mitbestimmung oder aber zu deren gegenläufiger Tendenz. Auch die Rückbildungen von Demokratie und sozialen Standards sind denkbar.

Für viele Betriebsrätinnen und Betriebsräte gilt die digitale Transformation als Chance für eine Humanisierung der Arbeit und als Option für ein „Mehr Demokratie wagen“.

Neben der noch nicht aufgelösten Janusköpfigkeit zeigt der Transformations-Begriff noch eine weitere innere Spannung: Um den Prozess der digitalen Transformation nachvollziehbar und erklärbar zu machen, muss die Dynamik des Transformierens verlangsamt werden. Beteiligungsorientierte Demokratie benötigt Zeit. Verlangsamung aber beeinträchtigt – so die Stimmen der Arbeitgeber – die Wettbewerbsfähigkeit der Unternehmen und ihrer Produkte. Ein betriebsrätlich-gewerkschaftliches Handeln muss sich an der Lerngeschwindigkeit der Mehrheit der Gewerkschaftsmitglieder orientieren. Als vermeintliche „Avantgarde“ den Mitgliedern vorauszueilen und ihnen dabei zu enteilen, kann keine tragfähige Lösung sein.

Zugleich müssen sich Betriebsrätinnen und Betriebsräte aber auch von Geschwindigkeiten technikinduzierter Innovationsprozesse leiten lassen. Gestaltungskompetenz der Beschäftigtenvertretungen kann nicht bedeuten, den Technikeinführungen hinterher zu laufen. Die zunehmende Einführung „Autonomer Software-Systeme“ (ASS) in Wartungsprozessen, Instandhaltung, Personalmanagement, Logistik und Geschäftsprozesssteuerungen verlangt vom Gremium Betriebsrat die Kompetenz zu „vorausschauender Arbeitsgestaltung“. Die Gestaltung der ASS erfordert eine deutliche Beschleunigung des Handelns der Beschäftigtenvertretungen.

Für die Lernprozesse des Betriebsratsgremiums kann die Spannung zwischen Verlangsamung und Beschleunigung nicht nach einer Seite aufgehoben werden. Die Kunst besteht darin, die Spannung zwischen beiden Polen aufrecht zu erhalten. Das mag je nach Lage der Kontroverse belastend sein. Aber es ist die einzig vernünftige Möglichkeit, den Zusammenhalt zu wahren.

 

Schon wieder digital? Was ist neu am Neuen? Was ist alt am Neuen?

Wie schon mehrfach beschrieben, lässt sich die seit Anfang der neunziger Jahre vollziehende Digitalisierung der Arbeitswelt in mehrere Stufen gliedern. Eine solche Gliederung hilft beim Verständnis.

Zunächst aber sollte man sich von der Marketing-Oberfläche der vermeintlich „digitalen Revolution“ trennen, die jährlich irgendwo in der Republik von nicht ausreichend informierten Zeitgenossen ausgerufen wird. Betrachtet man die digitalen Schlagwort-Wellen mit etwas nüchternem Abstand, fällt eine wiederkehrende Flachheit auf. Was Anfang der 90iger Jahre als „Informatisierung“ lief, trug Mitte der neunziger Jahre den Namen „Multimedia“. Dieser Bezeichnung folgte die „Electronic“-Welle mit E-Commerce, E-Business, E-Government, E-Working etc. Kaum weitere fünf Jahre später war alles „smart“: Smart Work, Smart Factory, Smart Government etc. Ein weiteres halbes Jahrzehnt danach schäumte die Vier-Null-Welle durch das Land: Industrie 4.0, Arbeit 4.0, Bildung 4.0, Verwaltung 4.0 etc. Derzeit ist alles „KI“, also „Künstliche Intelligenz“. Mit einer kleinen Portion Humor lässt sich prophezeiten, dass danach alles „Neuro“ sein wird. Am Horizont wartet dann schon der Marketing-Schlager „Organic“.

Auffallend aber ist, dass in der Regel inhaltlich fast immer dasselbe angeboten wird: Mobiles Arbeiten, Smartphones, elektronische Lernwege, Internet der Dinge, angereicherte Realität, kluge Brillen, Prozesssteuerungen etc. Die strukturellen Zielsetzungen („Alles hängt mit allem zusammen.“) haben sich nur wenig entfaltet, dafür ist die Marketing-Umrahmung umso intensiver. Die Basistechnologen für diese Themen sind in der Regel zehn, fünfzehn oder gar zwanzig Jahre alt. Diese Technologien werden nun an vielen Orten mit Updates und Upgrades sowie mit ergänzten grafischen Oberflächen als vermeintlich neu implementiert. Die Anwenderinnen und Anwender empfinden diese alten Lösungen subjektiv als neu. Mit den tatsächlichen Herausforderungen hat dies wenig zu tun. Für diese Implementierung älterer Techniklinien gibt es schon zahlreiche ältere Betriebs- und Dienstvereinbarungen, die angepasst werden können.

Was aber ist wirklich neu? Wo ist derzeit technologisch „vorne“? Während im Forum Soziale Technikgestaltung die oben beschriebenen Abläufe eher als „nachholende Digitalisierung“ (Schröter) bezeichnet werden, lässt sich in einem bestimmten Teil der Software-Entwicklung der evolutionäre Bruch zum tatsächlich Neuen erkennen. Seit mindestens vier Jahrzehnten wächst die Zahl der software-technischen Werkzeuge. Ein wesentlicher großer Teil der bisherigen Software-Entwicklung ist im wohlwollend besten Sinne des Wortes „gute dumme Software“ (Schröter). Damit sind Werkzeuge gemeint, die sich durch ihren Gebrauch, ihre Anwendung nicht verändern (von immanenten Sicherheitsupdates und Antivirenimpulsen einmal abgesehen). Diese „gute dumme Software“ „lernt“ und „denkt“ nicht.

Teile der „Autonomen Software-Systeme“ (ASS) hingegen nehmen ständig neue Daten auf, „bewerten“ sie auf der Basis verankerter Spielregelanweisungen (Algorithmen) und kommen dadurch zu neuen Ergebnissen. Diese ASS verändern sich als Werkzeuge durch ihre Anwendungen. Die Gestaltung solcher sich selbstverändernder Werkzeuge benötigt eine andere soziale Gestaltungskompetenz als jene zur Formierung der „nachhaltigen Digitalisierung“ bzw. der „guten dummen Software“.

Diesen sich verändernden ASS wird nachgesagt, dass sie „lernen“, „denken“, „bewerten“, „entscheiden“ und „ausführen“. Natürlich denken und lernen sie nicht wirklich. Aber die darin enthaltende Mathematik ist so brillant, dass die Menschen vor dem Bildschirm sie als „denkend“ und „lernend“ empfinden. Auch hier sitzt – wie schon häufig erwähnt – das Problem vor dem Bildschirm.

Dieser Bruch, der dadurch charakterisiert wird, dass „Autonome Software-Systeme“ sich als Werkzeuge selbst verändern und dass die bisherige „Handlungsträgerschaft Mensch“ schrittweise zur „Handlungsträgerschaft ASS“ werden kann, bildet die soziale, ethische und technische Schlüsselherausforderung im aktuellen Verlauf der Digitalisierung. Wo dieser Bruch zu erkennen ist, ist vorne. Dort muss sich gewerkschaftliches Handeln bündeln und intervenieren.

 

„Maschinenethik“ (Teil I): Annäherungen an einen schillernden und widersprüchlichen Begriff

Wer sich mit der Virtualisierung und Digitalisierung der Arbeitswelten befasst, stolpert schnell über die Erkenntnis, dass es neben den handfesten Veränderungen für arbeitende Menschen auch um Drittmittelmärkte, um Strategien zur Erlangung von staatlichen Fördermitteln und um zeitweise substanzlose Marketingauftritte geht. Dieses Auseinanderklaffen von realen Notwendigkeiten und bloßen Akquise-Shows begegnet den kundigen Betrachtenden nun auch auf der Bühne des Wortes „Maschinenethik“.

Wer sich unkundig in die Sprachwelten der „Maschinenethik“ vorwagt, zuckt beeindruckt zurück. Da treten wissenschaftliche Teams auf, die sich mit vermeintlich spektakulären Erkenntnissen aufmachen, Fördermittel aus den staatlichen Händen auf europäischer, Bundes- oder Landes-Ebene zu ergattern. Da werden „Wirklichkeiten“ beschrieben, die keine sind, um Aufmerksamkeit zu erheischen. So schreibt ein akademischer Kopf, dass das zentrale Zukunftsthema der Digitalisierung und Virtualisierung die Herausforderung sei, dass Maschinen nun Ethik und Moral besitzen und ausführen könnten.

Die Maschine wird zum bewusstseinsfähigen Subjekt ernannt, das durch Datensammeln und Auswertungen Bewusstsein, Reflexionskompetenz, Ethik und Moral erlangen könnte. Die vermeintliche „Künstliche Intelligenz“ verfügt in solchen Beschreibungen alsbald über „Künstliche Ethik“ oder noch besser – wie ein nach Aufmerksamkeit strebender Ethiker schreibt – über „Künstliche Tugend“.

Klar, wenn man ein solches Szenario den zuständigen Vergabestellen der Ministerien einreden kann, hat man den sechs- bis siebenstelligen Betrag schon gewonnen. Wer wollte angesichts solcher Dämonen an der Wand der Zukunft nicht den Steuer-Geldbeutel für kulturelle Prävention öffnen.

Bei allem Respekt vor Frauen und Männern aus Ingenieur- und Informationswissenschaften muss man laut „Halt“ rufen! Ein solches Verständnis und Szenario von „Maschinenethik“ ist schlicht inakzeptabel. Weder kann ein physischer Blechhaufen noch ein digitaler Software-Haufen im aufgeklärt sozialwissenschaftlichen, philosophischen und menschenrechtlichen Sinne Bewusstsein im Sinne des Humanum erreichen. Ein solches Gerede von „Maschinenethik“ will Aufmerksamkeit, will vorsätzlich verunsichern und den Golem herbeireden.

Betrachtet man die technologische Wirklichkeit des Status quo und die Arbeiten in Laboren, dann lässt sich zweifellos feststellen, dass hier Gigantisches geleistet wurde. Brillante Mathematik und hervorragende Informatik haben Software-Systeme (allen voran „Autonome Software-Systeme“) hervorgebracht, die in glänzender Weise zur Verfahrens- und Prozessteuerung geeignet sind. Diese Systeme spiegeln dem Menschen vor, dass die Software „denken“ könnte und der Mensch verhält sich entsprechend, um diese Projektion zu vervollkommnen.

Das Problem sitzt vor (!) dem Bildschirm. Der Mensch hält das Agieren der Software für Denken und orientiert sein eigenes Verhalten gemäß dieser Projektion. Nicht das nicht vorhandene Bewusstsein in (!) der Maschine ist zu hinterfragen, sondern das Naive im Bewusstsein des Menschen stellt die Herausforderung dar.

Gerade für einen konstruktiven und innovativen Umgang mit neuen digitalen Lösungen sollten wir uns nicht in die Sackgassen der Hollywood-Filme drängen lassen: Sogenannte „Künstliche Intelligenz“ mit Bewusstsein gibt es nicht. Auch nicht in naher Zukunft. Was es gibt, sind aufregend gute mathematische Anwendungen mit enormen Potenzialen. Diese gilt es, engagiert demokratisch und sozial zu gestalten. Lassen wir uns nicht von vermeintlichen „Maschinen-Ethikern“ davon abhalten.

 

„Maschinenethik“ (Teil III): Ein Versuch zur Rettung der interdisziplinären Ethik

Nach zwei deutlichen Kritiken an der aufgebrochenen Debatte über sogenannte „Maschinenethik“ soll hier aber auch ein begrüßenswerter Denkansatz gewürdigt werden. Kluge Frauen und Männer aus Sozialwissenschaften, Informatik, Neurobiologie, Philosophie und Ethik greifen das ethische Verhalten von Personen auf, die Software entwickeln und Software anwenden. Sie benutzen dabei verwirrender Weise ebenfalls das Wort „Maschinenethik“, jedoch in einem völlig anderen Sinne.

Diese Gruppe spricht sich zu Recht dafür aus, dass die Softwareentwicklung wie auch die Softwareanwendung nach ethischen und humanen Kriterien erfolgen sollen. Sie sprechen daher von der ethischen Verantwortung der Entwickelnden und der Anwendenden für die Mensch-Technik-Interaktion. Sie reden nicht von der Ethik in der Maschine sondern vom ethischen Handeln des Menschen mit Hilfe der Technik gegenüber anderen Menschen. Ethik wird dem Menschen, nicht der Maschine, nicht der Software zugeordnet.

Dieser Ansatz ist außerordentlich begrüßenswert und folgt der Tradition problemorientierter Technikfolgenforschung. Soziale, ethische und humane Technikgestaltung setzt vorausschauend bereits in der Phase der Technikkonzeption (Technikgenese) an. Sie betont die „Handlungsträgerschaft Mensch“ und lehnt eine nicht-gestaltete „Handlungsträgerschaft Software-Systeme“ aus ethischen Gründen grundsätzlich ab.

Die Kontroverse um „Maschinenethik“ bedarf wie gezeigt sowohl der eindeutigen Differenzierung in unterschiedliche Ansätze wie auch der klaren, tendenzkundigen, inhaltlichen Positionierung zugunsten des Humanum.

 

Der mitbestimmte Algorithmus

Das Forum Soziale Technikgestaltung lädt zu einem neuen besonderen Dialog über soziale Technikgestaltung ein. Wir wollen einen ersten Teil-Diskurs zum Thema „Der mitbestimmte Algorithmus“ starten, der in der Zeit zwischen November 2018 und Juli 2019 konkrete Handlungsempfehlungen zur Gestaltung sogenannter „selbstlernender Systeme“ und „autonomer Software-Systeme“ erbringen soll.

Die Handlungsempfehlungen sollen Frauen und Männer in Betriebs- und Personalräten, in Vertrauensleutekörpern und in Belegschaften beim Umgang mit solchen Techniken unterstützen, die verbindliche Entscheidungen in Echtzeit treffen sollen. Der Diskurs geht von folgenden Annahmen aus:

„Selbstlernende Systeme“ und „Autonome Software-Systeme“ (ASS) können bei entsprechender Einführung rechtsverbindlich hinter dem Rücken des Menschen in Echtzeit handeln. Dabei geht die „Handlungsträgerschaft Mensch“ teilweise oder vollständig auf die „Handlungsträgerschaft Autonome Software-Systeme“ über. In mehreren Firmen und Dienstleistungszusammenhängen werden „ASS“ bereits eingeführt. Es ist davon auszugehen, dass derzeit diese „ASS“ zum Teil oder vollständig nach ihrer Implementierung nicht mehr oder nur mit sehr erheblichen Kosten gestaltbar sind. Gestaltung muss daher als „vorausschauende Arbeitsgestaltung“ vor der Indienstnahme von „ASS“ im Vorfeld sozial angepasst bzw. korrigiert werden.

Es geht für den FST-Diskurs darum, Anforderungen aus der Arbeitswelt direkt in der „Spielregel“ der Software, also im Algorithmus, zu verankern. Aus der bisherigen Praxis lässt sich als These ableiten, dass die Gestaltung von „ASS“ nicht allein mit Hilfe von Betriebsvereinbarungen, Dienstvereinbarungen, Tarifregelungen und Gesetzen sowie Verordnungen erfolgreich sein wird.

Um soziale Standards in der Welt der ASS regulativ menschenzentriert zugrunde legen zu können – so die FST-Annahme –, müssen die Anforderungen gerade auch direkt im Algorithmus eingebettet sein. Deshalb ist es erforderlich, grundsätzliche (generische) Kriterien für die Gestaltung demokratisierter und mitbestimmter Algorithmen zu erarbeiten. So lassen sich sozialinnovative vernetzte Algorithmen positiv für die Humanisierung der Arbeit und zum Schutz des Klimas im Sinne des Pariser UN-Abkommens anwenden.

Von keiner Kollegin, von keinem Kollegen wird erwartet, dass sie/er ein Informatikstudium aufnimmt. Unser Ziel ist es, konkrete erfahrungsgeleitete Anforderungen aus der Sicht der Arbeits- und Berufswelt, aus Arbeits- und Gesundheitsschutz, aus Daten- und Identitätsschutz, aus der Perspektive der Beschäftigungssicherung, der Arbeitszeitregelungen und der Mitbestimmung zu formulieren, die dann in den Dialog mit der IT-Szene (im folgenden Experten-Prozess, genannt „Spezifikation“) eingebracht werden.

Der FST-Diskurs soll aus einer virtuellen Arbeitsgruppe bestehen, die sich online austauscht, aus Präsenzarbeitstreffen (Workshops) und aus verschriftlichten Ergebnissen. Der Diskurs will das Undenkbare – nämlich die demokratische Gestaltung von Algorithmen – denken und Gestaltungswissen verfügbar machen.

 

Es geht um die „Demokratisierung des Back-Ends“

Wer sich durch die aktuellen IT-Messen, Robotik-Ausstellungen, durch CeBITs und Hannover Messen bewegt, stößt auf sie. Wer sich mit den bunten Werbebroschüren einschlägiger Interessenverbände beschäftigt, kommt um das Schlagwort kaum herum. Wer sich im Netz auf Youtube mit dem vermeintlichen „Industrie 4.0“ auseinandersetzt, konfrontiert sich mit dem Begriff „Autonome Systeme“. In einem großen Schlagwort-Püree werden Digitalisierung, Virtualisierung, Künstliche Intelligenz (KI), Industrie 4.0, Arbeit 4.0, Robotik, Big Data, selbstfahrende Autos zu einem großen Gemisch zusammengerührt, das weder ermutigt, noch aufklärt, eher verklärt und eher irritiert. Der Satz „Alles hängt mit allem zusammen“ ist seit der Genesis (christliche Schöpfungserklärung) richtig und bringt daher keine weitere Erkenntnis.

Für viele Kolleginnen und Kollegen in den Betrieben, die das obige Gemisch aus der Perspektive der Arbeitswelt zu entwirren suchen, verbindet sich die Bezeichnung „Autonome Systeme“ mit Bildern von selbstlaufenden aufrechten Robotern, mit fahrerlosen Fahrzeugen oder mit selbstfahrenden Transportsystemen zur Anlieferung von Montagebauteilen. Kein Wunder: Wir sind es gewohnt, zunächst an Gegenständliches, an Physisch-Materielles zu denken. Wir sehen Hardware. Wir wollen anfassen.

Doch genau hier liegt eine der schwierigsten Herausforderungen im Wandel der Arbeitswelt. Die strategische Bedeutung der Bezeichnung „Autonome Systeme“ liegt nicht zuallererst in dem, was wir sehen und greifen können, sondern in dem, was nicht-materiell und im umgangssprachlichen Sinne „unsichtbar“ ist. Es ist die Software. Es sind insbesondere die Phänomene der „Autonomen Software-Systeme“ (ASS), der „selbstlernenden“ und „selbstentscheidenden“ Softwarelösungen, der Softwareanwendungen mit automatisierendem Vollzug in Verknüpfung mit „Cyber-Physischen Systemen“ (CPS).

Wir sind es gewohnt, vom sichtbaren mobilen oder nicht-mobilen Endgerät her zu denken, von der Displayfläche der Hardware. „Autonome Software-Systeme“ wirken aber – bildlich gesprochen – „hinter dem Bildschirm“, hinter dem Display. Statt uns auf das „Front-End“ zu konzentrieren, müssen wir uns besser im Gelände des „Back-End“ umsehen und dieses offensiv gestalten. Die Zukunft der Arbeit wird im „Back-End“ entschieden nicht im „Front-End“.

Die Verbesserung der Geräte-Nutzbarkeit, die Usability, die Ergonomie und die gesunde Handhabbarkeit sind zweifellos wichtig und dürfen nicht unterschätzt werden. Aber genauso wichtig ist die immer stärker zunehmende Kraft der Software, die faktisch Arbeitsabläufe und Geschäftsprozesse zu strukturieren und zu steuern versucht.
Es muss uns um die „Demokratisierung des Back-End“ (Schröter) und um die Demokratisierung der Prinzipien und generischen Kriterien für Algorithmen gehen. Wir benötigen offene interdisziplinäre Diskurse und Gestaltungskompetenz für die Idee des generisch (in seinen Grundsätzen) „mitbestimmten Algorithmus“ (Schröter).

In diesem Sinne muss den schon in der Arbeitswelt praktisch angekommenen Phänomenen der „Autonomen Software-Systemen“ (ASS) unsere wachsende und immer größer werdende Aufmerksamkeit gelten.

 

Gibt es eine „soziale Künstliche Intelligenz“?

Diese Frage stellte jüngst ein IBM-Betriebsrat auf einer gemeinsamen Veranstaltung des Betriebsräte-Netzwerkes ZIMT, der IG Metall Heidelberg und des Forum Soziale Technikgestaltung. Sollen wir die „KI“ eher verhindern oder besser einer Regulation unterwerfen? Der Kollege sprach Klartext: Man solle seine Kraft nicht dafür verwenden, Unvermeidbares zu verhindern, als vielmehr beobachten, verstehen, Folgen abschätzen, bewerten und dementsprechend ein verbindliches „Regelwerk“ aufbauen.
Entscheidend sei, dass man als Betriebsrätin und Betriebsrat, als Personalrätin und Personalrat im besten Sinne des Wortes „am Ball bleibt“: „Wir müssen verstehen, was möglich ist“, um gestalterisch handeln zu können.

Für die weitergehende Debatte über „Künstliche Intelligenz“ (KI) erscheint es ergänzend sinnvoll zu erkennen, dass es sich bei der momentanen öffentlichen Verwendung des Kürzels „KI“ – ähnlich wie bei der Nutzung des Begriffs „Industrie 4.0“ – um eine zumeist oberflächliche Marketing-Sprache handelt. Menschen mit wenigen Kenntnissen über „KI“ soll diese Technikverknüpfung als verzaubernde Welterlösungsformel vermittelt werden. Was Ende der 80iger Jahre die „Schlanke Produktion“ war, was Mitte der 90iger das Wort „Multimedia“ besagte, was ab 2011 die Marke „Industrie 4.0“ werden sollte, dies geschieht derzeit mit dem Begriff „Künstliche Intelligenz“.

Der Begriff wird wie eine Art Breitbandantibiotikum verkündet. „KI“ könne alles, mache alles und bestimme die Zukunft. Wohlmeinende Diskutanten verstärken diesen Trend, indem sie Horrorszenarien an die Wand malen und die Marketingwirkung verstärken. Die „KI“ übernehme die Herrschaft und vernichte 80 Prozent der Arbeitsplätze. Doch bei nüchterner Betrachtung befinden sich die im Alltag anwendbaren „KI“-Systeme – mit Ausnahme der bereits eingeführten bzw. in Einführung befindlichen „ASS“ – auf einem recht geringen Niveau. Was im Labor jenseits des Datenschutzes und jenseits der Mitbestimmung technisch in ausgewählten Vorgängen in geschützter Umgebung klappt, ist deshalb noch lange nicht für die Arbeitswelt, für Fertigung und Dienstleistung tauglich.

„KI“ verstanden als Software-Anwendung („Autonome Software-Systeme“ ASS) ist in strukturierten und geschlossenen Netzräumen erfolgreich und sehr produktiv. Doch „KI“ im offenen Netz hat seine Bewährungsprobe oftmals noch vor sich. Dies gilt umso mehr dann, wenn „KI“ mit Robotern und autonomen Fahrzeugen verbunden wird. Die Werbe- und Marketingsprache verkündet uns „Lösungen“ auf dem Niveau einer Show am Messestand.

Die Tatsache, dass zwischen Marketing-Ankündigung und tatsächlichem Nutzungsniveau eine große Differenz besteht, stellt für gewerkschaftliches Handeln eine Chance dar. Es gilt, das vorhandene Zeitfenster (Differenz zwischen jetzigem Marketing und erhoffter späterer Nutzung) zu einer aktiven „vorausschauenden Technikgestaltung“ (Schröter) zu nutzen. Um „KI“ so zu gestalten, dass sie klimaschonend, sozial, rechtskonform und beschäftigungssichernd wirkt, bedarf es ausgewiesener Gestaltungskompetenz. Diese auf der Seite der Beschäftigten zu stärken, sollten unsere Bemühungen gelten. Noch gibt es keine „soziale Künstliche Intelligenz“.

 

Betriebs- und Personalräte könnten „autonome Software-Systeme“ für sich nutzen

Derzeit legen viele Akteure aus Gewerkschaften, Betriebs- und Personlaräte den Schwerpunkt bei der Gestaltung digital-virtueller Arbeitswelten auf den Bereich der „nachholenden Digitalisierung“ (Forum Soziale Technikgestaltung). Damit werden die Einführungen von Technologien bezeichnet, die es zwar als Technikentwicklungen schon seit 10, 15 oder 20 Jahren gibt, nun aber erst zur Implementierung kommen. Dort, wo sie heute eingesetzt werden, empfinden die Arbeitnehmerinnen und Arbeitnehmer diese Anwendungen als „neu“. Doch Smartphones, elektronische Lernumgebungen, mobiles Arbeiten, alternierende Telearbeit, HomeOffice-Lösungen, Softwareagenten, Internet der Dinge, elektronische Aktenführungen, Teile der KI etc. sind seit eineinhalb oder gar zwei Jahrzehnten vorhanden. Nicht selten sind es unerledigte Hausaufgaben, die bei der Modernisierung von Arbeitsumgebungen versäumt und nun nachgeholt werden.

Doch heute bedarf es viel Aufmerksamkeit und Energie für die „Digitalisierung hinter der Digitalisierung“ (Forum Soziale Technikgestaltung). Damit sind insbesondere Technologien gemeint, die als Software in der Lage sind, „selbst zu lernen“ und in Echtzeit „selbst zu entscheiden“. Die „autonomen Software-Systeme“ (ASS) stellen eine der wichtigsten Herausforderungen für die Arbeitswelten dar. Die ASS beanspruchen, anstelle des Menschen rechtsverbindliche Entscheidungen (Transaktionen) zu treffen.

Ihre Einführungen beginnen nicht nur in Produktion und Fertigung sondern ebenso in Dienstleistung und öffentlicher Verwaltung. Das gewerkschaftliche Handeln muss um den Praxisbaustein der „vorausschauenden Arbeitsgestaltung“ erweitert werden.

Die Diskussionen des Netzwerkes „Forum Soziale Technikgestaltung“ (FST) eröffnen zugleich den Blick auf neue Möglichkeiten des Agierens von Betriebs- und Personalräten. ASS sind nicht nur Objekte der Gestaltung. Sie könnten auch Elemente einer verbesserten Betriebsarbeit und ein Fundament betrieblicher Mitbestimmung sein. Im Zusammenhang mit dem FST-Projekt „BetriebsratsArbeit auf Basis ,autonomer Software-Systeme‘“ (BABSSY) entstehen Überlegungen zu möglichen Nutzungen der ASS durch die Beschäftigtenvertretungen selbst. ASS könnten Instrumente neuartiger Praxis sein.

Stellen wir uns vor, jede Beschäftigtenvertretung hätte eine Art Online-Unterstützung (Assistenz) in Gestalt eines „selbstlernenden“ Software-Werkzeuges. Kolleginnen und Kollegen, die im Betrieb im Prozess der Mitbestimmung mit Themen konfrontiert werden, zu denen keine direkte Antwort vorliegt, könnten es aufrufen. Wenn ein ASS-Tool unscharfe Fragen, unscharfe Satzteile, erfahrungsgeleitete Begriffe eingegeben bekommt, könnte das Tool als Antworten sowohl Zusammenhänge zwischen verschiedenen Themen wie auch Verweise auf Sach- und Fachwissen bereitstellen. Es wäre ein Modell, das unscharfe Fragen eines Laien hinführt zu verläßlichen konkreten interessensorientierten Antworten. Das Software-System „lernt“ durch häufige Nutzung und wird zu einem dynamischen Beratungsassistenten. Es könnte dazu verhelfen, komplexe Zusammenhänge inhaltlich zu über—setzen, um es durch Reduzierung von Komplexität Laien leichter zu machen, Gestaltungskompetenz zu verbessern.

Wir müssen die Vier-Null-Welt aus der Perspektive der Zukunft heraus gestalten. Mit dem Blick der Vergangenheit werden wir wohl zumeist nur unerledigte vergangene Hausaufgaben lösen. Wir sollten mutiger sein.