Einladung zum Fachworkshop: Ethische und soziale Kriterien zur Gestaltung algorithmischer Steuerungs- und Entscheidungssysteme

Ein Dialog zwischen dem „Forum Soziale Technikgestaltung“ (FST), dem Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO und Cyber Valley anlässlich „Dreißig Jahre Forum Soziale Technikgestaltung“

Workshop am 27. Oktober 2021 von 14.30 Uhr bis 18.45 Uhr in den Räumen des Fraunhofer IAO in Stuttgart-Vaihingen

Seit langem arbeiten Wissenschaftlerinnen und Wissenschaftler an mathematisch-technischen Systemen, die die Arbeit des Menschen auf sogenannte „intelligente“ Weise effizienter gestalten und erleichtern sollen. Dabei entstehen auf der Basis von Maschinellem Lernen auch vielfältige Modelle oder Systeme, die unter dem Begriff „Künstliche Intelligenz“ zusammengefasst werden. Im Kern geht es dabei oft um die Frage, wie komplexe Analyseprozesse auf ein digitales algorithmisches System übertragen werden können und nach welchen mathematisierbaren Kriterien diese (Assistenz-)Systeme Entscheidungen treffen sollen.

Das gewerkschaftliche „Forum Soziale Technikgestaltung“ befasst sich seit dreißig Jahren mit der Humanisierung digital gestützter Arbeitswelten. Seit mehreren Jahren entwickelt das FST Kriterien zur Gestaltung algorithmischer Steuerungs- und Entscheidungssysteme. In dem Dialog-Fachworkshop soll der bisherige Stand der FST-Kriterien zur Diskussion gestellt und weiterentwickelt werden. Das FST spricht in Ergänzung zum Begriff „Assistenztechnik“ von der notwendigen Gestaltung der „Delegationstechnik“.

Das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO entwickelt gemeinsam mit Unternehmen, Institutionen und Einrichtungen der öffentlichen Hand Strategien, Geschäftsmodelle und Lösungen für die digitale Transformation. Es ist mitverantwortlich für das KI-Fortschrittszentrum »Lernende Systeme«, das durch Technologietransfer die Lücke zwischen KI-Spitzenforschung und der breiten Anwendung in der produzierenden Industrie schließt.

Cyber Valley ist Europas größtes Forschungskonsortium im Bereich der künstlichen Intelligenz mit Partnern aus Wissenschaft und Industrie. Das Land Baden-Württemberg, die Max-Planck-Gesellschaft mit dem Max-Planck-Institut für Intelligente Systeme, die Universitäten Stuttgart und Tübingen sind u.a. die Gründungspartner dieser Initiative. Das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO ist assoziiert mit Cyber Valley.

Ablauf

14.30 Uhr Begrüßung und Einführung
Ziele des Dialog-Workshops
Welf Schröter, Leiter des Forum Soziale Technikgestaltung beim DGB Baden-Württemberg
Dr. Matthias Tröndle, Cyber Valley, General Manager

14.45 Uhr Vortrag I
Ethische Anforderungen an die Gestaltung von KI-Technologien
PD Dr. Jessica Heesen, Forschungsschwerpunkt Medienethik und Informationstechnik (Leitung), Internationales Zentrum für Ethik in den Wissenschaften, Universität Tübingen

15.15 Uhr Rückfragen

15.30 Uhr Vortrag II
Soziale Kriterien für die Gestaltung algorithmischer Steuerungs- und Entscheidungssysteme zwischen Assistenz- und Delegationstechnik
Welf Schröter, Leiter des „Forum Soziale Technikgestaltung“, Mitbegründer der „Allianz Industrie 4.0 Baden-Württemberg“

16.00 Uhr Rückfragen

16.15 Uhr Kaffeepause

16.40 Uhr Vortrag III
Anforderungen an die Entwicklung von KI-Systemen
Dr. Matthias Peissner, Leiter Forschungsbereich Mensch-Technik-Interaktion, Fraunhofer IAO, Partner im Cyber Valley

17.10 Uhr Nachfragen

17.25 Uhr Vortrag IV
Die Gestaltung von KI-Systemen aus betriebsrätlicher Perspektive
Monika Heim, Festo SE & Co. KG, Betriebsrat Esslingen

17.55 Rückfragen

18.10 Uhr Moderierte Plenumsdiskussion der Vortragenden und Teilnehmenden
Moderation: Patrick Klügel, Cyber Valley, Public Engagement Manager

18.45 Uhr Ende der Veranstaltung

Eintritt frei. Anmeldung erforderlich bei: Welf Schröter schroeter@talheimer.de

 

Einladung zur Tagung für Betriebs- und Personalräte „Der demokratisierte Algorithmus“

Einladung zur Tagung „Der demokratisierte Algorithmus“ – 30 Jahre „Forum Soziale Technikgestaltung“ am 24. bis 25. November 2021 in der Evangelischen Akademie Bad Boll

Im Prozess der digitalen Veränderungen der Arbeitswelt müssen Perspektiven immer wieder neu überprüft werden. Die Fachtagung zum Jubiläum des Netzwerks „Forum Soziale Technikgestaltung“ bietet dazu sozialwissenschaftliche Expertise und reichlich Gelegenheit zur gemeinsamen Diskussion. Die Soziologin Prof. Dr. Sabine Pfeiffer zeigt im Eröffnungsvortrag, wie ökonomische Beweggründe die digitalen Veränderungen antreiben: „Digitalisierung als Distributivkraft – Über das Neue am digitalen Kapitalismus“. Welf Schröter analysiert in seinem Beitrag die Fragen: Wo stehen wir im Projekt „Der mitbestimmte Algorithmus“? Wie gelingt die partizipative Mitwirkung von Beschäftigten? Wie geht der Weg weiter zum „Demokratisierten Algorithmus“? Dr. Bettina-Johanna Krings vom Institut für Technikfolgenabschätzung und Systemanalyse vermittelt in ihrem Beitrag Einblicke aus einem aktuellen Projekt zu ethischen Kriterien bei der Gestaltung von „Künstlicher Intelligenz“. – Die Jubiläumstagung will vor allem Betriebs- und Personalräte zur Diskussion einladen und Impulse vermitteln, wie das Ziel einer mitbestimmten und demokratisierten Arbeitswelt vorangebracht wird.

Link zum Tagungsflyer und Link zur Programm-WebSite der Evang. Akademie Bad Boll

Programm

Mittwoch, 24. November 2021

13:00 Uhr Ankunft in der Evangelischen Akademie Bad Boll, Zimmerbezug, Willkommenskaffee

14:00 Uhr Einführung Auf dem Weg zum „demokratisierten Algorithmus“ – 30 Jahre „Forum Soziale Technikgestaltung“ – Partner der Evangelischen Akademie Bad Boll
Begrüßung durch Karl-Ulrich Gscheidle, Wirtschafts- und Sozialpfarrer Kirchlicher Dienst in der Arbeitswelt (KDA)

14:15 Uhr Vortrag Digitalisierung als Distributivkraft – Über das Neue am digitalen Kapitalismus
Prof. Dr. Sabine Pfeiffer, Lehrstuhl für Soziologie (Technik-Arbeit-Gesellschaft), Friedrich-Alexander-Universität Erlangen-Nürnberg

15:00 Uhr Rückfragen

15:15 Uhr Vortrag Zukunft der Arbeit und Erweiterung der Mitbestimmung: Das Projekt „Der mitbestimmte Algorithmus“ des „Forum Soziale Technikgestaltung“
Welf Schröter, Mitbegründer und Leiter des „Forum Soziale Technikgestaltung“, Mitbegründer der „Allianz 4.0 Baden-Württemberg“, Projekt PROTIS-BIT, Projekt „KARL“, Redaktion „Latenz“

16:00 Uhr Rückfragen

16:15 Uhr Kaffeepause

16:45 Uhr Parallele Arbeitsgruppen
Arbeitsgruppe 1: Digitaler Kapitalismus (Karl-Ulrich Gscheidle)
Arbeitsgruppe 2: Der mitbestimmte Algorithmus (Welf Schröter)

18:00 Uhr Abendessen

19:30 Uhr Erinnerungen an dreißig Jahre „Forum Soziale Technikgestaltung“
Im Gespräch mit Welf Schröter und den Gästen Ulrike Zenke (IG Metall Heidelberg, Mitbegründerin des Betriebsräte-Netzwerkes ZIMT) und Michael Schwemmle (damals Deutsche Postgewerkschaft, dann ver.di und langjähriger Geschäftsführer der Input Consulting). Moderation: Karl-Ulrich Gscheidle

Donnerstag, 25. November 2021

08:00 Uhr Morgenimpuls

08:20 Uhr Frühstück

09:00 Uhr Einführung in den Tag – Ergebnisse der Diskussionen vom Vortag
Karl-Ulrich Gscheidle, Welf Schröter

09:20 Uhr Ethische Kriterien zur Gestaltung der „Künstlichen Intelligenz“
Dr. Bettina-Johanna Krings, Karlsruher Institut für Technologie (KIT), Institut für Technikfolgenabschätzung und Systemanalyse (ITAS), Projekt „KARL“

09:50 Uhr Rückfragen

10:00 Uhr Parallele Arbeitsgruppen (Fortsetzung)

10:45 Uhr Kaffeepause

11:00 Uhr Fortsetzung der Arbeitsgruppen

11:45 Uhr Abschlussplenum – Ergebnisse der Tagung (Karl-Ulrich Gscheidle, Welf Schröter)

12:30 Uhr Mittagessen / Ende der Tagung

Bitte melden Sie sich bis spätestens 5. November 2021 an unter Link zur Anmeldung
Sie erhalten eine Anmeldebestätigung.

Gesamtpreis/Person: Bei Unterbringung im Einbettzimmer 130,00 €, bei Unterbringung im Zweibettzimmer 112,00 €. Ohne Übernachtung und Frühstück 63,00 €. In allen Preisen ist die gesetzliche Mehrwertsteuer enthalten. Kosten für nicht eingenommene Mahlzeiten werden nicht erstattet. Gäste ohne Übernachtung zahlen das Frühstück an der Rezeption.

 

Einladung zur Tagung „Der Mensch im Mittelpunkt: IST DIE ,KÜNSTLICHE INTELLIGENZ‘ DIE INTELLIGENZ DER ZUKUNFT?“

Der Mensch im Mittelpunkt: IST DIE „KÜNSTLICHE INTELLIGENZ“ DIE INTELLIGENZ DER ZUKUNFT? Dreißig Jahre „Forum Soziale Technikgestaltung“ (1991–2021)

Eine gemeinsame Veranstaltung des Fritz-Erler-Forums / Friedrich-Ebert-Stiftung Baden-Württemberg, der Evangelischen Kirchengemeinde Rottweil und des „Forum Soziale Technikgestaltung“ beim DGB Baden-Württemberg – unterstützt vom Netzwerk „Sozialer Zusammenhalt in digitaler Lebenswelt“ – Eine Tagung anlässlich „Dreißig Jahre Forum Soziale Technikgestaltung“.

Heilsbringerin oder das Ende der denkenden Menschheit?

„Künstliche Intelligenz“ ist derzeit aus den Digitalisierungsdebatten nicht wegzudenken. Von Mobilität bis Verwaltung, von Smartphone bis Rechenzentrum – die Einsatzgebiete sind mannigfaltig. Aber wovon sprechen wir überhaupt, wenn wir über „Künstliche Intelligenz“ reden? Reden wir wirklich von Intelligenz, ebenbürtig dem geistigen Leis- tungsvermögen des Menschen? Oder sprechen wir eher von
„selbstlernenden“ Computersystemen? Und was leitet sich aus dieser Debatte für unser Verständnis vom menschlichen Denken und Lernen ab? Was sagt das über unser Menschenbild aus? Um sich im Alltag in diesem komplexen Gebiet zu orientieren und sich eine Meinung bilden zu können, muss man weder Programmiererin noch Technik-Nerd sein. Und auf keinen Fall sollte man die Gestaltung der digitalen Zukunft ausschließlich den Technologieexpert_innen überlassen. Digitalisierung ist längst im Alltag angekommen, deshalb muss sie auch von allen gestaltet werden können.

Deshalb möchten wir uns von kompetenten Gesprächspartner_innen informieren lassen, uns im Austausch mit uns und ihnen orientieren und uns so eine kritische Meinung bilden. Wir freuen uns auf Sie!

Link zum Programmflyer

Freitag 29. Oktober 2021

14:30 ANKOMMEN BEI KAFFEE UND KUCHEN

15:00 BEGRÜSSUNG mit Esther Kuhn-Luz, Evangelische Kirchengemeinde Rottweil, Welf Schröter, Forum Soziale Technikgestaltung, Anja Dargatz, Fritz-Erler-Forum

15:15 WER DENKT, WER LENKT? MÖGLCHE ZUKÜNFTE DER AUTONOMIE UND KONTROLLE VON KÜNSTLICHER INTELLIGENZ
Impuls von Dr. Simone Kimpeler & Dipl. Ing. Lorenz Erdmann, Competence Center Foresight am Fraunhofer-Institut für System- und Innovationsforschung (ISI)

15:45 FRAGEN UND DISKUSSION

16:15 OPTIMIERT UND DIGITALISIERT – HERAUSFORDERUNGEN FÜR DAS BILD VOM MENSCHEN
Impuls von Gerhard Maag, Referent im Evangelischen Bildungszentrum Württemberg

16:45 DISKUSSION MIT DEM NEBEN-MENSCH: Was fand ich interessant? Was habe ich nicht verstanden und was möchte ich nachfragen?

17:00 PLENUMSDISKUSSION

18:00 GEMEINSAMES ABENDESSEN

19:00 PHILOSOPHIE TRIFFT ALLTAG Prof. Dr. Klaus Kornwachs, Physiker und Technikphilosoph, im Gespräch mit Anja Dargatz und Esther Kuhn-Luz

MUSIKALISCHE IMPULSE: ROTTWEILER SAXOPHONQUARTETT

20:30 AUSKLANG

21:30 ENDE DER VERANSTALTUNG

Samstag, 30. Oktober 2021

08:30 FREIHEIT UND VERANTWORTUNG: ANMERKUNGEN ZUM REFORMATORISCHEN MENSCHENBILD
EINE MORGENANDACHT mit Esther Kuhn-Luz, Evangelische Kirchengemeinde Rottweil

09:00 BEGRÜSSUNG UND EINFÜHRUNG IN DEN TAG

09:15 DIGITALISIERUNG, BIG DATA & „KI“ – GESCHÄFTSMODELL ODER GESTALTUNGSAUFTRAG?
Vortrag von Prof. Dr. Klaus Kornwachs, Physiker und Technikphilosoph

10:15 DISKUSSION IN ARBEITSGRUPPEN

11:30 PAUSE

11:45 WIE SCHAFFEN WIR ERMUTIGUNG? EMANZIPATION UND SUBJEKT-SEIN IN ZEITEN VON „KÜNSTLICHER INTELLIGENZ“ UND DIGITALISIERUNG
Impuls von Welf Schröter, Forum Soziale Technikgestaltung

GEMEINSAME ABSCHLUSSDEBATTE

13:00 MITTAGESSEN

14:00 ENDE DER VERANSTALTUNG

Anmeldung: https://www.fes.de/lnk/fachtag-digital-rottweil

Veranstaltungsort: Gemeindehaus Evangelische Kirchengemeinde, Johanniterstr. 30, 78268 Rottweil. EINGESCHRÄNKT BARRIEREFREI. Fußweg vom Bahnhof Rottweil, ca. 12 Minuten.

Teilnahmepauschale 30,00 Euro. Stellt der Beitrag ein Hindernis für Sie dar, wenden Sie sich bitte an die Organisator_innen. Übernachtung Im Hotel Sailer www.hotel-sailer.de (ca. 4 min Fußweg zum Gemeindehaus) haben wir ein kleines Kontingent an Zimmern reserviert – bitte buchen Sie dort direkt bis zum 12.09.2021 unter dem Stichwort Friedrich-Ebert-Stiftung. Der Preis pro Zimmer/Nacht beträgt 95,00 Euro. Im Preis enthalten ist ein reichhaltiges Frühstücksbüffet, W-LAN, Service und die gesetzliche Mehrwertsteuer. Kontakt und Organisation: Fritz-Erler-Forum: Daniela Jung email: daniela.jung@fes.de Tel.: 0711 / 24 83 94 – 42.

 

Einladung zur Veranstaltung „KI zwischen Mythos und Realität“

Einladung zur Veranstaltung „KI zwischen Mythos und Realität: Gestaltungshorizonte und Gestaltungspotenziale für algorithmische Entscheidungssysteme in Unternehmen und betrieblichen Arbeitswelten – Workshop für betriebliche Anwenderinnen und Anwender“

Eine Veranstaltung der „Allianz Industrie 4.0 Baden-Württemberg“ in Zusammenarbeit mit dem Netzwerk „Forum Soziale Technikgestaltung“ (FST) und dem Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA sowie mit dem von der Hans-Böckler-Stiftung geförderten Projekt „PROTIS-BIT“ anlässlich des Jubiläums „30 Jahre Forum Soziale Technikgestaltung“ (1991–2021)

Termin: 19. Oktober 2021 von 14.00 Uhr bis 18.15 Uhr. Ort: Haus der Wirtschaft Stuttgart, Willi-Bleicher-Straße 19. Anfahrt: https://www.hausderwirtschaft.de/anfahrt

Wie können Sozialpartner die Einführung von „Künstlicher Intelligenz“ und algorithmischen Entscheidungssystemen im Betrieb gestalterisch voranbringen? Wie kann die Stärkung der Gestaltungskompetenz erleichtert werden? – Auf diese Fragen will der Workshop für betriebliche Anwenderinnen und Anwender tendenzielle Antworten aufbereiten. Im Mittelpunkt steht dabei ein Vorschlag des gewerkschaftsnahen „Forum Soziale Technikgestaltung“, der Kriterien für den betrieblichen Umgang mit „lernender“ bzw. sich selbst verändernder Software sowie Impulse für einen erfolgreichen moderierten Spezifikationsdialog enthält. Sie sind eingeladen zu einem offenen Dialog über innovatives Handlungswissen. Die Teilnahme ist kostenfrei. Link zur Anmeldung.

12.30 Uhr – 14.00 Uhr Imbiss und Get-together

14.00 Uhr
Begrüßung und Einführung
Prof. Dr.-Ing. Thomas Bauernhansl, Institutsleiter Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA
Dr. Marc-Daniel Moessinger, VDMA Baden-Württemberg, Projektleiter Allianz Industrie 4.0 Baden-Württemberg
Welf Schröter, Leiter des Forum Soziale Technikgestaltung

14.20 Uhr Vortrag
Hat die Maschine eine eigene Moral?
Prof. Dr. Peter G. Kirchschläger, Leiter des Instituts für Sozialethik ISE an der Universität Luzern

14.50 Uhr Vortrag
Arbeitsvermögen und algorithmische Entscheidungssysteme
Prof. Dr. Sabine Pfeiffer, Institut für Soziologie, Lehrstuhl für Soziologie mit dem Schwerpunkt Technik – Arbeit – Gesellschaft, Friedrich-Alexander-Universität Erlangen-Nürnberg

15.20 Uhr Rückfragen zu beiden Vorträgen

15.40 Uhr Kaffeepause

16.10 Uhr Zur Diskussion gestellt
Gestaltungsmöglichkeiten algorithmischer Entscheidungssysteme im Unternehmen
Welf Schröter, Leiter des Forum Soziale Technikgestaltung, Mitbegründer der „Allianz Industrie 4.0 Baden-Württemberg“

16.40 Uhr Replik I
Potenziale und Grenzen des maschinellen Lernens in produzierenden Unternehmen
Prof. Dr.-Ing. Marco Huber, Leiter des Zentrums für Cyber Cognitive Intelligence CCI, Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA

17.10 Uhr Replik II
Erfahrungen aus der Unternehmenspraxis
Prof. Dr. Rupert Felder, Leiter Personal Heidelberger Druckmaschinen AG

17.40 Uhr Moderierte Diskussion

18.05 Uhr Zusammenfassung und Ausblick
Lukas Schleicher, VDMA Baden-Württemberg, Projektmanager Künstliche Intelligenz und Cyber-Security der Koordinierungsstelle Allianz Industrie 4.0 Baden-Württemberg

18.15 Uhr Ende der Veranstaltung und Get-together

Die Moderation der Veranstaltung liegt in den Händen von Lukas Schleicher und Welf Schröter.

Die Veranstaltung wird zunächst als Präsenzveranstaltung in den Räumen des Hauses der Wirtschaft Stuttgart vorbereitet. Sollten sich bis zum 5. Oktober die Pandemie-Gefahren derart erhöhen, dass eine Durchführung vor Ort unverantwortlich wäre, findet die Veranstaltung online statt. Es wird dann ein Zugangslink verschickt.

Link zur Anmeldung.

 

Ist die Bezeichnung „Künstliche Intelligenz“ sinnvoll?

Im Widerstand der Alliierten gegen die Hitler-Diktatur haben sich in den vierziger Jahren Wissenschaftlerinnen und Wissenschaftler zusammengefunden, um durch neue Wege der Informationsverarbeitung dazu beizutragen, den Nationalsozialismus zu zerschlagen. Die heutige Debatte über die sogenannte „Künstliche Intelligenz“ hat eine lange Vorgeschichte. Da sei beispielhaft an den Tübinger Biokybernetiker Prof. Dr. Valentin Braitenberg erinnert, der in den achtziger Jahren des letzten Jahrhunderts sein Engagement für „KI“ unter anderem mit dem Verweis auf die Shoah begründete.

Doch heute findet sich außerhalb des wissenschaftlichen Diskurses eine Fülle von Marketing-Versprechungen, die dazu geeignet sind, die Ideen, die hinter dem Traum der „KI“ stehen, erheblich zu beschädigen. Da verkünden große Firmen, dass demnächst das Auto besser denken könne als der Mensch. Was für ein Menschenbild steht hinter dieser Äußerung? An anderer Stelle des allgegenwärtigen Messe-Slangs werden alte Software-Hüte aus dreißig Jahren Digitalisierung als neue Produkte eines „KI“-Marktes präsentiert. Die Expertensysteme der neunziger Jahre, die Softwareagentensysteme aus der Zeit kurz nach der Jahrtausendwende und die Schlüsselanwendungen aus dem Jahr 2011 – gemeint sind die „Cyber-Physischen Systeme“ der „Industrie 4.0“ – sind plötzlich der jüngste Schrei der „KI“. Wir sollten nüchterner und ehrlicher werden. Helfen uns neue Etiketten für alte Produkte? Was gibt es schon lange? Was ist wirklich neu?

Die vermeintliche „KI“ ist auch mit den Worten „Robotik“ oder „selbstfahrende Autos“ nicht erklärt. Die mathematische Informationsverarbeitung ist Software. Das Blech der Roboter und der Autos ist nur das Anhängsel der Software. Die vernünftige Übersetzung des amerikanisch-englischen Wortes „artificial intelligence“ lautet nicht „Künstliche Intelligenz“ sondern „Künstliche Nachbildung“. Damit kommen wir dem Thema näher.

Seien wir mutig und ehrlich zugleich. Bei der Beantwortung der Frage, was tatsächlich neu ist, finden wir zu einer selbstbewussten Haltung des Respekts gegenüber verantwortungsbewussten IT-Teams zurück. Hinter dem Marketing-Hype steckt ein tatsächlicher Fortschritt: Was wir an neuen IT-technischen Leistungen vorfinden, hat aber nichts mit Software-„Intelligenz“ zu tun. Es „denkt“ nicht, „lernt“ nicht und hat kein „Ich“. Die Leistung steckt in brillanten Lösungen auf dem Gebiet der mathematischen und mathematisierenden Informationsverarbeitung. Brillante Mathematik. Von Menschen gemacht, von Menschen gestaltbar.

Das wirklich Neue liegt in mindestens zwei Perspektiven: Neben Software als starres, sich nicht veränderndes Werkzeug tritt Software als ein sich selbst veränderndes Werkzeug. Hinzu kommt die weitreichende Öffnung der Software-Entwicklung von der Qualität der „Assistenztechnik“ hin zum Potenzial der „Delegationstechnik“ (Schröter). Somit kann eine Software die Vollmacht bekommen, hinter dem Rücken des Menschen in Echtzeit rechtsverbindliche Prozesse (Transaktionen) zu analysieren, zu steuern und zu entscheiden. Das ist wirklich neu. Aber auch diese „Delegationstechnik“ „denkt“ nicht, „lernt“ nicht, hat kein „Ich“. Es bleibt Mathematik. Allerdings in exzellenter Form. Wir benötigen diese Technik unter anderem für das Erreichen der Klimaneutralität.

Sollen wir weiterhin von „KI“ reden? Es wäre ehrlicher, etwas tiefer anzusetzen. Vielleicht hilft – als provisorische Zwischenstufe für das Weiterdenken – nachfolgende Formulierung auf der Basis langjähriger Erfahrungen aus dem „Forum Soziale Technikgestaltung“ bei arbeitsweltbezogenen Technikeinführungen:

Es geht um die soziale Gestaltung „algorithmischer Steuerungs- und Entscheidungs-systeme“. Oder etwas umfänglicher ausgedrückt: Es geht um die Gestaltung „algorithmischer, sich selbst verändernder Software-Systeme für die arbeitsweltlichen Vorgänge wie Analyse, Entscheidungsvorbereitung, Prozesssteuerung und Entscheidungsvollzug im Feld der Assistenz- und Delegationstechnik“ (Schröter).

 

HomeOffice-Tipp 5: Wenn das HomeOffice unter die Kontrolle sogenannter „intelligenter“ Software gerät

Derzeit ist in Zeitungen häufig zu lesen, dass das HomeOffice etwas mit „Künstlicher Intelligenz“ zu tun habe. Dies ist nicht der Fall. „Alternierende Telearbeit“ oder „Mobiles Arbeiten“ sind Organisationsformen von Arbeit. Es sind aber keine Technologien. Dennoch kann es sein, dass ein „Homeworker“ im Rahmen eines Arbeitsablaufes plötzlich im Netz mit einer Software in Berührung kommt, die nicht zum HomeOffice gehört, aber möglicherweise in das HomeOffice von außen eingreifen will. Dies kann eine im Netz frei flottierende Schadenssoftware (Malware) sein, die im heimischen Rechner schädliche Viren hinterlassen will, um den heimischen Rechner von außen zu „kapern“ und fernzusteuern. Dies gehört alles zum großen Kapitel „Security“, also technische Datensicherheit. Zweifellos sollte man, bevor man seinen HomeOffice-Rechner in Gang setzt, Antivirensoftware und Daten-Backup-Möglichkeiten vorbereitet haben.

Ein völlig anderer Vorgang ist es aber, wenn ein Arbeitgeber unzulässiger Weise sogenannte „intelligente“ Software einsetzt, um die Leistungen und das Leistungsprofil der Homeworker zu überwachen, um heimliche Rankings der MitarbeiterInnen gegeneinander zu praktizieren etc. Solche Vorgehensweisen sind in der Regel rechtswidrig und sollten umgehend dem Betriebsrat bzw. dem Personalrat gemeldet werden.

Aus der Perspektive der Technikentwicklung ist zu erkennen, dass sich HomeOffices auch flexibel und für gewisse Zeiten zu wechselnden Call-Center-Einrichtungen zusammenschalten lassen. Wenn beispielsweise eine Firma pro Tag enorm viele Anrufe erhält, die weit über die Belastbarkeit des Telefonservice hinausgeht, könnte eine Software die eingehenden Anrufe so umverteilen, dass in Spitzenzeiten bedarfsorientiert neue Telefonplätze hinzugenommen werden. Die anrufende Person erkennt dabei nicht, dass sie in einem HomeOffice gelandet ist. Sie denkt, sie sei in der Firma, da sie ja die Firmennummer gewählt habe. Zur Steuerung eines solchen virtuellen „atmenden“ Call Centers könnte Software genutzt werden, die Laien womöglich als „Künstliche Intelligenz“ bezeichnen. Es ist aber nur eine gut gemachte mathematische Techniklösung. Mit „Intelligenz“ hat dies nichts zu tun. Mit dem Vorhaben eines solchen „atmenden“ Call Centers muss vor dessen Einführung bzw. Aktivierung die Beschäftigtenvertretung befasst worden sein. Hier greift die Mitbestimmung.

Am Horizont ist zu erkennen, dass für die Organisation der Arbeitsabläufe und für die Steuerung der Arbeitsprozesse auch neue Typen von Software in Nutzung kommen werden. Diese neue Software ist eine besonders mathematisch qualifizierte Art, die von ihren EntwicklerInnen fälschlicherweise als „denkend“ oder „lernend“ bezeichnet werden. Diese Software ist aber nur Mathematik. Ihre Besonderheit liegt darin, dass sie Datenverarbeitung mit Entscheidungsprozessen kombiniert. Sie kann anstelle des Menschen rechtsverbindliche Entscheidungen treffen. Das Forum Soziale Technikgestaltung hat als Unterstützung für Betriebs- und Personalräte das Projekt „Der mitbestimmte Algorithmus“ gestartet. Mit klaren Zulassungskriterien soll erreicht werden, dass solche Systeme zwar in vereinbarter Form Entscheidungen über Sachen (Material, Energie etc.) nicht aber über Menschen treffen können. Das FSt will die Demokratisierung solcher „algorithmischer Entscheidungssysteme“.

Lesetipp: Welf Schröter: Der mitbestimmte Algorithmus. Arbeitsweltliche Kriterien zur sozialen Gestaltung von Algorithmen und algorithmischen Entscheidungssystemen. In: Welf Schröter (Hg.): Der mitbestimmte Algorithmus. Gestaltungskompetenz für den Wandel der Arbeit. Oktober 2019, S. 101–150. ISBN 978-3-89376-181-4.

 

Digital alt oder digital neu?

Nicht selten kommt uns das Thema der Digitalisierung bzw. der digitalen Transformation in seinem gestrigen oder eher noch vorgestrigen Gewande entgegen. Themen wie HomeOffice, Mobiles Arbeiten oder elektronische Lernplattformen werden uns als neue digitale Revolution oder gar als „Vier-Null“-Welten erläutert. Das einfache Bedienen eines Smartphones will schon „Künstliche Intelligenz“ sein. Wir lassen uns zu leicht in bunte Marketing-Bühnen von Technik-Verkäufern locken und glauben sodann, wir seien „vorne“. Doch weit gefehlt.

Wir sind zunächst einmal Gäste im Interregio-Zauber dessen, was wir lieber einen Prozess der „Nachholenden Digitalisierung“ nennen sollten. In Betrieben, Dienstleistungszusammenhängen, Verwaltungen, Schulen und Verbänden holen wir oftmals nach, was technologisch schon fünfzehn bis zwanzig oder gar fünfundzwanzig Jahre alt ist. Lernplattformen, mobile Endgeräte, mobiles Arbeiten und Arbeiten zuhause waren Schlüsselthemen der zweiten Hälfte der neunziger Jahre.

Doch viele Akteure wollten damals davon kaum etwas wissen. Heute wird auf den Zug aufgesprungen, um die Hüte von damals als das aktuell Neue zu präsentieren. Wir sollten prüfen, was ist wirklich neu und was ist nur eine unerledigte Hausaufgabe der letzten beiden Jahrzehnte.

 

„Der mitbestimmte Algorithmus“ – Ein Buch mit Diskussionsergebnissen aus dem Forum Soziale Technikgestaltung

Im Denken einer konstruktiven Technikgestaltung liefert dieses Buch Einblicke in den Prozess der partizipativen Einführung neuer Technologien. Aus der Perspektive von Beschäftigten, Betriebs- und Personalräten sowie aus sozialwissenschaftlicher Sicht stellen die Autorinnen und Autoren eine Werkstatt-Zwischenbilanz zum Stand der Themen Plattformarbeitswelten, Algorithmen, algorithmische Entscheidungsprozesse und zum „mitbestimmten Algorithmus“ (Schröter) vor. Es geht um eine andere Annäherung an die Zukunft der Arbeit und die Arbeit der Zukunft. Dazu schlug das Netzwerk „Forum Soziale Technikgestaltung“ (FST) bereits im Jahr 2015 das Konzept eines „mitbestimmten Algorithmus“ vor. Nun geht es nicht mehr nur um den „Code“ sondern um die Demokratisierung des algorithmischen Entscheidungssystems als Ganzes.

Die bisherige Debatte über einen Aufbau von Gestaltungskompetenz für die demokratische Formierung „autonomer“ und „selbstlernender“ Software-Systeme erbrachte eine Reihe von grundsätzlichen (generischen) Kriterien für die zulässige Implementierung von neuer „Delegationstechnik“, die den Anspruch erhebt, an Stelle des Menschen rechtsverbindliche Entscheidungen in Echtzeit zu treffen. Dies überschreitet die bisherigen Vorstellungen einer „Assistenztechnik“. Die Autorinnen und Autoren des Bandes bringen Fachkenntnisse und Erfahrungen aus unterschiedlichen Arbeitswelten ein.

Die Texte zeigen Zusammenhänge zwischen Geschäftsmodellen und dem Einsatz der sogenannten „Künstlichen Intelligenz“ auf, beleuchten den Einsatz von Algorithmen in Fertigung und Verwaltung, beschreiben „Algorithmus-Kompetenzen“ und geben den Beschäftigtenvertretungen dreißig Kriterien zur Gestaltung algorithmischer Entscheidungssysteme an die Hand. Von sozialwissenschaftlicher Seite werden neue Plattformarbeitswelten wie externes und internes Crowdworking analysiert. Betriebsräte und Personalräte legen ihre Erfahrungen und Kenntnisse im Hinblick auf verrechtlichte Vereinbarungen zum Technik-Einsatz vor. Sie offenbaren die erworbene Qualität von Gestaltungskompetenz. Der vorliegende Band lädt zur Kontroverse und zu weiterer Vernetzung ein.

Klaus Kornwachs (Nicht vor der KI, vor den Geschäftsmodellen müssen wir uns fürchten), Oleg Cernavin (Algorithmus-Kompetenzen. Grundlage für reflexives und kritisches KI-Bewusstsein), Jan Etscheid, Jörn von Lucke (Anregungen für einen sozialverträglichen Einsatz von künstlicher Intelligenz im öffentlichen Sektor), Welf Schröter (Der mitbestimmte Algorithmus. Arbeitsweltliche Kriterien zur sozialen Gestaltung von Algorithmen und algorithmischen Entscheidungssystemen), Benedikt Simmert, Karen Eilers, Jan Marco Leimeister (Internet Crowd Work an der Schnittstelle sozialer und technischer Elemente der digitalen Arbeitsorganisation), Hannah Ulbrich, Marco Wedel (Forschungsprojekte als Experimentierräume für die Digitalisierung), Bernd Schneider, Bernhard Müller-Klinke, Katharina Parth (Digitalisierung in der Arbeitswelt. Neue Handlungsfelder für Belegschaftsvertreter), Andreas Otte, Welf Schröter in Zusammenarbeit mit Ingo Breite, Frank Gerth, Sylvia Laur, Volker Ost, Can Sekertekin, Andreas Tabor (Lebende Konzernbetriebsvereinbarung als soziale Innovation. Internes Crowdsourcing in der GASAG-Gruppe. Bedeutung – Bewertung – Vollständiger Wortlaut der KBV), Markus Freitag, Claudia Häussler, Chris Purz, Welf Schröter (Chance auf einen geordneten Zukunftsprozess. Gesamtpersonalrat (GPR) überreicht OB Kuhn den Entwurf einer „Lernenden Rahmen- und Zukunfts-Dienstvereinbarung IT und TK“ – Vollständiger Wortlaut des DV-Entwurfes).

Angaben zum Buch: Welf Schröter (Hg.): Der mitbestimmte Algorithmus. Gestaltungskompetenz für den Wandel der Arbeit. Mössingen 2019, 
ISBN 978-3-89376-181-4.

 

Licht und Schatten im sogenannten „KI-Diskurs“

Als vor nahezu 35 Jahren an vielen Universitäten das Fach Informatik eingerichtet wurde, gab es aus heutiger Sicht geradezu merkwürdige Diskussionen. Der Weg der Fakultätsgründungen spülte nicht selten einen besonderen Typ des männlichen Forscherdrangs auf die Lehrstühle. Dieser Typus verbat sich die Einmischung von Seiten der Sozialwissenschaften und wehrte sich gegen Anfragen aus der Zivilgesellschaft. Diese Einmischungen würden zum einen die Freiheit der Wissenschaft beeinträchtigen. Zum anderen seien sie in sich unlogisch, da die Informatik nur Grundlagenforschung betreibe und keinen direkten Anwendungsbezug zur Gesellschaft habe. Mit dieser Abwehrhaltung wollte sich die (damalige) konstruktive Kritik an der (damaligen) Informatik nicht zufrieden geben. Nach kurzer Zeit entfalteten sich an mehreren Hochschulen Forschungszusammenhänge und Institute unter dem Namen „Informatik und Gesellschaft“.

Auch der heutige Verlauf des Diskurses um die sogenannte „Künstliche Intelligenz“ bringt vergleichbare Momente von Licht und Schatten hervor. Es ist ermutigend festzustellen, dass in den Forschungen und Entwicklungen modernster Softwaresysteme zumeist offene Gesprächsverhältnisse vorherrschen und eine große Bereitschaft vorzufinden ist, mit zivilgesellschaftlichen Gruppen in den Dialog zu treten. Dennoch scheinen auch bestimmte Haltungen des Sich-Abgrenzens und des Denkens-in-Elfenbeintürmen zurückzukehren. Wenden wir uns jüngsten Beispielen zu:

Immer mehr schiebt sich in der aktuellen Debatte über die Gestaltung algorithmischer Entscheidungssysteme die Frage in den Vordergrund, ob es besondere Zulassungskriterien für die Nutzung und Anwendungen solcher Algorithmen und deren algorithmischer Entscheidungszusammenhänge geben sollte. Aus dem Forum Soziale Technikgestaltung heraus kommt der Vorschlag nach einem „mitbestimmten Algorithmus“. Dazu haben die Diskussionen mit Kolleginnen und Kollegen dreißig Kriterien für Zulassungen ergeben. Beim Versuch, diese Kriterien, diese Vorschläge aus dem Kreis der Zivilgesellschaft der „KI“-Forschungsgemeinde vorzustellen, kam uns das Argument entgegen, dass die Forschung dieser „KI“-Gemeinde lediglich Grundlagenforschung betreibe und diese Forschung keinen direkten gesellschaftlichen Anwendungsbezug ausweise. Das Forum solle lieber mit der Anwendungsforschung reden.

Über eine solche Aussage kann man nur den Kopf schütteln. Davon abgesehen, dass der Übergang zwischen Grundlagenforschung und Anwendung im Feld moderner Softwareforschung geradezu fließend ist, und dass gesellschaftliche Anforderungen zum frühest möglichen Zeitpunkt in der Arbeit der Forschung Berücksichtigung finden sollten, schadet eine solche Argumentation vor allem dem Anliegen der „KI“-Community selbst. Sie unterminiert die eigene Glaubwürdigkeit. Wer die letzten rund vierzig Jahre Forschung in der Technikfolgenabschätzung und in der Technikfolgenforschung betrachtet, stellt zudem unumwunden fest, dass der Abgrenzungsschritt („Grundlagenforschung“) auch einer modernen Methodendiskussion nicht standhält.

Mit einem weiteren Kopfschütteln muss man einen anderen Vorgang betrachten. Da hat sich ein kompetenter Kopf der verdienstvollen Aufgabe zugewandt, die nationale und internationale Diskussion zu durchforsten, um zu prüfen, welche Anforderungen akademische Autorinnen und Autoren an die Entwicklung neuer sogenannter „KI-Anwendungen“ formulieren. Erfreulich war im Ergebnis, dass die Anforderung nach Schutz der Privatheit den Spitzenplatz einnahm. Es folgten weitere – auch aus gewerkschaftlicher Sicht – gute Kriterien. Auf die Frage aber, warum nicht auch die vielfältigen Anforderungen aus der Zivilgesellschaft in diese wertende Übersicht aufgenommen wurden, kam die geradezu frappierende Antwort, dass er mit seinem Aufsatz im Wettbewerb mit internationalen Wissenschaftlern stehe und da passe der zivilgesellschaftliche Ansatz nicht hinein.

Zugegeben, die beschriebenen Beispiele zum Kopfschütteln sind Einzelfälle. Viele Akteure aus der Forschung würden über besagtes Verhalten selbst den Kopf schütteln. Dennoch ist es für die zivilgesellschaftliche Seite das Gegenteil von Ermutigung.

 

Wunderliches aus dem „KI“-Wunderland

Ist es ein vorübergehendes kulturelles Phänomen oder ein neuer aktiv begünstigter Trend? Immer häufiger findet sich in Veranstaltungen ein ähnlicher Typus von Personen zur Diskussion eines gemeinsamen Themas zusammen: Es sind Männer, ältere Männer über siebzig, zumeist ehemalige Ingenieure und Informatiker, die heute im aktiven Unruhestand sind. Sie unterstreichen die zunehmende Bedeutung der „künstlichen Intelligenz“ und beschwören die Macht und Potenziale der Technik. Drohszenarien und Hoffnungsträume gleichen Inhalts machen die Runde. Strittig ist im Wesentlichen der Zeitfaktor: Wird die „KI-Superintelligenz“ die Macht über die Menschheit in dreißig, siebzig oder neunzig Jahren übernehmen? Das Ergebnis sei jetzt schon klar. Die „Superintelligenz“, die sogenannte „starke KI“ käme und sei nicht mehr aufzuhalten. Gepaart wird der technikzentrierte Monolog mit dem Hinweis auf die notwendige „evolutionäre“, biologische Veränderung des Menschen. Das neue Menschenbild sieht die Technik nicht als hilfreiche Assistenz für den Menschen, sondern den Menschen als körperliche Übergangsstation zum dauerhaften digital-virtuellen Weiterleben eines Ichs.

Mag sein, dass manche Leserin, mancher Leser, diese Beschreibungen als esoterischen Wunderglauben oder als Überreste später Männerträumereien ansieht. Leider meinen es diese genannten Personen ernst. Sie wollen die Öffentlichkeit zugunsten ihres Zukunftsdiskurses missionieren und – zumindest ein Teil von ihnen – aktiv bejahend dafür werben. Hält man dieser Gruppe vor, sie würden damit transhumanistisches Gedankengut transportieren und rechtliche Grundprinzipien in Frage stellen, reagieren sie gelassen. Sie seien keine Ideologen und im Übrigen würde die Erbschaft unserer bisherigen ethischen Spielregeln durch den praktischen Utilitarismus (die sich einschleichende Form praktischen Nützlichkeitshandelns, auch wenn man wisse, dass man jenseits rechtlicher Regeln sei) de facto verändert und nivelliert. Sie fordern Freiheit, Freiheit für die Wissenschaft, Freiheit für die Technik, Freiheit für den Roboter, Freiheit für den Wandel.

Solange diese Männerrunden nur beim Bier Träume austauschen, könnte man zurückhaltend und gelassen bleiben. Es ändert sich allerdings abrupt, wenn solche Männerrunden sich prominente Redner als Gäste einladen, die die rechtsstaatlichen Spielregeln als neuen Gegner ausgeben. Einer dieser Prominenten gab von sich, dass er den zentralen Gegner der „Künstlichen Intelligenz“ gefunden habe. Es sei die EU-Datenschutzgrundverordnung!

Diese Aussage erfolgte einige Wochen nachdem die Datenschutzbeauftragten der Republik in ihrer „Hambacher Erklärung“ im Mai 2019 die zentrale Bedeutung der EU-DSGVO für die rechtsstaatliche Bändigung von „KI“-Anwendungen unterstrichen. Dort heißt es unter anderem:

Systeme der Künstlichen Intelligenz (KI) stellen eine substanzielle Herausforderung für Freiheit und Demokratie in unserer Rechtsordnung dar. Entwicklungen und Anwendungen von KI müssen in demokratisch-rechtsstaatlicher Weise den Grundrechten entsprechen. Nicht alles, was technisch möglich und ökonomisch erwünscht ist, darf in der Realität umgesetzt werden. Das gilt in besonderem Maße für den Einsatz von selbstlernenden Systemen, die massenhaft Daten verarbeiten und durch automatisierte Einzelentscheidungen in Rechte und Freiheiten Betroffener eingreifen. Die Wahrung der Grundrechte ist Aufgabe aller staatlichen Instanzen. Wesentliche Rahmenbedingungen für den Einsatz von KI sind vom Gesetzgeber vorzugeben und durch die Aufsichtsbehörden zu vollziehen. Nur wenn der Grundrechtsschutz und der Datenschutz mit dem Prozess der Digitalisierung Schritt halten, ist eine Zukunft möglich, in der am Ende Menschen und nicht Maschinen über Menschen entscheiden. […]“