Schon seit vielen Jahr quälen sich Fachleute aus Technik und Recht mit der Frage, ob ein Roboter, ein selbstfahrendes Auto oder ein Software-System im gerichtlichen Sinne ein Rechtssubjekt sein kann. Das bisherige Rechtsdenken gibt auf diese Frage nur zum Teil ausreichende Antworten. Im Zentrum steht stets die Suche nach der Zuordnung: Wer ist für einen Vorgang verantwortlich? Ist es der beauftragende Veranlasser der Technik oder die Technik selbst? Was passiert aber, wenn diese Zuordnung nicht eindeutig zu treffen ist, weil sich das technische System durch seine „Selbstlern“-Fähigkeit in Echtzeitschritten ständig verändert?

Der „Sachverständigenrat für Verbraucherfragen beim Bundesministerium der Justiz und für Verbraucherschutz“ hat im Dezember 2016 in seinem Gutachten „Verbraucherrecht 2.0 – Verbraucher in der digitalen Welt“ das Dilemma benannt: „Schwieriger wird es bei der rechtlichen Beurteilung von selbst-lernenden Algorithmen. Hier geht es letztendlich um die Frage, wie sich künstliche Intelligenz (KI) auf das Rechtssystem auswirkt, ob die Zuordnung des Agenten zum Prinzipal durchbrochen wird, ob der Software-Agent selbst zum autonom handelnden Rechtssubjekt wird oder der Prinzipal, der den selbst-lernenden Algorithmus konfiguriert hat, der Letztverantwortliche bleibt. Mit anderen Worten: wer ist der Prinzipal und wer ist der Agent?“.

Am Horizont der Debatte ist eine Erweiterung der Rechtslage erkennbar. Es ist zu erwarten, dass das Zivilrecht eine qualitative Korrektur in dem Sinne erfährt, dass es neben der „natürlichen Person“ (Bürgerin, Bürger) und der „juristischen Person“ (Unternehmen, Verein, Verband, etc.) auch eine „elektronische Person“ (autonome Systeme) geben wird. Doch wie soll diese definiert werden, wenn „autonome Software-Systeme“ (ASS) als „selbstlernende“ Einheiten sich nach ihrem Start unaufhörlich wandeln und potenziell ihren eigenen Algorithmus umbauen?

Ein unkonventioneller Blick in die Zukunft könnte auch noch eine andere Herausforderung formulieren: Was könnte eine „elektronische Person“ im Prozess der Mitbestimmung bedeuten? Angenommen ein ASS würde als „elektronische Person“ juristisch anerkannt, träte es dann im innerbetrieblichen Mitbestimmungsprozess neben der Unternehmensleitung und dem Betriebsrat als ein dritter „Partner“ an den Verhandlungstisch? Müsste eine „elektronische Person“ im Hinblick auf die Auswirkungen von „autonomen Software-Systemen“ in der betriebsinternen oder betriebsübergreifenden Wertschöpfungskette auch im Betriebsverfassungsgesetz verankert werden? Der Gedanke mag manchen schaudern lassen. Doch ist er nicht in sich logisch und konsequent? Was würde vorausschauende soziale Technikgestaltung in diesem Zusammenhang erfordern?