Vertragsfragen im Zusammenhang mit KI

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

I. Einleitung

Anfang des Jahres 2017 warf ein Vorfall bei der Verwendung von Amazons „Echo“ die Frage nach der Verantwortlichkeit von über virtuelle Assistenten ausgeführte Bestellungen auf: Ein Nachrichtensprecher erzählte von einem Kind, das mit „Alexa“ sprach und dabei versehentlich ein Puppenhaus und dänische Butterkekse bestellte. Seine Beschreibung dieses Vorgangs führte wiederum in den Haushalten, die das Echo verwendeten und die Nachrichtensendung verfolgten, dazu, dass Alexa auch dort versuchte, ein Puppenhaus zu bestellen.

Automatisiert agierende, virtuelle Assistenten wie „Alexa“ helfen uns, unkompliziert und sprachgesteuert Bestellungen im Netz zu tätigen. Stärker automatisierte Systeme, wie der „Instant Ink“ Tinten-Lieferservice von HP, nehmen Bestellungen sogar ohne konkrete menschliche Interaktion vor, agieren dabei aber jedenfalls noch nach voreingestellten Bedingungen. Gänzlich autonom agierende Systeme werden aller Voraussicht nach künftig auch ohne derartige Voreinstellungen in der Lage sein, Entscheidungen für ihren Inhaber zu treffen. So wird dem autonomen Kühlschrank zwar auch ein Ziel vorgegeben. Er wird allerdings nicht aufgrund vorherig festgelegter, deterministischer Parameter tätig, sondern gibt sich eigene Regeln. Der autonome Kühlschrank, der mit den restlichen Smart Devices seines Inhabers vernetzt ist, kann den digital geführten Kalender abrufen und bei dort vermerkten Ereignissen durch die Bildung eigener Algorithmen entsprechend reagieren. Auf diese Weise ermittelt der Kühlschrank, welche Lebensmittel er wann in welcher Menge ordern muss, prüft deren Verfügbarkeit bei verschiedenen Online-Lieferservices, vergleicht Preise und Lieferzeiten und tätigt die Bestellung.

Künstliche Intelligenz und maschinelles Lernen bilden die technischen Grundlagen, die es einem System erst erlauben, automatisiert oder autonom zu agieren. Die rechtlichen Grundlagen, die die Einbindung automatisiert oder autonom agierender Systeme in Rechtsgeschäfte ihrer Inhaber konkretisieren, stehen weitestgehend noch zur Diskussion. Der vorliegende Artikel wirft einen Blick auf Vertragsfragen im Zusammenhang mit KI.

II. Automatisiert agierende Systeme

Bestellt Alexa nun ein Puppenhaus und Butterkekse, stellt sich ich vor allem die Frage, ob die vom virtuellen Assistenten zunächst generierte und anschließend abgegebene Erklärung als eigene Willenserklärung des Inhabers erachtet oder diesem jedenfalls zugerechnet werden kann. Im Zeitpunkt der Bestellung durch das automatisiert agierende System liegt – anders als bei der Übermittlung von Erklärungen durch bloße elektronische Bestellhilfen – zumindest kein Erklärungsbewusstsein und Geschäftswillen der hinter dem System stehenden Person vor, da diese bei Inbetriebnahme noch nicht weiß, was das System wann wem gegenüber erklären wird. Es ist allerdings auch nicht zwingend erforderlich, dass alle Elemente der Willenserklärung im Zeitpunkt der Erklärung vorliegen. Da automatisierte Systeme deterministisch den durch den Menschen bei Inbetriebnahme vorgegebenen Regeln folgen, ist diesem Vorgang zumindest ein abstrakter Wille zu entnehmen, durch das automatisiert agierende System zu einem späteren Zeitpunkt einen Bestellvorgang auszulösen und damit eine entsprechende Willenserklärung abzugeben. Der Erklärungsakt lässt sich durch den arbeitsteiligen Prozess zwischen Mensch und Maschine auf den Systeminhaber zurückführen.

Aus technischer Sicht löst Alexa auch bei einer Anweisung durch einen Minderjährigen oder einer indirekten Ansprache durch einen Nachrichtensprecher den Bestellvorgang aus, da die Spracherkennung von Alexa bei entsprechenden Schlüsselworten aktiviert wird. Doch wer ist aus rechtlicher Sicht in diesen Konstellationen Vertragspartner?

Bei Inbetriebnahme hat der Systeminhaber den abstrakten Willen, jede über das Gerät übermittelte Erklärung als eigene Willenserklärung gelten lassen. Tätigt nun das minderjährige Kind oder der Nachrichtensprecher eine Bestellung mittels Alexa, könnte dieser Dritte – ähnlich wie derjenige, der sich unter fremder Kennung bei eBay einloggt und Einkäufe tätigt – aufgrund der Relevanz der Identität für den Vertragspartner entsprechend eines Stellvertreters behandelt werden. Der Nachrichtensprecher will allerdings gar keine Willenserklärung abgeben. Ihm fehlt das Erklärungsbewusstsein. Da ihm wohl auch nicht zu unterstellen ist, dass er bei Anwendung der im Verkehr erforderlichen Sorgfalt hätte erkennen und vermeiden können, dass seine Äußerung nach Treu und Glauben und der Verkehrssitte als Willenserklärung aufgefasst werden durfte, fehlt es im Rahmen der Stellvertretung bereits an einer abgegebenen eigenen Willenserklärung. Das generelle Erklärungsbewusstsein des Kindes würde hingegen grundsätzlich den Anforderungen der Stellvertretung genügen. Da es ohne Vertretungsmacht handelt, könnte es als falsus procurator in Regress genommen werden. Eine Haftung des Kindes entfällt allerdings wegen seiner Minderjährigkeit nach § 179 Abs. 3 BGB.

Konsequent wäre damit, dass der Vertragspartner die vertragsrechtlichen Risiken des Einsatzes automatisiert agierender Systeme trüge. Dies erscheint jedoch unbefriedigend, sofern dieser nicht in der Lage ist, zu erkennen, wer dem virtuellen Assistenten Aufträge erteilt und somit auf Seiten des automatisiert agierenden Systems mit ihm kontrahiert. Soll das Risiko dem Inhaber des automatisiert agierenden Systems auferlegt werden, so scheint auch dies jedenfalls dann unangemessen, wenn der automatisiert agierende Agent Erklärungen abgibt, die nicht sein Inhaber, sondern Drittanwender veranlasst haben. Im Ergebnis sollten die Risiken auch denjenigen treffen, der die Vorteile aus der Systemaktion zieht. Im Falle virtueller Assistenten handelt es sich dabei neben dem Nutzer insbesondere um den Hersteller.

An dieser Stelle kann sich daher zusätzlich zur rechtlichen Klarstellung eine Technikregulierung als sinnvoll erweisen, die die Risiken zwischen Hersteller und Inhaber automatisiert agierender Systeme sowie den jeweiligen Vertragspartnern angemessen verteilt. Demnach könnten Willenserklärungen, die von einem automatisiert agierenden System übermittelt werden, einem Einwilligungserfordernis seines Inhabers unterworfen werden. Jeder Bestellvorgang, der über Alexa getätigt wird, bedarf also zwingend der Autorisierung durch diesen. Hierzu erforderlich wäre, dass der virtuelle Assistent in der Lage ist, seinen Inhaber anhand der Stimme zu identifizieren. Durch technische Voreinstellungen ließe sich ferner ermöglichen, dass die individuelle, auf der Erkennung der Stimme des Inhabers beruhende Zustimmung zu jeder von Alexa übermittelten Willenserklärung für Kaufangebote bis zu einem bestimmten Betrag nicht erforderlich ist. Die entsprechende technische Voreinstellung wäre als genereller Handlungswille und generelles Erklärungsbewusstsein für jedes über Alexa übermittelte Kaufangebot auszulegen.

Dem Inhaber stünden bei derartiger Regulierung der technischen Anforderungen im Falle fehlerhafter Konstruktion, Fabrikation oder Instruktion als Ausgleich Ansprüche gegen den Hersteller zu, die auf die Produkt- oder Produzentenhaftung gestützt werden können.

III. Autonom agierende Systeme

Anders als bei automatisiert agierenden Systemen, kontrolliert der Inhaber eines autonom agierenden Systems lediglich die technischen Rahmenbedingungen, die der Systementscheidung zugrunde liegen. Er hat bei Abgabe der Erklärung nicht einmal abstrakt Kenntnis davon, wann, mit welchem Inhalt oder aus welchem Grund diese abgegeben wird. Die Grundsätze, die auf eine Arbeitsteilung durch konkrete Voreinstellungen des Inhabers abstellen und hieraus ein generalisierendes Erklärungsbewusstsein ableiten, können hier mangels ausreichenden menschlichen Beitrags nicht herangezogen werden.

1. Autonom agierendes System als Bote?

Es stellt sich folglich die Frage, ob die durch das autonom agierende System abgegebene Erklärung seinem Inhaber dennoch zugerechnet werden kann. Eine Botenstellung des autonom agierenden Systems kann bereits vor dem Hintergrund nicht vorliegen, dass es an einer konkreten (fremden) Willenserklärung des Systeminhabers fehlt, die zu übermitteln wäre. Das autonom agierende System erzeugt diese Erklärung vielmehr selbst, wobei ihm auch ein eigener „Beurteilungsspielraum“ zukommt.

2. Autonom agierendes System als Stellvertreter?

Dem Wesen autonom agierender Systeme würde die Anwendung der Grundsätze zur Stellvertretung viel mehr Rechnung tragen. Das autonom agierende System übermittelt eine eigene, durch Algorithmen erzeugte Erklärung. Die Erteilung der Vertretungsmacht ist in der Inbetriebnahme des autonom agierenden Systems zu sehen. Dabei ist dem Inhaber bereits bewusst, dass es Erklärungen abgeben könnte. Unbekannt ist ihm lediglich, welche konkrete Gestalt die Systemerklärungen annehmen werden.

Zur Wahrung des Offenkundigkeitsprinzips muss das autonom agierende System sich als solches zu erkennen geben und auch die Identität seines Inhabers aufdecken, damit der Vertragspartner selbst entscheiden kann, ob er mit dem System als Vertreter der hinter ihm stehenden Person kontrahieren will. Eine solche Pflicht ist insbesondere relevant, sofern das autonom agierende System weder als rechts- noch geschäftsfähig anerkannt wird und allenfalls der § 165 BGB im Stellvertretungsrecht anwendbar sein könnte. Dies gilt jedenfalls, sofern die Fähigkeit zur (menschlichen) Willensbildung als unabdingbare Voraussetzung der Personenlehre angesehen wird, wonach nur der Mensch rechtsfähig ist.

Qualifiziert man hingegen die Fähigkeit, Träger von Rechten und Pflichten zu sein anhand von Zweckmäßigkeitserwägungen – so wie es im weiteren Sinne auch bei der juristischen Person der Fall ist –, ist es nur konsequent auch diejenigen Rechtssätze auf autonom agierende Systeme anzuwenden, deren Voraussetzungen sie erfüllen. Bei einem solchen funktionellen Verständnis von Rechtsfähigkeit ließen sich die Gedanken der Stellvertretung durchaus auch für autonom agierende Systeme fruchtbar machen, da diese in dem spezifischen Kontext einen Mehrwert für den Rechtsverkehr bedeuten.

Auf diese Weise wäre das autonom agierende System wie ein minderjähriger Vertreter, § 165 BGB, zu behandeln, wobei seine Minderjährigkeit nicht ins Gewicht fällt, da er aufgrund seines fremdnützigen Tätigwerdens lediglich rechtlich neutrale Geschäfte eingeht. Anders ist dies allerdings mit Blick auf § 179 Abs. 3 BGB. Mangels eigener Vermögensmasse kann das autonom agierende System ebenso wenig haften wie ein Minderjähriger. So lange technisch nicht sichergestellt werden kann, dass das autonom agierende System seine Vertretungsmacht nicht überschreitet (was aufgrund der eigenständig entwickelten Entscheidungsalgorithmen durchaus möglich erscheint), muss dem Vertragspartner die Möglichkeit gegeben werden, Vertragsschlüsse mit autonom agierenden Systemen erkennen und ablehnen zu können.

3. Autonom agierendes System als elektronische Person?

Es wird insbesondere aus diesem Grund über eine Anerkennung autonom agierender Systeme als so genannte elektronische Personen mit eigenem Rechtsstatus nachgedacht. Dies erscheint jedoch weder als ideale Lösung der Zurechnungsproblematik noch zwingend erforderlich. Auf diese Weise würden autonom agierende Systeme nicht nur mit den für den Abschluss fremdnütziger Verträge notwendigen Pflichten, sondern darüber hinaus auch mit einer Reihe von Rechten ausgestattet, die nicht mit ihrem Wesen korrespondieren.

Deutlich geworden sein sollte zudem, dass die Stellvertretungsregeln die Problematik der Zurechnung von durch autonom agierenden Systemen abgegebenen Erklärungen angemessen erfassen. So ist eine Eigenhaftung der elektronischen Person und eine damit einhergehende Ausstattung mit eigenen Vermögenswerten nicht angezeigt. Im hier entworfenen Modell des minderjährigen Stellvertreters kommt die elektronische Person bereits aufgrund § 179 Abs. 3 BGB als Haftungssubjekt nicht in Betracht. Als sinnvoll würde sich daher allenfalls eine gesetzliche Festschreibung einer entsprechenden Anwendbarkeit der Regelungen des Stellvertreterrechts auf Vertragsschlüsse unter Beteiligung autonom agierender Systeme erweisen. Da humanoide, autonom agierende Systeme nach dem derzeitigen Stand der Technik allerdings noch nicht existieren, ist insofern keine Eile geboten.

IV. Fazit

Es ist nur noch eine Frage der Zeit, bis die Vollautonomisierung intelligenter Systeme gelingt. Wichtig ist daher zunächst, automatisiert und autonom agierende Systeme hinreichend voneinander abzugrenzen. Kernaspekt dieser Unterscheidung ist der Grad der Selbstständigkeit, der sich anhand des Vorhandenseins und der Komplexität eines Entscheidungsalgorithmus ermitteln lässt. Ist dieser vorgegeben, handelt es sich regelmäßig um ein automatisiert agierendes System. Ist das System dazu in der Lage, einen im Ergebnis noch nicht vollständig nachvollziehbaren Algorithmus selbstständig zu erlernen, agiert es autonom.

Während die von automatisiert agierenden Systemen erzeugten und abgegebenen Erklärungen als eigene Willenserklärungen des Systeminhabers behandelt werden, die sinnvollerweise in technischer Hinsicht einem zwingenden Einwilligungserfordernis des Inhabers zu unterwerfen sind, ist es mangels eines ausreichenden menschlichen Beitrags fehlgehend, die Erklärungen autonom agierender Systeme als eigene Willenserklärung ihres Inhabers zu erachten. Interessengerechter ist es, diese Systemerklärung dem Nutzer über eine Anwendung der Stellvertretungsregelungen zuzurechnen.

Sophie Herold hat Rechtswissenschaft in Heidelberg und Frankfurt am Main studiert und promoviert seit 2017 am Lehrstuhl für Bürgerliches Recht, Informations- und Datenrecht an der Rheinischen Friedrich-Wilhelms-Universität Bonn. Ihre Dissertation befasst sich mit einem zivilrechtlichen Thema, das die Digitalisierung hervorgebracht hat: Sie untersucht, ob automatisiert und autonom agierende Systeme dazu in der Lage sind, Verträge für ihre Nutzer zu schließen. Dahinter steht die grundlegende Frage, ob es sich bei Robotern um Rechtssubjekte handelt. In Nebentätigkeit ist Sophie Herold seit mehreren Jahren als wissenschaftliche Mitarbeiterin im Bereich Intellectual Property, Media & Technology bei Hogan Lovells International LLP in Frankfurt am Main tätig. Im Januar 2019 hat sie das Rechtsreferendariat am Oberlandesgericht Frankfurt am Main aufgenommen.