Über eine gesetzliche Pflicht der Schaffung von Nachvollziehbarkeit künstlich intelligenter Entscheidungen

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

I. Einleitende Worte


In dem Beitrag „Das dritte Ich“ in der Recht innovativ 02/2018 wurde gefordert, dass Entscheidungen künstlich intelligenter Systeme nachvollziehbar sein müssen. Etwas vorhersehbar Unvorhersehbares dürfe nicht verselbständigt in den Rechtsverkehr entlassen werden. Jemand, aber nicht die Maschine selbst, müsse für eventuell schadhafte Folgen haftbar sein. Um Ansprüche an die negativen Folgen von Entscheidungen künstlich intelligenter Systeme zu knüpfen, müssen diese Entscheidungen auf einen Fehler oder ein Fehlverhalten zurückführbar sein, welche wiederum einem Haftungssubjekt zuordenbar sein müssen. Die Herstellung künstlich intelligenter Systeme und das Angebot von Leistungen basierend auf künstlich intelligenten Systemen dürfen nicht der Entziehung oder gar Verschleierung von Verantwortlichkeit dienen, so wie es die Schaffung einer elektronischen Person im Ergebnis erlauben würde. Die Nachvollziehbarkeit der Entscheidungen künstlich intelligenter Systeme ist von gesellschaftlicher Notwendigkeit, denn die fehlende Nachvollziehbarkeit schafft Vulnerabilität von unbekanntem Ausmaß. Künstlich intelligente Systeme werden unsere Zukunft stark beeinflussen, deswegen dürfen sie diese nicht einseitig bestimmen.

Das deutsche Recht bietet bereits einen hinreichenden Rechtsrahmen zur Beurteilung der zivilrechtlichen und strafrechtlichen Haftung. Eine solche Beurteilung ist jedoch überhaupt erst möglich, wenn eine schadenauslösende Entscheidung, basierend auf reinen Rechenvorgängen, einem Verantwortlichen zugeordnet werden kann. Dieser Beitrag soll daher der Frage nachgehen, wie eine konkrete, gesetzliche Pflicht der Herstellung von Nachvollziehbarkeit künstlich intelligent zustande gekommener Entscheidungen umgesetzt werden könnte.
1 Kommentar

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

Spätestens Mady Delvaux hat die Diskussion angestoßen, ob das bestehende Produkthaftungsregime für die mit künstlicher Intelligenz versehenen Produkte ausreichend ist. In einer von ihr initiierten Resolution des Europäischen Parlaments sprachen sich Anfang 2017 396 Abgeordnete für Folgendes aus: „to explore, analyse and consider the implications of all possible legal solutions”, sowie „creating a specific legal status for robots in the long run”. Der Begriff „robot” ist hier als Synonym für Systeme auf Basis künstlicher Intelligenz zu verstehen.

Die Resolution warf also zunächst einmal die Frage auf, ob denn die bisher bestehenden Haftungsregime in der EU ausreichend sind für die bestehenden, aber vor allem für die in der Zukunft vermuteten Eigenschaften von künstlicher Intelligenz. Die Mitglieder des Europäischen Parlaments nahmen zumindest einen Änderungsdruck in der Zukunft an, dem sie nach dem oben zitierten Vorschlag mit einem generischen rechtlichen Status für robots – mit künstlicher Intelligenz versehene Systeme – begegnen wollen. Aus deutscher Sicht bedeutet das in einer Nussschale nicht weniger als die Schaffung einer dritten, rechtlichen relevanten Person neben der natürlichen (der Mensch in seiner Rolle als Rechtssubjekt) und der juristischen Person (Personenvereinigung oder Zweckvermögen mit eigener Rechtspersönlichkeit, am bekanntesten: GmbH oder AG).

Ein großer Wurf also, den die vermeintlich so disruptiven Entwicklungen der künstlichen Intelligenz sogar auf Ebene des Europäischen Parlaments auslösen. Es bietet sich ohne Frage an, die Situation einmal umfassend zu betrachten, um die Entscheidung des Europäischen Parlaments – die übrigens bisher von der Kommission nicht aufgenommen wurde – entsprechend bewerten zu können.
0 Kommentare

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.


I. Einleitung


Anfang des Jahres 2017 warf ein Vorfall bei der Verwendung von Amazons „Echo“ die Frage nach der Verantwortlichkeit von über virtuelle Assistenten ausgeführte Bestellungen auf: Ein Nachrichtensprecher erzählte von einem Kind, das mit „Alexa“ sprach und dabei versehentlich ein Puppenhaus und dänische Butterkekse bestellte. Seine Beschreibung dieses Vorgangs führte wiederum in den Haushalten, die das Echo verwendeten und die Nachrichtensendung verfolgten, dazu, dass Alexa auch dort versuchte, ein Puppenhaus zu bestellen.

Automatisiert agierende, virtuelle Assistenten wie „Alexa“ helfen uns, unkompliziert und sprachgesteuert Bestellungen im Netz zu tätigen. Stärker automatisierte Systeme, wie der „Instant Ink“ Tinten-Lieferservice von HP, nehmen Bestellungen sogar ohne konkrete menschliche Interaktion vor, agieren dabei aber jedenfalls noch nach voreingestellten Bedingungen. Gänzlich autonom agierende Systeme werden aller Voraussicht nach künftig auch ohne derartige Voreinstellungen in der Lage sein, Entscheidungen für ihren Inhaber zu treffen. So wird dem autonomen Kühlschrank zwar auch ein Ziel vorgegeben. Er wird allerdings nicht aufgrund vorherig festgelegter, deterministischer Parameter tätig, sondern gibt sich eigene Regeln. Der autonome Kühlschrank, der mit den restlichen Smart Devices seines Inhabers vernetzt ist, kann den digital geführten Kalender abrufen und bei dort vermerkten Ereignissen durch die Bildung eigener Algorithmen entsprechend reagieren. Auf diese Weise ermittelt der Kühlschrank, welche Lebensmittel er wann in welcher Menge ordern muss, prüft deren Verfügbarkeit bei verschiedenen Online-Lieferservices, vergleicht Preise und Lieferzeiten und tätigt die Bestellung.

Künstliche Intelligenz und maschinelles Lernen bilden die technischen Grundlagen, die es einem System erst erlauben, automatisiert oder autonom zu agieren. Die rechtlichen Grundlagen, die die Einbindung automatisiert oder autonom agierender Systeme in Rechtsgeschäfte ihrer Inhaber konkretisieren, stehen weitestgehend noch zur Diskussion. Der vorliegende Artikel wirft einen Blick auf Vertragsfragen im Zusammenhang mit KI.
0 Kommentare

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

Anfang des Jahres haben wir die Artikelreihe „Künstliche Intelligenz” gestartet. Wir wollen damit „über den Tellerrand” schauen und versuchen, in das umfangreiche Thema „Künstliche Intelligenz” aus verschiedenen fachlichen Blickwinkeln kurz und prägnant einzuführen. Was gab es bisher zu lesen und was kommt als Nächstes? Ein Zwischenstand.
0 Kommentare
Anzeige:

Dieses Interview ist Teil der Artikelreihe „Künstliche Intelligenz”.

Künstliche Intelligenz ist seit Jahrzehnten ein beliebtes Forschungsthema. Angeblich war es sogar ein Forschungsprojekt, das den Begriff „Künstliche Intelligenz” erfunden und das Thema als Forschungsdisziplin etabliert hat: das Dartmouth Summer Research Project on Artificial Intelligence. Auch hierzulande forscht beispielsweise das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) seit 1988 zu den Methoden der Künstlichen Intelligenz. Die „Strategie Künstliche Intelligenz der Bundesregierung” soll explizit „die Forschung stärken” und „den Transfer von Forschungsergebnissen in die Wirtschaft beschleunigen”.

„Künstliche Intelligenz” ist ein interdisziplinäres Thema. Wie funktioniert das Zusammenspiel von Forschung, Rechtswissenschaft und Praxis in Deutschland? An dieser Stelle setzt RAILS an. RAILS steht für „Rechtswissenschaftliche Gesellschaft für Künstliche Intelligenz und Robotik e.V. / Robotics & AI Law Society (RAILS) e.V.”. Der Verein will die Diskussion um den Rechtsrahmen für Künstliche Intelligenz und Robotik in wissenschaftlicher Hinsicht begleiten. Wir haben mit dem Vorstandsmitglied Tina Krügel gesprochen.
0 Kommentare

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

Künstliche Intelligenz (KI) wird häufig mit sehr futuristischen Anwendungen wie Robotern oder selbstfahrenden Autos assoziiert. Dabei steckt die KI-Technologie dieser Anwendungsfälle noch in den Kinderschuhen. Im Gegensatz dazu stoßen wir in unserem Alltag bereits häufiger auf KI als wir vielleicht denken, beispielsweise wenn wir bei Google Maps den schnellsten Weg suchen, mit Freunden kommunizieren oder Online-Einkäufe tätigen. Warum aber investieren Facebook, Google und Co. Milliarden in die Weiterentwicklung solcher Technologien?

Allgemein gesagt, kann KI aus einer Vielzahl von scheinbar ungleichen Datenquellen verborgene Muster erkennen und automatisiert Entscheidungen treffen, ohne vorher explizit dafür programmiert worden zu sein. Das eröffnet einer Vielzahl von Branchen das Potential von Effizienzgewinnen und neue Ertragsmöglichkeiten. Ausschlaggebender Faktor dafür sind zum einen die Daten, mit denen die KI lernt und zum anderen die Algorithmen, die bestimmen, wie der Lernprozess ablaufen soll. Im Folgenden wird ein kurzer Überblick darüber gegeben, welche Auswirkungen das auf die verschiedenen Branchen heute schon hat und in Zukunft haben kann.
2 Kommentare

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

Algorithmen sind nicht mit Software gleich zu setzen. Sie sind formalisierte Vorschriften, die endlich, eindeutig, verständlich, ausführbar und allgemeingültig für einen bestimmten Problembereich ausgestaltet sind. Wie diese Vorschriften notiert sind, ist nicht entscheidend. Algorithmen können mit Spielregeln verglichen werden: Ob sie als Kartenspiel, Brettspiel oder Software umgesetzt werden, ist nicht konstitutiv für die Definition eines Algorithmus.

Algorithmen sind die Basis eines Automatisierungsprozesses. Automatisierung ist so allgegenwärtig, dass sie kaum mehr auffällt. Autos, Ampeln, Geldautomaten, Türen in vielen Supermärkten, Treppen in der U-Bahn, der Fokus der Kamera und sogar Thermostate sind Beispiele für Automatisierung. Worin liegt nun die Brisanz des Themas „Algorithmus”? Was ist heute neu?
1 Kommentar

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

Das Thema „Künstliche Intelligenz“ (KI) ist heutzutage in aller Munde und häufig fällt in diesem Zusammenhang das Wort „neuronales Netzwerk“. Was aber verbirgt sich hinter diesen Begriffen und wie hängen sie zusammen? Im Allgemeinen versteht man unter künstlicher Intelligenz Computerprogramme, die kognitive Aufgaben lösen. Zu diesen Aufgaben gehören zum Beispiel die Erkennung von Objekten, das Verständnis von Sprache oder die Entscheidungsfindung – Aufgaben, die wir tagtäglich in unserem Alltag meistern.

Eine Schlüsseltechnologie für die künstlichen Intelligenz ist das „Maschinelle Lernen“. Im Gegensatz zur klassischen Programmierung wird beim maschinellen Lernen der Algorithmus, also die Rechenanleitung, nicht vollständig durch den Programmierer vorgegeben. Stattdessen lernt der Algorithmus anhand von Trainingsdaten, eine bestimmte kognitive Aufgabe zu lösen. Das maschinelle Lernen umfasst eine Vielzahl von Ansätzen, unter denen die sogenannten künstlichen neuronalen Netzwerke „artificial neural networks (ANNs)“ eine bedeutende Rolle einnehmen, da es hier vor allem in den letzten Jahren bedeutsame Fortschritte gegeben hat.

In diesem Artikel werden wir den Aufbau sowie die Funktionsweise der ANNs erläutern. Des Weiteren diskutieren wir die aktuellen Herausforderungen der ANNs und der KI und erläutern mögliche Lösungsansätze.
2 Kommentare

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

Einleitung


Die frühen KI-Forscher nahmen an, dass die Lösung einer jeden Aufgabe mit einer Abfolge von „wenn-dann“-Regeln beschrieben werden kann. In der Tat waren auch relativ schnell große Erfolge zu verzeichnen. Es stellte sich aber gleichzeitig schnell heraus, dass einige Lösungen eine so große Folge von „wenn-dann“-Entscheidungen benötigten, dass dies nicht mehr von Menschen manuell erstellt werden konnte.

Gleichzeitig begann in der Informationstechnologie das Zeitalter des Wissensmanagement und kurz darauf das Zeitalter von „Big Data“.
3 Kommentare

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

1. Einleitung


In der Informatik werden unter dem Begriff „künstliche Intelligenz” ganz unterschiedliche Ansätze und Methoden zusammengefasst, die versuchen, geistige Leistungen von Menschen nachzubilden oder zu simulieren. Die Methoden lassen sich grob in vier Bereiche mit jeweils unterschiedlichen funktionalen Zielsetzungen einordnen:
  • Mustererkennung: Erkennen von Regelmäßigkeiten in Sprache, Bildern, etc.
  • Maschinelles Lernen: Konzeptbildung, Hypothesen, Regelgenerierung, etc.
  • Expertensysteme: Regelbasiertes Schließen, Bewertung von Sachverhalten, etc.
  • Maschinelles Planen und Handeln: autonome Fahrzeuge, Robotik, etc.

Im Folgenden werden diese vier Bereiche und ihre Möglichkeiten übersichtsartig vorgestellt.
0 Kommentare