Künstliche Intelligenz: Wenn Roboter Verträge schließen

29.08.2017

Die zunehmende Digitalisierung von Produktionsprozessen, Waren und Dienstleistungen, die „vierte industrielle Revolution“, ist allgegenwärtig. Eine unternehmensinterne und -externe Vernetzung von Maschinen, Lagersystemen und Betriebsmitteln über das „Internet der Dinge“ bietet ein hohes wirtschaftliches Potential und stellt einen immer wichtigeren Erfolgsfaktor dar. (Produktions-)Abläufe werden beschleunigt, das alltägliche Leben vereinfacht und durch Begrenzung menschlichen Fehlverhaltens die allgemeine Sicherheit erhöht. Ein Ziel ist die „Smart Factory“, in der das im Herstellungsprozess befindliche Produkt seine Fertigungsinformationen selbst kennt, mit den Produktionsmitteln in der Fabrik kommuniziert und so den Fertigungsprozess selbst steuert. Künstliche Intelligenz ermöglicht dabei im Rahmen der sogenannten „M2M Communication“ die Interaktion von vernetzten Gegenständen. Hierzu gehören zunehmend auch automatisierte und autonome Vertragsschlüsse: Diese können etwa Produktionsmittel, Ersatzteile oder Wartungsleistungen betreffen.

Einordnung in das Gefüge des Vertragsrechts

Die Einordnung des maschinellen Vertragsschlusses in das Gefüge des Vertragsrechts bereitet allerdings einige Schwierigkeiten. Verträge beruhen auf Willenserklärungen, die nach geltendem Recht nur Menschen abgeben können. Entscheidend ist daher, ob die Betätigung der Maschine als Erklärung eines (dahinter stehenden) Menschen gewertet oder jedenfalls einem Menschen zugerechnet werden kann. Zu unterscheiden ist insoweit zwischen Erklärungen von automatisierten Systemen einerseits und autonomen Systemen andererseits.

Vertragsschluss bei automatisierten Systemen

Die Nutzung von automatisierten Systemen tritt in einer Vielzahl von Varianten auf. So kann etwa ein internetfähiger Kühlschrank Milch selbstständig bestellen, sobald der Vorrat zu Neige geht, und in automatischen Lagersystemen können laufend Nachbestellungen durchgeführt werden. Ein automatisierter Online-Shop prüft etwa bei Bestelleingang selbststätig den Lagerbestand. Erst nach einem positiven Ergebnis aufgrund eines internen Prüfungsprozesses erfolgt eine rechtlich verbindliche Vertragsannahme durch das System.

All diese automatisierten Systeme haben eines gemein: Die Kriterien und Bedingungen für eine Aktion des Systems werden vom Nutzer vorab über das Gerät bzw. die Software eingestellt. Sind die entsprechenden Kriterien erfüllt, reagiert das System selbsttätig und gibt eine Erklärung gegenüber dem Vertragspartner ab. Das Ergebnis und damit der Inhalt der Erklärung ist mithin von vornherein bestimmt. Das Computersystem gibt die Erklärung zwar ohne aktuelles menschliches Zutun selbstständig ab, doch wird die Erklärung nach vordefinierten Parametern erzeugt und elektronisch übermittelt.

In diesen Fällen spricht man von einer Computererklärung, die alle Voraussetzungen einer „normalen“ Willenserklärung in Person des eingebenden Nutzers, also Handlungswille, Erklärungsbewusstsein und Geschäftswille, erfüllt. Sobald der Nutzer im Zeitpunkt der Inbetriebnahme und Konfiguration des Systems den generellen Willen besitzt, eine Rechtsfolge herbeizuführen und lediglich den Zeitpunkt und der konkreten Umstände wie der Anzahl der zu bestellenden Produkte dem System überlässt, kann ihm die entsprechende Erklärung zugerechnet werden, denn der Erklärungsprozess wird durch die Arbeitsteilung lediglich gestreckt. Einer Zurechnung der Erklärung dürfte selbst dann nichts entgegenstehen, wenn der Nutzer bei Inbetriebnahme des Systems hätte erkennen und vermeiden können, dass seine Handlung zu einer nachgelagerten Willenserklärung führen kann.

Insgesamt lässt sich damit feststellen, dass sich automatisierte Erklärungen mit dem vorhandenen juristischen Grundsätzen bewältigen lassen.

Vertragsschluss bei autonomen Systemen

Demgegenüber sind autonome Systeme in der Weise „intelligent“, dass sie zielorientiert handeln und lernfähig sind und mit anderen intelligenten Systemen interagieren können. Sie sind in der Lage, ihr Wissen zu erweitern und so bestehende Regeln eigenständig zu ändern.

Der Inhalt eines mittels einen autonomen Systems abgeschlossenen Vertrags kann also das Ergebnis eines komplexen Berechnungsprozesses sein. Während dem Nutzer eines automatisierten Systems der konkrete Inhalt seiner Erklärung oder jedenfalls die hierfür maßgeblichen Parameter bekannt sind oder jedenfalls sein können, ist dies bei autonomen Systemen gerade nicht der Fall. Dies gilt insbesondere dort, wo die Bandbreite der möglichen Erklärungen durch Interaktion mit weiteren Systemen und anderen extrinsischen Faktoren noch erhöht wird und der Inhalt der konkreten Erklärungen daher nicht vorhersehbar ist.

Autonome Erklärungen lassen sich somit nicht ohne Weiteres auf eine entsprechende Willensbetätigung des Systemnutzers zurückführen. Gleichzeitig haben autonome Systeme im geltenden Rechtsrahmen keine eigene Rechtspersönlichkeit, sind mithin nicht rechtsfähig und können damit auch keine eigenen Willenserklärungen abgeben. Für einen wirksamen Vertragsschluss muss jedoch jede Erklärung eines solchen Systems auf eine juristische oder natürliche Person zurückzuführen sein. Über die Frage der Zurechnung besteht bei autonomen Erklärungen erhebliche Rechtsunsicherheit.

Lösungsansätze

Auf Grundlage bestehender Rechtsinstitute werden in der deutschen Rechtswissenschaft verschiedene Ansätze zur Lösung der Zurechnungsfrage diskutiert.

Stellvertretung

Ein Ansatz ist es, das autonome System als Stellvertreter einzuordnen, §§ 164 ff. des Bürgerlichen Gesetzbuchs (BGB). Dafür müsste das System im Namen des Nutzers eine Willenserklärung im Rahmen der ihm zustehenden Vertretungsmacht abgeben. In der Inbetriebnahme des Geräts könnte man eine zumindest konkludente Erteilung von Vertretungsmacht sehen.

Voraussetzung für die Stellvertretung ist es jedoch, dass der Stellvertreter selbst eine eigene Willenserklärung abgibt und zumindest beschränkt geschäftsfähig ist. Das System besitzt aber eben gerade keine eigene Rechtspersönlichkeit. Auch eine analoge Anwendung überzeugt nicht: Aus Gründen des Verkehrsschutzes sieht das deutsche Recht eine Eigenhaftung des Vertreters ohne Vertretungsmacht vor, § 179 BGB. Das System kann jedoch nicht selbst haftbar gemacht werden, denn ihm fehlt Vermögen, aus dem Schadensersatzansprüche bedient werden könnten.

Botenschaft / Angebot ad incertas personas

Naheliegen könnte eine Einordnung des autonomen Systems als Bote, denn die Botenschaft setzt keine eigene Rechtsfähigkeit des Boten voraus. Jedoch ist die Tätigkeit des Boten immer auf die bloße Übermittlung einer von einem anderen abgegeben Willenserklärung beschränkt. Das autonome System hingegen nimmt die konkrete Inhaltsbestimmung der Erklärung selbsttätig vor. Daher ist auch ein Vergleich mit der bei Warenautomaten angewandten Konstruktion des Angebots „ad incertas personas“ unpassend: Der Betreiber eines solchen Warenautomaten gibt durch das Aufstellen und Betreiben ein Angebot an einen unbestimmten Personenkreis ab, das auf den vorhandenen Vorrat und die angegebenen Preise begrenzt ist. Beim autonomen System werden aber gerade keine vorgefertigten Willenserklärungen gespeichert.

Blanketterklärung

Bei der sog. Blanketterklärung überlässt der Erklärende dem Empfänger bewusst eine unvollständige, jedoch unterzeichnete Willenserklärung, die der Dritte vervollständigt. Auf den finalen Inhalt der Erklärung hat der Erklärende geringen bzw. keinen Einfluss. Der Erklärende handelt bewusst und will unabhängig vom Zeitpunkt auch eine Rechtsfolge herbeiführen. Er besitzt jedoch keinen auf eine konkrete Rechtsfolge gerichteten Willen zur Zeit seiner letzten Handlung. Dennoch wird eine solche Erklärung nach allgemeiner Auffassung dem Erklärenden zugerechnet. Die Situation ist durchaus mit der des Einsatzes autonomer Systeme vergleichbar: In beiden Konstellationen gibt der Erklärende die Entscheidungsgewalt über den finalen Inhalt bewusst aus der Hand und nimmt dabei in Kauf, dass die endgültige Erklärung nicht seinem Willen entspricht.

Zu berücksichtigen ist jedoch, dass beim Einsatz autonomer Systeme ein hohes Missbrauchsrisiko besteht. Hackerangriffe, Viren oder Trojaner können das System beeinträchtigen und so in Frage stellen, ob die Erklärung in jedem Fall pauschal dem Nutzer zugerechnet werden kann. Auch wenn man dieses Risiko dem Nutzer auferlegen will: Bei einer abredewidrig ausgefüllten Blanketterklärung hat der Hintermann regelmäßig Ersatzansprüche gegen den Vordermann. Solche scheitern allerdings bei autonomen Systemen wiederum an dessen fehlender Rechtspersönlichkeit. Auch spielt der Verbraucherschutz eine Rolle, soweit autonome Systeme im nicht-kommerziellen Umfeld eingesetzt werden. Insoweit besteht die Gefahr, dass Nutzer einer weitgehend Verantwortlichkeit unterliegen, obwohl sie die technischen Möglichkeiten und Risiken nicht hinreichend überblicken können.

Vertragsgestaltung / Handlungsempfehlungen

Soweit die Nutzung von automatisierten bzw. autonomen Systemen im Rahmen von bestehenden Rechtsbeziehungen erfolgt, kann der Unsicherheit über die Zurechnung von Erklärungen insbesondere mit einer geeigneten Vertragsgestaltung begegnet werden. Es sollte dann genau festgelegt werden, wann und unter welchen Umständen ein Vertrag zwischen den Beteiligten zustande kommt. Insbesondere sind Angebot und Annahme klar zu definieren. Zweifeln an der Zurechenbarkeit von Erklärungen kann durch eine präzise Beschreibung der Handlungsspielräume der Systeme begegnet werden.

Darüber hinaus ist es insbesondere auf Anbieterseite unerlässlich, alle Vorgänge umfassend zu protokollieren, um Beweisschwierigkeiten vorzubeugen. Von großer Bedeutung ist auch der Umgang mit Fehlern, etwa, wenn das System 1.000 statt nur eines Ersatzteils bestellt. Das Vertragsrecht sieht insofern die Irrtumsanfechtung vor. Diese ist in solchen Fällen aber häufig ungeeignet, denn sie basiert darauf, dass der Fehler aufgrund eines Irrtums des Kunden ausgelöst worden ist. Im Rahmen komplexer Systeme wird sich der Auslöser jedoch häufig nicht eindeutig bestimmen lassen, denn dieser kann entweder etwa in fehlerhaften Daten oder Berechnungen begründet sein. Es ist daher von hoher Relevanz, die Plausibilität der Vorgänge im System regelmäßig zu überprüfen. Vertraglich kann ein Mechanismus vorgesehen werden, der es dem Kunden unter erleichterten Voraussetzungen ermöglicht, sich wieder vom Vertrag zu lösen.

Haben Sie Fragen? Kontaktieren Sie gerne: Dr. Torsten Kraul 
Practice Group: IT, Outsourcing & Datenschutz