Einfluss Künstlicher Intelligenz auf die Unternehmensführung

24.01.2019

Kaum ein Themenfeld beschäftigt Praxis wie Rechtswissenschaft derzeit so sehr wie die Digitale Revolution. Begriffe wie „Künstliche Intelligenz (KI)“, „Big Data“ oder „Internet of Things (IoT)“ sind in aller Munde. Dabei bringt der Prozess der Digitalisierung auch Herausforderungen für Unternehmen mit sich. Dieser Beitrag widmet sich im Folgenden mit dem Einfluss von KI auf die Unternehmensführung einem hinsichtlich Governance und Compliance besonders interessanten Aspekt dieser Entwicklung.

Zunehmende Bedeutung der Digitalisierung für Unternehmen

Bereits 2014 berief Deep Knowledge Ventures, eine Venture-Capital-Gesellschaft aus Hongkong, einen Algorithmus namens Vital (Abkürzung für „Validating Investment Tool for Advancing Life Sciences“ ) in ihren Vorstand. Obwohl dieser eine rein beobachtende Funktion erfüllt, war er der Beginn des Einzugs von Algorithmen in die Unternehmensleitung. Nach aktuellem Stand der Technik scheint nicht ausgeschlossen, dass diese Leitungsentscheidungen treffen und die Geschäftsleitung übernehmen könnten. Ob Algorithmen dies auch sollen oder dürfen, wollen wir hier kurz beleuchten.

Einsatz von KI in der Unternehmensführung

Die Einbindung von KI in die Unternehmensführung stellt das Gesellschaftsrecht vor neue Herausforderungen. Diese resultieren in erster Linie daraus, dass das dort vorzufindende Regelungsregime zu unternehmerischen Leitungsentscheidungen bisher ausschließlich auf menschliche Entscheidungsträger und deren Verantwortlichkeit zugeschnitten ist. Die zentrale Frage ist also, ob und wie Erscheinungen von KI in dieses System integriert werden können. Dabei ist im Folgenden zwischen dem Einsatz (rein) informationsbeschaffender KI, der bereits heute denkbar ist und zunehmend praktiziert wird, und dem Einsatz entscheidender/geschäftsleitender KI, der noch eher visionärer Natur ist, zu unterscheiden.

Informationsbeschaffende KI

Unter informationsbeschaffender KI versteht man den Einsatz teilautomatisierter Systeme zur Beschaffung und Auswertung von Informationen sowie zur Erlangung von Erkenntnissen und Entscheidungsempfehlungen. Bei ihrem Einsatz in der Unternehmensführung ergeben sich nach deutschem Recht u.a. folgende Fragestellungen:

    • Zunächst fragt sich, inwieweit der Vorstand einer AG nach § 93 Abs. 1 S. 2 AktG bereits heute zum Einsatz solcher Systeme verpflichtet ist. Diese Problematik stellt sich gleichermaßen für den Geschäftsführer einer GmbH sowie den Aufsichtsrat, auf die § 93 Abs. 1 S. 2 AktG anerkanntermaßen entsprechende Anwendung findet. Nach der in § 93 Abs. 1 S. 2 AktG enthaltenen Business Judgement Rule hat der Vorstand auf der Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln. In Zeiten von Big Data werden dabei die Anforderungen an eine ausreichende Tatsachengrundlage umso höher, je umfangreicher die zur Verfügung stehenden Daten sind. Zwar wird derzeit eine grundsätzliche Pflicht zur Bereithaltung einer informationsbeschaffenden KI im Schrifttum noch überwiegend abgelehnt. In diesem Punkt gilt es aber, die rechtliche und vor allem auch technische Entwicklung aufmerksam zu verfolgen. Ist eine Entscheidung nur unter Einsatz einer informationsbeschaffenden KI sorgfältig vorbereitbar, spricht viel sogar für eine Pflicht zur Einbeziehung von KI.
       
    • Bei der Verwendung informationsbeschaffender KI trifft die Geschäftsleitung – ähnlich einer Delegation der Informationsbeschaffung auf Mitarbeiter – eine Überwachungspflicht. Sie muss die Arbeitsweise des Systems evaluieren und überwachen. Hierzu muss sie die Wirkungsweise der KI zumindest im Ansatz beherrschen. Diese darf für die Geschäftsleitung keine „Blackbox“ darstellen. Zudem müssen die Informationen der KI einer Plausibilitätskontrolle unterzogen werden, wofür in der Literatur die „ISION“- Grundsätze des BGH zum Rat von Fachkundigen (BGH NZG 2007, 545) entsprechend herangezogen werden.
       
    • Jede Geschäftsleitung muss bei der Beurteilung und Einbeziehung von KI im Entscheidungsfindungsprozess berücksichtigen, dass die von der KI ermittelten Informationen, so sie in die Entscheidung eingeflossen sind, insofern ihr im Rechtsverkehr zugerechnet werden. Der Informationsvorteil durch den Einsatz einer KI kann daher für die Gesellschaft auch Nachteile beinhalten. Nach der in der Rechtsprechung des BGH (BGHZ 132, 30) etablierten Wissensorganisationspflicht muss sich eine Gesellschaft das Wissen zurechnen lassen, das typischerweise aktenmäßig festgehalten und in der konkreten Situation in zumutbarer Weise abgerufen werden kann. Bei dem Einsatz von KI dürfte diese Zumutbarkeitsschwelle allerdings aufgrund der verfügbaren Datenmengen asymptotisch gegen Null tendieren.

Entscheidende/Geschäftsleitende KI

Entscheidende KI bezeichnet den Einsatz vollautomatisierter oder gar autonomer Systeme, die selbständig Entscheidungen treffen. Soweit dies die Erledigung „einfacher“ Geschäftsführungsaufgaben betrifft, bestehen gegenüber einem Einsatz keine Bedenken. Zu beachten sind die bereits angesprochenen Überwachungspflichten. Bei der Delegation von Leitungsaufgaben ist zwischen vollautomatisierten und autonomen Systemen zu differenzieren. Stets muss die Letztentscheidung bei der Geschäftsleitung verbleiben. Diese ist ungeachtet des Einsatzes von KI uneingeschränkt verantwortlich. In diesem Rahmen ist der Einsatz vollautomatisierter Systeme, deren Kriterien und Grenzen durch die Geschäftsleitung festgelegt werden, schon heute möglich. Ein Einsatz autonomer, sich verselbständigender Systeme scheidet dagegen aus. Fehler oder ein etwaiges Verschulden der KI ist der Geschäftsleitung mangels Rechtspersönlichkeit nicht zuzurechnen. Allerdings handelt es sich um ein eigenes Verschulden der Geschäftsleitung, das etwa im Einsatz solcher Systeme überhaupt oder in deren mangelnder Beherrschung oder Überwachung gesehen werden kann. Derartigen Haftungsrisiken kann durch einen sorgfältigen Umgang mit  entscheidender KI vorgebeugt werden. In der Literatur wird hierfür eine Heranziehung der Vorgaben des § 80 Abs. 2 WpHG erwogen, der sich zwar auf die Verwendung von Algorithmen im Wertpapierhandel bezieht, mangels anderweitiger Regelungen für den Einsatz von KI aber als allgemeiner Rechtsgedanke zugrunde gelegt werden könnte.

Ein Einsatz geschäftsleitender KI, d.h. als Organ einer AG oder GmbH, scheidet de lege lata mangels Rechtspersönlichkeit aus. Ihm steht der eindeutige Wortlaut der §§ 76 Abs. 3 S. 1, 100 Abs. 1 S. 1 AktG bzw. des § 6 Abs. 2 S. 1 GmbHG entgegen, die allesamt eine natürliche Person voraussetzen.

Fazit

Obgleich der Einsatz von KI in der Unternehmensleitung technisch bereits in vielfacher Weise möglich ist, verbleibt es bei der Verantwortlichkeit des Vorstands bzw. der Geschäftsführung. Wenn zur Minimierung von Haftungsrisiken auf derartige Systeme zurückgegriffen wird oder zukünftig gar zunehmend zurückgegriffen werden muss, dürfen die angesprochenen Überwachungspflichten nicht aus den Augen verloren werden. Sonst droht die Einführung technischen Fortschritts zum haftungsrechtlichen „Eigentor“ zu werden.

Haben Sie Fragen? Kontaktieren Sie gern: Dr. Georg Christoph Schneider Dr. So-Ang Park oder Dr. Gerald Reger
Practice Group: Private Equity