News

Artikel 4 KI-VO: Pflichten und Chancen für Unternehmen im Umgang mit KI-Kompetenz

16.01.2025

Mit dem Inkrafttreten von Artikel 4 der KI-Verordnung (KI-VO) am 2. Februar 2025 werden Anbieter und Betreiber von KI-Systemen vor eine zentrale Herausforderung gestellt: die Sicherstellung ausreichender Kompetenz bei allen Personen, die mit dem Betrieb und der Nutzung "ihrer” KI-Systeme befasst sind. Art. 4 KI-VO, der auf den Aufbau von Wissen, Erfahrung und Bewusstsein abzielt, unterstreicht die wachsende Bedeutung eines verantwortungsvollen und informierten Umgangs mit Künstlicher Intelligenz im Unternehmen. Doch wie können Unternehmen dieser Pflicht nachkommen und gleichzeitig die Chancen nutzen, die mit einem kompetenten KI-Einsatz verbunden sind?

Was ist „KI-Kompetenz“?

Art. 4 KI-VO mit der Überschrift „KI-Kompetenz“, der nach Art. 113 lit. a KI-VO bereits am 02.02.2025 in Kraft tritt, lautet:

„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

Artikel 4 KI-VO fordert damit nicht nur die Schulung und Qualifizierung von Mitarbeitern, sondern auch die Berücksichtigung des spezifischen Einsatzkontexts der unternehmensseitig genutzten KI-Systeme sowie der Zielgruppen, für die diese Systeme genutzt werden. Er beschränkt sich nicht auf Hochrisiko-KI-Systeme. Was „KI-Kompetenz“ ist, definiert er allerdings nicht selbst.

Das übernimmt Art. 3 Nr. 56 KI-VO. Danach bezeichnet „KI-Kompetenz“:

„die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“.

Zusammenfassend wird „KI-Kompetenz“ damit als die Fähigkeit definiert, KI-Systeme sachkundig zu nutzen und sowohl deren Potenziale als auch Risiken zu verstehen. Dieser Appell geht über technische Kenntnisse hinaus und umfasst auch die sozialen, ethischen und rechtlichen Implikationen der KI-Nutzung.

Welche Maßnahmen sind sinnvoll?

Unternehmen stehen somit ab dem 02.02.2025 in der Pflicht, interne Strukturen und Maßnahmen zu schaffen, die eine ausreichende Kompetenzentwicklung ermöglichen. Dazu wird man vor allem folgende Maßnahmen zählen müssen:

  • Erarbeitung interner Richtlinien und Standards: Diese sollten Best Practices, ethische Grundsätze und Compliance-Anforderungen klar definieren und allen Beteiligten Orientierung bieten.
  • Regelmäßige Fortbildungen und Schulungen: Um ein Grundverständnis zu schaffen, aktuelle Entwicklungen und ethische Herausforderungen zu adressieren, sind kontinuierliche Qualifizierungsmaßnahmen notwendig. Insoweit sollten technische Inhalte ebenso vermittelt werden wie ethische Fragestellungen, die ein kritisches Denken der Mitarbeiter fördern. Dabei gilt es, bestehende Erfahrungen und Wissensstände der Mitarbeiter einzubeziehen, um individuelle Lernbedarfe gezielt adressieren zu können. Hierbei sind u.a. Mitbestimmungsrechte des Betriebsrats nach §§ 96 ff. BetrVG zu beachten.
  • Praxisorientiertes Lernen in interdisziplinären Teams: Der Austausch zwischen Disziplinen wie Informatik, Ethik und Recht kann ein breiteres Verständnis für die Chancen und Risiken von KI-Systemen fördern.
  • Die Maßnahmen zum Kompetenzaufbau sollten ferner als Teil der übergeordneten KI-Compliance betrachtet werden, die abhängig von den bestehenden Compliance-Strukturen, dem Risikoprofil des Unternehmens sowie der KI-Einsatzbereiche unterschiedlich auszugestalten ist (Überblick Aufbau KI Compliance). Da datenschutzrechtliche Erwägungen eine bedeutende Rolle beim KI-Einsatz spielen, sollten insoweit Verknüpfungen sowohl im Rahmen der Compliance-Struktur als auch bei Schulungen hergestellt werden. Auf diese Weise kann nicht nur die Einhaltung gesetzlicher Vorgaben sichergestellt werden, sondern auch (unter Wahrung einschlägiger Mitbestimmungsrechte) die Koordination interner Bildungsinitiativen und die Förderung einer konsistenten KI-Strategie.

Die Gestaltung der Maßnahmen sollte stets den spezifischen Einsatzkontext der KI-Systeme sowie die Anforderungen und Vorkenntnisse der Mitarbeiter berücksichtigen.

Begonnen werden sollte ab dem 02.02.2025 jedenfalls mit Grundlagenschulungen zur Vermittlung von KI-Kompetenz, um Risiken zu vermeiden und Chancen zu nutzen.

Risiken bei Nichteinhaltung von Artikel 4 KI-VO

Obwohl Art. 4 KI-VO durch seine weiche Formulierung zunächst einen appellativen Charakter besitzt, bleibt er keineswegs rechtlich bedeutungslos.

  • In Haftungsprozessen kann das Nichtergreifen gebotener Maßnahmen als Verletzung einer Sorgfaltspflicht gewertet werden. Insbesondere in Fällen von Fehlfunktionen oder Schäden durch KI-Systeme könnten Gerichte prüfen, ob das Unternehmen angemessene Schulungs- und Qualifizierungsmaßnahmen umgesetzt hat.
  • Arbeitsrechtlich muss über Ansprüche, aber auch Obliegenheiten der vom KI-Einsatz betroffenen Mitarbeiter zur Verschaffung von KI-Kompetenz nachgedacht werden. Auch auf die Beendigung des Arbeitsverhältnisses wegen mangelnder KI-Kompetenz, insbesondere auf dadurch bedingte Kündigungen, hat die Vorschrift Einfluss. Der Betriebsrat wird u.a. bei Schulungen, die die Verpflichtungen nach Art. 4 KI-VO umsetzen, nach §§ 96 ff. BetrVG zu beteiligen sein.

Chancen für Unternehmen

Unternehmen, die frühzeitig auf Kompetenzentwicklung setzen, können nicht nur gesetzliche Risiken minimieren, sondern auch erhebliche Wettbewerbsvorteile erzielen. Ein verantwortungsvoller Umgang mit KI-Systemen stärkt das Vertrauen von Kunden, Partnern und Investoren. Gleichzeitig eröffnen sich neue Möglichkeiten zur Entwicklung innovativer Produkte und Dienstleistungen, die ethischen und sozialen Standards entsprechen.

Fazit: Der Weg zur KI-Kompetenz als Schlüssel zum Erfolg

Art. 4 KI-VO stellt Unternehmen vor die Aufgabe, die Kompetenzen ihrer Mitarbeiter systematisch zu fördern. Dies erfordert nicht nur technische Maßnahmen, sondern auch einen Wandel in der Unternehmenskultur hin zu einer verantwortungsvollen und informierten Nutzung von KI. Wer diese Herausforderung proaktiv annimmt, positioniert sich als Vorreiter in einer zunehmend digitalisierten und regulierten Wirtschaft – und legt die Grundlage für nachhaltigen Erfolg.

Die arbeits- und mitbestimmungsrechtlichen Aspekte, die dabei zu beachten sind, skizzieren wir in den folgenden Wochen sukzessive. Unser nächster Beitrag hierzu wird die Grundlagen und Grenzen eines entsprechenden Fortbildungsanspruchs beleuchten.