Welche Vorgaben haben Arbeitgeber zu erfüllen?

Nach der KI-Verordnung (KI-VO) müssen Anbieter und Betreiber von KI-Systemen sicherstellen, dass alle Mitarbeiter, die mit dem Betrieb oder der Nutzung dieser Systeme zu tun haben – sei es eigenes Personal oder externe Kräfte – über ausreichende Kenntnisse in Sachen KI verfügen.

• Anbieter sind Unternehmen, die selbst KI-Systeme entwickeln, in Verkehr bringen oder betreiben – zum Beispiel unter eigenem Namen. 
• Betreiber sind Unternehmen, die fremd entwickelte KI-Systeme für ihre internen Arbeitsprozesse nutzen und dafür selbst verantwortlich sind.

Im Prinzip sind alle Akteure oder Mitarbeitende betroffen. Somit sind neben Anbietern und Betreibern auch Händler oder Importeure von KI-Systemen betroffen.

Diese Pflicht trifft Unternehmen aller Größen – von kleinen Start-ups bis zu großen Konzernen. Jedes Unternehmen muss auf Basis seiner Möglichkeiten und Ressourcen angemessene Maßnahmen ergreifen, um die notwendige KI-Kompetenz sicherzustellen. Die genauen Schritte richten sich nach der Größe des Unternehmens und den technischen Mitteln, die zur Verfügung stehen.

Was wird unter KI-Kompetenz verstanden?

KI-Kompetenz beschreibt die Fähigkeit, KI-Systeme sicher, verantwortungsbewusst und effektiv einzusetzen. Dazu gehören nicht nur technische Kenntnisse, sondern auch das Verständnis für die Chancen und Risiken sowie mögliche Schäden, die mit der Nutzung von KI einhergehen. Außerdem ist es wichtig, sich bewusst zu sein, welche Auswirkungen KI-Systeme haben können – sei es auf die Arbeit, die Gesellschaft oder den Einzelnen.

Die KI-Verordnung erklärt KI-Kompetenz als die Fähigkeit und das Wissen, das Menschen brauchen, um KI-Systeme richtig und sinnvoll zu nutzen. Dazu gehören nicht nur praktische Fähigkeiten, sondern auch rechtliche und ethische Aspekte.

In Kurzform: KI-Kompetenz bedeutet, dass man verstehen muss, wie KI-Systeme funktionieren, was sie leisten können und wo ihre Grenzen liegen. Damit kann man diese Technologie verantwortlich einsetzen und bewusst mit ihren Vorteilen und Gefahren umgehen.

Welche Bereiche sollten die Schulungsthemen umfassen?

Im Vorfeld bietet es sich an, sogenannte Bedarfs- und Kompetenzanalysen durchzuführen, um ggf. die spezifischen Anforderungen zu identifizieren.

Die Schulung sollte technische Aspekte behandeln, wie das Verständnis der Funktionsweise von KI-Systemen, deren Möglichkeiten, Grenzen und Risiken sowie die praktische Anwendung von KI-Tools. Darüber hinaus sollten rechtliche Rahmenbedingungen vermittelt werden, darunter Datenschutz, Datensicherheit und die Einhaltung von Vorschriften wie der DSGVO.

Ein weiterer Schwerpunkt liegt auf den ethischen Implikationen: Mitarbeiter sollten lernen, sich bewusst und verantwortungsbewusst mit KI-Systemen auseinanderzusetzen sowie Diskriminierungen oder Vorurteile in KI-Anwendungen zu erkennen und zu vermeiden. Zudem ist ein Überblick über spezifische Aufgaben und Verantwortlichkeiten sinnvoll – von tiefergehenden technischen Einblicken für Entwickler bis hin zu einem grundlegenden Verständnis für Anwender.

Ein wichtiger Bestandteil ist auch das Risikobewusstsein: Mitarbeiter sollen in der Lage sein, potenzielle Gefahren im Zusammenhang mit KI zu erkennen und Maßnahmen zur Risikominimierung zu ergreifen.

Um die Bedürfnisse aller Beteiligten optimal zu berücksichtigen, bietet sich ein modularer Ansatz für die Schulungen an. So können die Inhalte flexibel an die unterschiedlichen Aufgabenbereiche und Wissensstände angepasst werden – von grundlegenden Einführungen für Anwender bis hin zu fortgeschrittenen Themen für Fachkräfte und Entwickler.

Zusammengefasst hier die relevanten Schulungsbereiche:

• Technisches Verständnis: Kenntnisse über die Funktionsweise und praktische Anwendung von KI-Systemen.
• Rechtliche Grundlagen: Beherrschung der gesetzlichen Vorgaben, insbesondere im Bereich Datenschutz und Datensicherheit.
• Ethik und Verantwortung: Sensibilisierung für ethische Aspekte sowie aktive Verhinderung von Diskriminierungen und Vorurteilen in KI-Anwendungen.
• Risikomanagement: Fähigkeit, potenzielle Gefahren durch KI zu erkennen und gezielte Maßnahmen zur Risikominderung umzusetzen.
• Praxisorientierte Kompetenz: Sicherer und verantwortungsbewusster Umgang mit KI-Systemen im täglichen Einsatz.

Ist der Einsatz eines KI-Beauftragten sinnvoll oder notwendig?

Je nach Unternehmensgröße und Umfang der KI-Nutzung kann der Einsatz eines KI-Beauftragten sinnvoll sein. Dieser führt Risikobewertungen und Risikofolgenabschätzungen durch, treibt die Implementierung, Überwachung und Koordination der KI-Strategien voran und übernimmt die Planung sowie Koordination von Schulungen.

Es kann also notwendig sein, dass neben zum Beispiel Datenschutz-, Informationssicherheits-, Qualitätsmanagement- und Umweltbeauftragten auch noch KI-Beauftragte benötigt werden. KMUs sollten sich hinsichtlich der Kosten mit dem Gedanken befassen, ob es nicht besser ist, statt eines KI-Beauftragten einen Compliancemanager mit KI-Kompetenz (intern oder extern) einzusetzen, der auch gleich die datenschutzrechtlichen und sicherheitstechnischen Themen mit abdecken kann und in einer Person mehrere Rollen übernimmt. Ein Compliancemanager mit KI-Kenntnissen vereint verschiedene Kompetenzen, die den Einsatz von KI-Systemen im Unternehmen effizienter, transparenter und verantwortungsvoller gestalten, was kosteneffizienter ist und gleichzeitig die Qualität gewährleistet.

Folgen bei unzureichender oder unterlassener Umsetzung

Die Verpflichtungen aus dem Artikel 4 der KI-Verordnung stellen eher einen Appell an die Unternehmen dar als eine konkrete Verpflichtung. Verstöße gegen diese Vorschrift sind weder Bußgeld- noch strafbewehrt, sodass keine unmittelbaren Geldstrafen drohen. Dennoch kann ein Schaden, der durch fehlerhafte Bedienung eines KI-Systems oder eine unzureichende Risikobewertung entsteht, als Verstoß gegen die allgemeine Sorgfaltspflicht des Arbeitgebers gewertet werden – insbesondere wenn der Schaden durch angemessene Maßnahmen verhindert worden wäre.

Fazit: Schulungskonzept als rechtliche Absicherung und Wettbewerbsvorteil

Durch Artikel 4 der KI-Verordnung wird die Sicherstellung der KI-Kompetenz zu einer wichtigen Verantwortung für Unternehmen. Obwohl keine direkten Sanktionen vorgesehen sind, sollte die Schulungspflicht ernst genommen werden. Ein umfassendes Schulungskonzept trägt nicht nur zur Erfüllung regulatorischer Anforderungen bei, sondern fördert auch die sichere und verantwortungsvolle Nutzung von KI-Systemen im Betrieb. Zudem bietet die Sicherstellung von KI-Kompetenz langfristig einen doppelten Nutzen: Sie schafft rechtliche Sicherheit und stärkt den Wettbewerbsvorteil, da gut geschulte Mitarbeiter KI-Systeme effizienter und weniger risikobeladen einsetzen können.