KI-Kompetenz ist vonnöten!

ChatGPT, DeepL und Co.: Seit dem 2. Februar 2025 gibt es neue Vorgaben für Unternehmen, die Künstliche Intelligenz (KI) entwickeln, anbieten oder nutzen. 

Die KI-Verordnung der EU gehört zum Bereich der „Produktregulierung“. Er regelt, welche KI-Systeme in der EU erlaubt und welche verboten sind. Die Verordnung stellt einheitliche Regeln für alle 27 Mitgliedstaaten auf - für den Verkauf und die Verwendung von KI-Systemen in der EU. 

Kern ist dabei, eine Klassifizierung von KI-Systemen nach ihrem Risiko für Gesundheit, Sicherheit und Grundrechte in einem vierstufigen Modell. Die Verordnung gilt unmittelbar in Deutschland.  Nun trat die erste Stufe in Kraft. 

Die Arbeitgeber sind gefordert. Was das für dich und dein Gremium heißt, erfährst du hier: 

Um welche Maßnahmen geht es und was muss getan werden? 

1.    Prüfen, welche KI-Tools eingesetzt werden

Die KI-Verordnung betrifft fast alle Unternehmen, die in irgendeiner Form KI einsetzen. Viele Unternehmen benutzen solche Tools, ohne sich der KI-Basis bewusst zu sein, z. B. in der Buchhaltungssoftware, im CRM, in der Personalabteilung, bei Terminplanern oder Chatbots für Kundenanfragen. 

Der Arbeitgeber muss alle KI-gestützten Tools im Unternehmen identifizieren und in einer Liste erfassen. 

Wichtig: Auch cloudbasierte Tools mit automatisierten Funktionen können unter die Verordnung fallen. Häufig genutzt werden zum Beispiel Online-Lösungen zur Textverbesserung, zum Übersetzen, zur Erstellung von Videos oder zum Transkribieren.

Der Betriebsrat sollte diese Liste vom Arbeitgeber unter Berufung auf § 80 Abs. 1 Nr. 1, Abs. 2 BetrVG i.V.m. § 26 BDSG anfordern.

Ferner sollte sich der Betriebsrat im nächsten Schritt die Funktionsweise der KI erklären lassen, wenn diese nicht ohne Weiteres verständlich ist. 

2.    Risikoklasse bestimmen

Je höher das Risiko in der Anwendung, desto höher die Anforderungen bei den Sicherungsmaßnahmen. Das bedeutet, dass derjenige, der eine KI selbst entwickelt oder diese für den Bau kritischer Infrastruktur einsetzt, anderen Anforderungen unterliegt, als ein Marketingmitarbeiter, der eine KI zur Recherche nutzt.

Das EU-Recht unterscheidet verschiedene Stufen vom Hersteller bis zum Betreiber. 

Zudem teilt die Verordnung KI-Systeme in vier Risikostufen ein:

•    Minimales Risiko: KI-gestützte Rechtschreibprogramme oder Musikempfehlungen
•    Begrenztes Risiko: Chatbots oder automatisierte Texterstellung
•    Hohes Risiko: KI in Personalinformationssystemen (z.B. im Recruiting!)
•    Verboten: KI für Social Scoring oder manipulative Technologien

Auch hier sollte der Betriebsrat tätig werden und vom Arbeitgeber die Informationen anfordern.
    
3.    Datenschutz beachten

KI verarbeitet oft personenbezogene Daten (z. B. Daten von Mitarbeitenden). In diesem Fall findet auch die DSGVO Anwendung. Deshalb muss sichergestellt werden, dass die KI-Systeme keine unnötigen personenbezogenen Daten speichern oder weitergeben. 

Handelt es sich um KI in einem Personalinformationssystem, wird regelmäßig von einem Hochrisikosystem (siehe den Punkt vorher) ausgegangen. In diesem Fall muss der Arbeitgeber eine „Datenschutz-Folgeabschätzung“ durchführen. Dabei wird geprüft, welches Risiko mit der Anwendung verbunden sein könnte. 

Auch hier kann (und sollte!) der Betriebsrat verlangen, dass ihm dieses Dokument vorgelegt wird. Es ist für das Gremium eines der wichtigsten Informationsquellen überhaupt! Sind die Risiken bestimmt, ist gleichzeitig klar, was geregelt werden muss.

Der Arbeitgeber muss im Übrigen vor dem Einsatz von KI den Betriebsrat unterrichten (§§ 90, 95 BetrVG). Und zwar weit vor dem Einsatz!

Aber nicht nur das: Auch die Arbeitnehmenden sind über die KI-Systeme zu informieren.

4.    Schulungen anbieten

Laut der KI-Verordnung müssen Mitarbeitende über ein „ausreichendes Maß an KI-Kompetenz“ verfügen. Eine konkrete Regelung, wie dieses Niveau zu erreichen ist und wann es als erfüllt gilt, enthält die Verordnung allerdings nicht. 

Wichtig ist hier, die §§ 96 bis 98 BetrVG zu beachten: 

Der Betriebsrat ist hinsichtlich des Schulungsinhaltes, des Umfanges und auch der Bestimmung des Personenkreises, der an den Schulungen teilnehmen soll, voll in der Mitbestimmung.