KI-Verordnung 2025: Was Arbeitgeber über die Schulungspflichten wissen müssen

Das Wichtigste in Kürze:

• Die Pflicht zur Förderung von KI-Kompetenz gilt bereits seit dem 2. Februar 2025. Betroffen sind Unternehmen, die KI-Systeme anbieten oder im betrieblichen Zusammenhang einsetzen.
• Nicht jeder Beschäftigte benötigt dieselbe Schulung. Inhalt und Umfang müssen sich an den verwendeten Systemen, den Aufgaben der jeweiligen Personen, deren Vorkenntnissen und den konkreten Risiken orientieren.
• Eine formelle Schulung ist nicht in jedem Fall zwingend vorgeschrieben. Auch Richtlinien, Einweisungen, Workshops oder andere geeignete Maßnahmen können ausreichen. Das bloße Bereitstellen einer Bedienungsanleitung dürfte dagegen häufig zu wenig sein.
• Auch der alltägliche Einsatz generativer KI ist erfasst. Nutzen Beschäftigte etwa ChatGPT für Werbetexte oder Übersetzungen, müssen sie insbesondere für Fehler, sogenannte Halluzinationen und einen verantwortungsvollen Umgang mit Ergebnissen sensibilisiert werden.
• Unternehmen sollten ihre Maßnahmen dokumentieren. Ein offizielles Zertifikat oder ein gesetzlich vorgeschriebener KI-Beauftragter ist nicht erforderlich. Interne Nachweise zu Einweisungen, Schulungen und Richtlinien sind jedoch sinnvoll.

KI-Kompetenz im Unternehmen: Was seit Februar 2025 tatsächlich gilt

Künstliche Intelligenz ist in vielen Unternehmen längst Teil des Arbeitsalltags. Beschäftigte formulieren Texte mit ChatGPT, übersetzen Dokumente, werten Daten aus oder nutzen KI-Funktionen, die bereits in Office-, Recruiting- oder Personalsoftware integriert sind.

Mit dem EU AI Act kommen deshalb neue Anforderungen auf Unternehmen zu. Dabei wird häufig behauptet, seit Februar 2025 müsse jeder Beschäftigte eine formelle KI-Schulung absolvieren. So pauschal ist das nicht richtig.

Der AI Act ist am 1. August 2024 in Kraft getreten. Die Verpflichtung aus Art. 4 AI Act gilt seit dem 2. Februar 2025. Danach müssen Anbieter und Betreiber von KI-Systemen nach besten Kräften dafür sorgen, dass Beschäftigte und andere Personen, die in ihrem Auftrag mit den Systemen arbeiten, über ein ausreichendes Maß an KI-Kompetenz verfügen.

Welche Maßnahmen dafür erforderlich sind, hängt vom konkreten Einsatz ab. Wer ChatGPT gelegentlich für Textentwürfe nutzt, benötigt andere Kenntnisse als eine Personalabteilung, die Bewerber mithilfe eines KI-Systems bewertet oder Beschäftigtendaten automatisiert auswertet.

Was verlangt Art. 4 AI Act von Arbeitgebern?

Art. 4 AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zur Sicherstellung ausreichender KI-Kompetenz zu ergreifen. Unternehmen, die fremde KI-Systeme im eigenen Betrieb einsetzen, gelten dabei regelmäßig als Betreiber beziehungsweise „Deployer“.

KI-Kompetenz bedeutet nach dem AI Act, über die Fähigkeiten, Kenntnisse und das Verständnis zu verfügen, die für einen informierten Einsatz von KI-Systemen erforderlich sind. Dazu gehört auch ein Bewusstsein für die Chancen, Risiken und möglichen Schäden, die durch den Einsatz entstehen können.

Unternehmen sollten ihren Beschäftigten deshalb nicht lediglich erklären, welche Schaltfläche sie anklicken müssen. Je nach Einsatzgebiet müssen die betroffenen Personen auch verstehen,

• wofür das KI-System eingesetzt werden darf,
• welche Fehler und Verzerrungen auftreten können,
• wie Ergebnisse überprüft werden müssen,
• welche Daten nicht eingegeben werden dürfen,
• wann eine menschliche Entscheidung erforderlich bleibt und
• an wen sich Beschäftigte bei Problemen wenden können.

Es geht nicht darum, jeden Mitarbeiter zum KI-Experten auszubilden. Ziel ist vielmehr ein Kompetenzniveau, das zum tatsächlichen Aufgabenbereich und zum Risiko des jeweiligen Einsatzes passt.

Welche Unternehmen sind von der KI-Kompetenzpflicht betroffen?

Die Verpflichtung betrifft nicht nur Technologieunternehmen, die eigene KI-Systeme entwickeln. Erfasst werden grundsätzlich auch Unternehmen, die KI-Systeme im Arbeitsalltag nutzen.

Dazu können beispielsweise gehören:

• generative KI-Systeme wie Chatbots und Textgeneratoren,
• Übersetzungs- und Zusammenfassungstools,
• KI-Funktionen in Office-Anwendungen,
• Recruiting- und Bewerbermanagementsysteme,
• Software zur Personalplanung,
• Systeme zur Leistungs- oder Verhaltensanalyse,
• KI-gestützte Kundenkommunikation und
• automatisierte Datenanalysen.

Auch Unternehmen, deren Beschäftigte ChatGPT für Werbetexte, Übersetzungen oder andere betriebliche Aufgaben einsetzen, müssen nach den Hinweisen des Europäischen AI Office geeignete Maßnahmen zur KI-Kompetenz treffen.

Entscheidend ist allerdings, dass die KI betrieblich beziehungsweise im Auftrag des Unternehmens verwendet wird. Der rein private Einsatz eines Tools durch einen Beschäftigten fällt nicht ohne Weiteres in den organisatorischen Verantwortungsbereich des Arbeitgebers.

Müssen alle Mitarbeiter eine KI-Schulung erhalten?

Nein. Art. 4 AI Act verlangt keine identische Pflichtschulung für die gesamte Belegschaft.

Einbezogen werden müssen insbesondere Personen, die unmittelbar mit der Bedienung oder Nutzung eines KI-Systems befasst sind. Dazu können neben Arbeitnehmern auch freie Mitarbeiter, Dienstleister oder andere Personen gehören, die im Auftrag des Unternehmens mit der KI arbeiten.

Welche Kenntnisse benötigt werden, richtet sich nach

• dem technischen Vorwissen,
• der beruflichen Erfahrung,
• der Ausbildung und bisherigen Schulung,
• dem eingesetzten KI-System,
• dem betrieblichen Einsatzgebiet,
• den möglichen Auswirkungen auf andere Personen und
• der Risikoeinstufung des Systems.

Eine Personalreferentin, die ein KI-System zur Vorauswahl von Bewerbern nutzt, benötigt daher deutlich weitergehende Kenntnisse als ein Mitarbeiter, der gelegentlich einen internen Text sprachlich überarbeiten lässt.

Unternehmen sollten ihre Maßnahmen deshalb rollenbezogen gestalten, anstatt allen Beschäftigten dieselbe allgemeine Präsentation vorzulegen.

Ist eine formelle KI-Schulung zwingend vorgeschrieben?

Der AI Act schreibt kein bestimmtes Schulungsformat vor. Weder Dauer noch Turnus oder Lernmethode sind gesetzlich festgelegt.

Nach den Erläuterungen des Europäischen AI Office kann je nach Unternehmen und Einsatzbereich zwischen unterschiedlichen Maßnahmen gewählt werden. Möglich sind beispielsweise:

• Präsenzschulungen,
• Online-Schulungen,
• kurze Einweisungen,
• praxisbezogene Workshops,
• schriftliche KI-Richtlinien,
• Leitfäden für bestimmte Systeme,
• verpflichtende Freigabeprozesse oder
• regelmäßige Informationen zu neuen Risiken.

Eine formelle Schulung ist daher nicht in jedem denkbaren Fall zwingend. Das AI Office weist allerdings darauf hin, dass es häufig nicht ausreichen wird, den Beschäftigten lediglich die Bedienungsanleitung des Systems zur Verfügung zu stellen. Die Maßnahmen müssen tatsächlich geeignet sein, ein ausreichendes Verständnis für den konkreten Einsatz zu schaffen.

Welche Inhalte sollte eine KI-Schulung abdecken?

Das Europäische AI Office nennt keine verbindliche Standardagenda. Unternehmen sollten jedoch zumindest sicherstellen, dass die betroffenen Beschäftigten verstehen,

1. was unter einem KI-System zu verstehen ist,
2. welche KI-Systeme im Unternehmen verwendet werden,
3. für welche Zwecke diese Systeme zugelassen sind,
4. welche Chancen und Risiken bestehen,
5. wie Ergebnisse kontrolliert und eingeordnet werden,
6. welche rechtlichen und ethischen Grenzen gelten und
7. welche Maßnahmen bei Fehlern oder Auffälligkeiten zu ergreifen sind.

Bei generativer KI sollten insbesondere folgende Themen berücksichtigt werden:

• unzutreffende oder erfundene Ergebnisse,
• fehlende Aktualität von Informationen,
• mögliche Verzerrungen und Diskriminierungen,
• Umgang mit personenbezogenen Daten,
• Eingabe vertraulicher Unternehmensinformationen,
• Urheber- und Nutzungsrechte,
• notwendige menschliche Kontrolle und
• Kennzeichnung beziehungsweise Transparenz bei bestimmten Inhalten.

Die Schulungsinhalte sollten sich an realen Anwendungsfällen aus dem Unternehmen orientieren. Allgemeine Erläuterungen zur Geschichte künstlicher Intelligenz helfen wenig, wenn Beschäftigte anschließend nicht wissen, ob sie Mandanten-, Kunden- oder Personaldaten in ein konkretes Tool eingeben dürfen.

Müssen Unternehmen eine KI-Richtlinie einführen?

Eine interne KI-Richtlinie ist in Art. 4 AI Act nicht ausdrücklich vorgeschrieben. Sie kann jedoch ein wesentlicher Bestandteil eines nachvollziehbaren Kompetenz- und Governance-Konzepts sein.

Eine geeignete Richtlinie kann insbesondere festlegen,

• welche KI-Systeme verwendet werden dürfen,
• welche Anwendungen freigegeben sind,
• welche Daten eingegeben werden dürfen,
• wann Ergebnisse überprüft werden müssen,
• welche Entscheidungen nicht allein durch KI getroffen werden dürfen,
• wer für Freigaben und Kontrollen zuständig ist und
• wie Fehler oder Sicherheitsvorfälle gemeldet werden.

Die Richtlinie sollte zur tatsächlichen Praxis passen. Eine allgemeine Anweisung wie „KI darf nur verantwortungsvoll genutzt werden“ ist kaum geeignet, Beschäftigten konkrete Orientierung zu geben.

Müssen KI-Schulungen dokumentiert werden?

Der AI Act schreibt kein bestimmtes Zertifikat und keinen formellen Schulungsnachweis vor. Das Europäische AI Office empfiehlt jedoch interne Aufzeichnungen über Schulungen und andere Maßnahmen zur Förderung der KI-Kompetenz.

Sinnvoll dokumentiert werden sollten insbesondere:

• verwendete KI-Systeme,
• betroffene Beschäftigtengruppen,
• Schulungs- oder Einweisungsinhalte,
• Datum und Format der Maßnahme,
• teilnehmende Personen,
• ausgegebene Richtlinien oder Leitfäden und
• spätere Aktualisierungen.

Diese Dokumentation hilft dem Unternehmen, gegenüber einer Aufsichtsbehörde nachvollziehbar darzustellen, welche Maßnahmen ergriffen wurden. Sie kann außerdem relevant werden, wenn durch einen fehlerhaften KI-Einsatz ein Schaden entsteht und die Organisation der betrieblichen Abläufe überprüft wird.

Ist ein KI-Beauftragter vorgeschrieben?

Nein. Anders als im Datenschutzrecht sieht Art. 4 AI Act keinen verpflichtenden KI-Beauftragten vor.

Unternehmen müssen auch kein besonderes KI-Gremium oder eine KI-Arbeitsgruppe einrichten. Das Europäische AI Office stellt ausdrücklich klar, dass für die Erfüllung der Kompetenzpflicht keine bestimmte Governance-Struktur vorgeschrieben ist.

Trotzdem sollten klare Zuständigkeiten bestehen. Je nach Unternehmensgröße können die Aufgaben beispielsweise bei IT, Datenschutz, Compliance, Legal, HR oder einer interdisziplinären Arbeitsgruppe angesiedelt werden.

Entscheidend ist nicht die Bezeichnung der zuständigen Person, sondern dass der Einsatz von KI erfasst, bewertet und organisatorisch begleitet wird.

Welche besonderen Risiken bestehen beim Einsatz von KI im HR?

KI-Systeme können im Personalbereich erhebliche Auswirkungen auf Bewerber und Beschäftigte haben. Das gilt insbesondere für Systeme, die

• Bewerbungen filtern oder bewerten,
• Kandidaten in Ranglisten einordnen,
• Entscheidungen über Einstellungen unterstützen,
• Beförderungen oder Kündigungen beeinflussen,
• Aufgaben anhand persönlicher Merkmale verteilen oder
• Verhalten und Leistung von Beschäftigten überwachen oder bewerten.

Solche Systeme werden im AI Act grundsätzlich dem Hochrisikobereich Beschäftigung und Personalmanagement zugeordnet. Beschäftigte, die mit ihnen arbeiten oder ihre Ergebnisse kontrollieren, benötigen deshalb besonders fundierte Kenntnisse.

Nach der politischen Einigung von Europäischem Parlament und Rat vom 7. Mai 2026 sollen die besonderen Regeln für Hochrisiko-KI in Bereichen wie Beschäftigung und Personalmanagement ab dem 2. Dezember 2027 gelten. Die bereits seit Februar 2025 geltende Verpflichtung zur Förderung von KI-Kompetenz wird dadurch jedoch nicht aufgeschoben.

Arbeitgeber sollten daher nicht bis Ende 2027 warten. Wer bereits heute KI im Recruiting oder Personalmanagement einsetzt, sollte Systeme, Anbieter, Zwecke und Entscheidungsprozesse jetzt erfassen.

Was droht bei fehlender KI-Kompetenz?

Die bisherige Aussage, Verstöße gegen Art. 4 AI Act könnten nicht sanktioniert werden, ist zu pauschal.

Die Pflicht zur Förderung ausreichender KI-Kompetenz gilt bereits seit dem 2. Februar 2025. Die nationalen Marktüberwachungsbehörden sollen die Vorschrift ab August 2026 überwachen und durchsetzen können. Nach den Erläuterungen des AI Office können auf Grundlage nationaler Regelungen auch Sanktionen und andere Aufsichtsmaßnahmen in Betracht kommen. Art und Höhe müssen sich am konkreten Einzelfall und an der Schwere des Verstoßes orientieren.

Besonders problematisch kann es werden, wenn ein Vorfall gerade darauf zurückzuführen ist, dass Beschäftigte nicht ausreichend eingewiesen oder angeleitet wurden.

Daneben können unabhängig vom AI Act weitere Risiken entstehen, etwa durch

• Datenschutzverstöße,
• Diskriminierung im Bewerbungsprozess,
• Offenlegung von Geschäftsgeheimnissen,
• fehlerhafte Personalentscheidungen,
• Verletzungen von Urheberrechten oder
• Haftungsfälle gegenüber Kunden und Geschäftspartnern.

KI-Kompetenz ist deshalb nicht lediglich eine formale Compliance-Aufgabe. Sie ist Teil einer ordnungsgemäßen Organisation des betrieblichen KI-Einsatzes.

Wie sollten Arbeitgeber jetzt vorgehen?

Arbeitgeber benötigen kein überdimensioniertes KI-Projekt. Ein strukturierter Ablauf genügt regelmäßig:

1. Verwendete KI-Systeme erfassen

Zunächst sollte geklärt werden, welche KI-Tools offiziell oder tatsächlich im Unternehmen eingesetzt werden. Dabei sind auch bereits integrierte Funktionen in vorhandener Software zu berücksichtigen.

2. Einsatzbereiche und Risiken bewerten

Für jedes System sollte dokumentiert werden, wer es nutzt, für welchen Zweck es eingesetzt wird, welche Daten verarbeitet werden und welche Auswirkungen fehlerhafte Ergebnisse haben könnten.

3. Betroffene Beschäftigte bestimmen

Nicht jeder Mitarbeiter benötigt dieselben Kenntnisse. Die Zielgruppen sollten nach Aufgabe, Zugriff und Verantwortung unterschieden werden.

4. Schulungen und Richtlinien entwickeln

Die Maßnahmen müssen sich am konkreten Einsatz orientieren. Beschäftigte sollten nicht nur allgemeine Informationen erhalten, sondern klare Vorgaben für ihre tägliche Arbeit.

5. Menschliche Kontrolle festlegen

Es sollte geregelt werden, wer KI-Ergebnisse überprüft und welche Entscheidungen nicht automatisiert beziehungsweise nicht ohne menschliche Bewertung getroffen werden dürfen.

6. Maßnahmen dokumentieren und aktualisieren

KI-Systeme und ihre Funktionen verändern sich schnell. Schulungen und Richtlinien sollten deshalb überprüft werden, wenn neue Tools eingeführt, Einsatzbereiche erweitert oder rechtliche Vorgaben geändert werden.