Was gilt für den Einsatz von Künstlicher Intelligenz (KI) am Arbeitsplatz?
Künstliche Intelligenz (KI) verändert die Arbeitswelt – von Bewerbungen bis zur Aufgabenverteilung. Doch mit dem Einsatz von KI kommen auch neue Regeln. Die EU hat mit dem EU AI Act (2024) klare Vorgaben geschaffen, um den Schutz der Mitarbeitenden sicherzustellen.
Hier findest du einfach erklärt, was Unternehmen beachten müssen, bevor sie KI am Arbeitsplatz einsetzen.
Laut EU-Gesetz: Verordnung (EU) 2024/1689 – „EU AI Act“
Damit KI am Arbeitsplatz eingesetzt werden darf, müssen bestimmte Regeln eingehalten werden. Hier die wichtigsten Punkte:
1. Mitarbeitende müssen Bescheid wissen
Wenn KI eingesetzt wird – zum Beispiel bei Bewerbungen, bei der Bewertung von Leistung oder bei Entscheidungen über Beförderung oder Kündigung – müssen die Mitarbeitenden vorher informiert werden.
Auch wenn deutsches Recht das nicht ausdrücklich verlangt, ist es laut EU-Gesetz trotzdem Pflicht.
2. Nur geschultes Personal darf mit KI arbeiten
Wer mit KI-Systemen arbeitet, muss:
- eine passende Schulung bekommen
- wissen, wie das System funktioniert
- es sicher bedienen und im Blick behalten können
Ziel: Die KI soll sinnvoll und sicher genutzt werden – und Menschen müssen eingreifen können, wenn etwas schiefläuft.
3. Risiken für Grundrechte prüfen
Einige Unternehmen müssen vor dem Einsatz der KI prüfen, ob die Rechte der Mitarbeitenden beeinträchtigt werden könnten. Das betrifft zum Beispiel:
- Behörden
- Banken & Versicherungen
- Unternehmen im Bildungs- oder Gesundheitsbereich
Dabei geht es um Fragen wie:
- Welche Risiken gibt es für Mitarbeitende?
- Wer ist davon betroffen?
- Was passiert, wenn Risiken eintreten?
Diese Prüfung muss vor dem Start der KI gemacht werden.
4. Menschen müssen eingreifen können
KI darf nicht komplett alleine entscheiden. Es muss möglich sein:
- dass Menschen Entscheidungen überprüfen
- bei Problemen manuell einzugreifen
Bei sensiblen Systemen – wie Gesichtserkennung – braucht es sogar zwei Personen zur Kontrolle.
5. Manche KI-Anwendungen sind am Arbeitsplatz verboten
Folgende KI-Systeme dürfen nicht verwendet werden: Erkennung von Emotionen
Bewertung von Menschen (z. B. nach Verhalten oder sozialen Merkmalen)
Einteilung nach sensiblen Daten wie Religion oder politischer Meinung
Ziel: Mitarbeitende sollen vor Überwachung und Diskriminierung geschützt werden.
Der Einsatz von KI im Job muss verantwortungsvoll und transparent erfolgen – das ist keine Option, sondern gesetzlich vorgeschrieben. Mitarbeitende haben ein Recht auf Information, Kontrolle und Schutz. Unternehmen sind in der Pflicht, diese Vorgaben einzuhalten – nicht nur um Bußgelder zu vermeiden, sondern vor allem, um Vertrauen zu schaffen.
Wer KI richtig einsetzen will, braucht nicht nur Technik, sondern auch klare Prozesse, geschultes Personal und eine faire Haltung.
Umsetzungstipps
Laut EU AI Act 2024/1689
1. Technische und organisatorische Maßnahmen
Was verlangt das Gesetz?
Hochrisiko-KI-Systeme müssen sicher, nachvollziehbar und kontrollierbar betrieben werden.
Was Unternehmen jetzt tun sollten:
- Klare interne Prozesse für den Einsatz und die Wartung von KI-Systemen definieren
- Verantwortlichkeiten festlegen: Wer überwacht das System, wer greift im Ernstfall ein?
- Regelmäßig Leistung und Ergebnisse der KI dokumentieren und prüfen
- Notfallpläne für Fehlverhalten oder Systemausfälle erarbeiten
2. Schulung & Kompetenz
Was verlangt das Gesetz?
Mitarbeitende, die mit KI-Systemen arbeiten, müssen geschult, kompetent und befugt sein.
Was Unternehmen jetzt tun sollten:
- Ein Schulungskonzept entwickeln für alle, die mit KI-Systemen zu tun haben
- Schulungen dokumentieren (Teilnahme, Inhalte, Lernerfolg)
- In kritischen Bereichen: Zertifizierungen oder Nachweise einfordern
- Eine Wissensdatenbank oder Supportstelle intern einrichten
3. Informationspflicht gegenüber Beschäftigten
Was verlangt das Gesetz?
Mitarbeitende müssen wissen, wo und wie KI sie betrifft – z. B. bei Bewerbungen, Bewertungen, Aufgabenvergabe oder Kündigungen.
Was Unternehmen jetzt tun sollten:
- Ein Informationsblatt oder internes Q&A zu KI-Systemen erstellen
- Frühzeitig und nachvollziehbar kommunizieren, wenn KI bei Personalentscheidungen zum Einsatz kommt
- Kommunikation dokumentieren (z. B. in der Personalakte)
- Transparenz als Teil der Unternehmenskultur etablieren
4. Pflicht zur menschlichen Kontrolle
Was verlangt das Gesetz?
KI-Systeme müssen von Menschen kontrolliert und bei Bedarf gestoppt oder korrigiert werden können.
Was Unternehmen jetzt tun sollten:
- Manuelle Eingriffsrechte technisch sicherstellen
- In sensiblen Anwendungsfällen: Vier-Augen-Prinzip einführen
- Entscheidungsprozesse nachvollziehbar gestalten – wer entscheidet was, wann, wie?
- Regelmäßige Audit-Protokolle anfertigen und archivieren
5. Verbotene KI-Anwendungen
Was ist nicht erlaubt?
Der EU AI Act verbietet bestimmte Systeme grundsätzlich – unabhängig von ihrem Nutzen.
Verboten sind insbesondere:
- Emotionserkennung zur Überwachung von Mitarbeitenden
- Systeme zur sozialen Bewertung („Scoring“) im Arbeitskontext
- Biometrische Kategorisierung nach sensiblen Merkmalen (z. B. Religion, politische Meinung)
Was Unternehmen jetzt tun sollten:
- Bestehende Systeme auf verbotene Funktionen prüfen
- Bei Unsicherheiten: Rechtlich oder datenschutzrechtlich beraten lassen
- Interne KI-Governance-Struktur schaffen, um ethische und rechtliche Standards zu überwachen
6. Risikomanagement
Was verlangt das Gesetz?
Für Hochrisiko-KI gilt: Risiken für Menschen, Rechte und Sicherheit müssen bewertet und minimiert werden.
Was Unternehmen jetzt tun sollten:
- Eine Risikoanalyse vor Inbetriebnahme durchführen
- Ggf. eine Grundrechte-Folgenabschätzung (GFA) erstellen
- Systeme laufend beobachten und bei Problemen Meldung an die Aufsichtsbehörde erstatten
- Ein internes KI-Risikoregister führen
