Künstliche Intelligenz hält zunehmend Einzug in Personalprozesse. Laut einer Umfrage der ManpowerGroup nutzen bereits 44 % der deutschen Unternehmen KI in Bereichen wie Recruiting, Onboarding oder Training. Weitere 23 % planen die Einführung innerhalb der nächsten zwölf Monate.
Gleichzeitig zeigt eine Studie der IU Internationalen Hochschule, dass 65,2 % der Befragten einer KI-gestützten Entscheidung im Bewerbungsprozess nicht vertrauen. 80,5 % fühlen sich zudem weniger wertgeschätzt, wenn statt eines Menschen eine KI über ihre Bewerbung entscheidet.
Diese Diskrepanz macht deutlich: Je stärker Unternehmen KI einsetzen, desto wichtiger werden Transparenz, Fairness und der verantwortungsvolle Umgang mit möglichen Diskriminierungsrisiken.
Warum KI nicht automatisch fair ist
Oft wird angenommen, dass Algorithmen neutral entscheiden. Tatsächlich basieren KI-Systeme jedoch auf Daten – und diese spiegeln häufig bestehende gesellschaftliche oder unternehmensinterne Muster wider. Sind Trainingsdaten unausgewogen oder enthalten sie historische Benachteiligungen, kann die KI diese übernehmen oder sogar verstärken. Dieses Phänomen wird als Bias bezeichnet.
Verzerrungen können nicht nur durch Trainingsdaten entstehen, sondern auch durch die Art und Weise, wie KI-Systeme entwickelt, eingesetzt oder überwacht werden. Deshalb ist Bias kein rein technisches Problem, sondern auch eine organisatorische und menschliche Herausforderung.
Ein Beispiel: Wird eine KI mit Bewerbungsdaten trainiert, bei denen in der Vergangenheit überwiegend Männer eingestellt wurden, kann das System unbewusst männliche Bewerber bevorzugen. Ähnliche Risiken bestehen bei Beförderungsentscheidungen, Leistungsbewertungen oder der automatisierten Vorauswahl von Bewerbungen.
Diskriminierung durch KI bleibt Verantwortung des Unternehmens
Auch wenn eine Entscheidung von einem KI-System vorbereitet oder getroffen wird, liegt die Verantwortung weiterhin beim Unternehmen. Arbeitgeber können sich nicht darauf berufen, dass die Software die Auswahl getroffen hat.
Kommt es zu einer Benachteiligung aufgrund eines gesetzlich geschützten Merkmals – etwa wegen Geschlecht, Alter, ethnischer Herkunft, Religion oder Weltanschauung, Behinderung oder sexueller Identität –, können Ansprüche nach dem Allgemeinen Gleichbehandlungsgesetz (AGG) entstehen. Zusätzlich drohen Reputationsschäden, Vertrauensverlust und – je nach Einsatzbereich – regulatorische Anforderungen aus dem EU AI Act. Dieser stuft beispielsweise KI-Systeme im Recruiting oder bei Personalentscheidungen als Hochrisiko-KI ein und stellt dafür besondere Anforderungen an Transparenz, Datenqualität und menschliche Aufsicht.
Wo Unternehmen besonders aufmerksam sein sollten
Nicht jede KI-Anwendung birgt das gleiche Risiko. Besonders sensibel sind Systeme, die Entscheidungen über Menschen vorbereiten oder beeinflussen, beispielsweise in den Bereichen:
Recruiting und Bewerbermanagement
Personalentwicklung und Beförderungen
Leistungsbeurteilungen
Schicht- oder Einsatzplanung
Vergabe von Weiterbildungsmaßnahmen
Kundenservice oder automatisierte Kommunikation
Je stärker KI-Systeme Personalentscheidungen vorbereiten oder beeinflussen, desto wichtiger sind Transparenz, menschliche Kontrolle und regelmäßige Überprüfungen auf mögliche Verzerrungen.
Was Unternehmen jetzt tun sollten
Unternehmen müssen KI nicht meiden – sie sollten sie jedoch verantwortungsvoll einsetzen. Dazu gehören unter anderem:
KI-gestützte Entscheidungen regelmäßig auf mögliche Benachteiligungen überprüfen.
Die Qualität und Repräsentativität der verwendeten Daten regelmäßig überprüfen.
Entscheidungsprozesse nachvollziehbar dokumentieren.
Automatisierte Ergebnisse nicht ungeprüft übernehmen.
Mitarbeitende und Führungskräfte für Risiken von Bias und Diskriminierung sensibilisieren.
Klare interne Richtlinien für den Einsatz von KI entwickeln.
Besonders wichtig ist dabei der Mensch: KI kann Entscheidungen unterstützen, sollte sie aber nicht unkritisch ersetzen.
Sensibilisierung bleibt der wichtigste Schutz
Bias lässt sich nicht allein technisch lösen. Entscheidend ist, dass Mitarbeitende und insbesondere Führungskräfte verstehen, wie Diskriminierung durch KI entstehen kann und welche Verantwortung sie beim Einsatz entsprechender Systeme tragen.
Schulungen zum Allgemeinen Gleichbehandlungsgesetz (AGG) helfen dabei, Diskriminierungsrisiken zu erkennen, Entscheidungen kritisch zu hinterfragen und einen fairen Umgang mit KI-gestützten Prozessen zu fördern. So lassen sich rechtliche Risiken reduzieren und gleichzeitig eine Unternehmenskultur stärken, in der Chancengleichheit und respektvolles Miteinander selbstverständlich sind.