Bias im Recruiting: KI-Beratungsunternehmen statworx warnt vor Diskriminierung durch KI

FRANKFURT AM MAIN, Deutschland, 5. Mai 2025 /PRNewswire/ -- Der neue Blogbeitrag von statworx wirft ein kritisches Licht auf den Einsatz von Künstlicher Intelligenz (KI) in sensiblen Bereichen, z. B. in Bewerbungsverfahren. Unter dem Titel „Warum Michael befördert wird, Aisha aber nicht: KI-Edition" beleuchtet die Autorin Elifnur Doğan, AI Educator in der AI Academy von statworx, eindrücklich, wie unbewusste Vorurteile in Trainingsdaten von KI-Systemen reale Auswirkungen auf das Berufsleben haben können – insbesondere für Personen mit muslimisch klingenden Namen.

Die fiktive Geschichte von Aisha, einer hochqualifizierten Bewerberin, die trotz überzeugender Referenzen eine automatisierte Absage erhält, steht exemplarisch für ein viel größeres Problem: algorithmische Diskriminierung. KI-Systeme, die vermeintlich objektiv entscheiden sollen, reproduzieren oftmals gesellschaftliche Verzerrungen, die in ihren Trainingsdaten verankert sind. Die Forschung belegt, dass große Sprachmodelle wie GPT-4 oder Llama2 muslimische Namen signifikant häufiger mit negativen Rollenbildern assoziieren als westliche Namen.

„Wir erleben hier keine Einzelfälle, sondern systematische Benachteiligung", warnt Doğan. Die Studien zeigen, dass Namen wie Aisha oder Mohammad in KI-generierten Geschichten häufiger als Täter:innen oder Angeklagte dargestellt werden. Solche Verzerrungen setzen sich auch in realen Entscheidungsprozessen fort – sei es bei der Vergabe von Jobs, Krediten oder Wohnraum.

Mit Blick auf den kürzlich verabschiedeten EU AI Act sieht statworx dringenden Handlungsbedarf. Bewerbungs-KIs gelten nun als Hochrisiko-Systeme und unterliegen strengen Anforderungen an Transparenz, Erklärbarkeit und Nichtdiskriminierung. statworx unterstützt Unternehmen bei der Umsetzung dieser Standards mit dem AI Act Quick Check sowie praxisnahen Schulungsangeboten im Rahmen von statworx ACT!.

„Der AI Act ist ein wichtiger Schritt, aber keine Allheilmittel", betont Doğan. „Entscheidend ist, dass Unternehmen die Verantwortung übernehmen und sich aktiv mit der Fairness ihrer KI-Systeme auseinandersetzen."

Ansprechpartner:innen

Tarik Ashry

• PR & Communications Specialist
• [email protected]

Camilla Jeck

• Marketing Manager
• [email protected]

Über statworx  

statworx ist ein führendes Beratungs- und Entwicklungsunternehmen für Daten und KI in der DACH-Region. Das Unternehmen unterstützt Firmen bei der strategischen Ausrichtung auf KI, entwickelt maßgeschneiderte KI-Lösungen und bildet Unternehmen im Bereich Daten und KI weiter. 

Weitere Informationen finden Sie unter www.statworx.com.

Logo: https://mma.prnewswire.com/media/2608822/5299235/statworx_Logo.jpg