KI im Recruiting: ATS-Bias und EU-KI-Verordnung

Kurzantwort: LLM-Self-Preference-Bias ist eine in kontrollierten Evaluationen dokumentierte Verzerrung, bei der ein Sprachmodell eigene Ausgaben gegenueber gleichwertigen fremden Ausgaben bevorzugen kann. Das ist fuer Bewerber relevant, wenn ein Sprachmodell Texte bewertet, sagt aber allein nichts darueber aus, wie verbreitet solche Bewertungen im Recruiting sind oder wie eine konkrete Bewerbung entschieden wird.

Was zeigt die Forschung zum LLM-Self-Preference-Bias?

Die Primaerstudie von Panickssery, Bowman und Feng, „LLM Evaluators Recognize and Favor Their Own Generations“, untersucht Sprachmodelle als Bewerter. Die Autoren beschreiben Self-Preference als die Tendenz eines LLM-Evaluators, eigene Ausgaben hoeher zu bewerten, obwohl menschliche Beurteiler die verglichenen Texte als gleichwertig einschaetzen.

In den untersuchten Aufgaben konnten Modelle wie GPT-4 und Llama 2 ihre eigenen Ausgaben mit nicht-trivialer Genauigkeit von Texten anderer Modelle oder Menschen unterscheiden. Nach dem Fine-Tuning beobachteten die Forschenden eine lineare Korrelation zwischen Selbsterkennung und Self-Preference; kontrollierte Experimente stuetzten den kausalen Zusammenhang gegenueber naheliegenden Stoerfaktoren.

Diese Ergebnisse stammen aus LLM-Evaluator-Experimenten. Sie sind kein Beleg dafuer, dass ein bestimmter Anteil der Arbeitgeber LLMs einsetzt, dass jedes Screening denselben Effekt zeigt oder dass ein bestimmtes Modell die Chance auf eine Einladung erhoeht. Eine Bewerbung auf den vermuteten Stil eines unbekannten Bewertungsmodells zuzuschneiden waere daher eine unbelegte und instabile Strategie.

Welche Recruiting-Systeme stuft die EU als hochriskant ein?

Der offizielle Text der Verordnung (EU) 2024/1689 nennt in Anhang III(4) KI-Systeme fuer die Rekrutierung oder Auswahl natuerlicher Personen, insbesondere fuer gezielte Stellenanzeigen, die Analyse und Filterung von Bewerbungen sowie die Bewertung von Kandidaten. Solche erfassten Systeme gelten als Hochrisiko-Systeme. Die Einstufung ist kein Verbot und sollte nicht pauschal auf jede nicht-entscheidende Schreibhilfe oder jedes regelbasierte ATS uebertragen werden.

Artikel 13 verlangt, dass Hochrisiko-Systeme mit hinreichend klaren Informationen und Anweisungen fuer ihre Betreiber bereitgestellt werden. Artikel 14 verlangt eine Gestaltung, die wirksame menschliche Aufsicht ermoeglicht. Diese Pflichten betreffen die Funktionsweise, Grenzen, Interpretation und Uebersteuerbarkeit des Systems; sie sind nicht selbst eine allgemeine Kandidaten-Mitteilung fuer jeden Verarbeitungsschritt.

Wann und wie muessen Betroffene ueber KI informiert werden?

Die Kandidaten-Perspektive steht an anderer Stelle: Artikel 26(11) verpflichtet Betreiber eines in Anhang III genannten Hochrisiko-Systems, natuerliche Personen zu informieren, wenn das System Entscheidungen ueber sie trifft oder bei solchen Entscheidungen unterstuetzt. Artikel 50(1) regelt dagegen den Fall, dass Menschen direkt mit einem KI-System interagieren, sofern die KI-Natur nicht bereits offensichtlich ist. Weitere Teile von Artikel 50 behandeln bestimmte synthetische oder manipulierte Inhalte. Daraus folgt keine pauschale Behauptung, Artikel 50 verlange bei jedem nicht-interaktiven Screening-Schritt automatisch eine Kandidaten-Mitteilung.

Die aktuelle Umsetzungsseite der Europaeischen Kommission nennt fuer die Transparenzregeln August 2026. Nach der 2026 in Kraft getretenen AI-Omnibus-Aenderung gelten die Regeln fuer die sensiblen Hochrisiko-Bereiche aus Anhang III, darunter Beschaeftigung, ab dem 2. Dezember 2027. Dieser Zeitplan ist aktueller als der urspruengliche stufenweise Zeitplan des Verordnungstexts.

Dieser Beitrag bietet allgemeine Informationen und keine Rechtsberatung. Fuer einen konkreten Einzelfall sind der aktuelle konsolidierte Verordnungstext und qualifizierte Rechtsberatung massgeblich.

Wie bereitest du eine robuste Bewerbung fuer Menschen und Systeme vor?

Belege statt Modell-Tricks

Schreibe konkrete Projekte, Werkzeuge, Verantwortlichkeiten und Ergebnisse auf. Ein Mensch kann diese Angaben nachvollziehen, und ein automatisiertes System erhaelt klare, stellenbezogene Signale. Erfinde keine Kennzahlen und uebernimm keine Faehigkeit, die du nicht belegen kannst.

Lesbare Struktur und passende Begriffe

Nutze eine klare Gliederung und die tatsaechlich passenden Begriffe aus der Stellenausschreibung. Unser lateraler Leitfaden ATS-Score verbessern: So kommst du am Bewerbungsfilter vorbei erklaert die maschinenlesbare Grundlage. Fuer den vollstaendigen Aufbau fuehrt die zentrale Anleitung Bewerbung schreiben: Komplette Anleitung mit Beispielen alle Bestandteile zusammen.

Menschliche Endkontrolle

Nutze KI fuer Struktur, Varianten oder einen Abgleich, aber pruefe jede Aussage selbst. Deine Bewerbung sollte deine echte Erfahrung in deiner Stimme wiedergeben und auch dann bestehen, wenn ein Recruiter nachfragt.

Welche Fragen stellen Bewerber besonders haeufig?

Was zeigt die Self-Preference-Studie genau?

Sie zeigt in kontrollierten LLM-Evaluator-Tests, dass Modelle eigene Ausgaben bevorzugen koennen und dass Selbsterkennung mit der Staerke dieses Bias zusammenhaengt; sie misst keine Recruiting-Verbreitung oder Bewerber-Erfolgsquote.

Welche Recruiting-Systeme gelten als hochriskant?

Anhang III(4) erfasst bestimmte KI-Systeme zur Rekrutierung oder Auswahl, darunter Systeme zur Analyse und Filterung von Bewerbungen oder zur Bewertung von Kandidaten; nicht jede Schreibhilfe und nicht jedes ATS ist allein deshalb hochriskant.

Muss ein Arbeitgeber Bewerber ueber KI informieren?

Artikel 26(11) adressiert Hinweise an Personen, die von Entscheidungen mit einem Anhang-III-Hochrisiko-System betroffen sind; Artikel 50 erfasst direkte KI-Interaktionen und bestimmte synthetische Inhalte, nicht automatisch jeden nicht-interaktiven Screening-Schritt.

Wie sollte ich meine Bewerbung vorbereiten?

Nutze eine klare, maschinenlesbare Struktur, passende Begriffe aus der Stelle und konkrete belegbare Ergebnisse; pruefe jeden KI-unterstuetzten Entwurf selbst, statt auf den Stil eines unbekannten Modells zu wetten.

Was ist die wichtigste Schlussfolgerung?

Self-Preference ist ein ernst zu nehmender Befund ueber LLM-Evaluatoren, aber keine Abkuerzung zu einem Bewerbungserfolg. EU-Regeln trennen Hochrisiko-Einstufung, Betreiber-Information, menschliche Aufsicht und Betroffenen-Hinweise. Bewerber fahren am besten mit einer ehrlichen, belegbaren und gut lesbaren Bewerbung.

Wenn du deine Erfahrung strukturiert auf eine konkrete Stelle zuschneiden willst, kannst du sie mit Alchema kostenlos in eine ATS-taugliche Bewerbung ueberfuehren.

Welche Primaerquellen stuetzen diese Einordnung?

• Verordnung (EU) 2024/1689, insbesondere Anhang III(4), Artikel 13, 14, 26 und 50; offizieller EUR-Lex-Text, abgerufen am 1. September 2026.
• Europaeische Kommission, „AI Act“, aktuelle Anwendungsfristen und Beispiele fuer Hochrisiko-Beschaeftigungssysteme, abgerufen am 1. September 2026.
• Panickssery, Bowman & Feng (2024), „LLM Evaluators Recognize and Favor Their Own Generations“, arXiv:2404.13076, abgerufen am 1. September 2026.