Ich habe ein KI-Tool zur Stellenausschreibung getestet und festgestellt, dass es Formulierungen bevorzugte, die statistisch eher Bewerber ohne Migrationshintergrund ansprachen. Das Tool hatte keine böse Absicht, aber ein konkretes Problem.
Warum Bias in kleinen Betrieben schwerer auffällt
Große Unternehmen haben interne Prüfprozesse. Kleine Betriebe verlassen sich auf das Ergebnis, weil die Zeit für Kontrolle fehlt. Genau dort entstehen ethische Probleme, die sich später als rechtliche Probleme herausstellen können.
Ein einfacher Selbsttest
Lassen Sie dasselbe KI-Tool zwei identische Anfragen bearbeiten, bei denen nur ein Merkmal variiert, etwa der Name des Anfragenden. Wenn die Outputs spürbar unterschiedlich ausfallen, ist das ein Hinweis auf Bias.
Das kostet keine Stunde und zeigt oft mehr als jede Herstellerdokumentation.
Was nach dem Test zu tun ist
Ein einzelner auffälliger Output bedeutet nicht, dass das Tool unbrauchbar ist. Erst ein Muster über mehrere Tests ist aussagekräftig.
Wenn ein Muster sichtbar wird, sollte das Tool entweder nicht mehr für diese Aufgabe genutzt oder der Anbieter direkt kontaktiert werden. Viele Anbieter reagieren auf konkrete Rückmeldungen.
Typische Bereiche mit erhöhtem Bias-Risiko
- Recruiting und Bewerbungsauswahl
- Automatisierte Kundenpriorisierung
- Preisempfehlungen basierend auf Kundenprofilen