Ein Handwerksbetrieb in München hat letztes Jahr einen KI-Chatbot eingesetzt, der Kundendaten ohne klare Einwilligung gespeichert hat. Das Ergebnis: eine DSGVO-Beschwerde und verunsicherte Stammkunden.
Fehlende Transparenz gegenüber Kunden
Viele Betriebe sagen ihren Kunden nicht, dass KI an der Kommunikation beteiligt ist. Das ist nicht nur ein ethisches Problem, es untergräbt auch das Vertrauen, wenn es herauskommt.
Ein einfacher Hinweis in der E-Mail-Signatur oder auf der Kontaktseite reicht in den meisten Fällen aus. Kunden akzeptieren KI-Unterstützung eher, wenn sie davon wissen.
Automatisierte Entscheidungen ohne menschliche Kontrolle
KI-Systeme, die Kreditwürdigkeit oder Angebotspreise automatisch berechnen, können bestimmte Gruppen benachteiligen. Kleine Unternehmen prüfen diese Outputs selten manuell.
Wer KI-gestützte Empfehlungen direkt an Kunden weitergibt, sollte zumindest stichprobenartig prüfen, ob die Ergebnisse plausibel und fair sind.
Daten aus dritten Quellen ohne Prüfung
Viele KI-Tools arbeiten mit externen Datensätzen. Woher diese Daten stammen und ob sie rechtmäßig erhoben wurden, ist oft unklar.
Vor dem Einsatz eines neuen Tools lohnt es sich, die Datenschutzerklärung des Anbieters konkret auf Datenquellen zu prüfen, nicht nur zu unterschreiben.
Was sich in der Praxis bewährt hat
- Kunden aktiv informieren, wenn KI in Prozessen eingesetzt wird
- Automatische Outputs regelmäßig stichprobenartig kontrollieren
- Anbieter nach Herkunft und Nutzungsbedingungen ihrer Trainingsdaten fragen