Die Kehrseite von KI im Kundenkontakt: Vertrauen ist kein Algorithmus

Wer KI in der Kundenkommunikation einsetzt, verspricht sich Geschwindigkeit, Skalierbarkeit und Kostenvorteile. Chatbots, Agent Assist, automatische Zusammenfassungen und smartes Routing machen Prozesse effizienter und konsistenter. Der Anwendungsfall ergibt sich fast von selbst. Aber KI im Kundenservice betrifft immer auch das Fundament: Kundenvertrauen. Und Algorithmen schaffen kein Vertrauen.

Wir von DDM Consulting sind der Meinung, dass ein ehrliches Gespräch über KI mehr als nur die Vorteile im Bereich Customer Experience (CX) und Arbeitserleichterung (EX) behandeln sollte. Deshalb widmen wir uns in diesem Artikel der Kehrseite von künstlicher Intelligenz im Kundenkontakt: Wie steht es um Transparenz, Eigentum an Daten, Verzerrung (Bias) und Kontrolle über Inhalte, und was hat das mit Kundenvertrauen zu tun?

KI im Kundenkontakt ist kein IT-Projekt

Viele Organisationen wollen mit dem Einsatz künstlicher Intelligenz ihre Innovation vorantreiben oder Kosten sparen. Das ist verständlich, aber geht an einem wesentlichen Punkt vorbei.

Die Nutzung von KI ist untrennbar mit Ihrem Markenversprechen, Ihrem Ruf und Ihrer Verantwortung gegenüber Ihren Kunden verbunden. Es geht nicht nur darum, was technisch möglich ist, sondern was Sie als Organisation verantwortbar finden.

Die wichtigen Fragen stecken oft in den Grauzonen: Kommunizieren Sie ganz offen über den Einsatz von KI? Können Sie erklären, wie eine Antwort zustande kommt? Was passiert mit den Gesprächsdaten? Wer ist verantwortlich, wenn ein System Fehler macht?

Das sind keine technischen Fragen, sondern Fragen der Governance, der Steuerung.

Was geschieht mit Ihren Daten?

Bei der Kundenkommunikation werden jeden Tag sensible Informationen geteilt: finanzielle Daten, medizinische Hintergründe, persönliche Situationen. Sobald ein Algorithmus diese Informationen verarbeitet, müssen Sie genau wissen, wo sich die Daten befinden und welche gesetzlichen Vorschriften für die Verarbeitung gelten.

KI und die DSGVO: Wissen Sie, wo Ihre Kundendaten landen?

Für die Verarbeitung in Europa gilt die Datenschutz-Grundverordnung (DSGVO). Allerdings basieren zahlreiche KI-Lösungen auf US-amerikanischer Infrastruktur, zum Beispiel von Microsoft, Amazon oder Google. Dadurch sind sie nicht automatisch unsicher, aber sie erfordern klare vertragliche Vereinbarungen über Speicherung, Zugriff und Nutzung der Daten, damit die eingesetzte KI-Lösung den Anforderungen der DSGVO entspricht.

AWS European Sovereign Cloud: zusätzliche Sicherheit oder sogar relative Souveränität?

Unser Partner Genesys hat kürzlich angekündigt, seine Services auch über die neue AWS European Sovereign Cloud anzubieten. Laut dem Betreiber, Amazon Web Services, finden Datenspeicherung und Betrieb dabei vollständig innerhalb der Europäischen Union statt, sodass die vergleichsweise strengen europäischen Vorschriften gelten. Das sind gute Neuigkeiten für alle, die KI im Kundenkontakt datenschutzkonform einsetzen wollen.

Zugleich sollte man im Hinterkopf behalten, dass AWS ein Unternehmen aus den USA ist. „Souverän“ bedeutet daher keine absolute Verlässlichkeit, sondern nur relative Sicherheit innerhalb vereinbarter Grenzen. Die grundlegende Frage bleibt: Haben Sie vollständigen Einblick in Ihre Datenströme – und können Sie sie erklären?

Wem gehören Kundendaten?

Neben dem Standort der Verarbeitung ist das Eigentum ebenso wichtig. Werden Ihre Daten ausschließlich für Ihre Organisation genutzt, oder tragen sie vielleicht zum Training von Modellen bei? Was geschieht, wenn ein Vertrag endet?

Solche Fragen werden leider oft erst dann gestellt, wenn sich Unternehmen bereits für einen Anbieter entschieden haben. Dabei sollten sie fester Bestandteil der Auswahlphase und der Architekturplanung sein, denn das Eigentum an Daten ist keine juristische Nebensächlichkeit. Es ist von strategischer Bedeutung und hat direkte Auswirkungen auf Risiko, Reputation und Geschäftskontinuität.

Wer entscheidet?

Unser letzter Blogartikel stand im Zeichen der Agentic AI: intelligente KI-Agenten, die selbstständig und zielgerichtet Aufgaben innerhalb eines vorgegebenen Rahmens ausführen können. Beispiele sind die automatische Bearbeitung von Forderungen, proaktive Auszahlungen oder das Ändern von Kundenprofilen ohne menschliches Eingreifen.

Aber wenn ein System die Entscheidung trifft, wer ist dann verantwortlich? Der Mitarbeiter, die Mitarbeiterin? Die Vorgesetzen? Der KI-Provider?

KI-Governance: Wer hat die letzte Verantwortung?

Ohne klare Leitlinien entstehen Grauzonen, in denen nicht genau festgelegt ist, wer wofür verantwortlich ist. Das ist besonders dann ein Risiko, wenn der Einsatz von KI mögliche finanzielle oder rechtliche Konsequenzen haben kann.

Für autonome Systeme ist daher eine eindeutige KI-Governance erforderlich: Wer darf was entscheiden, innerhalb welcher Grenzen und unter welcher Aufsicht?

Bias bei KI: ein verborgenes Risiko

Algorithmen lernen aus historischen Daten. Aber historische Daten sind nur im Ausnahmefall vollständig neutral. Sobald bestimmte Kundengruppen strukturell anders behandelt werden, entsteht Voreingenommenheit, der sogenannte Bias. Diese Verzerrungen können von der KI als Muster erkannt und in Entscheidungen oder Antworten übernommen werden. In einer einzelnen Konversation mag das nicht bemerkbar sein, aber über längere Zeit zeigt es sich in Form von wiederkehrenden Mustern. Schon kleine Abweichungen können sich immer weiter verstärken und unbewusst Einfluss auf Wartezeiten, auf Lösungswege oder auf den Tone of Voice haben.

Deshalb bedarf es einer kontinuierlichen Überwachung. Dieses Monitoring sollte nicht nur technische, sondern auch organisatorische Aspekte umfassen. Können Sie erklären, wie das System bestimmte Entscheidungen trifft? Werden abweichende Muster aktiv untersucht? Ohne eine klare KI-Governance kann es schnell zu Situationen kommen, bei denen sich niemand für das Ergebnis verantwortlich fühlt. Und genau dadurch steigt das Risiko.

Datenintegrität als Fundament

Die Qualität von KI im Kundenkontakt hängt letzten Endes davon ab, wie hochwertig die zugrundeliegenden Daten und Informationen sind. Veraltete Wissensartikel, inkonsistente Daten oder unvollständige Hintergrundinformationen können durch KI nicht gelöst werden. Stattdessen sorgen die Algorithmen dafür, dass sich diese Mängel sogar noch ausbreiten. Was zuvor ein einzelner Fehler war, kann sich zu einem strukturellen Problem entwickeln.

So wichtig ist Wissensmanagement für verlässliche KI

Ein gutes Wissensmanagement ist deshalb keine Nebensächlichkeit, sondern das Fundament, wenn Sie Ihr Contact Center erfolgreich automatisieren wollen. Lösungen wie die unseres Partners Polly.Help zeigen, dass strukturierte, validierte und gut gepflegte Daten die Grundlage für verlässliche KI-Anwendungen formen. Ohne eine integre Wissensbasis ist keine zuverlässige Entscheidungsfindung möglich.

Innovation muss kontrolliert erfolgen

Der Druck, schnell zu automatisieren, ist groß. Die Konkurrenz schläft jedenfalls nicht. Zugleich entwickeln sich Gesetze und Vorschriften weiter, wie zum Beispiel der europäische „AI Act“. Technologie wird leistungsfähiger, zugänglicher und kostengünstiger. Trotzdem zeigt sich gute Innovation nicht daran, wie schnell man etwas implementiert, sondern ob man die richtigen Entscheidungen trifft.

Wer KI im Kundenservice erfolgreich und zugleich verantwortungsvoll einsetzen will, sollte sich zunächst fragen: Passt diese Anwendung zu unseren Markenwerten? Begreifen wir den gesamten Datenstrom? Ist eine KI-Governance eingerichtet und festgezurrt? Können wir erklären, wie Entscheidungen zustande kommen? Funktioniert unser Wissensmanagement?

Innovation ohne Plan und Kontrolle, das macht Systeme verwundbar. Kontrollierte Innovation hingegen stärkt Vertrauen. Und Vertrauen ist die absolute Basis im Kundenkontakt.