Persönliche KI-Agenten erleichtern es Verbrauchern, Angebote zu recherchieren und zu vergleichen, Dienstleistungen zu buchen oder Anliegen mit einem Unternehmen zu klären. Für Unternehmen bietet dies die Chance, ihren Kunden einen reibungsloseren Service zu bieten, wirft aber eine praktische Frage auf: Ein Agent mag über die Daten eines Kunden verfügen, aber woher weiß das Unternehmen, dass er auch berechtigt ist, in dessen Auftrag zu handeln?

Sascha Poggemann, Chief Operating Officer bei NiCE Cognigy, erklärt dazu:

"Für Unternehmen besteht die Herausforderung darin, diese Verbindung zu einer vertrauenswürdigen Interaktion zu machen. Ein legitimer Agent und ein Betrüger könnten dieselben Kundendaten vorlegen. Unternehmen müssen feststellen können, wozu der Agent befugt ist, auf Basis der Anfrage angemessene Sicherheitsüberprüfungen vornehmen und bei Bedarf den Kunden selbst oder einen menschlichen Experten hinzuziehen.

Hier stehen bestehende Verifizierungsverfahren vor einer neuen Herausforderung. Die Identifizierung eines Kunden ist nicht gleichbedeutend mit der Autorisierung einer Handlung. Passwörter und Sicherheitsfragen allein belegen nicht, dass ein KI-Agent im Auftrag des Kunden handeln darf. Auch die Kenntnis der korrekten Kontodaten ist noch kein Nachweis dafür, dass er einen Vertrag ändern oder eine Zahlung umleiten darf. Unternehmen müssen die angeforderte Handlung und ihr Risiko bewerten und gegebenenfalls zusätzliche Verifizierungen oder eine Bestätigung durch den Kunden einbeziehen.

Auch bewährte Sicherheitsmechanismen geraten zunehmend unter Druck. Wissensbasierte Überprüfungen wie Sicherheitsfragen und PINs lassen sich immer leichter umgehen. Außerdem haben die Fortschritte beim Klonen von Stimmen dazu geführt, dass die Stimme allein nicht mehr als Identitätsnachweis herangezogen werden kann.

Da auf beiden Seiten ähnliche große Sprachmodelle (LLMs) zum Einsatz kommen, wird keine einzelne Authentifizierungsmethode die Frage endgültig klären. Unternehmen müssen Risikosignale erkennen und verdächtige Kontakte zur zusätzlichen Überprüfung eskalieren, wobei sie mit spezialisierten Partnern für Betrugsprävention und Authentifizierung zusammenarbeiten sollten.

Das Risiko beschränkt sich nicht auf Identitätsbetrug: Automatisierte Agenten könnten ein Contact Center auch mit Anrufen überfluten, wodurch die Ausfallsicherheit zu einem wichtigen Thema wird. Das macht intelligentes Routing zu einem wesentlichen Bestandteil des Serviceerlebnisses. Routinemäßige Anfragen sollten reibungslos durch die entsprechenden Workflows geleitet werden, während verdächtige oder sensible Anfragen zusätzlichen Prüfungen unterzogen werden.

Gemeinsame Standards werden ebenfalls helfen. Das „Personal Agent Protocol“ (PAP) ist ein offener Standard, der definieren soll, wie persönliche KI-Agenten mit Unternehmen in Kontakt treten und nachweisen können, in wessen Auftrag sie handeln. NiCE beteiligt sich an der Entwicklung und bringt dabei auch eigene, bereits veröffentlichte Architekturkonzepte ein. Persönliche KI-Agenten kontaktieren Unternehmen schon heute über Websites, Chat, Formulare, Messaging-Dienste und Sprachkanäle, sodass Unternehmen nicht auf native Protokolle warten müssen, um sich vorzubereiten.

Letztendlich benötigen Unternehmen eine zentrale Anlaufstelle für diese Anfragen. Wenn Agenten, Kunden und Mitarbeiter das Unternehmen über separate Kanäle und Systeme erreichen, werden Verifizierungen und Richtlinienprüfungen uneinheitlich durchgeführt. Ein einziger Zugangspunkt ermöglicht es, jede Anfrage zu erkennen, anhand der relevanten Richtlinien und Berechtigungen zu prüfen und in den richtigen Workflow zu leiten. Falls eine Ausnahmesituation menschliches Urteilsvermögen erfordert, kann ein Servicemitarbeiter hinzugezogen werden. Bei einer Rückerstattung ist das der Unterschied zwischen der Identifizierung des KI-Agenten und der Bearbeitung der Anfrage."