WhatsApp-KI sollte Hinweise auf Datenschutzbehörden vermeiden

Meta macht Meta-Dinge: Auf zahlreichen Hilfeseiten von WhatsApp waren interne Anweisungen für den KI-gestützten Kundenservice des Messengers öffentlich einsehbar. Die Texte waren zwar nicht direkt auf den Webseiten zu sehen, ließen sich aber über deren Quellcode abrufen. Entdeckt wurden die versteckten Instruktionen von den Sicherheitsexperten Redact.

Auf rund 80 Hilfe- und FAQ-Seiten von WhatsApp fanden sich demnach etwa 100 Textblöcke mit Anweisungen für den Umgang des KI-Chatbots mit bestimmten Nutzeranfragen. Ein Teil dieser Anweisungen enthielt Informationen, die auf den eigentlichen Hilfeseiten nicht zu finden waren.

WhatsApp-KI sollte Datenschutzbehörden verschweigen

Teilweise sind die Anweisungen bezeichnend für die Firmenpolitik von Meta. Bei Anfragen zur Löschung eines WhatsApp-Kontos sollte der Chatbot beispielsweise darauf verzichten, Nutzer an Datenschutzbehörden oder andere Aufsichtsstellen zu verweisen.

Grafiken: Redact

Weitere Vorgaben betrafen den Umgang mit Beschwerden und möglichen rechtlichen Auseinandersetzungen. Der Chatbot sollte demnach weder rechtliche Einschätzungen abgeben noch die Nutzungsbedingungen oder Datenschutzrichtlinien von WhatsApp interpretieren. Auch konkrete Datenschutzgesetze sollte er nicht erläutern, selbst wenn Nutzer ausdrücklich danach fragen.

Andere Vorgaben betrafen eher alltägliche Fragen. So wurde beispielsweise vorgegeben, dass der Chatbot keine Informationen über bislang unveröffentlichte WhatsApp-Funktionen preisgeben soll.

Meta hat die Informationen entfernt

Nachdem das US-Magazin Wired Meta mit den Erkenntnissen konfrontiert hatte, wurden die versteckten Anweisungen von den betroffenen Webseiten entfernt.

Das Unternehmen bestätigte den Vorfall und hat gegenüber Wired erklärt, dass die internen Vorgaben aufgrund eines inzwischen behobenen Fehlers öffentlich zugänglich gewesen seien. Sie seien ausschließlich für den KI-gestützten WhatsApp-Support bestimmt gewesen und sollten sicherstellen, dass Nutzer passende und korrekte Antworten erhalten. Laut Meta will man insbesondere bei rechtlichen Themen vermeiden, dass der Chatbot Auskünfte erteilt, für die er nicht vorgesehen sei.

Unklar ist, wie lange die Anweisungen öffentlich zugänglich waren und ob auch KI-Systeme anderer Anbieter darauf zugreifen konnten.