Meta AI meldet mögliche Selbstgefährdung
Instagram informiert Eltern über riskante KI-Chats
Meta erweitert die Jugendschutzfunktionen rund um seinen KI-Assistenten. Wenn ein Gespräch mit Meta AI darauf hindeutet, dass ein Jugendlicher über Suizid oder Selbstverletzung nachdenkt, können beaufsichtigende Eltern künftig eine Warnung erhalten.
Voraussetzung ist, dass die Familie zuvor die Elternaufsicht von Instagram eingerichtet hat. Nach Angaben von Meta sucht ein eigens entwickeltes KI-System nach eindeutigen und auch weniger direkten Hinweisen auf eine mögliche Selbstgefährdung.
Menschen prüfen den KI-Verdacht
Eine Benachrichtigung wird nicht allein aufgrund der automatischen Erkennung verschickt. Alle markierten Unterhaltungen sollen zunächst von Mitarbeitern geprüft werden. Meta räumt ein, dass dabei auch Fehlalarme möglich sind. Ist die Absicht des Jugendlichen nicht eindeutig, will das Unternehmen im Zweifel trotzdem die Eltern informieren.
Zusammen mit der Warnung erhalten Eltern Hinweise von Fachleuten, die bei einem behutsamen Gespräch mit dem Kind helfen sollen. Jugendliche selbst verweist Meta AI bereits auf Krisendienste und rät ihnen, sich an Eltern, Beratungsstellen oder andere vertraute Erwachsene zu wenden.
Deutschland folgt später
Die Funktion startet zunächst in den USA, Großbritannien, Australien und Kanada. Bis zum Jahresende sollen Eltern weltweit darauf zugreifen können. Ein genauer Termin für Deutschland steht noch nicht fest.
Meta hatte entsprechende Kontrollwerkzeuge bereits im vergangenen Herbst angekündigt. Wir hatten damals über die zusätzlichen Einblicke in die KI-Nutzung von Jugendlichen berichtet. Eltern können inzwischen unter anderem sehen, über welche allgemeinen Themen ihre Kinder mit Meta AI gesprochen haben.
Zusätzlich arbeitet Meta an einem System, das bei einer unmittelbar bevorstehenden Suizidgefahr auch Rettungsdienste verständigen könnte. Diese Funktion befindet sich allerdings noch in Entwicklung.
Es sollten viel strengere Auflagen geben, um die Kinder/Leute zu schützen – und zwar seitens der Länder/EU auf die Anbieter hin!
Ist immerhin ausreichend bekannt, dass diese art der (a)sozialen Medien wie Instagram, TikTok auf Techniken/Mechaniken setzen, um den User möglichst lange im Portal zu halten; vor allem Kinder können dies überhaupt nicht abschätzen.
Kinder haben leider keine allzu große Lobby was den Schutz angeht.
Eltern eher in die Pflicht nehmen und um mögliche Risiken aufklären.
Bildschirmzeit ist das Stichwort.
Sonst wäre ich bei dir, die Mechaniken und süchtigmachende Funktionen und Praktiken sind unterirdisch
Absolut, aber hier geht’s ja mehr darum, das die KI die Inhalte auf selbstgefährdende Tendenzen hin untersucht, was sehr begrüßenswert ist!