Meta AI meldet mögliche Selbstgefährdung
Instagram informiert Eltern über riskante KI-Chats
Meta erweitert die Jugendschutzfunktionen rund um seinen KI-Assistenten. Wenn ein Gespräch mit Meta AI darauf hindeutet, dass ein Jugendlicher über Suizid oder Selbstverletzung nachdenkt, können beaufsichtigende Eltern künftig eine Warnung erhalten.
Voraussetzung ist, dass die Familie zuvor die Elternaufsicht von Instagram eingerichtet hat. Nach Angaben von Meta sucht ein eigens entwickeltes KI-System nach eindeutigen und auch weniger direkten Hinweisen auf eine mögliche Selbstgefährdung.
Menschen prüfen den KI-Verdacht
Eine Benachrichtigung wird nicht allein aufgrund der automatischen Erkennung verschickt. Alle markierten Unterhaltungen sollen zunächst von Mitarbeitern geprüft werden. Meta räumt ein, dass dabei auch Fehlalarme möglich sind. Ist die Absicht des Jugendlichen nicht eindeutig, will das Unternehmen im Zweifel trotzdem die Eltern informieren.
Zusammen mit der Warnung erhalten Eltern Hinweise von Fachleuten, die bei einem behutsamen Gespräch mit dem Kind helfen sollen. Jugendliche selbst verweist Meta AI bereits auf Krisendienste und rät ihnen, sich an Eltern, Beratungsstellen oder andere vertraute Erwachsene zu wenden.
Deutschland folgt später
Die Funktion startet zunächst in den USA, Großbritannien, Australien und Kanada. Bis zum Jahresende sollen Eltern weltweit darauf zugreifen können. Ein genauer Termin für Deutschland steht noch nicht fest.
Meta hatte entsprechende Kontrollwerkzeuge bereits im vergangenen Herbst angekündigt. Wir hatten damals über die zusätzlichen Einblicke in die KI-Nutzung von Jugendlichen berichtet. Eltern können inzwischen unter anderem sehen, über welche allgemeinen Themen ihre Kinder mit Meta AI gesprochen haben.
Zusätzlich arbeitet Meta an einem System, das bei einer unmittelbar bevorstehenden Suizidgefahr auch Rettungsdienste verständigen könnte. Diese Funktion befindet sich allerdings noch in Entwicklung.
Es sollten viel strengere Auflagen geben, um die Kinder/Leute zu schützen – und zwar seitens der Länder/EU auf die Anbieter hin!
Ist immerhin ausreichend bekannt, dass diese art der (a)sozialen Medien wie Instagram, TikTok auf Techniken/Mechaniken setzen, um den User möglichst lange im Portal zu halten; vor allem Kinder können dies überhaupt nicht abschätzen.
Kinder haben leider keine allzu große Lobby was den Schutz angeht.
Eltern eher in die Pflicht nehmen und um mögliche Risiken aufklären.
Bildschirmzeit ist das Stichwort.
Sonst wäre ich bei dir, die Mechaniken und süchtigmachende Funktionen und Praktiken sind unterirdisch
„Eltern in die Pflicht nehmen“ – das funktioniert aus so vielen Gründen nicht als Universallösung.
Mangelhafte Managementlösungen, die 6-jährige überwinden können — nicht genügend befähigte Erziehungsberechtigte — Unwillen einzuschränken — unbegrenzte Energie Verbotenes auszuprobieren — nicht regulierte Infrastruktur von Freunden.
Was habt ihr denn als Teens getan? Ganz ehrlich …
Nicht alle Eltern sind in der Lage dies zu leisten – ob es selbst fehlende Medienkompetenz ist oder andere Dinge.
Es immer auf die Eltern abzuwälzen ist in meinen Augen viel zu einfach.
Immerhin gibt es auch ein Verbot von Alkohol, Zigaretten, Waffen etc. – und es wird nicht erwartet das Eltern sagen „das darfst du nicht haben“.
Warum wird es überhaupt ermöglicht solche Suchtgefährdenden Portale in der Form auf die User loszulassen?
Dann liegen wohl die Probleme im Kern wo anders, wenn sie nicht umsetzbar sind und mangels Interesse sich mit dem Thema zu beschäftigen
Absolut, aber hier geht’s ja mehr darum, das die KI die Inhalte auf selbstgefährdende Tendenzen hin untersucht, was sehr begrüßenswert ist!
KI ist das Schlagwort für alles im Moment – und niemand macht sich Gedanken welchen Energiehunger das im Hintergrund frisst.
Erstens: Welcher normaler Mensch erlaubt Kindern KI zu nutzen? Zweitens: Das Kind bekommt einen Stempel verrückt und labil zu sein, wenn Meta das so entscheidet.
Lasst doch Kinder Kinder sein die im Sand spielen, Ihr verrückten Nerds.
Bin da tatsächlich auch kein Fan von… Kinder sollen sich generell auch über Sorgen die sie drücken austauschen können, besser natürlich mit Freunden oder am Besten Eltern. Aber durch eine KI einstufen lassen?
Bin so froh um die Kindheit, die ich genießen durfte als Jahrgang 1977.
Inzwischen arbeite ich im IT-Bereich und nutze vieles auch gern – Rückblickend bin ich echt froh, dass das alles nicht zu früh in mein Leben getreten ist.
Die Kids von heute tun mir leid.
Ich wollte wie ich 80kg Hähnchenfleisch in Säure auflösen kann, wurde da jemand informiert? Antwort gab es keine :D