Risiken durch Grok-Funktionen im Fokus
EU-Kommission leitet neues Verfahren gegen X und Grok ein
Die Europäische Kommission hat ein weiteres formelles Verfahren gegen die Kurznachrichten-Plattform X eröffnet. Anlass ist die Integration des KI-Systems Grok in den Dienst. Parallel erweitert die Kommission ein bereits seit Dezember 2023 laufendes Verfahren zur Prüfung der Empfehlungsmechanismen von X.
In der Kritik: Grok gestattet die sexualisierte Bilderstellung
Beide Untersuchungen erfolgen auf Grundlage des Digital Services Act, der große Onlineplattformen zu einem aktiven Risikomanagement verpflichtet.
Risiken durch Grok-Funktionen im Fokus
Im Zentrum der neuen Untersuchung steht die Frage, ob X die mit Grok verbundenen Risiken vor dem Einsatz in der EU ausreichend bewertet und begrenzt hat. Dabei geht es insbesondere um die Verbreitung illegaler Inhalte, zu denen auch manipulierte sexualisierte Darstellungen zählen können.
Nach Einschätzung der Kommission haben sich entsprechende Risiken bereits verwirklicht und Nutzer in der EU geschädigt. Geprüft wird, ob X systemische Gefahren erkannt hat und ob vor der Einführung von Grok eine gesonderte Risikobewertung an die Kommission übermittelt wurde.
Creating fake, sexual images of women and children is a cruel and unacceptable form of abuse. We will not accept that. pic.twitter.com/aBukxUnAeM
— Henna Virkkunen (@HennaVirkkunen) January 26, 2026
Als sehr große Onlineplattform unterliegt X hier erweiterten Pflichten, die auch den Schutz der körperlichen und psychischen Unversehrtheit sowie die Vermeidung geschlechtsspezifischer Gewalt einschließen.
Empfehlungsalgorithmen und mögliche Auflagen
Unabhängig davon wird untersucht, ob X seine Empfehlungsalgorithmen insgesamt gesetzeskonform betreibt. Dazu zählt auch der kürzlich angekündigte Wechsel zu einem Grok-basierten Empfehlungssystem.
Sollten Verstöße festgestellt werden, könnte dies mehrere Artikel des Digital Services Act betreffen. Die Kommission kann in diesem Fall weitere Durchsetzungsmaßnahmen ergreifen und auch vorläufige Anordnungen erlassen, falls Anpassungen ausbleiben. Begleitet wird das Verfahren von der irischen Medienaufsicht Coimisiún na Meán, die als nationale Koordinationsstelle eingebunden ist.
warum nutzt man sowas? was hat man davon sexualisierte inhalte zu erstellen? amiland ist doch sonst so prüde und jeder nippel wird zensiert, aber mit grok darf ich alles?!
Vielleicht gerade deshalb, weil es sonst so wenig Wege gibt
Staaten fordern Verantwortung von Plattformen und Bürgern.
Wenn Politiker selbst haften sollen, herrscht plötzlich Funkstille.
Verantwortung ohne Konsequenz ist kein Prinzip – sondern ein Feigenblatt.
Einziger Sinn und Zweck ist es, Nacktbilder von Ursula von der Leyen zu erstellen. Das findet die doof und deswegen gibt es Millionenstrafen. Dann kommt wieder Trump und droht mit Handelszöllen und alles bleibt so, wie es ist. Kennt man ja.
Naja Trump nackt mag man sich ja auch kaum vorstellen
Du darfst eben nicht alles. Hab es gerade testweise probiert. Generieren von nacktbilder geht gar nicht.
Also wer es braucht muss doch wieder auf Google suchen gehen
Sowas verkauft sich gut. Auf sexuelle Inhalte haben Menschen Lust. Ist die natürlichste Sache der Welt. Wie das jeder macht, bleibt jedem selbst überlassen. Es muss selbstverständlich im Legalen Rahmen stattfinden. Wir sind doch alle so liberal.. Der Anbieter muss nur sicherstellen können, dass seine KI keinen kranken, oder gar noch schlimmeren Kram generiert. Die Nachfrage für Sexuellen Content wird es immer geben, die Frage ist nur wie wir damit umgehen. Verbannen aus dem Appstore? Wenn man ausgrenzt, schafft man Schattenmärkte die weder zu kontrollieren noch zu zensieren sind. Das ist aus meiner Sicht viel schlimmer. Die Konzerne müssen sich dem Thema einfach mal stellen. Aber sobald es um Sexualität geht, ist es mir dem modernen, liberalen „rumgevoke“ vorbei. Da sind wir ruckzuck wieder im Mittelalter. Die ganze Pornografie gehört aus dem Internet, bzw. hinter Bezahlschranken! Da regt man sich über Grok auf.. und das ganze Internet ist voll von dem Kram. Merkt das niemand!? Und wer sagt, das lässt sich nicht verhindern, glaubt auch an die Zahnfee!
Der digital Services Act, oder wie sich die eu um den Verstand reguliert
Ich sehe große Teile des DSA eigentlich sehr kritisch. Dass die EU hier in diesem Fall einschreitet, halte ich für richtig und wichtig. Es darf nicht passieren, dass Personen verunglimpft im Netz bloß gestellt werden können. Und wenn ein Programm oder (hier eine KI) menschenverachtende Darstellung dies ermöglichen,muss man die entsprechenden Maßnahmen in die Wege leiten. Leider erfolgt es zu spät, zumal der weltweite Druck fast schon wieder abebbt.
@ApplePayUser so seh ich das auch. Generell gibt es zu viele Regulationen aber manche sind gut.
Wie war das nochmal mit den Teslas? Die filmen alles? Auch von innen? Gesichter? Beifahrer? Kinder? Gespräche? Meine/Deine/Eure Tochter auf dem Rücksitz? Oder doch nicht? Selbst wenn, dieses Material wird ganz ganz ganz sicher, niemals und zu keiner Zeit zweckentfremdet. Da vertraue ich der Moral von Mr. E. zu 100%. Dem ging es noch nie um Profit, nur um den Weltfrieden. Peace.
Quellen?
Jeder Serviceanbieter, auch Meta muss sich an die lokalen Gesetze des Marktes anpassen. Ich erwarte von meinem Staat und von der EU, dass die Gesetze durchgesetzt werden, egal, wie mächtig der Mann oder der Konzern ist.
man könnte meinen, die eu lenkt die aufmerksamkeit nur in eine richtung oder warum werde ich immernoch im facebookmessenger ständig in muschichats eingeladen. eklig