Risiken durch Grok-Funktionen im Fokus
EU-Kommission leitet neues Verfahren gegen X und Grok ein
Die Europäische Kommission hat ein weiteres formelles Verfahren gegen die Kurznachrichten-Plattform X eröffnet. Anlass ist die Integration des KI-Systems Grok in den Dienst. Parallel erweitert die Kommission ein bereits seit Dezember 2023 laufendes Verfahren zur Prüfung der Empfehlungsmechanismen von X.
In der Kritik: Grok gestattet die sexualisierte Bilderstellung
Beide Untersuchungen erfolgen auf Grundlage des Digital Services Act, der große Onlineplattformen zu einem aktiven Risikomanagement verpflichtet.
Risiken durch Grok-Funktionen im Fokus
Im Zentrum der neuen Untersuchung steht die Frage, ob X die mit Grok verbundenen Risiken vor dem Einsatz in der EU ausreichend bewertet und begrenzt hat. Dabei geht es insbesondere um die Verbreitung illegaler Inhalte, zu denen auch manipulierte sexualisierte Darstellungen zählen können.
Nach Einschätzung der Kommission haben sich entsprechende Risiken bereits verwirklicht und Nutzer in der EU geschädigt. Geprüft wird, ob X systemische Gefahren erkannt hat und ob vor der Einführung von Grok eine gesonderte Risikobewertung an die Kommission übermittelt wurde.
Creating fake, sexual images of women and children is a cruel and unacceptable form of abuse. We will not accept that. pic.twitter.com/aBukxUnAeM
— Henna Virkkunen (@HennaVirkkunen) January 26, 2026
Als sehr große Onlineplattform unterliegt X hier erweiterten Pflichten, die auch den Schutz der körperlichen und psychischen Unversehrtheit sowie die Vermeidung geschlechtsspezifischer Gewalt einschließen.
Empfehlungsalgorithmen und mögliche Auflagen
Unabhängig davon wird untersucht, ob X seine Empfehlungsalgorithmen insgesamt gesetzeskonform betreibt. Dazu zählt auch der kürzlich angekündigte Wechsel zu einem Grok-basierten Empfehlungssystem.
Sollten Verstöße festgestellt werden, könnte dies mehrere Artikel des Digital Services Act betreffen. Die Kommission kann in diesem Fall weitere Durchsetzungsmaßnahmen ergreifen und auch vorläufige Anordnungen erlassen, falls Anpassungen ausbleiben. Begleitet wird das Verfahren von der irischen Medienaufsicht Coimisiún na Meán, die als nationale Koordinationsstelle eingebunden ist.
warum nutzt man sowas? was hat man davon sexualisierte inhalte zu erstellen? amiland ist doch sonst so prüde und jeder nippel wird zensiert, aber mit grok darf ich alles?!
Vielleicht gerade deshalb, weil es sonst so wenig Wege gibt
Staaten fordern Verantwortung von Plattformen und Bürgern.
Wenn Politiker selbst haften sollen, herrscht plötzlich Funkstille.
Verantwortung ohne Konsequenz ist kein Prinzip – sondern ein Feigenblatt.
Der digital Services Act, oder wie sich die eu um den Verstand reguliert
Ich sehe große Teile des DSA eigentlich sehr kritisch. Dass die EU hier in diesem Fall einschreitet, halte ich für richtig und wichtig. Es darf nicht passieren, dass Personen verunglimpft im Netz bloß gestellt werden können. Und wenn ein Programm oder (hier eine KI) menschenverachtende Darstellung dies ermöglichen,muss man die entsprechenden Maßnahmen in die Wege leiten. Leider erfolgt es zu spät, zumal der weltweite Druck fast schon wieder abebbt.
@ApplePayUser so seh ich das auch. Generell gibt es zu viele Regulationen aber manche sind gut.