EU will „Nudification“-Apps verbieten

Die EU will bald schärfer gegen KI-Anwendungen vorgehen, mit denen intime Inhalte ohne Zustimmung der betroffenen Personen erstellt werden. Die Europäische Kommission hat eine politische Einigung zwischen Parlament und Rat zum sogenannten Digital Omnibus für Künstliche Intelligenz bestätigt. Das Paket soll den AI Act vereinfachen, enthält aber zugleich ein ausdrückliches Verbot sogenannter „Nudification“-Apps.

Gemeint sind KI-Systeme, die Personen auf Fotos, in Videos oder auch in Audioinhalten ohne Zustimmung in sexuelle oder intime Situationen versetzen. Dazu zählen insbesondere Anwendungen, die aus normalen Bildern gefälschte Nacktaufnahmen erzeugen. Ebenfalls verboten werden sollen KI-Systeme, die Material zum sexuellen Missbrauch von Kindern erstellen.

Nicht nur klassische Apps betroffen

Die Entwicklung ist vor allem deshalb relevant, weil solche Dienste nicht zwingend als klassische App im App Store auftauchen müssen, die in der Regel schon von den Store-Betreiber aussortiert werden. Häufig reichen Web-Apps, Messenger-Bots oder einfache Upload-Seiten, um Bilder hochzuladen und manipulieren zu lassen. Die neuen Regeln zielen damit auf den gesamten Markt für KI-Dienste in der EU.

Das Verbot soll auch Anbieter treffen, die entsprechende Systeme ohne ausreichende Schutzmaßnahmen bereitstellen. Nach Angaben des Europäischen Parlaments werden zudem Nutzer beziehungsweise Betreiber erfasst, die solche KI-Systeme gezielt zur Erstellung nicht einvernehmlicher intimer Inhalte einsetzen. Die Unternehmen sollen bis zum 2. Dezember 2026 Zeit bekommen, ihre Systeme entsprechend anzupassen.

Parallel verschiebt die EU einzelne Fristen im AI Act. Am wichtigsten sind dabei die Transparenzpflichten für KI-generierte Inhalte. Auch diese werden neu terminiert. Wasserzeichen beziehungsweise technische Kennzeichnungen sollen ab dem 2. Dezember 2026 greifen. Die Einigung muss noch formal von Parlament und Rat angenommen werden. Inhaltlich ist die Richtung aber klar: Weniger Bürokratie für Unternehmen, aber harte Grenzen bei intimen Deepfakes und Missbrauchsdarstellungen.