KI-Regeln vereinfachen
EU will „Nudification“-Apps verbieten
Die EU will bald schärfer gegen KI-Anwendungen vorgehen, mit denen intime Inhalte ohne Zustimmung der betroffenen Personen erstellt werden. Die Europäische Kommission hat eine politische Einigung zwischen Parlament und Rat zum sogenannten Digital Omnibus für Künstliche Intelligenz bestätigt. Das Paket soll den AI Act vereinfachen, enthält aber zugleich ein ausdrückliches Verbot sogenannter „Nudification“-Apps.
Gemeint sind KI-Systeme, die Personen auf Fotos, in Videos oder auch in Audioinhalten ohne Zustimmung in sexuelle oder intime Situationen versetzen. Dazu zählen insbesondere Anwendungen, die aus normalen Bildern gefälschte Nacktaufnahmen erzeugen. Ebenfalls verboten werden sollen KI-Systeme, die Material zum sexuellen Missbrauch von Kindern erstellen.
Nicht nur klassische Apps betroffen
Die Entwicklung ist vor allem deshalb relevant, weil solche Dienste nicht zwingend als klassische App im App Store auftauchen müssen, die in der Regel schon von den Store-Betreiber aussortiert werden. Häufig reichen Web-Apps, Messenger-Bots oder einfache Upload-Seiten, um Bilder hochzuladen und manipulieren zu lassen. Die neuen Regeln zielen damit auf den gesamten Markt für KI-Dienste in der EU.
Das Verbot soll auch Anbieter treffen, die entsprechende Systeme ohne ausreichende Schutzmaßnahmen bereitstellen. Nach Angaben des Europäischen Parlaments werden zudem Nutzer beziehungsweise Betreiber erfasst, die solche KI-Systeme gezielt zur Erstellung nicht einvernehmlicher intimer Inhalte einsetzen. Die Unternehmen sollen bis zum 2. Dezember 2026 Zeit bekommen, ihre Systeme entsprechend anzupassen.
Parallel verschiebt die EU einzelne Fristen im AI Act. Am wichtigsten sind dabei die Transparenzpflichten für KI-generierte Inhalte. Auch diese werden neu terminiert. Wasserzeichen beziehungsweise technische Kennzeichnungen sollen ab dem 2. Dezember 2026 greifen. Die Einigung muss noch formal von Parlament und Rat angenommen werden. Inhaltlich ist die Richtung aber klar: Weniger Bürokratie für Unternehmen, aber harte Grenzen bei intimen Deepfakes und Missbrauchsdarstellungen.
Funktioniert bestimmt genau so gut wie die Netzsperren mit DNS. Bin voll dafür sowas einzuschränken aber das wird vermutlich wieder in einem disfunktionalen Milliardengrab enden.
Wie würdest Du das Problem angehen?
Ist nicht seine Aufgabe. Ich teile die Ansicht.
China macht es vor *g*
+1
Mein Kommentar war für „Ich sag ja nur“ gedacht :-(
Wer konstruktiv kritisiert, will den Fortschritt. Wer motzt, will nur Aufmerksamkeit für sein Leiden. Konstruktive Kritik ist wie Chirurgie: schmerzhaft, aber notwendig. Jammern ist wie Mundgeruch: Man merkt es selbst kaum, aber für alle anderen ist es belastend.
Ich würd’s einfach lassen. Demokratie bedeutet nicht, genau so alles zu haben wie man es möchte, sondern auch mal Dinge auszuhalten. Mein Gott. Verbieten wir doch einfach alles.
Das ist ja bitter. Was mache ich dann den ganzen Tag?
Dein Ernst?
Denkst du wirklich, daß das ein Thema ist, wo Platz für dumme Kommentare ist?
Das ist wirklich komplett daneben.
Jedes Thema sollte Platz für Humor haben. Die Welt ist schlimm genug. Zum Glück hat Charlie Chaplin vor 80 Jahren anders gedacht als du. ;-)
@Cobra Kai
Ich bin großer Fan des Postillion, von Satire und von Humor.
Und ja, es sollte da keine Ausnahmen geben.
Dennoch widerspreche ich dir, denn an dieser Stelle hier – in der Diskussion, sollte man sachlich bleiben und da ist, gerade im Sinne der Betroffenen keinn Platz für „gnihihi“-Geschwafel von 12-jährigen.
Und die Beziehung und Einstellung die gerade Chaplin zu Minderjährigen hatte sollte dir bekannt sein, oder?
Peinlich, peinlich…
Deshalb schießt Elon also gegen die EU. Grok ist betroffen
Elon hat die EU seit 2023 als innovationsfeindliche Bürokratie-Hölle bezeichnet.. lange bevor Grok auch nur ein Höschen ausziehen konnte! aber klar, jetzt wo ein paar Leute mit Grok Nacktbilder gebastelt haben, ist das natürlich der einzige Grund, warum er gegen sinnlose Overregulation wettert.. logisch! oder einfach nur wirres Zeug!
Nudity wird sich nicht verbieten lassen, da viel zu relevant für die Pornoindustrie.
Diffamierung ist nicht der einzig denkbare Zweck. Wissen viele gar nicht. Messer werden ja auch nicht verboten.
Nach Verboten schreien ist gut zur Profilierung im politischen Zirkus, wird aber das Problem nicht lösen, dass es Leute gibt die krank im Kopf sind.
Hast ja Recht! Wir lassen alles weiter laufen. Erst wenn jemand den Stein der Weisen gefunden hat, reden wir wieder drüber! Geh nach Hause!
#ironioff#
Lesen hilft: „ohne Zustimmung der Betroffenen“ – jeder Pornodarsteller oder Only Fans „content creator“ darf sich auch mit so einem Gesetz jederzeit selber in jedes Darstellungsform bringen die er oder sie möchte. Keine Angst das Anschauungsmaterial wird dir nicht ausgehen.
Da muss ich noch schnell das Foto von mir anfertigen lassen mit Sixpack und der „Verlängerung“ in der boxershorts. ;)
Ich finde die ganzen Filter von insta & co. Sollten auch verboten werden.
Die Frauen manipulieren damit zu viel.
Total passender Vergleich: Frauen die sich mit Filtern „hübscher“ machen und Menschen die andere Menschen gegen ihren Willen „ausziehen“ und das ins Netz stellen, damit sich noch wieder andere daran aufg*****
Ein uraltes Prinzip:
was verboten wird, wandert in den Untergrund. Und da das Problem dann außer Sicht ist, freut sich der Verbietet über seinen enormen Erfolg…
Ah ja..dann sollten wir es auch nicht verbieten, dass jeder einfach in ein fremdes Haus reingehen darf, um da mitzunehmen was man mag. \Ironie aus. Also die Logik von machen…Man man man
Das stimmt ja so nicht. Verbote werden von der ganz überwiegenden Zahl der Menschen eingehalten. Übrigens auch, wenn man ihnen etwas völlig absurdes verbietet, siehe die Anfänge fast jeden autoritären Staates.
Man könnte eher sagen: Was kriminalisiert ist, wird seltener gemacht, dafür aber im Untergrund. Das ist dann immer eine Abwägung. Aber der Hintergrund, vor dem diese Gesetzgebung diskutiert wird, ist ja eine völlige Schamlosigkeit gegenüber einer Handlung, die echten Menschen real schadet. Im Umkehrschluss: Wenn es verboten wird, wechselt erstens etwas häufiger die Scham die Seite (Pelicot), weil man sich für Verbotenes schlicht eher schämt als für lediglich unmoralisches Erlaubtes. Und es wird seltener, ergo weniger Geschädigte. Da es keine Profiteure gibt (Nudification ist kein Ausdruck persönlicher Freiheit), kann man das utilitaristisch sehen: Jede Unterlassung ist gut.
Deshalb ist die Verkürzung „Verbot = nix ändert sich“ nicht nur falsch, sondern auch ganz bewusst falsch, um aktiv zu verzerren und sich das persönliche Privileg der Schamlosigkeit zu erhalten.
Bitte um Beispiele welche Apps betroffen sind oder sein könnten.
Alle, die das ermöglichen! Das Gesetz wird keine Liste enthalten. Gesetze sind idR abstrakt generell formuliert, um möglichst viele Varianten abzudecken.
Grok z. B.
Wie sie es nicht checken. :-)
Lächerlich, dann kann man auch gleich das Internet verbieten. Es gibt eine mio Möglichkeiten für son Zeug
Letztendlich bekommen wir dann die chinesische Version vom Internet. Und schön Sozialpunkte sammeln und den Nachbarn anscheißen.
Spätestens als zu Corona Zeiten Nachbarn ausspioniert, diffamiert und angezeigt wurden, hat sich in der Gesellschaft sowieso einiges zum schlechten verändert.
Frau Meloni hat es gerade erst zugegeben: Die Abbildung von ihr in Unterwäsche sieht besser aus, als das Original.
Vielleicht sollte es davon mehr geben.
Jetzt wirklich mal ganz unvoreingenommen – es sollen ja auch Anwendungen betroffen sein, die Kinderpornos erstellen.
So schlimm es auch ist, dass manche Menschen solche Neigungen haben, wäre es da nicht besser, sowas einer KI zu überlassen, als das Kinder darunter leiden müssen?
Nein, denn die Kinder (und meist auch Frauen) leiden ja dennoch, wenn (Fake-)Bilder von ihnen im Internet verbreitet werden, auch wenn nur deren Kopf echt ist. Sie werden dennoch Mobbing, Hohn und Spott erleiden sobald die Fakebilder im Umlauf sind.
Nur weil man als Mann selten Opfer ist und daher nicht nachvollziehen kann, ist das Problem ja nicht harmlos und sollte daher auch nicht einfach weggewischt werden.