Die rasant fortschreitende Verbreitung von KI-Werkzeugen zur Manipulation von Bildern hat eine weltweite Krise ausgelöst, die von Nordamerika über Europa bis nach Lateinamerika reicht. Während in den Vereinigten Staaten Schönheitschirurgen mit immer bizarreren, von ChatGPT inspirierten Patientenwünschen konfrontiert werden [A1], erschüttern in Europa und Südamerika Skandale um KI-generierte Nacktbilder von Minderjährigen die Öffentlichkeit. Die Technologie, die ursprünglich für kreative Zwecke gedacht war, wird zunehmend als Waffe für digitale Gewalt und sexuellen Missbrauch eingesetzt.

In den USA berichtet die Dermatologin Rachel Westbay von Patientinnen, die Cartoon-artige KI-Bilder vorlegen – mit überdimensionierten Lippen und glasigen Augen, die anatomisch unmöglich sind [A1]. Diese Entwicklung verschärfe die Kluft zwischen Schönheitsidealen und Realität. Parallel dazu haben in Schweden und Italien Kinder und Jugendliche begonnen, sogenannte Nudify-Apps zu nutzen. Eine Untersuchung der Kinderrechtsorganisation Ecpat zeigt, dass über 20 Prozent der Jungen in Schweden bereits solche Bilder gesehen oder selbst erstellt haben [A2]. In der toskanischen Stadt Pontedera sind fünfzehn Minderjährige angeklagt, weil sie auf Instagram und TikTok veröffentlichte Fotos von Klassenkameradinnen mit KI entkleidet und in einer WhatsApp-Gruppe verbreitet haben [A5]. Die Staatsanwaltschaft ermittelt wegen Herstellung und Verbreitung kinderpornografischen Materials.

Auch in Lateinamerika schlägt der Fall Wellen: An der Nationalen Universität von Salta in Argentinien sind zwei Studenten beschuldigt, mit KI sexuelle Falschbilder von Kommilitoninnen erstellt und verbreitet zu haben. Die offizielle Untersuchung wurde als digitale geschlechtsspezifische Gewalt eingestuft, die Zahl der Opfer könnte weit über die zwölf bisherigen Anzeigen hinausgehen [A3]. Beobachter in Buenos Aires fordern schärfere Gesetze, doch die Justiz tappt oft im Dunkeln, weil die Täter die Spuren im Netz leicht verwischen können.

Eine bemerkenswerte Gegenbewegung kommt aus Frankreich: Ein populärer Influencer, der unter dem Pseudonym FINNYZYY auftritt, lockt mutmaßliche Pädophile mit einer KI-generierten Minderjährigenstimme und -gesicht in die Falle. So ließ sich der 66-jährige frühere Sportlehrer Dominique B. zu sexuellen Ansprachen hinreißen – und stellte sich nach der öffentlichen Bloßstellung der Polizei [A4]. Während die Methode in den sozialen Medien gefeiert wird, warnen Juristen vor privater Strafverfolgung und möglichen rechtlichen Grauzonen.

Die unterschiedlichen Reaktionen – von Strafverfolgung über Schulaufklärung bis hin zu privaten Fallen – zeigen, dass Politik und Gesellschaft erst am Anfang einer Auseinandersetzung mit KI-generierten Missbrauchsbildern stehen. Aus deutscher und österreichischer Perspektive drängt sich die Frage auf, ob die bestehenden Rechtsrahmen, insbesondere das Netzwerkdurchsetzungsgesetz und die EU-Regulierung, ausreichen. In der Schweiz fordern Kinderschutzorganisationen eine nationale Aufklärungskampagne. Die Technologie schreitet schneller voran als die Gesetzgebung – und die jüngsten Fälle aus Pontedera und Salta sind erst der Anfang.