Identitätsdiebstahl mithilfe von Künstlicher Intelligenz: Die EU reagiert auf den Chatbot Grok von Elon Musk. User konnten mithilfe der Anwendung echte Fotos manipulieren. © DPA
Brüssel – EU-Mitgliedstaaten und das Europäische Parlament haben sich nun auf ein Verbot von Künstlicher Intelligenz für Porno-Deepfakes und sexualisierte Bilder geeinigt. Das Verbot soll am 2. Dezember in Kraft treten. Bundesjustizministerin Stefanie Hubig (SPD) begrüßt die Einigung und fordert als nächsten Schritt, den „Schutz vor digitaler Gewalt auch im Strafrecht zu verbessern“. Parlamentsangaben zufolge zielt das Verbot darauf ab, keine Bilder, Videos und Töne mehr mit kinderpornografischem Inhalt erstellen oder intime Darstellungen eines Menschen ohne dessen Einwilligung zeigen zu können. KI-Systeme müssen nach Ablauf der Frist mit Sicherheitsvorkehrungen ausgestattet sein, die verhindern, solche Inhalte zu erzeugen.
Damit reagiert die EU auf Vorfälle, bei denen mithilfe des Chatbots Grok von Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellt und im Internet verbreitet wurden. User konnten mit einer Funktion des KI-Chatbots echte Fotos digital manipulieren. Mithilfe von Befehlen konnte Kleidung etwa durch Bikinis ersetzt werden. Mehrere Länder sowie die EU-Kommission leiteten daraufhin Ermittlungen gegen Grok ein. Indonesien und Malaysia sperrten den Zugang zum Chatbot zu Jahresbeginn.
Im März riefen Vorwürfe um Christian Ulmen und kursierende Bilder seiner damaligen Ehefrau Collien Fernandes große Empörung hervor. Weil sie in Deutschland Gesetzeslücken sah, übergab Fernandes ihren Fall an die spanische Justiz. Die spanischen Behörden geben den Fall des ehemaligen Paares nun wieder zurück nach Deutschland ab, weil die möglichen Taten hierzulande begangen worden seien.
Die EU kann Anwendungen und technische Systeme verbieten – die einzelnen EU-Staaten entscheiden aber über das Strafmaß für Nutzer, die Deepfakes erstellen. Hubig zufolge sollen das Erstellen und Verbreiten von pornografischen Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden können. Die Ministerin will damit Gesetzeslücken schließen: Derzeit ist in Deutschland das bloße Herstellen gefälschter pornografischer Aufnahmen nicht strafbar. Weitere Regeln sollen ab Dezember 2027 für autonome Hochrisiko-KI-Systeme und ab August 2028 für solche gelten, die in andere Programme oder Produkte integriert sind.
Nach der Einigung in der Nacht zum Donnerstag müssen EU-Parlament und EU-Länder den Kompromiss noch absegnen. Nach Abschluss der Verhandlungen gilt das aber als Formalie.IULIA MOACA