The National Times - EU-Länder wollen KI-Anwendungen für sexuelle Deepfakes verbieten

EU-Länder wollen KI-Anwendungen für sexuelle Deepfakes verbieten


EU-Länder wollen KI-Anwendungen für sexuelle Deepfakes verbieten
EU-Länder wollen KI-Anwendungen für sexuelle Deepfakes verbieten / Foto: © AFP

Die 27 EU-Länder haben sich für ein Verbot von KI-Anwendungen ausgesprochen, mit deren Hilfe sexualisierte Bilder von echten Menschen ohne deren Einwilligung hergestellt werden können. Bei einem Treffen am Freitag einigten sich die Botschafter auf eine gemeinsame Position für eine entsprechende Änderung des Gesetzes zu Künstlicher Intelligenz (KI). Damit reagiert Brüssel auf die Erstellung und Verbreitung von Millionen sexualisierter KI-Bilder von Frauen und Kindern mithilfe des Chatbots Grok von US-Milliardär Elon Musk Anfang des Jahres.

Textgröße ändern:

Das Verbot soll Teil einer Reihe von Veränderungen am bestehenden KI-Gesetz werden, das die EU 2024 verabschiedet hatte. Auch im EU-Parlament wird derzeit über eine Verschärfung des Gesetzes beraten. Es wird davon ausgegangen, dass die zuständigen Parlamentsausschüsse am Mittwoch über ein Verbot der KI-Anwendungen abstimmen.

Bei Grok handelt es sich um eine beim Onlinedienst X integrierte Funktion. Stein des Anstoßes war Anfang Januar der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "zieh ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.

Mehrere Länder leiteten Untersuchungen gegen Grok ein oder sperrten das Tool. Auch die irische Aufsichtsbehörde leitete im Auftrag der EU eine Untersuchung ein. X erklärte, es werde Maßnahmen ergreifen, um die Erstellung solcher Bilder zu stoppen.

Die Botschafter sprachen sich am Freitag auch dafür aus, die Vorschriften für risikoreiche KI erst später in Kraft treten zu lassen: Demnach sollen diese im Dezember 2027 für eigenständige risikoreiche KI-Systeme und im August 2028 für in Produkte integrierte risikoreiche KI-Systeme gelten. Der aktuelle Zeitplan sah noch ein Inkrafttreten ab August 2026 beziehungsweise August 2027 vor.

R.Hawkins--TNT

Empfohlen

Mehr und hochpreisige Ware angelandet: Deutsche Fischer steigern Erlöse

Die deutschen Fischerinnen und Fischer haben im vergangenen Jahr mehr Fisch an Land gebracht und ihre Einnahmen um fast ein Drittel gesteigert. Die rund 1080 Schiffe der deutschen Hochsee- und Küstenfischerei landeten im Vergleich zum Vorjahr 2025 sieben Prozent mehr Fisch an, wie die Bundesanstalt für Landwirtschaft und Ernährung (BLE) am Mittwoch mitteilte. Die Erlöse kletterten um 32 Prozent auf 236,4 Millionen Euro.

Rekordwert im ersten Halbjahr: Erneuerbare deckten 58 Prozent des Stromverbrauchs

Die erneuerbaren Energiequellen haben laut vorläufigen Berechnungen im ersten Halbjahr 58 Prozent des Stromverbrauchs in Deutschland gedeckt. "Ein Plus von fast drei Prozentpunkten im Vergleich zum Vorjahreszeitraum und ein neuer Rekordwert", erklärte der Bundesverband de Energie- und Wasserwirtschaft (BDEW) am Mittwoch. Insgesamt erzeugten Erneuerbare-Energien-Anlagen 152,2 Milliarden Kilowattstunden (kWh) Strom, vor allem Windanlagen auf See produzierten demnach deutlich mehr als im Vorjahreszeitraum.

Förderprogramm "Demokratie leben" neu aufgelegt - Überarbeitung umstritten

Das Bundesbildungsministerium hat das Förderprogramm "Demokratie leben" neu aufgelegt und die dazu geltenden neuen Förderkriterien veröffentlicht. Interessierte Organisationen könnten sich ab sofort über die aktualisierten Abläufe und Kriterien informieren und ab August digital ihre Projektideen einreichen, teilte das Ministerium am Mittwoch mit. Externe Gutachter sehen sich anschließend die eingereichten Bewerbungen ab - ausgewählte Träger dürfen dann ab Oktober konkrete Anträge stellen.

Brandenburg: Sechsjähriger Junge stürzt von Balkon in elftem Stock und stirbt

In Frankfurt an der Oder ist ein sechsjähriger Junge aus dem elften Stock eines Hochhauses in die Tiefe gestürzt und gestorben. Eine Zeugin alarmierte am Dienstagabend die Rettungskräfte, als sie den schwerst verletzten Jungen vor dem Haus auf dem Boden entdeckte, wie ein Polizeisprecher am Mittwoch in der brandenburgischen Stadt sagte. Diese kämpften um das Leben des Kinds, das jedoch noch vor Ort starb.

Textgröße ändern: