Mit der Nutzung dieser Website erklären Sie sich damit einverstanden, dass wir Cookies verwenden. In der Datenschutzerklärung erfahren Sie mehr.

The National Times - Onlinedienst X schränkt Chatbot Grok beim Erstellen von KI-Nacktbildern ein

Onlinedienst X schränkt Chatbot Grok beim Erstellen von KI-Nacktbildern ein

WIRTSCHAFT 15.01.2026
Onlinedienst X schränkt Chatbot Grok beim Erstellen von KI-Nacktbildern ein
Onlinedienst X schränkt Chatbot Grok beim Erstellen von KI-Nacktbildern ein / Foto: © AFP

Der Onlinedienst X von US-Milliardär Elon Musk hat seinen KI-Chatbot Grok eigenen Angaben zufolge bei der Erstellung gefälschter Nacktbilder eingeschränkt. In Ländern, in denen solche Handlungen illegal sind, wurde die Funktion, Menschen in "Bikinis, Unterwäsche und ähnlicher Kleidung" darzustellen, für alle Grok- und X-Nutzer "geografisch blockiert", wie der Onlinedienst am Mittwoch erklärte.

Textgröße ändern:

Das Sicherheitsteam von X erklärte, es seien "technische Maßnahmen" ergriffen worden, "um zu verhindern, dass über das Grok-Konto Bilder von realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden können". Diese Einschränkung gelte für "alle Nutzer, einschließlich zahlender Abonnenten".

Wenige Stunden vor der Stellungnahme hatte der US-Bundesstaat Kalifornien eine Untersuchung gegen Grok eröffnet. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob Musks KI-Firma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. Zuvor hatten bereits die Europäische Union und Großbritannien den KI-Chatbot ins Visier genommen.

Stein des Anstoßes ist der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen können - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "ziehe ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte ist damit möglich.

Die EU-Kommission und die britische Aufsichtsbehörde Ofcom hatten Musks Unternehmen deshalb aufgefordert, Maßnahmen zum Schutz der Grok-Nutzer zu ergreifen. Sie reagierten am Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht scheuen, ihr ganzes juristisches Arsenal zu nutzen, erklärte ein Sprecher in Brüssel.

Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Anderswo wurde die Nutzung des Tools auf zahlende Kunden beschränkt.

T.Bailey--TNT

Empfohlen

"Made in Europe": EU-Pläne für Industrie und Bau stoßen auf Kritik

Brüssel will der europäischen Industrie im Wettbewerb mit den USA und China neue Vorteile verschaffen - stößt mit einem Vorschlag für sogenannte "Made in Europe"-Quoten aber auf Kritik. Die Kommission schlug am Mittwoch vor, dass künftig beispielsweise Elektroautos nur dann für staatliche Fördergelder in Frage kommen, wenn ein Mindestanteil der Bauteile aus der EU oder ihren Partnerländern stammt. Verbände, Gewerkschaften und Umweltorganisationen forderten Nachbesserungen.

Bessent: USA erhöhen globalen Zoll wohl diese Woche auf 15 Prozent

Die USA erhöhen ihren weltweiten Sonderzoll voraussichtlich noch diese Woche von zehn auf 15 Prozent. Das gab US-Finanzminister Scott Bessent am Mittwoch im Sender CNBC bekannt. Grundlage ist ein Handelsgesetz von 1974, das in bestimmten Fällen Zusatzzölle für eine Dauer von 150 Tagen erlaubt, also rund fünf Monaten. Danach wäre eine Verlängerung durch den Kongress nötig.

EU-Kommission schlägt "Made in Europe"-Quoten für Elektroautos und Bau vor

Brüssel will der europäischen Industrie im Wettbewerb mit den USA und China neue Vorteile verschaffen: Sie schlug am Mittwoch sogenannte "Made in Europe"-Quoten für Industrie und Bau vor. Künftig sollen beispielsweise Elektroautos nur dann für staatliche Fördergelder oder öffentliche Aufträge in Frage kommen, wenn ein Mindestanteil der Bauteile aus der EU oder ihren Partnerländern stammt. Deutsche Wirtschaftsverbände kritisierten die Vorschläge als "Protektionismus".

Aus für öffentlich-rechtliche Spartensender tagesschau24 sowie ONE und ARD alpha

Die drei öffentlich-rechtlichen Fernsehsender tagesschau24, ONE und ARD alpha werden zum Jahresende eingestellt. Wie ARD und ZDF am Mittwoch mitteilten, werden mit der Reduzierung der linearen Sender die Vorgaben des neuen Reformstaatsvertrags umgesetzt. Weiter fortbestehen werden demnach unter anderem der deutsch-französische Kulturkanal Arte, der Kindersender Kika und der Nachrichtensender Phoenix.

Textgröße ändern: