Onlinedienst X will Chatbot Grok an Erstellen von KI-Nacktbildern hindern

The National Times - Onlinedienst X will Chatbot Grok an Erstellen von KI-Nacktbildern hindern

Onlinedienst X will Chatbot Grok an Erstellen von KI-Nacktbildern hindern / Foto: © AFP

Der Onlinedienst X von US-Milliardär Elon Musk will seinen KI-Chatbot Grok eigenen Angaben zufolge daran hindern, gefälschte Nacktbilder zu erstellen. In Ländern, in denen solche Handlungen illegal sind, soll künftig die Funktion, Menschen in "Bikinis, Unterwäsche und ähnlicher Kleidung" darzustellen, für alle Grok- und X-Nutzer "geografisch blockiert" werden, wie der Onlinedienst am Mittwoch erklärte.

Textgröße ändern:

Das Sicherheitsteam von X erklärte, es seien "technische Maßnahmen" ergriffen worden, "um zu verhindern, dass über das Grok-Konto Bilder von realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden können". Diese Einschränkung gelte für "alle Nutzer, einschließlich zahlender Abonnenten".

Wenige Stunden vor der Stellungnahme hatte der US-Bundesstaat Kalifornien eine Untersuchung gegen Grok eröffnet. Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob Musks KI-Firma xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. Zuvor hatten bereits die Europäische Union und Großbritannien den KI-Chatbot ins Visier genommen.

Stein des Anstoßes ist der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen können - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "ziehe ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte ist damit möglich.

Die EU-Kommission und die britische Aufsichtsbehörde Ofcom hatten Musks Unternehmen deshalb aufgefordert, Maßnahmen zum Schutz der Grok-Nutzer zu ergreifen. Sie reagierten am Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht scheuen, ihr ganzes juristisches Arsenal zu nutzen, erklärte ein Sprecher in Brüssel.

Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Anderswo wurde die Nutzung des Tools auf zahlende Kunden beschränkt.

L.Johnson--TNT

Urteil in südfranzösischem Immobilienskandal steht an

In einem der größten Immobilienskandale Frankreichs mit einem Gesamtschaden in Höhe von 1,2 Milliarden Euro steht am Donnerstag in Marseille das Urteil an. Angeklagt sind 14 Personen und das Unternehmen Apollonia, das seine Kunden zur Aufnahme zahlreicher Kredite für Immobilien motivierte, die sie in die Überschuldung brachten. Die Kunden mussten teilweise Blanko-Dokumente unterschreiben. Die Schuldenberge beliefen sich auf bis zu vier Millionen Euro.

Bundestag befasst sich mit neuer Grundsicherung

Der Bundestag befasst sich in seiner Sitzung am Donnerstag (ab 09.00 Uhr) mit einer Reihe von Gesetzentwürfen der Bundesregierung. So wollen die Abgeordneten in erster Lesung über die neue Grundsicherung beraten, die das bisherige Bürgergeld ablösen soll. Die Reform sieht verschärfte Mitwirkungspflichten für die Bezieherinnen und Bezieher vor - und härtere Sanktionsandrohungen. Als Ziel gibt die Koalition an, Missbrauch zu verhindern und mehr Menschen in Arbeit zu bringen.

Onlinedienst X schränkt Chatbot Grok beim Erstellen von KI-Nacktbildern ein

Der Onlinedienst X von US-Milliardär Elon Musk hat seinen KI-Chatbot Grok eigenen Angaben zufolge bei der Erstellung gefälschter Nacktbilder eingeschränkt. In Ländern, in denen solche Handlungen illegal sind, wurde die Funktion, Menschen in "Bikinis, Unterwäsche und ähnlicher Kleidung" darzustellen, für alle Grok- und X-Nutzer "geografisch blockiert", wie der Onlinedienst am Mittwoch erklärte.

The National Times - Onlinedienst X will Chatbot Grok an Erstellen von KI-Nacktbildern hindern