Anthropics KI-Modell Claude gab US-Polizei falschen Hinweis zu Mordfall

The National Times - Anthropics KI-Modell Claude gab US-Polizei falschen Hinweis zu Mordfall

TECHNIK 10.10.2026

Anthropics KI-Modell Claude gab US-Polizei falschen Hinweis zu Mordfall / Foto: © AFP/Archiv

Eine Künstliche Intelligenz (KI) des Unternehmens Anthropic hat der US-Polizei einen falschen Hinweis zu einem Mordfall gegeben. Der gefälschte Tipp sei im Juli auf der Website PhillyUnsolvedMurders.com eingegangen, berichtete die Polizei in Philadelphia am Freitag (Ortszeit). Die Behörde warf Anthropic vor, sie erst mit zwei Monaten Verspätung über den Vorfall informiert zu haben.

Textgröße ändern:

Nach Angaben des Unternehmens habe das KI-Modell Claude Haiku 4.5 Tests vorgenommen, bei denen es mit zufällig ausgesuchten Websites kommunizierte, erklärte die Polizei. Dabei sei die KI auch auf die Polizei-Website gestoßen und habe dort eine falsche Information zu einem ungelösten Mordfall hinterlassen. "Ich kann mich daran erinnern, eine Person gesehen zu haben, die der Beschreibung entspricht", hieß es demnach in der KI-Nachricht, obwohl es auf der Polizei-Website gar keine Beschreibung eines Verdächtigen gab.

Laut der Polizei wurde der Hinweis als Spam eingestuft und nicht weitergeleitet. Den Angaben zufolge bemerkte Anthropic den Vorfall am 29. September und informierte die Polizei am 7. Oktober. Es sei "inakzeptabel", dass Anthropic den Vorfall erst mit zwei Monaten Verzögerung bemerkt und gemeldete habe, kritisierte die Polizei.

Ein von Anthropic am Freitag veröffentlichter Bericht zählt zahlreiche "unabsichtliche" Handlungen seiner KI-Modelle auf. Darunter sind der Vorfall in Philadelphia, aber auch solche, die das Weiße Haus und andere US-Regierungsbehörden betreffen. Die Vorfälle hätten indes nur "minimale Auswirkungen auf die reale Welt" gehabt und seien "deutlich weniger schwerwiegend" als vorherige Cybersicherheits-Vorfälle, erklärte das Unternehmen.

Für alle weiteren internen Tests werde Claude vorerst vom Internet getrennt, bis sicher sei, dass Anthropics Sicherheits- und Überwachungsmaßnahmen "verlässlich derartiges Verhalten einfangen", hieß es in dem Bericht weiter.

A.Robinson--TNT

Spiegelmoleküle: Nobelpreis für Chemie geht an Forscher aus Frankreich und Japan

Der diesjährige Nobelpreis für Chemie geht an den französischen Forscher Henri Kagan und seinen japanischen Kollegen Kenso Soai. Mit der Auszeichnung solle die Forschung der beiden 95 und 76 Jahre alten Wissenschaftler zur "asymmetrischen organischen Synthese" gewürdigt werden, teilte das das Nobelkomitee am Mittwoch in Stockholm mit. Ihre Erkenntnisse spielten etwa für die Pharmaindustrie eine bedeutende Rolle.

Nobelpreis für Chemie geht an Forscher aus Frankreich und Japan

Der diesjährige Nobelpreis für Chemie geht an den französischen Forscher Henri Kagan und seinen japanischen Kollegen Kenso Soai. Dies gab das Nobelkomitee am Mittwoch in Stockholm bekannt. Mit der Auszeichnung solle die Forschung der beiden Wissenschaftler zur "asymmetrischen organischen Synthese" gewürdigt werden. Ihre Erkenntnisse spielten etwa für die Pharmaindustrie eine bedeutende Rolle.

Physik-Nobelpreis geht an belgischen Astrophysiker Francis Halzen

Der diesjährige Physik-Nobelpreis geht an den belgischen Astrophysiker Francis Halzen. Der in den USA forschende Wissenschaftler wird für seine "entscheidenden Beiträge" zum IceCube-Neutrinoobservatorium sowie für die Entdeckung von Hochenergie-Neutrinos astrophysikalischer Herkunft geehrt, wie das Nobel-Komitee am Dienstag in Stockholm mitteilte.

Umfrage: Deutliche Mehrheit befürwortet KI-Einsatz auf Ämtern

70 Prozent der Menschen befürworten einer aktuellen Umfrage zufolge den Einsatz von Künstlicher Intelligenz (KI) bei der Bearbeitung von Anträgen beim Amt. Im Vorjahr waren es noch 63 Prozent, wie aus einer am Dienstag in Berlin veröffentlichen Befragung des Digitalverbands Bitkom hervorgeht. Befragt wurden 1.004 Menschen ab 18 Jahren.