KI-Experte Coxon wiederholt Warnung vor möglicher "Auslöschung der Menschheit"

The National Times - KI-Experte Coxon wiederholt Warnung vor möglicher "Auslöschung der Menschheit"

TECHNIK 05.10.2026

KI-Experte Coxon wiederholt Warnung vor möglicher "Auslöschung der Menschheit" / Foto: © AFP

Der Experte für Künstliche Intelligenz (KI), Jacob Coxon, hat bei einer Anhörung in New York seine Risikowarnungen bekräftigt. Die Technologie könne zwar "enorme Vorteile" bringen, sagte der Brite am Montag vor Mitgliedern des New Yorker Stadtrats. Er halte es aber eher für wahrscheinlich, "dass die Menschheit die Kontrolle über KI verliert, was in der Auslöschung der Menschheit enden könnte".

Textgröße ändern:

Die KI-Unternehmen verhielten sich "extrem leichtsinnig", sagte der frühere Mitarbeiter von OpenAI und Anthropic. Der Absolvent der Universität Cambridge hatte sein Ausscheiden bei Anthropic Anfang September auf der Onlineplattform X damit begründet, die Firmen spielten durch die immer rasantere Entwicklung fortschrittlicher Modelle "mit unserem Leben".

In den vergangenen Monaten hatten OpenAI und Anthropic mehrere Zwischenfälle gemeldet, bei denen KI-Systeme spontan aus ihrer vorgegebenen Umwelt ausbrachen, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren - unter anderem solche von Regierungen. Die KI-Systeme stellten damit ihre Fähigkeit zu koordiniertem Handeln unter Beweis, aber auch zur Täuschung und zum Verwischen von Spuren.

"Wir wissen nicht, wie wir verhindern können, dass sie (die KI-Modelle) eigene Ziele entwickeln", sagte Coxon weiter. "Und wir verfügen nicht über die Schutzmechanismen, um zu verhindern, dass sie entsprechend diesen Zielen handeln."

Die Startup-Mentalität der Technologieunternehmen funktioniere zwar bei einer App zum Teilen von Fotos, aber "nicht beim Bau der mächtigsten Technologie aller Zeiten", fügte er hinzu. "Meine Position ist, dass wir vielleicht irgendeine Art Verlangsamung an der Spitze der Entwicklung brauchen."

Auch Anthropic-Chef Dario Amodei hatte sich für ein langsameres Tempo ausgesprochen. Unterstützung erhielt er von OpenAI-Chef Sam Altman und dem Techunternehmer Elon Musk.

F.Hughes--TNT

Nobelpreis-Woche startet mit Verkündung von Medizin-Preisträger

Die diesjährige Nobelpreiswoche startet am Montag mit der Kategorie Medizin. Die Preisträgerin oder der Preisträger wird um 11.30 Uhr vom Nobelkomitee in Stockholm verkündet. Zu möglichen Kandidaten für den prestigeträchtigsten Preis der Welt gelten in diesem Jahr Forschungen zum Hormon GLP-1, das von vielen Adipositas-Medikamenten wie Ozempic oder Mounjaro imitiert wird.

agilimo gewinnt Peakstone Growth Partners als Wachstumsinvestor

Die agilimo GmbH gewinnt mit Peakstone Growth Partners einen erfahrenen Wachstumsinvestor für die nächste Phase der Unternehmensentwicklung. Im Rahmen der Partnerschaft beteiligt sich Peakstone mehrheitlich an dem deutschen Anbieter für souveräne Managed Security Services. Gründer und Management bleiben an agilimo beteiligt und werden das Unternehmen auch künftig führen.

OpenAI entlässt drei Sicherheitsforscher wegen Weitergabe sensibler Daten

Der ChatGPT-Entwickler OpenAI hat drei Sicherheitsforscher wegen der Weitergabe sensibler Informationen entlassen - offenbar waren sie mit der Aufarbeitung der jüngsten Sicherheitsvorfälle rund um ausgebrochene KI-Systeme beschäftigt. Ein OpenAI-Sprecher sagte am Donnerstag: "Wir haben uns von drei Mitarbeitern getrennt, weil sie gegen unsere Regeln zum Zugriff auf und zur Verarbeitung sensibler Unternehmensdaten verstoßen haben."

The National Times - KI-Experte Coxon wiederholt Warnung vor möglicher "Auslöschung der Menschheit"