Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"

The National Times - Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"

Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten" / Foto: © AFP

Die führenden US-KI-Entwickler täuschen nach Auffassung des früheren OpenAI-Forschers Daniel Kokotajlo mit ihrer Forderung nach Regulierung für künstliche Intelligenz den Wunsch nach mehr Kontrolle nur vor. Anthropic, OpenAI, X und Google betrieben lediglich "Safety Washing", sagte Kokotajlo dem "Spiegel". Zugleich forderte der heutige Leiter des "AI Futures Project" im kalifornischen Berkeley die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten."

Textgröße ändern:

Die US-Unternehmen Anthropic, OpenAI, X und Google plädierten für "ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden", kritisierte Kokotajlo. Er gilt als einer der renommiertesten Fachleute für die Zukunft der Künstlichen Intelligenz. Seit Jahren warnt der frühere OpenAI-Forscher vor existenziellen Risiken der Technologie.

Die Techindustrie plane eine Automatisierung der KI-Forschung, sagte Kokotajlo. Damit "überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln - vielleicht in jeder Hinsicht. Das ist äußerst gefährlich." Wenn eine KI die nächste trainiere, beschleunige sich das Tempo des Fortschritts erheblich. Das bedeute auch, dass es schwieriger werde, den Überblick zu behalten, und es wahrscheinlicher werde, dass Fehler nicht bemerkt würden, betonte der Forscher.

Der Menschheit fehle derzeit "das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden". Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe mit ihrer Entwicklung fortgefahren werden. "Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung - und einen Kill-Switch" - einen Ausschalter.

H.Davies--TNT

Warren Buffett legt Verwaltungsratsvorsitz seiner Investmentfirma nieder

Es ist ein Rückzug auf Raten: US-Investor Warren Buffett, bekannt als "Orakel von Omaha", legt auch den Verwaltungsratsvorsitz seiner Holding Berkshire Hathaway nieder. Der 96-Jährige bleibe aber Mitglied des Verwaltungsrats und sei zudem zum "Ehrenpräsidenten" ernannt worden, teilte Berkshire Hathaway am Freitag mit. Buffett war zum 1. Januar bereits als Geschäftsführer ausgeschieden.

Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt

KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht "vollständig autonom" arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.

CDU-Generalsekretärin: Bis zu 25 Cent Entlastung beim Spritpreis

Die Beratungen in der Regierungskoalition über eine Entlastung vom hohen Spritpreis dauern an - CDU-Generalsekretärin Franziska Hoppermann nannte erstmals konkrete Zahlen: "Eine Entlastung um irgendwie 21, 23, 25 Cent der Liter, finde ich, ist schon eine spürbare Entlastung", sagte sie. Die CDU ist für eine Mehrwertsteuersenkung, SPD-Chef Lars Klingbeil nicht dagegen. Der ADAC, das Handwerk und der DGB plädierten dagegen für eine Stromsteuersenkung.

Dieselpreis steigt auf weiteren Rekordwert - Benzinpreis leicht gesunken

Der Preis für Diesel an den deutschen Tankstellen hat am Donnerstag erneut einen neuen Höchststand erreicht. Im Tagesdurchschnitt lag der Preis pro Liter im bundesweiten Schnitt bei 2,471 Euro, wie der ADAC in München am Freitag mitteilte. Am Mittwoch hatte er bereits mit 2,453 Euro den vorherigen Rekord gebrochen. Der Benzinpreis sank hingegen leicht von 2,314 auf 2,308 Euro pro Liter.