The National Times - Kalifornien prüft "Notschalter" für Künstliche Intelligenz

Wetter - Sydney 14°C

Kalifornien prüft "Notschalter" für Künstliche Intelligenz

WIRTSCHAFT 18.09.2026

Kalifornien prüft "Notschalter" für Künstliche Intelligenz / Foto: © AFP/Archiv

In der Sicherheitsdebatte über Künstliche Intelligenz (KI) will der US-Bundesstaat Kalifornien eine Art Notschalter prüfen. Der kalifornische Gouverneur Gavin Newsom unterzeichnete am Freitag ein Dekret, das als eine Möglichkeit zur Kontrolle von KI einen solchen "kill switch" vorsieht - also einen Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert. Eine Reihe von KI-Unternehmen sind im Silicon Valley in Kalifornien angesiedelt.

Textgröße ändern:

Mit dem Dekret beruft der Demokraten-Politiker Newsom zunächst "eine Gruppe weltweit führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien ausarbeiten sollen", um die Gesetze zur Sicherheit im KI-Bereich zu verbessern. Sie sollen unter anderem prüfen, ob unabhängige Instanzen künftig Sicherheitspläne für besonders fortschrittliche KI-Modelle erstellen können und ob KI-Unternehmen ein Notabschaltmechanismus vorgeschrieben werden kann.

Newsom erklärte, während Präsident Donald Trump und der Kongress in Washington schliefen, übernehme er selbst eine Führungsrolle, um "KI-Sicherheit für alle Amerikaner zu stärken". Trump lehnt eine Regulierung der KI-Branche ab. Der 80-Jährige will damit den technologischen Vorsprung der USA gegenüber China sichern. Im Kongress war diese Woche ein Vorstoß für eine KI-Notabschaltung ins Leere gelaufen.

Wegen der Risiken von Künstlicher Intelligenz hatten sich mehrere Chefs großer KI-Unternehmen kürzlich für eine verlangsamte Entwicklung der Technologie aufgerufen. Darunter sind Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman. Mehrere ehemalige Mitarbeiter von KI-Firmen warnten sogar vor einer möglichen Auslöschung der Menschheit.

Newsom gibt den Gouverneursposten in Kalifornien im Januar nach zwei Amtszeiten ab. Sein Nachfolger wird am 3. November gewählt. Dabei tritt der Republikaner Steve Hilton gegen den Demokraten Xavier Becerra an. Kalifornien gilt seit rund 20 Jahren als Hochburg der Demokraten.

L.Graham--TNT

Volkswagen kappt Gewinnerwartung für 2026

Der Volkswagen-Konzern hat seine Gewinnprognose für das laufende Geschäftsjahr deutlich nach unten korrigiert. "Sondereffekte" würden das Konzernergebnis voraussichtlich um insgesamt rund zehn Milliarden Euro reduzieren, erklärte der Wolfsburger Konzern am Freitagnachmittag in einer Börsenmitteilung. Die Umsatzprognose behält VW demnach mit nun 315 Milliarden Euro im Wesentlichen bei, die Umsatzrendite reduziert sich jedoch auf nur ein Prozent statt der zuvor erwarteten 4,0 bis 5,5 Prozent.

Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"

Die führenden US-KI-Entwickler täuschen nach Auffassung des früheren OpenAI-Forschers Daniel Kokotajlo mit ihrer Forderung nach Regulierung für künstliche Intelligenz den Wunsch nach mehr Kontrolle nur vor. Anthropic, OpenAI, X und Google betrieben lediglich "Safety Washing", sagte Kokotajlo dem "Spiegel". Zugleich forderte der heutige Leiter des "AI Futures Project" im kalifornischen Berkeley die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten."

Warren Buffett legt Verwaltungsratsvorsitz seiner Investmentfirma nieder

Es ist ein Rückzug auf Raten: US-Investor Warren Buffett, bekannt als "Orakel von Omaha", legt auch den Verwaltungsratsvorsitz seiner Holding Berkshire Hathaway nieder. Der 96-Jährige bleibe aber Mitglied des Verwaltungsrats und sei zudem zum "Ehrenpräsidenten" ernannt worden, teilte Berkshire Hathaway am Freitag mit. Buffett war zum 1. Januar bereits als Geschäftsführer ausgeschieden.

Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt

KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht "vollständig autonom" arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.

Textgröße ändern: