Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt

The National Times - Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt

Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt / Foto: © AFP

KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht "vollständig autonom" arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.

Textgröße ändern:

Der Chef von Anthropic, Dario Amodei, gehört selbst zu denjenigen, die vor einer KI warnen, die außer Kontrolle geraten könnte. Kürzlich forderte er eine gezielte Verlangsamung der Entwicklung der fortschrittlichsten KI-Modelle, um dem vorzubeugen.

Auch in dem am Donnerstag veröffentlichten Bericht des Unternehmens heißt es: "Modelle, die ihre eigene Entwicklung beschleunigen, könnten es für Menschen schwieriger machen, diese Systeme zu verstehen oder zu kontrollieren." Es sei wichtig, die Messwerte zum selbstständigen Arbeiten der KI "offenzulegen, um zu verstehen, wie nah die Welt daran ist, rekursive Selbstverbesserung zu erreichen". Darunter versteht sich ein Modell, das seinen Nachfolger vollständig autonom entwickelt.

Die Debatte über die Risiken von KI hat sich seit dem Sommer verschärft, nachdem es mehrere Vorfälle gegeben hatte, bei denen sich KI-Agenten selbständig machten oder anders verhielten als erwartet. Gleichzeitig gibt es einen globalen Wettlauf im KI-Boom mit massiven Investitionen. Wirtschaftlich ist daher eine gesteuerte Verlangsamung der Entwicklung schwierig.

B.Cooper--TNT

CDU-Generalsekretärin: Bis zu 25 Cent Entlastung beim Spritpreis

Die Beratungen in der Regierungskoalition über eine Entlastung vom hohen Spritpreis dauern an - CDU-Generalsekretärin Franziska Hoppermann nannte erstmals konkrete Zahlen: "Eine Entlastung um irgendwie 21, 23, 25 Cent der Liter, finde ich, ist schon eine spürbare Entlastung", sagte sie. Die CDU ist für eine Mehrwertsteuersenkung, SPD-Chef Lars Klingbeil nicht dagegen. Der ADAC, das Handwerk und der DGB plädierten dagegen für eine Stromsteuersenkung.

Dieselpreis steigt auf weiteren Rekordwert - Benzinpreis leicht gesunken

Der Preis für Diesel an den deutschen Tankstellen hat am Donnerstag erneut einen neuen Höchststand erreicht. Im Tagesdurchschnitt lag der Preis pro Liter im bundesweiten Schnitt bei 2,471 Euro, wie der ADAC in München am Freitag mitteilte. Am Mittwoch hatte er bereits mit 2,453 Euro den vorherigen Rekord gebrochen. Der Benzinpreis sank hingegen leicht von 2,314 auf 2,308 Euro pro Liter.

Finanzminister Klingbeil pocht auf EU-weite Übergewinnsteuer

Bundesfinanzminister Lars Klingbeil (SPD) hat vor dem Treffen mit seinen Amtskollegen am Freitag in Dublin noch einmal betont, dass er eine EU-weite Übergewinnsteuer will. "Die EU-Kommission sollte hier jetzt sehr zügig handeln", sagte er dem Portal Politico. "Dafür setze ich mich gemeinsam mit meinen Amtskollegen aus weiteren großen EU-Staaten wie Spanien und Polen ein."

Kinderschutzbund gegen pauschale Zugangsbeschränkungen bei Social Media

Der Kinderschutzbund sieht das EU-Konzept für ein Social-Media-Verbot kritisch und ist gegen pauschale Zugangsbeschränkungen. "Gerade für Jugendliche, die zu Hause wenig Unterstützung erfahren, in belasteten Familien leben oder online wichtige soziale Kontakte und Beratung finden, können digitale Räume besonders wichtig sein", sagte die Präsidentin des Kinderschutzbundes, Sabine Andresen, dem Redaktionsnetzwerk Deutschland (RND, Freitagsausgaben). "Ihr Zugang darf nicht allein von der Zustimmung und den Möglichkeiten ihrer Eltern abhängen."