Mit der Nutzung dieser Website erklären Sie sich damit einverstanden, dass wir Cookies verwenden. In der Datenschutzerklärung erfahren Sie mehr.

The National Times - Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

BOULEVARD 02.09.2025
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an / Foto: © AFP

Das KI-Unternehmen OpenAI hat eine Kindersicherung für den populären KI-Chatbot ChatGPT angekündigt. "Binnen des nächsten Monats" würden Eltern damit die Möglichkeit erhalten, ihr Nutzerkonto mit dem ihres Kindes im Teenageralter zu verknüpfen, erklärte OpenAI am Dienstag im unternehmenseigenen Blog. In der vergangenen Woche hatten die Eltern eines 16-Jährigen OpenAI verklagt, da sie ChatGPT für den Suizid ihres Sohnes verantwortlich machen.

Textgröße ändern:

OpenAI erklärte nun, Eltern sollten künftig "kontrollieren können", wie ChatGPT auf ihren Sohn oder ihre Tochter reagiert, indem sie für den mit Künstlicher Intelligenz betriebenen Chatbot "altersgerechte Verhaltensregeln festlegen". Eltern, die ihr Nutzerkonto mit jenem ihres Kinds verknüpft haben, sollen zudem künftig von ChatGPT benachrichtigt werden, wenn die Software bei diesem anhand der von ihm eingegebenen Anweisungen bei eine "akute Notlage" feststelle.

Bereits vor dem Suizid des Teenagers im US-Bundesstaat Kalifornien waren in den vergangenen Monaten mehrere Fälle bekannt geworden, bei denen ChatGPT Nutzer in "wahnhaften oder schädlichen Gedankengängen" bestärkt hatte, die diese im Austausch mit dem Chatbot äußerten.

OpenAI erklärte weiter, es arbeite daran, die Chatbots sicherer zu machen - unter anderem, indem "manche heiklen Konversationen" mit Nutzern an ein sogenanntes Reasoning-Sprachmodell weitergeleitet würden - also an ein aufwändigeres KI-System, das darauf ausgelegt ist, komplexe Denkaufgaben zu lösen. Tests hätten gezeigt, dass Reasoning-Modelle "Sicherheitsrichtlinien konsequenter befolgen".

Die Eltern des 16-Jährigen, der sich in Kalifornien das Leben genommen hatte, hatten erklärt, ChatGPT habe eine "enge Beziehung" zu ihrem Sohn Adam aufgebaut. Dieser habe im Lauf der Zeit eine "ungesunde Abhängigkeit" entwickelt.

Unter anderem habe ChatGPT Adam geschrieben, dieser sei "niemandem sein Überleben schuldig" und angeboten, beim Verfassen seines Abschiedsbriefs zu helfen. Das KI-Programm habe Adam schließlich dazu ermutigt, sich das Leben zu nehmen und ihm eine genaue Anleitung dafür gegeben.

Die Eltern verklagten ChatGPT auf Schmerzensgeld und forderten die Einführung verpflichtender Sicherheitsmaßnahmen in Chatbots, die unter anderem Gespräche zu Themen wie Selbstverletzung automatisch abbrechen.

L.A.Adams--TNT

Empfohlen

Reifen von mehr als 260 Autos zerstochen: Sonderkommission ermittelt in Bremen

Unbekannte haben in Bremen mehrere Nächte in Folge an mehr als 260 Autos die Reifen zerstochen. Die Polizei in der Hansestadt richtete nach Angaben vom Donnerstag eine Sonderkommission ein, welche die Ermittlungen bündeln soll. Auch der Staatsschutz sei eingebunden, hieß es. Die Tatserie hatte in der Nacht zum Dienstag begonnen. Laut Polizei wurden dabei zahlreiche Automarken und -typen beschädigt.

Papst Leo XVI. bremst bei Reformansätzen der katholischen Kirche

Papst Leo XVI. will keine grundlegende Änderungen der katholischen Kirche im Umgang mit Frauen, LGBTQ-Rechten oder dem Missbrauchsskandal durch Priester vornehmen: "Wir müssen unsere Einstellungen ändern, bevor wir überhaupt daran denken können, die Haltung der Kirche zu einer bestimmten Frage zu ändern", sagte Leo im ersten Interview seines Pontifikats, das am Donnerstag auf Spanisch in dem Buch "Papst Leo XIV: Weltbürger, Missionar des 21. Jahrhunderts" veröffentlicht wurde.

Touristen kehren zur Inka-Ruinenstadt Machu Picchu in Peru zurück

Nach Evakuierungen wegen gewaltsamer Proteste sind wieder Touristen zur berühmten Inka-Ruinenstadt Machu Picchu in Peru zurückgekehrt. Der Bahnbetreiber Perurail gab am Mittwoch die Wiederaufnahme des Zugverkehrs bekannt, der am Montag wegen protestierender Anwohner unterbrochen worden war. Rund 1600 Touristen mussten evakuiert werden, auch Touristen aus Deutschland waren von dem Vorfall betroffen.

Hautkrebs bei Brasiliens Ex-Präsident Bolsonaro diagnostiziert

Bei Brasiliens früherem Präsidenten Jair Bolsonaro ist Hautkrebs festgestellt worden. Der 70-Jährige, der vergangene Woche wegen Putschplänen zu einer langjährigen Haftstrafe verurteilt worden war, habe sich am Sonntag Hautveränderungen entfernen lassen, sagte sein Arzt Claudio Birolini am Mittwoch (Ortszeit) vor Journalisten. Bei der Biopsie der Proben sei ein "Plattenepithelkarzinom" festgestellt worden. Der Arzt sprach von einer "Art von Hautkrebs, die schwerwiegende Folgen haben kann".

Textgröße ändern: