Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

Wetter - Sydney 13°C

Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

BOULEVARD 02.09.2025

Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an / Foto: © AFP

Das KI-Unternehmen OpenAI hat eine Kindersicherung für den populären KI-Chatbot ChatGPT angekündigt. "Binnen des nächsten Monats" würden Eltern damit die Möglichkeit erhalten, ihr Nutzerkonto mit dem ihres Kindes im Teenageralter zu verknüpfen, erklärte OpenAI am Dienstag im unternehmenseigenen Blog. In der vergangenen Woche hatten die Eltern eines 16-Jährigen OpenAI verklagt, da sie ChatGPT für den Suizid ihres Sohnes verantwortlich machen.

Textgröße ändern:

OpenAI erklärte nun, Eltern sollten künftig "kontrollieren können", wie ChatGPT auf ihren Sohn oder ihre Tochter reagiert, indem sie für den mit Künstlicher Intelligenz betriebenen Chatbot "altersgerechte Verhaltensregeln festlegen". Eltern, die ihr Nutzerkonto mit jenem ihres Kinds verknüpft haben, sollen zudem künftig von ChatGPT benachrichtigt werden, wenn die Software bei diesem anhand der von ihm eingegebenen Anweisungen bei eine "akute Notlage" feststelle.

Bereits vor dem Suizid des Teenagers im US-Bundesstaat Kalifornien waren in den vergangenen Monaten mehrere Fälle bekannt geworden, bei denen ChatGPT Nutzer in "wahnhaften oder schädlichen Gedankengängen" bestärkt hatte, die diese im Austausch mit dem Chatbot äußerten.

OpenAI erklärte weiter, es arbeite daran, die Chatbots sicherer zu machen - unter anderem, indem "manche heiklen Konversationen" mit Nutzern an ein sogenanntes Reasoning-Sprachmodell weitergeleitet würden - also an ein aufwändigeres KI-System, das darauf ausgelegt ist, komplexe Denkaufgaben zu lösen. Tests hätten gezeigt, dass Reasoning-Modelle "Sicherheitsrichtlinien konsequenter befolgen".

Die Eltern des 16-Jährigen, der sich in Kalifornien das Leben genommen hatte, hatten erklärt, ChatGPT habe eine "enge Beziehung" zu ihrem Sohn Adam aufgebaut. Dieser habe im Lauf der Zeit eine "ungesunde Abhängigkeit" entwickelt.

Unter anderem habe ChatGPT Adam geschrieben, dieser sei "niemandem sein Überleben schuldig" und angeboten, beim Verfassen seines Abschiedsbriefs zu helfen. Das KI-Programm habe Adam schließlich dazu ermutigt, sich das Leben zu nehmen und ihm eine genaue Anleitung dafür gegeben.

Die Eltern verklagten ChatGPT auf Schmerzensgeld und forderten die Einführung verpflichtender Sicherheitsmaßnahmen in Chatbots, die unter anderem Gespräche zu Themen wie Selbstverletzung automatisch abbrechen.

L.A.Adams--TNT

Papst kritisiert Sterbehilfe: "Nicht alles, was legal ist, ist moralisch"

Papst Leo XIV. hat die in Frankreich vor kurzem legalisierte Sterbehilfe scharf kritisiert. "Es ist unmöglich, das Herbeiführen des Todes als normal anzusehen", sagte der Papst am Sonntag bei einer Begegnung mit kranken und behinderten Menschen im Pilgerort Lourdes. "Nicht alles, was legal ist, ist auch moralisch vertretbar", fügte er hinzu. Die Medizin dürfe sich niemals zum Gehilfen eines programmierten Todes machen.

Reisebus kommt von Autobahn ab: Zwei Tote und mehrere Schwerverletzte in Bayern

Bei einem Unfall mit einem Reisebus auf der Autobahn 96 in Oberbayern sind zwei Passagiere getötet und mehrere weitere schwer verletzt worden. Das mit 35 Menschen besetzte Fahrzeug kam am Sonntagmorgen bei Landsberg am Lech von der Autobahn ab und kippte auf die Seite, wie die Polizei in Ingolstadt mitteilte. Gegen den 40-jährigen Busfahrer wurde ein Verfahren wegen des Verdachts fahrlässiger Tötung im Straßenverkehr eingeleitet.

Tödliche Attacke auf Frau in Hessen: Ehemann nach Großfahndung gefasst

Im hessischen Obertshausen ist eine 51-Jährige bei einer mutmaßlich von ihrem Ehemann verübten Attacke tödlich verletzt worden. Einsatzkräfte nahmen den zunächst flüchtigen 57-Jährigen noch in der Nacht zu Sonntag nach einer Großfahndung im nahegelegenen Klein-Krotzenburg fest, wie Staatsanwaltschaft und Polizei in Offenbach mitteilten. Er leistete demnach keinen Widerstand.

Papst Leo XIV. in Frankreich: Große Messen und Gespräch mit Missbrauchsopfern

Messfeiern im Großformat und persönliche Treffen mit Missbrauchsopfern: Papst Leo XIV. hat bei seinem Besuch in Frankreich viel Zuspruch erhalten und zugleich Missstände innerhalb der katholischen Kirche thematisiert. Nach einem begeisterten Empfang des Papstes in Paris, wo am Samstag 800.000 Menschen zu einer Messe auf der Place de la Concorde und den Champs-Elysées kamen, sprach Leo XIV. am Sonntag im Pilgerort Lourdes die "schmerzhafte Wunde" des Missbrauchs in Pfarreien und katholischen Schulen an.

Textgröße ändern:

The National Times - Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an