Mit der Nutzung dieser Website erklären Sie sich damit einverstanden, dass wir Cookies verwenden. In der Datenschutzerklärung erfahren Sie mehr.

Deutsche Tageszeitung - Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

BOULEVARD 02.09.2025
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an / Foto: © AFP

Das KI-Unternehmen OpenAI hat eine Kindersicherung für den populären KI-Chatbot ChatGPT angekündigt. "Binnen des nächsten Monats" würden Eltern damit die Möglichkeit erhalten, ihr Nutzerkonto mit dem ihres Kindes im Teenageralter zu verknüpfen, erklärte OpenAI am Dienstag im unternehmenseigenen Blog. In der vergangenen Woche hatten die Eltern eines 16-Jährigen OpenAI verklagt, da sie ChatGPT für den Suizid ihres Sohnes verantwortlich machen.

Textgröße ändern:

OpenAI erklärte nun, Eltern sollten künftig "kontrollieren können", wie ChatGPT auf ihren Sohn oder ihre Tochter reagiert, indem sie für den mit Künstlicher Intelligenz betriebenen Chatbot "altersgerechte Verhaltensregeln festlegen". Eltern, die ihr Nutzerkonto mit jenem ihres Kinds verknüpft haben, sollen zudem künftig von ChatGPT benachrichtigt werden, wenn die Software bei diesem anhand der von ihm eingegebenen Anweisungen bei eine "akute Notlage" feststelle.

Bereits vor dem Suizid des Teenagers im US-Bundesstaat Kalifornien waren in den vergangenen Monaten mehrere Fälle bekannt geworden, bei denen ChatGPT Nutzer in "wahnhaften oder schädlichen Gedankengängen" bestärkt hatte, die diese im Austausch mit dem Chatbot äußerten.

OpenAI erklärte weiter, es arbeite daran, die Chatbots sicherer zu machen - unter anderem, indem "manche heiklen Konversationen" mit Nutzern an ein sogenanntes Reasoning-Sprachmodell weitergeleitet würden - also an ein aufwändigeres KI-System, das darauf ausgelegt ist, komplexe Denkaufgaben zu lösen. Tests hätten gezeigt, dass Reasoning-Modelle "Sicherheitsrichtlinien konsequenter befolgen".

Die Eltern des 16-Jährigen, der sich in Kalifornien das Leben genommen hatte, hatten erklärt, ChatGPT habe eine "enge Beziehung" zu ihrem Sohn Adam aufgebaut. Dieser habe im Lauf der Zeit eine "ungesunde Abhängigkeit" entwickelt.

Unter anderem habe ChatGPT Adam geschrieben, dieser sei "niemandem sein Überleben schuldig" und angeboten, beim Verfassen seines Abschiedsbriefs zu helfen. Das KI-Programm habe Adam schließlich dazu ermutigt, sich das Leben zu nehmen und ihm eine genaue Anleitung dafür gegeben.

Die Eltern verklagten ChatGPT auf Schmerzensgeld und forderten die Einführung verpflichtender Sicherheitsmaßnahmen in Chatbots, die unter anderem Gespräche zu Themen wie Selbstverletzung automatisch abbrechen.

(V.Varonivska--DTZ)

Empfohlen

Sorgerechtsstreit als mutmaßliches Motiv: Sechs Tote bei Schusswaffenangriff in Stade

Nach dem Schusswaffenangriff mit sechs Toten in einer Jugendhilfeeinrichtung im niedersächsischen Stade liegt das Motiv nach ersten Erkenntnissen der Ermittler in einem Sorgerechtsstreit. Bei dem kurz nach der Tat festgenommenen mutmaßlichen Schützen handle es sich um einen 45-jährigen Deutschen, dessen drei Monate alte Tochter mitsamt der 34-jährigen Kindsmutter in der Einrichtung untergebracht gewesen sei, sagte die Lüneburger Polizeipräsidentin Kathrin Schuol am Montag vor Journalisten in Stade. Die Getöteten waren demnach Mitarbeitende eines Jugendhilfeträgers und des Jugendamts.

Sechs Tote bei Schusswaffenangriff in Stade: Verdächtiger ist 45-Jähriger Deutscher

Bei dem festgenommenen Tatverdächtigen zum Schusswaffenangriff in einer Jugendhilfeeinrichtung im niedersächsischen Stade mit sechs Toten handelt es sich um einen 45-jährigen Deutschen. Der Mann aus dem Raum Hannover sei am Montag im Zusammenhang mit einer "Sorgerechtssache" in der Einrichtung gewesen, in der seine dreimonatige Tochter und die Kindsmutter untergebracht gewesen seien, sagte die Lüneburger Polizeipräsidentin Kathrin Schuol vor Journalisten in Stade.

Oberstes US-Gericht hält Missbrauchsurteil gegen Trump aufrecht

US-Präsident Donald Trump muss der Journalistin E. Jean Carroll fünf Millionen Dollar (rund 4,4 Millionen Euro) Entschädigung wegen sexuellen Missbrauchs und späterer Verleumdung zahlen. Trump scheiterte am Montag vor dem Obersten Gericht der USA mit dem Versuch, das Urteil aus unterer Instanz aufheben zu lassen. Der Supreme Court in Washington wies den Fall ohne Angabe von Gründen ab.

Polizei nennt Schusswaffenangriff mit sechs Toten in Stade "Familientragödie"

Bei dem Schusswaffenangriff in einer Jugendhilfeeinrichtung im niedersächsischen Stade mit sechs Toten hat es sich nach Polizeiangaben um eine "erweiterte Familientragödie" gehandelt. Es gehe "nicht in Richtung Femizid oder auch politischer Hintergrund", sagte ein Polizeisprecher in Lüneburg am Montag der Nachrichtenagentur AFP. Das Motiv für die Gewalttat liege vielmehr "im Umfeld der Jugendhilfeeinrichtung begründet".

Textgröße ändern: