Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen

Deutsche Tageszeitung - Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen

TECHNIK 26.09.2026

Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen / Foto: © AFP

Der ChatGPT-Entwickler OpenAI hat einem Medienbericht zufolge im August das Training seines neuen KI-Modells Astra wegen Sicherheitsproblemen für zwei Wochen gestoppt. "Wir haben im August das Training von Astra für zwei Wochen angehalten, als wir sahen, dass die Ausrichtung des Modells nicht perfekt war", sagte OpenAI-Europachef Emmanuel Marill der "Welt am Sonntag". Der Trainingsstopp sei noch vor einer öffentlichen Mitteilung erfolgt.

Textgröße ändern:

Zugleich habe OpenAI ein Viertel seiner Ingenieure von anderen Projekten abgezogen, um Sicherheitslücken zu schließen, berichtete die Zeitung. Hintergrund waren demnach Probleme bei internen Tests des Modells. "Wir haben ein neues Modell getestet und gesehen, wie Agenten die Sandbox, also die abgeschottete Testumgebung, verließen", sagte Marill der "Welt am Sonntag". Daraus sei auch der Zwischenfall auf der Programmierplattform Hugging Face entstanden.

Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte das Unternehmen, bei dem Vorfall hätten die Agenten auch auf Konten bei vier weiteren öffentlich zugänglichen Diensten zugegriffen.

Marill räumte nun gegenüber der "Welt am Sonntag" ein, dass OpenAI die Geschwindigkeit der technischen Entwicklung unterschätzt habe. Besonders die zunehmende Beteiligung von KI-Systemen an der Entwicklung neuer Modelle könne dazu führen, dass Menschen Vorgänge nicht mehr nachvollziehen könnten. Nötig seien deshalb klare Kriterien dafür, wann automatisierte Forschungsschritte sofort von Menschen überprüft werden müssten. "Der Mensch muss immer in dieser Kontrollschleife bleiben", sagte Marill.

(P.Hansen--DTZ)

"Paradies der Maschinen": Papst Leo XIV. warnt vor KI-Auswüchsen

Papst Leo XIV. hat am ersten Tag seines Frankreich-Besuchs eindringlich vor Risiken neuer Technologien wie der Künstlichen Intelligenz (KI) gewarnt. Es müsse sichergestellt werden, dass diese Technologien "dem Menschen dienen und nicht zu einem Instrument der Beherrschung und Ungerechtigkeit werden", sagte der Papst am Freitag am Sitz der UN-Kulturorganisation Unesco in Paris. Bei seiner Fahrt durch die Hauptstadt im Papamobil wurde der Papst von zahlreichen Menschen mit Jubel begrüßt.

Davidstern aus NS-Gedenkort in Chemnitz gestohlen und Schautafel beschädigt

Unbekannte haben aus einer Gedenkstätte für die nationalsozialistische Judenverfolgung in Chemnitz einen gelben Davidstern-Aufnäher gestohlen und eine Schautafel zur NS-Zeit beschädigt. Der Staatsschutz übernahm die Ermittlungen, wie die Polizei in der sächsischen Stadt am Freitag mitteilte. Demnach ereignete sich die Tat in einer Dauerausstellung im früheren Hafttrakt B im Lern- und Gedenkort Kaßberg-Gefängnis.

Besuch bei Unesco: Papst Leo XIV. warnt vor Risiken der KI

Papst Leo XIV. hat in einer Rede bei der UN-Kulturorganisation Unesco eindringlich vor den Risiken neuer Technologien wie der Künstlichen Intelligenz (KI) gewarnt. Es müsse sichergestellt werden, dass diese Technologien "dem Menschen dienen und nicht zu einem Instrument der Beherrschung und Ungerechtigkeit werden", sagte der Papst am Freitag in Paris. Er warnte unter anderem vor sozialen Folgen der übermäßigen Nutzung der neuen Technologien sowie vor der Verbreitung von Falschinformationen.

Trump nennt Gipfel mit Xi "produktiv" und sieht Konsens bei "Superintelligenz"

US-Präsident Donald Trump hat den Staatsbesuch des chinesischen Präsidenten Xi Jinping als erfolgreich bewertet. Für die USA wie China sei es ein "sehr produktives Treffen mit Präsident Xi" gewesen, erklärte Trump am Freitag in seinem Onlinedienst Truth Social. Xi scheine ebenfalls bereit zu sein, die Künstliche Intelligenz in "Superintelligenz" umzubenennen. "Das wäre super", ergänzte Trump.