Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen

Deutsche Tageszeitung - Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen

TECHNIK 26.09.2026

Bericht: OpenAI stoppte Training von KI-Modell Astra wegen Sicherheitsproblemen / Foto: © AFP

Der ChatGPT-Entwickler OpenAI hat einem Medienbericht zufolge im August das Training seines neuen KI-Modells Astra wegen Sicherheitsproblemen für zwei Wochen gestoppt. "Wir haben im August das Training von Astra für zwei Wochen angehalten, als wir sahen, dass die Ausrichtung des Modells nicht perfekt war", sagte OpenAI-Europachef Emmanuel Marill der "Welt am Sonntag". Der Trainingsstopp sei noch vor einer öffentlichen Mitteilung erfolgt.

Textgröße ändern:

Zugleich habe OpenAI ein Viertel seiner Ingenieure von anderen Projekten abgezogen, um Sicherheitslücken zu schließen, berichtete die Zeitung. Hintergrund waren demnach Probleme bei internen Tests des Modells. "Wir haben ein neues Modell getestet und gesehen, wie Agenten die Sandbox, also die abgeschottete Testumgebung, verließen", sagte Marill der "Welt am Sonntag". Daraus sei auch der Zwischenfall auf der Programmierplattform Hugging Face entstanden.

Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte das Unternehmen, bei dem Vorfall hätten die Agenten auch auf Konten bei vier weiteren öffentlich zugänglichen Diensten zugegriffen.

Marill räumte nun gegenüber der "Welt am Sonntag" ein, dass OpenAI die Geschwindigkeit der technischen Entwicklung unterschätzt habe. Besonders die zunehmende Beteiligung von KI-Systemen an der Entwicklung neuer Modelle könne dazu führen, dass Menschen Vorgänge nicht mehr nachvollziehen könnten. Nötig seien deshalb klare Kriterien dafür, wann automatisierte Forschungsschritte sofort von Menschen überprüft werden müssten. "Der Mensch muss immer in dieser Kontrollschleife bleiben", sagte Marill.

(P.Hansen--DTZ)

Schutz von Kindern im Netz: Bundesregierung beschließt Maßnahmenpaket

Mehr Verantwortung für Eltern, strengere Alterskontrollen und eine Stärkung der Medienkompetenz: Kinder und Jugendliche sollen besser vor den Gefahren im Internet geschützt werden. Die Bundesregierung beschloss dazu am Mittwoch Eckpunkte zum Kinder- und Jugendmedienschutz, wie das Bundesbildungsministerium mitteilte. Vorgesehen sind nun vier gesetzliche und acht nichtgesetzliche Maßnahmen.

Mont-Blanc-Vermesser: Frankreichs höchster Berg zwei Meter höher als 2023

Können Berge wachsen? Der Mont Blanc, Frankreichs höchster Berg, ist laut einer neuen Messung jedenfalls fast zwei Meter höher als bei der vorherigen Messung im Jahr 2023. Wie die zuständigen Experten am Mittwoch mitteilten, ergab die Messung im vergangenen Monat, dass der Alpengipfel 4.807,47 Meter hoch ist und damit 1,88 Meter höher als 2023.

Bericht: Globale Entwaldung 2025 zurückgegangen - allerdings kein Langfrist-Trend

Die weltweite Entwaldung hat sich einem Bericht zufolge im vergangenen Jahr verlangsamt. Mit der unwiderbringlichen Zerstörung von sieben Millionen Hektar Wald in aller Welt sei das Ausmaß der Zerstörung vergangenes Jahr 15 Prozent geringer gewesen als 2024, erklärte am Mittwoch das Bündnis Forest Declaration Assessment, dem Wissenschaftler, NGOs und Denkfabriken angehören. Angesichts einer Verschlechterung der Lage in Zentralafrika und der Auswirkungen des Klimaphänomens El Niño sei dieser Fortschritt aber voraussichtlich nicht von Dauer.

Google stellt seine KI-Modelle ausgewählten europäischen Forschern zur Verfügung

Google will seine fortschrittlichsten KI-Modelle 200 ausgewählten europäischen Forschern zur Verfügung stellen. "Durch die direkte Bereitstellung wichtiger Rechenkapazitäten und modernster Werkzeuge für Forschungsteams soll diese Initiative das Tempo der europäischen Innovation erhöhen und die wissenschaftliche Wettbewerbsfähigkeit des Kontinents stärken", teilte der US-Tech-Riese am Mittwoch bei einem Gipfel für Künstliche Intelligenz (KI) in Dublin mit.