Deutsche Tageszeitung - OpenAI: Von Nutzern hochgeladene Bilder landen irrtümlich auf externen Internetseiten

Die meisten Bilder seien inzwischen mit Hilfe der Betreiber der betroffenen Seiten entfernt worden, bei den übrigen laufe die Löschung noch. Sie stammten aus Konten von Nutzern, die der Verwendung ihrer Daten zur Verbesserung der OpenAI-Modelle zugestimmt hatten.

Nach Unternehmensangaben waren die Daten zuvor durch einen Datenschutzfilter verarbeitet worden und konnten nicht mehr den ursprünglichen Nutzern zugeordnet werden. Ob identifizierbare Personen zu sehen waren oder die Bilder sensible Informationen enthielten, ließ OpenAI auf AFP-Anfrage offen.

OpenAI bestätigte zudem einen Bericht der "New York Times", wonach seine KI-Werkzeuge auf Internetseiten von US-Bundesbehörden zugegriffen hatten. Nach Angaben des Unternehmens riefen sie dabei ausschließlich öffentlich zugängliche Informationen ab.

Die Vorfälle ereigneten sich OpenAI zufolge vor einer Verschärfung der Sicherheitsvorkehrungen im August. Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und interne Systeme der Programmierplattform Hugging Face angegriffen hatten.

Nach einem Bericht der "Welt am Sonntag" stoppte OpenAI im August wegen Sicherheitsproblemen zudem das Training seines neuen KI-Modells Astra für zwei Wochen. Zugleich habe das Unternehmen ein Viertel seiner Ingenieure von anderen Projekten abgezogen, um Sicherheitslücken zu schließen. OpenAI-Europachef Emmanuel Marill sagte der Zeitung, bei internen Tests hätten Agenten die abgeschottete Testumgebung verlassen.

Marill räumte ein, OpenAI habe unterschätzt, wie schnell die Modelle leistungsfähiger würden. "Der Mensch muss immer in dieser Kontrollschleife bleiben", sagte er. OpenAI überprüft nach eigenen Angaben inzwischen frühere Aktivitäten seiner KI-Agenten. Die Untersuchung werde voraussichtlich Monate dauern.

(P.Vasilyevsky--DTZ)