Deutsche Tageszeitung - Sicherheitspraktiken bei KI: US-Behörde knöpft sich Anthropic und OpenAI vor

Sicherheitspraktiken bei KI: US-Behörde knöpft sich Anthropic und OpenAI vor


Sicherheitspraktiken bei KI: US-Behörde knöpft sich Anthropic und OpenAI vor
Sicherheitspraktiken bei KI: US-Behörde knöpft sich Anthropic und OpenAI vor / Foto: © AFP/Archiv

Die Sicherheitsvorfälle rund um ausgebüxte Systeme für Künstliche Intelligenz (KI) rufen US-Medienberichten zufolge die Verbraucherschutzbehörde des Landes auf den Plan. Die Federal Trade Commission (FTC) habe eine umfassende Untersuchung zu den KI-Risiken bei den Unternehmen Anthropic und OpenAI eingeleitet, schrieb am Mittwoch die "Washington Post"; auch weitere US-Medien berichteten darüber. Es gibt wachsende Bedenken hinsichtlich der Sicherheit von KI.

Textgröße ändern:

Die FTC hat weitreichende Befugnisse zur Untersuchung unlauterer oder irreführender Praktiken, die Verbraucherinnen und Verbraucher in den USA betreffen. Einzelheiten zum Umfang der Untersuchung waren zunächst noch unklar - und die Einleitung einer Untersuchung bedeutet nicht automatisch, dass den Unternehmen ein Fehlverhalten vorgeworfen wird. Auf Nachfrage der Nachrichtenagentur AFP äußerten sich die Behörde und die Unternehmen bislang nicht zu den Berichten.

Im Falle von OpenAI hatte die FTC bereits 2023 Ermittlungen eingeleitet, um zu prüfen, ob der KI-Chatbot ChatGPT Verbrauchern womöglich Schaden zugefügt haben könnte - etwa weil das System falsche Informationen generierte oder Daten missbräuchlich verarbeitete. Diese Untersuchung war allerdings ohne Folgen geblieben.

Zuletzt hat sich die KI-Debatte verstärkt auf eine mögliche Bedrohung durch die Systeme selbst verlagert: So hatten Anthropic und OpenAI mehrere Fälle gemeldet, in denen KI-Systeme aus ihrer Testumgebung ausgebrochen waren und eine Reihe von Cybersicherheitsvorfällen ausgelöst hatten. Die Chefs von Anthropic und OpenAI, Dario Amodei und Sam Altman, riefen deshalb zu einer kollektiven Verlangsamung der KI-Entwicklung auf, ungeachtet des Konkurrenzkampfs beider Unternehmen.

Die Regierung von US-Präsident Donald Trump setzt hingegen vor allem darauf, dass sich die KI-Branche selbst reguliert. Allerdings spielt das Thema auch vor den wichtigen Zwischenwahlen zum Kongress Anfang November eine große Rolle: Viele Wählerinnen und Wähler stehen der KI-Entwicklung skeptisch gegenüber und befürchten weitreichende gesellschaftliche Umwälzungen.

Der US-Technologieriese Google stellte am Mittwoch unterdessen sein fortschrittliches KI-Modell Gemini 4 vor. Der Zugang soll allerdings zunächst auf einen kleinen Kreis von Cybersicherheitsexperten beschränkt bleiben.

(T.W.Lukyanenko--DTZ)

Empfohlen

IGH verurteilt Myanmar wegen Völkermord an Rohingya

Der Internationale Gerichtshof in Den Haag hat Myanmar historisch wegen des Völkermords an der muslimischen Minderheit der Rohingya verurteilt. Das höchste UN-Gericht ordnete an, dass das Land den Opfern Entschädigung zahlt und ihre sichere Rückkehr ermöglicht. Es ist das erste Mal seit 80 Jahren, dass ein Staat direkt für Genozid verantwortlich gemacht wird.

Betrug bleibt weltweit verbreitet: Fast zwei von drei Erwachsenen weltweit berichten von Betrugsfällen, 9 % haben Geld verloren

Global Anti-Scam Alliance und Outseer veröffentlichen den „Global State of Scams 2026"

EEG-Reform: Ökonomen warnen vor 50 Milliarden Euro Mehrkosten

Die geplante Reform des Erneuerbare-Energien-Gesetzes (EEG) hat einen scharfen Konflikt zwischen der Bundesregierung und führenden Wirtschaftsforschern ausgelöst. 26 Experten warnen vor Mehrkosten von bis zu 50 Milliarden Euro, während die SPD die Notwendigkeit dezentraler Förderung betont.

Abschlussbericht Kinderverschickung NRW: Träger entschuldigen sich, verweigern aber Verantwortung

Der Abschlussbericht des Runden Tisches Kinderverschickungen NRW stellt fest, dass Millionen Kinder nach 1949 in Kureinrichtungen systematisch misshandelt wurden. Alle beteiligten Trägerorganisationen haben sich im Bericht für das erlittene Leid entschuldigt, machen jedoch keine konkreten Zusagen zu finanzieller Entschädigung oder therapeutischer Unterstützung. Detlef Lichtrauter kritisiert das Schweigen der Institutionen.

Textgröße ändern: