Anthropic veröffentlicht umstrittenes KI-Modell Mythos in eingeschränkter Form
Das US-Unternehmen für Künstliche Intelligenz (KI), Anthropic, hat sein umstrittenes KI-Modell Mythos veröffentlicht. Aus Sicherheitsgründen wurde die allgemein zugängliche Version namens Fable 5 allerdings in ihren Funktionen eingeschränkt, wie Anthropic am Dienstag mitteilte. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe etwa auf Banken oder Energieanlagen nutzen.
Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell. "Ohne Schutzmaßnahmen könnten die Fähigkeiten von Fable 5 in Bereichen wie der Cybersicherheit missbraucht werden und schweren Schaden anrichten", räumte das Unternehmen mit Sitz in San Francisco ein.
Die Version Fable 5 beantwortet Anfragen zu sensiblen Themen wie der Cybersicherheit deshalb nicht selbst, wie Anthropic weiter mitteilte. Stattdessen würden sie an das nicht so leistungsfähige Modell Opus 4.8 weitergeleitet, das Ende Mai für die breite Öffentlichkeit freigegeben worden war. Eigens beauftragten Experten sei es bei Testläufen nicht gelungen, Sicherheitslücken bei Fable 5 zu finden, hieß es dazu.
Die KI-Anwendung kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Anthropic hatte Mythos erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt. Dazu gehörten die US-Regierung und ausgewählte Unternehmen. Anfang Juni wurde die Gruppe auf rund 200 Organisationen in mehr als 15 Ländern ausgeweitet.
Als riskant gilt vor allem die militärische Nutzung von KI. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.
Der Konzern erklärte, er wolle KI nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" ein, wogegen das Unternehmen sich juristisch wehrt.
Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei "wahrscheinlich sinnvoll", damit Forschung und Gesellschaft Schritt halten könnten. An einer möglichen Pause müssten sich aber alle bekannten KI-Firmen der Welt beteiligen, forderte das Unternehmen. Experten halten es allerdings für unrealistisch, dass sich führende KI-Konzerne in den USA und China darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.
Anthropic will voraussichtlich noch in diesem Jahr an die Börse gehen. Dafür reichte das Unternehmen die Dokumente Anfang Juni bei der US-Börsenaufsicht SEC ein. Zuvor hatte Anthropic nach einer neuen Finanzierungsrunde mitgeteilt, nun wertvoller zu sein als sein KI-Konkurrent OpenAI. Anthropic wurde zuletzt mit 965 Milliarden Dollar (836,83 Milliarden Euro) bewertet.
(V.Sørensen--DTZ)
Empfohlen