Deutsche Tageszeitung - Anthropic veröffentlicht umstrittenes KI-Modell Mythos in eingeschränkter Form

Anthropic veröffentlicht umstrittenes KI-Modell Mythos in eingeschränkter Form


Anthropic veröffentlicht umstrittenes KI-Modell Mythos in eingeschränkter Form

Das US-Unternehmen für Künstliche Intelligenz (KI), Anthropic, hat sein umstrittenes KI-Modell Mythos veröffentlicht. Aus Sicherheitsgründen wurde die allgemein zugängliche Version namens Fable 5 allerdings in ihren Funktionen eingeschränkt, wie Anthropic am Dienstag mitteilte. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe etwa auf Banken oder Energieanlagen nutzen.

Textgröße ändern:

Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell. "Ohne Schutzmaßnahmen könnten die Fähigkeiten von Fable 5 in Bereichen wie der Cybersicherheit missbraucht werden und schweren Schaden anrichten", räumte das Unternehmen mit Sitz in San Francisco ein.

Die Version Fable 5 beantwortet Anfragen zu sensiblen Themen wie der Cybersicherheit deshalb nicht selbst, wie Anthropic weiter mitteilte. Stattdessen würden sie an das nicht so leistungsfähige Modell Opus 4.8 weitergeleitet, das Ende Mai für die breite Öffentlichkeit freigegeben worden war. Eigens beauftragten Experten sei es bei Testläufen nicht gelungen, Sicherheitslücken bei Fable 5 zu finden, hieß es dazu.

Die KI-Anwendung kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Anthropic hatte Mythos erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt. Dazu gehörten die US-Regierung und ausgewählte Unternehmen. Anfang Juni wurde die Gruppe auf rund 200 Organisationen in mehr als 15 Ländern ausgeweitet.

Als riskant gilt vor allem die militärische Nutzung von KI. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.

Der Konzern erklärte, er wolle KI nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" ein, wogegen das Unternehmen sich juristisch wehrt.

Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei "wahrscheinlich sinnvoll", damit Forschung und Gesellschaft Schritt halten könnten. An einer möglichen Pause müssten sich aber alle bekannten KI-Firmen der Welt beteiligen, forderte das Unternehmen. Experten halten es allerdings für unrealistisch, dass sich führende KI-Konzerne in den USA und China darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.

Anthropic will voraussichtlich noch in diesem Jahr an die Börse gehen. Dafür reichte das Unternehmen die Dokumente Anfang Juni bei der US-Börsenaufsicht SEC ein. Zuvor hatte Anthropic nach einer neuen Finanzierungsrunde mitgeteilt, nun wertvoller zu sein als sein KI-Konkurrent OpenAI. Anthropic wurde zuletzt mit 965 Milliarden Dollar (836,83 Milliarden Euro) bewertet.

(V.Sørensen--DTZ)

Empfohlen

ThoughtSpot vertieft Integration in Claude

Anfragen an Claude stützen sich auf die Unternehmenssemantik; die Ergebnisse lassen sich in ThoughtSpot verwalten, überwachen und teilen

China-SAE prognostiziert Gewichtsersparnis durch Magnesiumguss und Metall-3D-Druck

Die chinesische Gesellschaft der Automobilingenieure (China-SAE) prognostiziert für 2027 signifikante Gewichts- und Kostenvorteile durch den Einsatz von Magnesiumguss. Ein Bericht des BILD-Magazins greift diese Zahlen auf, lässt jedoch wichtige Details zur Berechnungsgrundlage offen. Parallel dazu werden Potenziale des Metall-3D-Drucks und neuer Antriebskonzepte diskutiert.

Nach 20 Jahren der Modernisierung von Software anderer Unternehmen richtet Polcode den Blick nun auf sich selbst

Das in Warschau ansässige Softwarehaus feiert sein 20-jähriges Jubiläum mit einer neuen Website, die zwei Jahrzehnte des Wandels in der Branche nachzeichnet und zeigt, was geschieht, wenn ein Softwareunternehmen seinen eigenen Rat befolgt

Fitness-Apps und das Militär: Wenn Daten zur Gefahr werden

Die Grenzen zwischen privater Gesundheitsüberwachung und militärischer Aufklärung verschwimmen zunehmend. Während Tech-Konzerne wie Whoop und Google ihre Dienste am Markt ausweiten, nutzen Streitkräfte die gleichen Technologien zur Überwachung von Soldaten. Gleichzeitig offenbaren Fitness-Apps durch fahrlässige Datennutzung geheime Militärbasen und die Aufenthaltsorte hochrangiger Staatschefs.

Textgröße ändern: