Pentagon: KI-Unternehmen Anthropic stellt "unakzeptables Risiko" für Armee dar / Foto: © AFP
Pentagon: KI-Unternehmen Anthropic stellt "unakzeptables Risiko" für Armee dar
Das US-Unternehmen für künstliche Intelligenz (KI), Anthropic, stellt nach Einschätzung des Pentagon ein "inakzeptables Risiko" für die US-Armee dar. KI-Systeme seien "außerordentlich anfällig für Manipulation", begründete das Verteidigungsministerium dies in Gerichtsdokumenten, die der Nachrichtenagentur AFP vorliegen.
Das Pentagon argumentierte demnach, Anthropic könnte vor oder während laufender Gefechte versuchen, seine Technologie zu deaktivieren oder anzupassen, wenn der Konzern interne rote Linien überschritten sehe. Die Weigerung Anthropics, sich darauf einzulassen, dass seine KI-Technologie vom Militär für "jeden rechtmäßigen Zweck" eingesetzt werden könne, stelle daher ein "inakzeptables Risiko für die nationale Sicherheit" dar.
Der Konzern um den Chatbot Claude hatte dem Pentagon die uneingeschränkte militärische Nutzung seiner Technologie verweigert. Anthropic hatte dazu erklärt, es wolle seine KI-Technologie nicht wie von der Regierung gewünscht für die "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen.
Das Pentagon stufte Anthropic daraufhin in einem beispiellosen Schritt als "Sicherheitsrisiko in der Lieferkette" ein. Damit ist es für US-Behörden unmöglich, KI-Anwendungen von Anthropic zu nutzen. Das Unternehmen hat die US-Regierung deshalb verklagt.
(Y.Leyard--DTZ)
Empfohlen