Sicherheitsbehörden: Mächtige KI-Systeme verschärfen Bedrohungslage / Foto: © AFP/Archiv
Sicherheitsbehörden: Mächtige KI-Systeme verschärfen Bedrohungslage
Nach den jüngsten Sicherheitsvorfällen bei führenden KI-Unternehmen rechnen deutsche Behörden mit einer Verschärfung der Bedrohungslage im Cyberraum. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) erwartet einen zunehmenden Missbrauch leistungsfähiger Systeme für künstliche Intelligenz (KI). Die Modelle führender Entwickler hätten zuletzt deutlich gezeigt, dass solche Modelle "großes Potenzial im Auffinden von Schwachstellen" haben, sagte ein BSI-Sprecher dem "Handelsblatt" vom Montag. Zugleich seien sie inzwischen in der Lage, auf Grundlage entdeckter Sicherheitslücken erfolgreiche Angriffe auszuführen.
Das US-Unternehmen OpenAI hatte kürzlich bekannt gemacht, dass ein eigener KI-Agent während eines Sicherheitstests aus dem Testumfeld ausgebrochen sei, sich selbständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen habe. Es habe sich um einen "nie dagewesenen Cybervorfall" gehandelt, erklärte das Unternehmen aus San Francisco.
Zudem gab der Rivale Anthropic vergangene Woche bekannt, dass seine KI-Modelle sich bei einem Test "unbefugten Zugriff" auf die Systeme von drei Organisationen verschafft hätten. Sie hätten sich aber nicht aus der Testumgebung hinausbewegt.
Laut BSI ist davon auszugehen, dass Cyberkriminelle versuchen werden, das Potenzial von KI-Modellen im Auffinden von Schwachstellen auszunutzen. Nach Einschätzung des BSI begrenzen derzeit allerdings noch der hohe Rechenaufwand und die Kosten den Einsatz besonders leistungsfähiger Modelle durch Kriminelle. Mit sinkenden Hardwarekosten und effizienteren KI-Systemen dürfte diese Hürde jedoch weiter fallen.
Das BSI rät Unternehmen, KI selbst verstärkt zur Suche nach Schwachstellen in Software einzusetzen und Sicherheitsupdates zügig einzuspielen.
Das Bundesamt für Verfassungsschutz sieht das Risiko in einer höheren Skalierbarkeit und niedrigeren Einstiegshürden für Angreifer - auch staatlicher Akteure. "Die abstrakte Bedrohungslage im Cyberraum dürfte sich mit einem verstärkten Einsatz von KI-Modellen, inklusive Open-Source-KI-Modellen, durch fremde Nachrichtendienste weiter erhöhen", teilte der Verfassungsschutz dem "Handelsblatt" mit. KI unterstütze vor allem im Rahmen von Aufklärung, Automatisierung und Skalierung "jegliche Arten von Cyberoperationen".
Wie das BSI verweist auch der Verfassungsschutz auf die Chancen der Technologie für die Verteidigung. KI sei "nicht nur ein Werkzeug für Angreifer, sondern ebenso ein unverzichtbarer Bestandteil moderner Verteidigungsstrategien", etwa bei der Analyse großer Datenmengen oder der frühzeitigen Erkennung von Anomalien.
(L.Møller--DTZ)
Empfohlen