Deutsche Tageszeitung - Amnesty International warnt vor zunehmenden Menschenrechtsverletzungen durch KI

Anzeige Bild
Anzeige Bild
Anzeige Bild
Anzeige Bild
Anzeige Bild

Amnesty International warnt vor zunehmenden Menschenrechtsverletzungen durch KI


Amnesty International warnt vor zunehmenden Menschenrechtsverletzungen durch KI
Amnesty International warnt vor zunehmenden Menschenrechtsverletzungen durch KI / Foto: © AFP/Archiv

Amnesty International hat vor zunehmenden Menschenrechtsverletzungen durch den Einsatz Künstlicher Intelligenz (KI) gewarnt. "KI kann instrumentalisiert werden, um zu diskriminieren, zu desinformieren und zu spalten", sagte Lena Rohrbach, Expertin für Menschenrechte im digitalen Zeitalter, bei der Vorstellung des am Mittwoch veröffentlichten Jahresberichts der Menschenrechtsorganisation in Berlin. Software wie ChatGPT, die Texte erstellt, könne etwa Hassreden gegen Frauen und Homosexuelle am Fließband produzieren und verbreiten.

Anzeige Bild

Textgröße ändern:

Amnesty prangerte insbesondere den Einsatz von Gesichtserkennung an. Die Bundesregierung habe ihr Versprechen noch nicht eingelöst, Gesichtserkennung im öffentlichen Raum zu verbieten, sagte Rohrbacher. Sowohl bei der Fußball-Europameisterschaft in Deutschland als auch bei den Olympischen Spielen in Paris werde derzeit über den Einsatz von KI debattiert. "Dabei besteht die Befürchtung, dass dies dauerhaft ausgeweitet wird", sagte Rohrbacher.

In Russland würden bereits Kameras mit Gesichtserkennung genutzt, um etwa Teilnehmer an regierungskritischen Demonstrationen zu identifizieren, erläuterte sie. Die iranischen Behörden kündigten im vergangenen Jahr an, mit entsprechender Software Frauen zu identifizieren, die sich dem Schleierzwang widersetzen. Und die New Yorker Polizei habe 2023 nach einer Klage von Amnesty International eingeräumt, Gesichtserkennung zur Überwachung von Black-Lives-Matter-Protesten benutzt zu haben.

KI werde zudem genutzt, um Deepfake-Pornographie herzustellen, sagte Rohrbach. Dies betreffe vor allem Frauen. Sie verwies auf das Beispiel einer 17 Jahre alten Ägypterin, die sich das Leben nahm, nachdem gefakte Nacktfotos von ihr verbreitet worden waren. Amnesty kritisierte auch Internettplattformen, die etwa Informationen zu Schwangerschaftsabbrüchen einschränkten.

Besonders problematisch sei der Einsatz von Spionagesoftware wie Pegasus oder Predator. "Sie ermöglichen ein ganz neues Level an transnationaler Repression", sagte Rohrbach. Im vergangenen Jahr hätten etwa Armenien, Indien und Serbien die Pegasus-Software genutzt, um Medien und die Zivilgesellschaft zu überwachen. Die Software Predator, die von einem europäischen Konsortium hergestellt werde, sei beispielsweise für einen Cyber-Angriff auf einen in Berlin lebenden vietnamesischen Journalisten eingesetzt worden.

Daneben komme es auch versehentlich zu Menschenrechtsverletzungen durch KI, etwa beim Einsatz von Algorithmen durch Behörden. In Serbien habe die Einführung eines automatisierten Systems dazu geführt, dass Tausende Familien zu Unrecht den Zugang zur Sozialhilfe verloren. "Eigentlich gibt es eine Frist, in der Menschen die Urteile überprüfen sollen, (...) aber de facto trifft die Entscheidung ein Algorithmus", erklärte Rohrbach.

Amnesty International fordert sowohl ein Verbot von besonders invasiver Spionagesoftware als auch ein Moratorium für den Handel mit anderen Überwachungstechnologien, bis es dazu internationale Regeln gebe. Die europäische KI-Verordnung sei ein Schritt in die richtige Richtung, biete aber zugleich ein "Einfallstor für Menschenrechtsverletzungen in den besonders grundrechtssensiblen Bereichen Migration und Sicherheit". Dort müsse die Bundesregierung "national gesetzlich nachschärfen", sagte Rohrbacher.

(L.Barsayjeva--DTZ)

Empfohlen

Auto fährt in Krefeld in Menschengruppe - fünf Verletzte

Auf der Flucht nach einer Schlägerei sind drei Männer in Krefeld mit dem Auto in eine Menschengruppe gefahren. Fünf Menschen wurden bei dem Unfall am Samstagabend leicht verletzt, darunter zwei kleine Kinder, wie die Polizei in der nordrhein-westfälischen Stadt mitteilte. Die mutmaßlichen Unfallverursacher seien weggefahren, aber kurz darauf gestellt worden.

Präsident des Bundesverwaltungsgerichts kritisiert Dobrindt bei Zurückweisungen

Der Präsident des Bundesverwaltungsgerichts, Andreas Korbmacher, hat Bundesinnenminister Alexander Dobrindt (CSU) für Äußerungen im Zusammenhang mit Zurückweisungen an deutschen Grenzen kritisiert. Dobrindts Darstellung einer Entscheidung zu Zurückweisungen des Berliner Verwaltungsgericht als Einzelentscheidung ohne umfassendere Prüfung sei "so nicht ganz richtig", sagte Korbmacher dem Düsseldorfer "Handelsblatt" (Samstagsausgabe).

Herabstürzendes Metallteil: Drei Verletzte bei Bruce-Springsteen-Konzert auf Schalke

Bei einem Konzert von US-Rockstar Bruce Springsteen im Stadion des FC Schalke 04 sind drei Menschen durch einen herabstürzenden Gegenstand verletzt worden. Während des Konzerts habe sich am späten Freitagabend im Bereich eines Videowürfels ein Metallteil gelöst, teilte die Gelsenkirchener Polizei in der Nacht zu Samstag mit. Dadurch seien eine 22-Jährige aus Koblenz, ein 48 Jahre alter Mann aus Warendorf und eine 50-jährige Frau aus Erlangen verletzt worden.

Lebenslange Haft nach Tod von 53 Migranten in Lkw in Texas

Drei Jahre nach dem Tod von 53 Migranten in einem überhitzten Lastwagen im US-Bundesstaat Texas ist der Anführer einer Gruppe von Menschenschmugglern zu lebenslanger Haft verurteilt worden. Ein Bundesrichter in San Antonio verhängte am Freitag zudem eine Geldstrafe von 250.000 Dollar (214.000 Euro) gegen den 30-jährigen Felipe Orduna-Torres, wie das US-Justizministerium mitteilte. Ein weiteres Mitglied des Schmugglerrings wurde zu 83 Jahren Gefängnis und ebenfalls 250.000 Dollar Geldstrafe verurteilt.

Textgröße ändern:

Anzeige Bild