Mit der Nutzung dieser Website erklären Sie sich damit einverstanden, dass wir Cookies verwenden. In der Datenschutzerklärung erfahren Sie mehr.

Deutsche Tageszeitung - KI: Forscher warnen vor hohem Sicherheitsrisiko und "Kontrollverlust"

KI: Forscher warnen vor hohem Sicherheitsrisiko und "Kontrollverlust"

WIRTSCHAFT 06.02.2025
KI: Forscher warnen vor hohem Sicherheitsrisiko und "Kontrollverlust"
KI: Forscher warnen vor hohem Sicherheitsrisiko und "Kontrollverlust" / Foto: © AFP

Rund 100 Forscher haben mit Blick auf die Entwicklung von Künstlicher Intelligenz (KI) vor einem "Kontrollverlust" mit dramatischen Folgen gewarnt - und eine stärkere staatliche Regulierung gefordert. Neben bereits bekannten Gefahren wie falschen und irreführenden Inhalten gebe es immer mehr Beweise für "zusätzliche Risiken wie biologische Angriffe oder Cyberattacken", sagte der renommierte Computerwissenschaftler Yoshua Bengio am Donnerstag zu Beginn eines KI-Gipfels in Paris.

Textgröße ändern:

"Was mir am meisten Angst macht, ist die Möglichkeit, dass die Menschheit innerhalb von zehn Jahren verschwinden könnte", sagte Bengio.

Der im Jahr 2018 mit dem renommierten Turing-Award für Informatik ausgezeichnete Professor an der Universität von Montréal stellte bei dem Gipfel den ersten internationalen KI-Sicherheitsbericht vor, an dem rund 100 Expertinnen und Experten aus 30 Ländern sowie die UNO, die EU und die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) beteiligt waren.

Angesichts der Risiken und der rasanten Entwicklung im Wettbewerb zwischen Technologieriesen forderte Bengio eine strengere internationale Regulierung von KI und mehr Forschung zum Thema Sicherheit. In die Sicherung der Technologie gehe derzeit nur "ein Bruchteil" der massiven Investitionen. "Ich weiß nicht, wie wir da ohne staatliches Eingreifen durchkommen sollen", sagte der IT-Experte.

Bengio ergänzte, Schnelligkeit sei geboten, das Aufkommen des chinesischen KI-Dienstes DeepSeek habe "das Wettrennen beschleunigt". Dies sei "nicht gut für die Sicherheit".

Bengio leitete den wissenschaftlichen Teil des Pariser KI-Gipfels ein. Am kommenden Montag und Dienstag werden auch zahlreiche hochrangige Politiker in Paris erwartet, darunter Bundeskanzler Olaf Scholz (SPD), EU-Kommissionspräsidentin Ursula von der Leyen, Chinas Vize-Regierungschef Ding Xuexiang, Indiens Premierminister Narendra Modi und US-Vizepräsident J.D. Vance. Aus der Technologiebranche sollen unter anderem die Chefs der US-Unternehmen OpenAI, Sam Altman, und Google, Sundar Pichai, teilnehmen.

Die USA, weiterhin globaler Spitzenreiter im KI-Sektor, haben unter ihrem neuen Präsidenten Donald Trump Regeln zur KI-Regulierung abgeschafft, die dessen Vorgänger Joe Biden eingeführt hatte.

(T.W.Lukyanenko--DTZ)

Empfohlen

Bericht: SPD-Mitgliederbegehren über Bürgergeldreform voraussichtlich folgenlos

Das SPD-Mitgliederbegehren über die Bürgergeldreform der schwarz-roten Koalition endet voraussichtlich erst nach dem entscheidenden Votum im Bundestag - und wäre damit folgenlos. Wie ein Parteisprecher gegenüber "Bild am Sonntag" (Bams) sagte, startete das Mitgliederbegehren gegen die geplanten Verschärfungen beim Bürgergeld offiziell am 23. Dezember und endet drei Monate später. Die Regierung hingegen will die Bürgergeldreform nach Informationen aus Koalitionskreisen bereits am 5. oder 6. März im Bundestag beschließen – und damit knapp drei Wochen vor Abschluss des SPD-Begehrens.

Baustellen-Pause: Deutsche Bahn über Weihnachten pünktlicher als sonst

Über die Weihnachtstage waren die Züge der Deutschen Bahn deutlich pünktlicher als sonst. Die Pünktlichkeitsquote im Fernverkehr lag am 24., 25. und 26. Dezember bei über 75 Prozent, wie ein Konzernsprecher am Samstag der Nachrichtenagentur AFP sagte. Dies waren rund 20 Prozentpunkte mehr als im November-Schnitt. Die Bahn verwies auf einen hohen Personal- und Zugeinsatz, aber auch auf die Reduzierung von Baustellen über die Feiertage.

Zoll mahnt zur Vorsicht bei Feuerwerk aus dem Ausland

Vor dem Verkaufsstart für Silvester-Feuerwerk hat der Zoll vor den Gefahren durch nicht zugelassene Pyrotechnik aus dem Ausland gewarnt. Einige Produkte, die in benachbarten Ländern oder online angeboten würden, entsprächen nicht den deutschen Sicherheitsstandards und könnten beim Zünden unberechenbare und schwere Folgen haben, teilte das Hauptzollamt Karlsruhe am Samstag mit. Es verwies auch auf mögliche strafrechtlichen Konsequenzen bei der Einfuhr solcher Feuerwerkskörper aus dem Ausland.

Bundesnetzagentur erwartet 2026 "stabile oder sinkende" Strompreise

Die Bundesnetzagentur erwartet im kommenden Jahr "stabile oder sinkende" Strompreise: "Mit den erneuerbaren Energien wächst das Stromangebot, das senkt die Erzeugungspreise", sagte der Präsident der Bundesnetzagentur, Klaus Müller, der "Rheinischen Post" vom Samstag. Zwar stiegen wegen des Netzausbaus die Netzentgelte. Der Staat werde diese aber mit 6,5 Milliarden Euro subventionieren, womit es unter dem Strich nicht zu einer Verteuerung kommen werde.

Textgröße ändern: