Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"

Deutsche Tageszeitung - Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"

Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten" / Foto: © AFP

Die führenden US-KI-Entwickler täuschen nach Auffassung des früheren OpenAI-Forschers Daniel Kokotajlo mit ihrer Forderung nach Regulierung für künstliche Intelligenz den Wunsch nach mehr Kontrolle nur vor. Anthropic, OpenAI, X und Google betrieben lediglich "Safety Washing", sagte Kokotajlo dem "Spiegel". Zugleich forderte der heutige Leiter des "AI Futures Project" im kalifornischen Berkeley die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten."

Textgröße ändern:

Die US-Unternehmen Anthropic, OpenAI, X und Google plädierten für "ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden", kritisierte Kokotajlo. Er gilt als einer der renommiertesten Fachleute für die Zukunft der Künstlichen Intelligenz. Seit Jahren warnt der frühere OpenAI-Forscher vor existenziellen Risiken der Technologie.

Die Techindustrie plane eine Automatisierung der KI-Forschung, sagte Kokotajlo. Damit "überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln - vielleicht in jeder Hinsicht. Das ist äußerst gefährlich." Wenn eine KI die nächste trainiere, beschleunige sich das Tempo des Fortschritts erheblich. Das bedeute auch, dass es schwieriger werde, den Überblick zu behalten, und es wahrscheinlicher werde, dass Fehler nicht bemerkt würden, betonte der Forscher.

Der Menschheit fehle derzeit "das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden". Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe mit ihrer Entwicklung fortgefahren werden. "Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung - und einen Kill-Switch" - einen Ausschalter.

(W.Uljanov--DTZ)

Nordrhein-Westfalen: Castortransport erreicht Ahaus nach Protestaktion an Brücke

Nach einer Verzögerung durch eine Protestaktion hat ein 23. Castortransport mit Atommüll durch Nordrhein-Westfalen von Jülich bei Aachen am Mittwochmorgen das Zwischenlager in Ahaus im Münsterland erreicht. Aktivisten störten den Transport zwischenzeitig an einer Brücke über der Autobahn 31, wie die Polizei in Münster mitteilte. Nach einer Verzögerung konnte der Transport weiterfahren. Die Sicherheit des Transports sei durchgängig gewährleistet gewesen.

US-Zentralbank-Vorständin Cook hat keine Zeit für von Trump einberufene Anhörung

US-Präsident Donald Trump will Zentralbank-Vorständin Lisa Cook entlassen - für eine Befragung durch ein von Trump einberufenes Komitee hat sie aber keine Zeit. Cook nehme am 5. November an finanz- und geldpolitischen Treffen in Europa teil, schrieb ihr Anwalt Abbe Lowell am Dienstag an das Weiße Haus. "Folglich kann sie an diesem Datum nicht an einer Anhörung teilnehmen." Möglich sei die Befragung erst nach Beratungen der US-Notenbank Fed zur Geldpolitik am 8. und 9. Dezember.

EU-Gericht urteilt über strengere Regeln für Porno-Seite Stripchat

Das Gericht der Europäischen Union in Luxemburg verkündet am Mittwoch (09.30 Uhr) sein Urteil über strengere Regeln für die Porno-Seite Stripchat. Die EU-Kommission stufte Stripchat 2023 als sehr große Online-Plattform unter dem Gesetz für digitale Dienste (Digital Services Act, DSA) ein. Denn die Seite habe mehr als 45 Millionen monatliche Nutzer in der EU, was über dem Schwellenwert liegt. (Az. T-134/24)

Rechtsstreit nach Unfall auf Rennstrecke: BGH gibt Versicherungskundin recht

In einem seit Jahren dauernden Rechtsstreit um Versicherungsschutz nach einem Motorradunfall bei einer Veranstaltung auf einer Rennstrecke hat sich eine Kundin vor dem Bundesgerichtshof (BGH) abschließend durchgesetzt. Der in den allgemeinen Unfallversicherungsbedingungen des Unternehmens vereinbarte Risikoausschluss für auf das Erreichen von Höchstgeschwindigkeit abzielende Fahrtveranstaltungen greife hier nicht, entschied der BGH am Dienstag in Karlsruhe. (Az. IV ZR 251/25)