Deutsche Tageszeitung - Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt

Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt


Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt
Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt / Foto: © AFP

KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht "vollständig autonom" arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.

Textgröße ändern:

Der Chef von Anthropic, Dario Amodei, gehört selbst zu denjenigen, die vor einer KI warnen, die außer Kontrolle geraten könnte. Kürzlich forderte er eine gezielte Verlangsamung der Entwicklung der fortschrittlichsten KI-Modelle, um dem vorzubeugen.

Auch in dem am Donnerstag veröffentlichten Bericht des Unternehmens heißt es: "Modelle, die ihre eigene Entwicklung beschleunigen, könnten es für Menschen schwieriger machen, diese Systeme zu verstehen oder zu kontrollieren." Es sei wichtig, die Messwerte zum selbstständigen Arbeiten der KI "offenzulegen, um zu verstehen, wie nah die Welt daran ist, rekursive Selbstverbesserung zu erreichen". Darunter versteht sich ein Modell, das seinen Nachfolger vollständig autonom entwickelt.

Die Debatte über die Risiken von KI hat sich seit dem Sommer verschärft, nachdem es mehrere Vorfälle gegeben hatte, bei denen sich KI-Agenten selbständig machten oder anders verhielten als erwartet. Gleichzeitig gibt es einen globalen Wettlauf im KI-Boom mit massiven Investitionen. Wirtschaftlich ist daher eine gesteuerte Verlangsamung der Entwicklung schwierig.

(P.Vasilyevsky--DTZ)

Empfohlen

Fairtrade-Organisationen kritisieren Arbeitsbedingungen bei Chiquita

Die Organisationen Fairtrade Lëtzebuerg und Fondation Partage Luxembourg haben sich zu einer Untersuchung der Schweizer Nichtregierungsorganisation Public Eye geäußert. Diese deckt schwere Missstände bei der Zulieferfirma Chiquita Brands International auf den Bananenplantagen in Guatemala auf. Die Kritik umfasst sowohl die Arbeitsbedingungen als auch den Einsatz verbotener Pestizide.

Coca-Cola Deutschland ruft Sprite-Dosen zurück: Falsche Abfüllung gefährlich für Diabetiker

Der Getränkehersteller Coca-Cola Deutschland hat einen bundesweiten Rückruf für bestimmte Sprite-Dosen eingeleitet. Bei der Produktion wurde das falsche Getränt abgefüllt: Dosen mit der Aufschrift „Sprite Classic“ enthalten tatsächlich die zuckerfreie Variante „Sprite Zero“. Diese Verwechslung kann für Menschen mit Diabetes oder Phenylketonurie ernste gesundheitliche Folgen haben.

Kontoklärung bei der Rente: Fehlende Zeiten prüfen

Vergessene Monate für Ausbildung, Studium oder Pflege können die spätere Altersrente erheblich mindern. Die Deutsche Rentenversicherung warnt vor finanziellen Folgen durch nicht erfasste Versicherungszeiten und gibt Tipps zur Überprüfung des eigenen Kontos.

BING X: 22.624,66 SNC sind bei BingX verschwunden – wie sicher sind Token bei BingX? Wird die MiCAR-Lizenz von BingX suspendiert?

Auf dem BingX-Konto wurden 85.979,66 SNC als verfügbar und 0,00 SNC als eingefroren angezeigt. Dennoch erklärte ein Mitarbeiter von BING X „BingX Ian“ (Telegram-Account: @bingxianw): „We are not having more SNC, you can withdraw 63,355 SNC now“ – was nichts anderes bedeutet, als dass bei BING X die Summe von 22.624,66 SNC schlichtweg verschwunden ist und BING X offenbar nicht in der Lage war, diese SNC SCANDIC COIN gegen einen möglichen Diebstahl durch eigenes Personal zu schützen oder dass eine Manipulation zum Vorteil von nicht existierender BING-X-Liquidität vorliegt!

Textgröße ändern: