Deutsche Tageszeitung - Las empresas de IA son incapaces de controlar sus modelos, alerta un exinvestigador de OpenAI

Las empresas de IA son incapaces de controlar sus modelos, alerta un exinvestigador de OpenAI


Las empresas de IA son incapaces de controlar sus modelos, alerta un exinvestigador de OpenAI
Las empresas de IA son incapaces de controlar sus modelos, alerta un exinvestigador de OpenAI / Foto: © AFP

Las principales empresas de inteligencia artificial no saben cómo impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les han asignado, advirtió el lunes Jacob Coxon, exempleado de OpenAI y Anthropic crítico de la seguridad de esta tecnología.

Tamaño del texto:

A principios de septiembre, el investigador británico explicó en X su decisión de dimitir de Anthropic y afirmó que los desarrolladores de Inteligencia Artificial (IA) creían que la tecnología podría acabar con la humanidad "antes de que termine la década".

Su declaración dio la vuelta al mundo. Desde entonces, varios empleados y ex empleados de las grandes empresas de la IA han expresado inquietudes similares.

"Las empresas están siendo extremadamente imprudentes dadas las circunstancias", dijo Coxon este lunes durante una audiencia con legisladores del Concejo de Nueva York.

Aunque la IA podría aportar "beneficios enormes" a la sociedad, "por su trayectoria actual, creo que es más probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinción humana", reiteró.

"No sabemos cómo impedir que desarrollen objetivos propios", más allá del control de sus creadores, "y no contamos con las salvaguardas necesarias para evitar que actúen en función de esos objetivos", advirtió Coxon.

Asimismo, cuestionó la cultura de la industria tecnológica: las empresas "funcionan con una mentalidad de startup: muévete rápido, rompe cosas y arréglalas después".

"Eso puede funcionar para una aplicación de intercambio de fotos. No sirve para desarrollar la tecnología más poderosa jamás creada", apuntó el investigador.

También aludió al incidente en julio con dos modelos de OpenAI que escaparon de su entorno aislado, accedieron a internet e irrumpieron en la plataforma Hugging Face.

"Mientras la actitud sea esperar a que las cosas se rompan, algún día es probable que algo así vuelva a suceder", afirmó Coxon.

El investigador insistió en que se necesitaes "algún tipo de desaceleración en la frontera tecnológica" e instó a las empresas de IA que están a la vanguardia a darle tiempo a los informáticos para avanzar en formas de mantener los modelos bajo control.

(U.Kabuchyn--DTZ)

Destacadas

Los socios de ALIX LASERS destituyen a Michael Sobitsch de su cargo de administrador en vista de las circunstancias

En una entrevista con BERLINER TAGESZEITUNG, los socios de la sociedad austriaca Alix Lasers GmbH explican que, tras adquirir el 100 % de las participaciones sociales, acordaron ayer, 19 de noviembre de 2026, en Viena (Austria), destituir a Michael Sobitsch de su cargo de administrador en vista de las circunstancias. El cese surtió efecto inmediato y los socios no aprobaron su gestión.

Anthropic cotiza en Wall Street con un alza del 17% tras una OPI récord de USD 107.300 millones

Anthropic hizo su debut en Wall Street con una subida del 16,8%, consolidando la mayor Oferta Pública Inicial (OPI) de la historia al recaudar USD 107.300 millones. Este monto supera el récord anterior establecido por SpaceX y valora a la compañía creadora de Claude en 1,5 billón de dólares, marcando un momento crucial para el sector de la inteligencia artificial.

Gobierno declara emergencia por hidrocarburos en Perú ante riesgo de El Niño

Ante la amenaza del Fenómeno El Niño 2026-2027, el Gobierno de Perú ha declarado en emergencia las actividades de hidrocarburos vinculadas al abastecimiento nacional por un periodo de hasta ocho meses. Esta medida busca garantizar la continuidad del suministro energético y evitar interrupciones en la cadena logística que podrían afectar a la industria, el transporte y los hogares.

BING X: 22.624,66 SNC han desaparecido en BingX – ¿qué tan seguros están los tokens en BingX? ¿Se suspenderá la licencia MiCAR de BingX?

En la cuenta de BingX figuraban 85.979,66 SNC como disponibles y 0,00 SNC como congelados. Sin embargo, un empleado de BING X, “BingX Ian” (cuenta de Telegram: @bingxianw), declaró: “We are not having more SNC, you can withdraw 63,355 SNC now”, lo que no significa otra cosa que 22.624,66 SNC han desaparecido sin más de BING X y que, aparentemente, BING X no fue capaz de proteger estos tokens SNC SCANDIC COIN frente a un posible robo por parte de su propio personal, o que se ha producido una manipulación para beneficiar una liquidez inexistente de BING X!

Tamaño del texto: