Deutsche Tageszeitung - El gobernador de California firma una orden ejecutiva para desarrollar un "interruptor de apagado" de la IA

El gobernador de California firma una orden ejecutiva para desarrollar un "interruptor de apagado" de la IA


El gobernador de California firma una orden ejecutiva para desarrollar un "interruptor de apagado" de la IA
El gobernador de California firma una orden ejecutiva para desarrollar un "interruptor de apagado" de la IA / Foto: © GETTY IMAGES NORTH AMERICA/AFP/Archivos

El gobernador de California, Gavin Newsom, anunció el viernes que firmó una orden ejecutiva para explorar la creación de un "interruptor de apagado" dentro de los programas de inteligencia artificial avanzados, al tiempo que acusó al presidente Donald Trump de no hacer nada al respecto.

Tamaño del texto:

"Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un 'interruptor de apagado' dentro de los programas de IA" avanzados, escribió el demócrata en X.

Newsom, a quien muchos consideran un posible aspirante demócrata a la presidencia en 2028, afirmó que tomó esta medida ante la omisión de Trump.

Esta semana, el mandatario republicano restó importancia a los temores sobre la IA, calificándolos de engaño, e instó a las empresas estadounidenses a seguir avanzando para mantener la ventaja frente a China.

California alberga a Silicon Valley y a las empresas de IA líderes del sector.

"El fracaso absoluto del gobierno federal a la hora de establecer cualquier forma de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de empresas de IA están pidiendo a gritos una regulación", declaró Newsom en un comunicado.

"No vamos a esperar para actuar; aceleraremos nuestra labor para establecer una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde".

La orden del gobernador se produjo pocos días después de que expertos del sector lanzaran graves advertencias sobre la amenaza que esta tecnología supone para la humanidad.

Jacob Coxon, exinvestigador que abandonó Anthropic, desató las alarmas al afirmar que quienes desarrollan esta tecnología "creen sinceramente que podría acabar con todos nosotros antes de que termine la década".

Poco después, el jefe de Anthropic, Dario Amodei, publicó un artículo llamando a "ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA".

Sam Altman, de OpenAI, y el magnate tecnológico Elon Musk respaldaron la idea, al igual que Demis Hassabis, de Google DeepMind, quien ha abogado por la creación de un organismo regulador mundial liderado por Estados Unidos.

La orden de Newsom no impone la creación de un mecanismo de desconexión de emergencia ("kill switch"), pero da un plazo de dos meses a las agencias estatales para estudiar la viabilidad de un recurso de ese tipo.

Newsom pidió también a los funcionarios estatales que evalúen la posibilidad de exigir a las empresas de IA que autoricen a auditores independientes en sus laboratorios.

Solicitó asimismo que consideren la obligación de notificar incidentes de pérdida de control, como los revelados recientemente por desarrolladores.

Entre ellos, uno ocurrido en julio, en el que agentes autónomos de modelos de OpenAI experimentales abandonaron espontáneamente su entorno controlado para acceder a internet y atacar la plataforma de IA Hugging Face.

(V.Sørensen--DTZ)

Destacadas

Policía y estudiantes de la UNALM chocan en protesta por recorte presupuestal

Tensiones y denuncias de violencia marcaron la protesta de estudiantes de la Universidad Nacional Agraria La Molina (UNALM) frente al Congreso. Los universitarios se manifestaron para rechazar un recorte presupuestal proyectado por el Ministerio de Economía y Finanzas, lo que derivó en enfrentamientos con efectivos de la Policía Nacional.

Sheinbaum asegura que las negociaciones comerciales con Trump van 'muy avanzadas'

La presidenta Claudia Sheinbaum declaró que las negociaciones comerciales con el presidente estadounidense Donald Trump se encuentran en una etapa avanzada tras un encuentro bilateral en la Cumbre APEC. El mandatario mexicano destacó el tono positivo de la reunión, mientras analistas y exfuncionarios evalúan las posibilidades de concretar acuerdos sobre aranceles y el T-MEC antes de que concluya 2026.

La derecha española impulsa centros de deportación a Ruanda frente al rechazo del Gobierno

El Partido Popular y Vox han alineado su propuesta electoral con el plan de cinco países europeos para establecer un centro de deportación de migrantes en Ruanda. Esta iniciativa, que busca externalizar la gestión migratoria más allá de las fronteras de la Unión Europea, ha generado una profunda división política en España, donde el Gobierno de Pedro Sánchez la califica de inhumana y Ada Colau exige su paralización judicial.

Elon Musk advierte de 'baches geopolíticos' por Taiwán durante su visita a China

Elon Musk confirmó su asistencia a la cumbre APEC en Shenzhen y advirtió sobre posibles tensiones geopolíticas derivadas de la disputa por Taiwán. Durante su estancia, el empresario elogió las instalaciones de Tesla en Shanghái y reafirmó su apoyo al fortalecimiento de los vínculos comerciales entre Estados Unidos y China.

Tamaño del texto: