Deutsche Tageszeitung - China y EEUU buscan un 'teléfono rojo' frente a los riesgos de la IA

China y EEUU buscan un 'teléfono rojo' frente a los riesgos de la IA


China y EEUU buscan un 'teléfono rojo' frente a los riesgos de la IA
China y EEUU buscan un 'teléfono rojo' frente a los riesgos de la IA / Foto: © AFP/Archivos

Los riesgos de la inteligencia artificial (IA), desde su uso con fines maliciosos hasta el temor de que tome decisiones militares de forma autónoma, están llevando a China y Estados Unidos a estudiar vías de diálogo para evitar incidentes.

Tamaño del texto:

El alcance de este diálogo, que sugirió el domingo sin muchos detalles el secretario del Tesoro estadounidense, Scott Bessent, debería ser limitado.

Por el momento, el secretario estadounidense se limitó a mencionar la necesidad de pasar "de una situación de opacidad a una mayor transparencia".

La propuesta refleja la preocupación por el potencial destructivo de la IA, que podría actuar de forma imprevista o acelerar sin control la toma de decisiones militares.

"Por ambas partes se observa una toma de conciencia de que existe la posibilidad de incidentes y usos indebidos en detrimento de los intereses de los dos países", señala a la AFP Jean-Marc Rickli, director de Riesgos Globales y Emergentes del Centro de Política de Ginebra.

"El 'teléfono rojo' se estableció a raíz de la crisis de Cuba" de 1962, recuerda el experto, en referencia al sistema de comunicación directa entre Estados Unidos y Rusia en plena Guerra Fría para evitar incidentes militares graves.

Rickli recuerda un incidente reciente en el que, según la cadena CNN, Estados Unidos estuvo a punto de abordar un buque chino basándose en información falsa elaborada con IA.

- Distintas prioridades -

Desde 2023 existe un diálogo bilateral entre expertos y centros de investigación, pero sin intervención del gobierno, sobre los modelos de IA más avanzados de compañías como OpenAI, Anthropic, DeepSeek o Alibaba.

Según la investigadora Mathilde Viellet, del Instituto Francés de Relaciones Internacionales (Ifri), ese diálogo ha puesto de relieve que las prioridades de las dos potencias son distintas.

Mientras China lleva años preocupada por la seguridad o luchando contra los 'deepfakes', Estados Unidos "se preocupa sobre todo por la pérdida de control y la 'desalineación' de la IA, cuando actúa de forma autónoma", explica la experta a la AFP.

Por el momento, según la consultora estadounidense Teneo, "ninguno de los dos Gobiernos está dispuesto a asumir compromisos vinculantes sobre el desarrollo de la IA".

Además, Estados Unidos apuesta por modelos de IA cerrados y de propiedad privada para preservar su ventaja comercial, mientras que China opta por el código abierto para acelerar los avances tecnológicos.

Según Jean-Marc Rickli, tendría sentido crear un sistema de comunicación entre China y Estados Unidos en caso de una decisión militar en la que la IA tome decisiones demasiado rápidas o basadas en información errónea.

Por su parte, Mathilde Viellet aboga por un 'teléfono rojo' que sirva en caso de pérdida de control de la IA y para evitar su utilización por parte de actores maliciosos.

En septiembre, Anthropic reveló cinco casos de utilización de su modelo de IA Claude de una forma "que podría servir para el desarrollo de armas biológicas".

Pero aunque llegue a establecerse "cierta coordinación flexible", el investigador estadounidense Matt Sheehan, cree que "las medidas más importantes en materia de gobernanza y seguridad de la IA serán las que adopte cada país a nivel nacional".

(Y.Leyard--DTZ)

Destacadas

Policía y estudiantes de la UNALM chocan en protesta por recorte presupuestal

Tensiones y denuncias de violencia marcaron la protesta de estudiantes de la Universidad Nacional Agraria La Molina (UNALM) frente al Congreso. Los universitarios se manifestaron para rechazar un recorte presupuestal proyectado por el Ministerio de Economía y Finanzas, lo que derivó en enfrentamientos con efectivos de la Policía Nacional.

Sheinbaum asegura que las negociaciones comerciales con Trump van 'muy avanzadas'

La presidenta Claudia Sheinbaum declaró que las negociaciones comerciales con el presidente estadounidense Donald Trump se encuentran en una etapa avanzada tras un encuentro bilateral en la Cumbre APEC. El mandatario mexicano destacó el tono positivo de la reunión, mientras analistas y exfuncionarios evalúan las posibilidades de concretar acuerdos sobre aranceles y el T-MEC antes de que concluya 2026.

La derecha española impulsa centros de deportación a Ruanda frente al rechazo del Gobierno

El Partido Popular y Vox han alineado su propuesta electoral con el plan de cinco países europeos para establecer un centro de deportación de migrantes en Ruanda. Esta iniciativa, que busca externalizar la gestión migratoria más allá de las fronteras de la Unión Europea, ha generado una profunda división política en España, donde el Gobierno de Pedro Sánchez la califica de inhumana y Ada Colau exige su paralización judicial.

Elon Musk advierte de 'baches geopolíticos' por Taiwán durante su visita a China

Elon Musk confirmó su asistencia a la cumbre APEC en Shenzhen y advirtió sobre posibles tensiones geopolíticas derivadas de la disputa por Taiwán. Durante su estancia, el empresario elogió las instalaciones de Tesla en Shanghái y reafirmó su apoyo al fortalecimiento de los vínculos comerciales entre Estados Unidos y China.

Tamaño del texto: