Deutsche Tageszeitung - La IA avanzada puede representar un "riesgo existencial para la humanidad", advierte la ONU

La IA avanzada puede representar un "riesgo existencial para la humanidad", advierte la ONU


La IA avanzada puede representar un "riesgo existencial para la humanidad", advierte la ONU
La IA avanzada puede representar un "riesgo existencial para la humanidad", advierte la ONU / Foto: © AFP

El Alto Comisionado de la ONU para los derechos humanos advirtió el lunes sobre la necesidad de elaborar rápidamente una gobernanza de la inteligencia artificial, afirmando que la IA avanzada puede "suponer un riesgo existencial para la humanidad".

Tamaño del texto:

"Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa", declaró el Alto Comisionado, Volker Türk, en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, que pidió actuar "antes de que sea demasiado tarde".

"Un puñado de hombres detenta un poder casi ilimitado de la IA, que, nos repiten hasta la saciedad, posee una potencia de cálculo inimaginable. Hablan de libertad pero, cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos", denunció.

La IA que le toma el pelo a los humanos ya es una realidad. Los últimos modelos de IA generativa ya no se contentan con cumplir órdenes, sino que llegan incluso a mentir, maquinar o amenazar para lograr sus fines.

En julio, agentes de IA de OpenAI se salieron de su entorno teóricamente confinado y se introdujeron espontáneamente en la plataforma Hugging Face, en busca de respuestas a un test.

Los incidentes relacionados con agentes que se sobrepasan de sus prerrogativas para cumplir la misión que les había sido encomendada han aumentado en los últimos meses: Anthropic y el chino Alibaba registraron casos parecidos.

Unos hechos que generan preocupación entre los investigadores, por las dificultades crecientes a la hora de vigilar unos modelos cada vez más potentes.

Según dijo, Volker Türk escribirá próximamente a las empresas del sector "para exigirles que emprendan medidas (...) para reducir los riesgos desde ya".

"Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes", subrayó.

"Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria", sostuvo.

También pidió que se tengan en cuenta "las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro medio ambiente".

(V.Sørensen--DTZ)

Destacadas

Policía y estudiantes de la UNALM chocan en protesta por recorte presupuestal

Tensiones y denuncias de violencia marcaron la protesta de estudiantes de la Universidad Nacional Agraria La Molina (UNALM) frente al Congreso. Los universitarios se manifestaron para rechazar un recorte presupuestal proyectado por el Ministerio de Economía y Finanzas, lo que derivó en enfrentamientos con efectivos de la Policía Nacional.

Sheinbaum asegura que las negociaciones comerciales con Trump van 'muy avanzadas'

La presidenta Claudia Sheinbaum declaró que las negociaciones comerciales con el presidente estadounidense Donald Trump se encuentran en una etapa avanzada tras un encuentro bilateral en la Cumbre APEC. El mandatario mexicano destacó el tono positivo de la reunión, mientras analistas y exfuncionarios evalúan las posibilidades de concretar acuerdos sobre aranceles y el T-MEC antes de que concluya 2026.

La derecha española impulsa centros de deportación a Ruanda frente al rechazo del Gobierno

El Partido Popular y Vox han alineado su propuesta electoral con el plan de cinco países europeos para establecer un centro de deportación de migrantes en Ruanda. Esta iniciativa, que busca externalizar la gestión migratoria más allá de las fronteras de la Unión Europea, ha generado una profunda división política en España, donde el Gobierno de Pedro Sánchez la califica de inhumana y Ada Colau exige su paralización judicial.

Elon Musk advierte de 'baches geopolíticos' por Taiwán durante su visita a China

Elon Musk confirmó su asistencia a la cumbre APEC en Shenzhen y advirtió sobre posibles tensiones geopolíticas derivadas de la disputa por Taiwán. Durante su estancia, el empresario elogió las instalaciones de Tesla en Shanghái y reafirmó su apoyo al fortalecimiento de los vínculos comerciales entre Estados Unidos y China.

Tamaño del texto: