Deutsche Tageszeitung - En la ONU, directivos tecnológicos piden prudencia en el desarrollo de la IA

En la ONU, directivos tecnológicos piden prudencia en el desarrollo de la IA


En la ONU, directivos tecnológicos piden prudencia en el desarrollo de la IA
En la ONU, directivos tecnológicos piden prudencia en el desarrollo de la IA / Foto: © AFP

Directivos de empresas de inteligencia artificial (IA) subrayaron el miércoles en la ONU la mayor vigilancia que exige esta tecnología, y el director ejecutivo de Anthropic asumió el compromiso unilateral de desacelerar su desarrollo.

Tamaño del texto:

Los líderes del sector informaron al Consejo de Seguridad de la ONU después de semanas de titulares en todo el mundo sobre los riesgos de una IA incontrolable y los llamamientos a frenar su evolución.

"Este momento requiere un extremo cuidado", declaró Sam Altman, de OpenAI, durante una reunión de emergencia del Consejo de 15 miembros.

Advirtió que a medida que los sistemas de IA se vuelvan más capaces y autónomos, podrían ir más rápido que las instituciones o concentrar demasiado poder en pocas manos.

"La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance", dijo Altman.

- Normas de seguridad -

Por su parte, el director ejecutivo de Anthropic, Dario Amodei, afirmó que a medida que los modelos de IA se vuelvan más potentes "se requerirán normas de seguridad aún más estrictas".

Anthropic aspira a mejorar su capacidad para evitar el uso indebido de la tecnología, señaló durante una videollamada.

"Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro", declaró Amodei, días después de haber pedido una desaceleración coordinada entre los grandes actores de la IA, que por el momento no se ha concretado.

Otro de los oradores fue Clément Delangue, de Hugging Face, blanco de un reciente ciberataque perpetrado por un software autónomo de OpenAI, el primero de una serie de incidentes que hicieron saltar las alarmas sobre la rápida evolución de la IA.

A principios de septiembre, Jacob Coxon, quien trabajó tanto en OpenAI como en Anthropic, decidió abandonar el sector y acusó a ambas empresas de "jugar con nuestras vidas" en la carrera por desarrollar modelos de IA capaces de automejorarse.

"No queremos caer en la trampa del optimismo ciego", señaló Altman el miércoles, "pero tampoco podemos sucumbir al catastrofismo. (...) Así que vamos a hacer todo lo posible por encontrar un término medio".

Delangue, de Hugging Face, destacó que, si bien su empresa fue objetivo de la IA, también utilizó esta tecnología para repeler los ataques.

"El mundo necesita la IA de código abierto más que nunca para defenderse", dijo.

Como ya hizo en numerosas ocasiones, el CEO de OpenAI pidió cooperación internacional en materia de IA.

"En la historia", recordó Altman, "ha habido momentos en los que países que competían entre sí y no se apreciaban necesariamente (...) aun así consiguieron ponerse de acuerdo por el bien común ante una nueva tecnología. Eso tiene que volver a ocurrir".

(A.Nikiforov--DTZ)

Destacadas

Policía y estudiantes de la UNALM chocan en protesta por recorte presupuestal

Tensiones y denuncias de violencia marcaron la protesta de estudiantes de la Universidad Nacional Agraria La Molina (UNALM) frente al Congreso. Los universitarios se manifestaron para rechazar un recorte presupuestal proyectado por el Ministerio de Economía y Finanzas, lo que derivó en enfrentamientos con efectivos de la Policía Nacional.

Sheinbaum asegura que las negociaciones comerciales con Trump van 'muy avanzadas'

La presidenta Claudia Sheinbaum declaró que las negociaciones comerciales con el presidente estadounidense Donald Trump se encuentran en una etapa avanzada tras un encuentro bilateral en la Cumbre APEC. El mandatario mexicano destacó el tono positivo de la reunión, mientras analistas y exfuncionarios evalúan las posibilidades de concretar acuerdos sobre aranceles y el T-MEC antes de que concluya 2026.

La derecha española impulsa centros de deportación a Ruanda frente al rechazo del Gobierno

El Partido Popular y Vox han alineado su propuesta electoral con el plan de cinco países europeos para establecer un centro de deportación de migrantes en Ruanda. Esta iniciativa, que busca externalizar la gestión migratoria más allá de las fronteras de la Unión Europea, ha generado una profunda división política en España, donde el Gobierno de Pedro Sánchez la califica de inhumana y Ada Colau exige su paralización judicial.

Elon Musk advierte de 'baches geopolíticos' por Taiwán durante su visita a China

Elon Musk confirmó su asistencia a la cumbre APEC en Shenzhen y advirtió sobre posibles tensiones geopolíticas derivadas de la disputa por Taiwán. Durante su estancia, el empresario elogió las instalaciones de Tesla en Shanghái y reafirmó su apoyo al fortalecimiento de los vínculos comerciales entre Estados Unidos y China.

Tamaño del texto: