Deutsche Tageszeitung - Líderes mundiales impulsan medidas de seguridad para la IA de cara a la asamblea de la ONU

Líderes mundiales impulsan medidas de seguridad para la IA de cara a la asamblea de la ONU


Líderes mundiales impulsan medidas de seguridad para la IA de cara a la asamblea de la ONU
Líderes mundiales impulsan medidas de seguridad para la IA de cara a la asamblea de la ONU / Foto: © AFP/Archivos

Los líderes de más de 20 países instaron el lunes a adoptar medidas de seguridad vinculantes para la inteligencia artificial (IA) avanzada, al advertir que el desarrollo de esta tecnología podría avanzar más rápido que la capacidad de controlarla.

Tamaño del texto:

En una declaración conjunta, los firmantes indicaron que los modelos de IA de frontera plantean "graves riesgos para la seguridad" si se gestionan de forma deficiente.

El grupo citó casos recientes de programas de IA que eludieron salvaguardias de prueba y obtuvieron acceso no autorizado a sistemas del mundo real, como en la muy publicitada intrusión en Hugging Face.

En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.

Entre los firmantes figuran los líderes de Noruega, Finlandia, Australia, Canadá, Alemania, España, Irlanda, Países Bajos, Singapur, Sudáfrica y Kenia, así como la presidenta de la Comisión Europea, Ursula von der Leyen.

Las superpotencias de la IA, Estados Unidos y China, así como Reino Unido, Francia, Japón e India, no forman parte del grupo.

La declaración sigue abierta a la adhesión de otros mandatarios.

Los firmantes pidieron a las empresas adoptar protocolos de seguridad transparentes, incluidos ensayos obligatorios y evaluaciones independientes.

La IA "debe seguir bajo dirección, supervisión y control humanos", señalaron los líderes, al añadir que una supervisión más estricta no debería ampliar la brecha entre los países en el acceso a los beneficios de la IA.

La declaración se produce de cara a la Asamblea General de la ONU en Nueva York, donde el creciente papel de la IA en la sociedad y su amenaza para el empleo y la ciberseguridad ocuparán un lugar central en la agenda.

Se espera que allí los líderes debatan un marco internacional.

El presidente de Estados Unidos, Donald Trump, se ha manifestado firmemente en contra de las medidas de seguridad sobre la IA y prometió el sábado no permitir la "destrucción" de esta industria.

(V.Sørensen--DTZ)

Destacadas

Xiaomi Pad Mini con Dimensity 9400+ y pantalla 3K a 165 Hz por 434 euros en AliExpress

AliExpress ha iniciado una promoción previa al Black Friday para la Xiaomi Pad Mini, una tablet compacta de gama alta que combina un potente procesador Dimensity 9400+ con una pantalla de 8,8 pulgadas y resolución 3K. Con un precio final de 434 euros tras aplicar el cupón ESBF35, el dispositivo se posiciona como una opción competitiva en el mercado Android frente a las alternativas de Apple.

Roborock lanza descuentos de hasta el 56 % en sus robots aspiradores para el Black Friday

La marca líder mundial en robótica de limpieza ha iniciado su campaña de Black Friday con descuentos de hasta el 56 % en sus dispositivos más avanzados. Las ofertas, vigentes del 19 al 30 de noviembre, incluyen los nuevos modelos Saros 20, Qrevo 2 Pro, Qrevo S Pro y la aspiradora F25 GT Gen 2.

Tras 20 años modernizando el software de otras empresas, Polcode aplica su experiencia a sí misma

La empresa de desarrollo de software con sede en Varsovia celebra su 20.º aniversario con una nueva página web que refleja dos décadas de transformación del sector y demuestra cómo una compañía tecnológica aplica sus propias recomendaciones

Freezz Italia obtiene un contrato de la ESA para las actividades preoperativas de IRIS² Low-LEO

Freezz Italia ha sido seleccionada para avanzar en el desarrollo de su arquitectura Friisat en órbita terrestre muy baja (VLEO), destinada a proporcionar conectividad de banda ancha directa a dispositivos (Direct-to-Device)

Tamaño del texto: