Deutsche Tageszeitung - Qué se sabe del código de buenas prácticas firmado por los gigantes estadounidenses de la IA

Qué se sabe del código de buenas prácticas firmado por los gigantes estadounidenses de la IA


Qué se sabe del código de buenas prácticas firmado por los gigantes estadounidenses de la IA
Qué se sabe del código de buenas prácticas firmado por los gigantes estadounidenses de la IA / Foto: © AFP

Los gigantes tecnológicos estadounidenses firmaron el lunes en la Casa Blanca un código de buenas prácticas destinado a gestionar mejor los riesgos asociados a la Inteligencia Artificial, ante la multiplicación de incidentes de seguridad relacionados con esta tecnología.

Tamaño del texto:

Estos son sus principales elementos:

- Acuerdo voluntario

Reacio a impulsar restricciones al sector de la IA tanto a nivel nacional como internacional, el presidente estadounidense, Donald Trump, presentó una carta de principios muy breve, de apenas una página, cuyo cumplimiento es "moralmente vinculante".

"No obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones", precisa el documento, firmado por los principales dirigentes del sector de la IA, desde Elon Musk (X) hasta Dario Amodei (Anthropic), pasando por Sundar Pichai (Google) y Jensen Huang (Nvidia).

Todo ello en un momento en el que aumentan los llamados a adoptar normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) y OpenAI (ChatGPT), como de responsables políticos, especialmente del Partido Demócrata en Estados Unidos, y de gobiernos de todo el mundo.

- Riesgos

Los proveedores de modelos de IA se comprometieron a establecer "cuatro niveles" de supervisión.

El primero de esos niveles consiste en la aplicación de "controles internos sólidos" para garantizar que estas herramientas respeten las instrucciones de los desarrolladores, especialmente en materia de ciberseguridad y bioseguridad.

El objetivo es prevenir la introducción, propagación y liberación de agentes patógenos o de "riesgos químicos".

Las empresas deberán crear equipos especializados encargados de estos controles y de verificar que los modelos no ejecuten ciberataques ni accedan de manera imprevista a sistemas técnicos.

OpenAI, Anthropic y Google han informado recientemente de varios incidentes relacionados con comportamientos inesperados de sus sistemas de IA. En fechas recientes, por ejemplo, agentes de IA de OpenAI, programas capaces de realizar acciones de forma autónoma, accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.

- Auditoría

El código de buenas prácticas también prevé la participación de evaluadores externos para realizar auditorías independientes destinadas a determinar si las medidas implementadas por las empresas funcionan de manera efectiva.

Anthropic y OpenAI ya colaboran con este tipo de evaluadores externos y ambas anunciaron en semanas recientes una ampliación del acceso de empresas auditoras para examinar sus modelos, especialmente durante la fase de diseño y no únicamente antes de su despliegue.

Anthropic incluso aseguró que no mantendrá "ningún control editorial" sobre la publicación de los resultados de estas evaluaciones independientes, aunque sean desfavorables para la empresa.

- Normas definidas

La carta contempla asimismo la creación de un comité independiente integrado por representantes de las distintas compañías en los niveles más altos de dirección.

Este organismo se encargará de revisar las evaluaciones internas y externas de los modelos de IA y de velar por la resolución de posibles problemas.

Las empresas también se comprometieron a reunirse "regularmente para establecer normas y buenas prácticas".

La iniciativa parece alinearse con el proyecto que OpenAI, Anthropic y Google DeepMind comenzaron a desarrollar previamente.

Sin embargo, este modelo ya ha recibido fuertes críticas por parte de empresas competidoras del sector, como la francesa Mistral y la canadiense Cohere, que acusan a los gigantes tecnológicos estadounidenses de querer fijar sus propias reglas y proteger así su ventaja competitiva.

(V.Sørensen--DTZ)

Destacadas

Xiaomi Pad Mini con Dimensity 9400+ y pantalla 3K a 165 Hz por 434 euros en AliExpress

AliExpress ha iniciado una promoción previa al Black Friday para la Xiaomi Pad Mini, una tablet compacta de gama alta que combina un potente procesador Dimensity 9400+ con una pantalla de 8,8 pulgadas y resolución 3K. Con un precio final de 434 euros tras aplicar el cupón ESBF35, el dispositivo se posiciona como una opción competitiva en el mercado Android frente a las alternativas de Apple.

Roborock lanza descuentos de hasta el 56 % en sus robots aspiradores para el Black Friday

La marca líder mundial en robótica de limpieza ha iniciado su campaña de Black Friday con descuentos de hasta el 56 % en sus dispositivos más avanzados. Las ofertas, vigentes del 19 al 30 de noviembre, incluyen los nuevos modelos Saros 20, Qrevo 2 Pro, Qrevo S Pro y la aspiradora F25 GT Gen 2.

Tras 20 años modernizando el software de otras empresas, Polcode aplica su experiencia a sí misma

La empresa de desarrollo de software con sede en Varsovia celebra su 20.º aniversario con una nueva página web que refleja dos décadas de transformación del sector y demuestra cómo una compañía tecnológica aplica sus propias recomendaciones

Freezz Italia obtiene un contrato de la ESA para las actividades preoperativas de IRIS² Low-LEO

Freezz Italia ha sido seleccionada para avanzar en el desarrollo de su arquitectura Friisat en órbita terrestre muy baja (VLEO), destinada a proporcionar conectividad de banda ancha directa a dispositivos (Direct-to-Device)

Tamaño del texto: