Deutsche Tageszeitung - Anthropic elige a Accenture para evaluar la seguridad de su IA

Anthropic elige a Accenture para evaluar la seguridad de su IA


Anthropic elige a Accenture para evaluar la seguridad de su IA
Anthropic elige a Accenture para evaluar la seguridad de su IA / Foto: © AFP

Anthropic dijo el viernes que se asoció a la consultora Accenture para evaluar la seguridad de sus modelos de inteligencia artificial (IA), con miras a cumplir la promesa del director ejecutivo Dario Amodei de que observadores independientes evalúen los modelos más potentes de la compañía.

Tamaño del texto:

Aunque la start‑up californiana considera que, a largo plazo, la revisión independiente de la IA debería ser financiada por el Estado o por un fondo específico, "dada la importancia y la urgencia de este trabajo", a corto plazo remunerá a Accenture por esta misión.

Anthropic prevé destinar al menos 1.000 millones de dólares a la evaluación de su IA en los próximos cinco años.

Accenture también planea invertir una suma equivalente en esta actividad durante el mismo periodo.

Como prometió Amodei, Anthropic dará a los consultores de Accenture los mismos accesos a sus sistemas que a sus propios empleados, según un comunicado.

Estos profesionales proceden de Faculty, la filial de Accenture dedicada a la IA, una empresa adquirida este año por el grupo de consultoría.

"Los evaluadores integrados pueden observar cómo funciona una empresa, comprobar que cumple realmente sus compromisos en materia de seguridad y señalar puntos ciegos", explicó Anthropic.

"También pueden informar de incidentes y ofrecer una rendición de cuentas mejor documentada sobre los beneficios y los riesgos", añadió el creador de la familia de IA Claude.

Anthropic asegura que se trata de una colaboración no exclusiva y prevé anunciar "en las próximas semanas" acuerdos con otros evaluadores externos.

La empresa mencionó en particular conversaciones con la consultora METR, especializada en la identificación de riesgos asociados a los modelos de IA.

Este proveedor es, entre otras cosas, responsable de un informe detallado sobre el incidente ocurrido en OpenAI en julio, durante el cual dos modelos salieron de su entorno para conectarse a internet e irrumpir en varios sitios y plataformas.

(Y.Ignatiev--DTZ)

Destacadas

Xiaomi Pad Mini con Dimensity 9400+ y pantalla 3K a 165 Hz por 434 euros en AliExpress

AliExpress ha iniciado una promoción previa al Black Friday para la Xiaomi Pad Mini, una tablet compacta de gama alta que combina un potente procesador Dimensity 9400+ con una pantalla de 8,8 pulgadas y resolución 3K. Con un precio final de 434 euros tras aplicar el cupón ESBF35, el dispositivo se posiciona como una opción competitiva en el mercado Android frente a las alternativas de Apple.

Roborock lanza descuentos de hasta el 56 % en sus robots aspiradores para el Black Friday

La marca líder mundial en robótica de limpieza ha iniciado su campaña de Black Friday con descuentos de hasta el 56 % en sus dispositivos más avanzados. Las ofertas, vigentes del 19 al 30 de noviembre, incluyen los nuevos modelos Saros 20, Qrevo 2 Pro, Qrevo S Pro y la aspiradora F25 GT Gen 2.

Tras 20 años modernizando el software de otras empresas, Polcode aplica su experiencia a sí misma

La empresa de desarrollo de software con sede en Varsovia celebra su 20.º aniversario con una nueva página web que refleja dos décadas de transformación del sector y demuestra cómo una compañía tecnológica aplica sus propias recomendaciones

Freezz Italia obtiene un contrato de la ESA para las actividades preoperativas de IRIS² Low-LEO

Freezz Italia ha sido seleccionada para avanzar en el desarrollo de su arquitectura Friisat en órbita terrestre muy baja (VLEO), destinada a proporcionar conectividad de banda ancha directa a dispositivos (Direct-to-Device)

Tamaño del texto: