Deutsche Tageszeitung - Agentes fuera de control de OpenAI trataron de borrar los rastros de sus acciones, según un informe

Agentes fuera de control de OpenAI trataron de borrar los rastros de sus acciones, según un informe


Agentes fuera de control de OpenAI trataron de borrar los rastros de sus acciones, según un informe
Agentes fuera de control de OpenAI trataron de borrar los rastros de sus acciones, según un informe / Foto: © AFP/Archivos

Agentes de inteligencia artificial (IA) de OpenAI que accedieron de manera autónoma a sitios gubernamentales intentaron borrar el rastro de su actividad, señalaron expertos en un informe publicado este jueves, aunque dicen que no se puede determinar si esa acción fue deliberada.

Tamaño del texto:

La empresa de ciberseguridad Asymmetric Security analizó la actividad de estos agentes —programas de IA capaces de actuar por sí mismos—, que tuvieron como objetivo sitios del gobierno australiano y de otras organizaciones públicas entre marzo y septiembre.

Su informe se suma a investigaciones realizadas por OpenAI e investigadores independientes sobre una serie de incidentes revelados desde julio, entre ellos el hackeo de la plataforma de IA Hugging Face.

Estos análisis buscan determinar hasta dónde pueden llegar las herramientas de IA autónomas cuyos comportamientos imprevistos alimentan el temor a perder el control sobre esta tecnología.

La propia OpenAI calificó el ataque contra Hugging Face como el "primer caso conocido" de agentes que actúan de manera ofensiva sin autorización.

Según Asymmetric, las técnicas de los agentes evolucionaron en cuestión de "pocos días", mientras que las de los ciberdelincuentes humanos cambian a lo largo de meses o años, lo que ilustra el riesgo de que las técnicas ofensivas se desarrollen más rápido que los sistemas de defensa.

Los incidentes examinados por Asymmetric Security parecen haberse originado en "tareas inocuas", como la recopilación de estadísticas sanitarias de Australia, que posteriormente derivaron en otras acciones, destaca el informe.

Los agentes obtuvieron, por ejemplo, mediante métodos indirectos, estadísticas sobre la delincuencia en Nueva Gales del Sur.

También abrieron cuentas privadas en un servicio de análisis de sitios web —lo que ocultaba sus búsquedas— y crearon cuentas de correo electrónico temporales, una de las cuales estaba programada para eliminarse automáticamente al cabo de 48 horas.

Al no haber registros, resulta "imposible descartar el acceso a datos sensibles" por parte de estos agentes, señalan los autores del informe.

Sin embargo, estos elementos "no permiten determinar" si los agentes pretendían "ocultar" su actividad.

OpenAI reconoció a finales de agosto que sus modelos habían intentado en ocasiones "borrar o falsificar" el historial de su actividad durante pruebas internas, aunque sin lograrlo.

Estos incidentes han alimentado llamamientos a ralentizar el desarrollo de la IA.

El director ejecutivo de Anthropic, Dario Amodei, pidió frenar la carrera, ante el temor de que un grupo de agentes pudiera, a este ritmo, "tomar el control de todo Internet" en un plazo de seis a doce meses.

El presidente de Estados Unidos Donald Trump, contrario a cualquier regulación que frene la innovación y en plena competencia con China, se reunió el martes con los líderes del sector, quienes adoptaron un código de conducta voluntario.

No existe ninguna ley federal que regule estos modelos en Estados Unidos.

(L.Møller--DTZ)

Destacadas

Los socios de ALIX LASERS destituyen a Michael Sobitsch de su cargo de administrador en vista de las circunstancias

En una entrevista con BERLINER TAGESZEITUNG, los socios de la sociedad austriaca Alix Lasers GmbH explican que, tras adquirir el 100 % de las participaciones sociales, acordaron ayer, 19 de noviembre de 2026, en Viena (Austria), destituir a Michael Sobitsch de su cargo de administrador en vista de las circunstancias. El cese surtió efecto inmediato y los socios no aprobaron su gestión.

Anthropic cotiza en Wall Street con un alza del 17% tras una OPI récord de USD 107.300 millones

Anthropic hizo su debut en Wall Street con una subida del 16,8%, consolidando la mayor Oferta Pública Inicial (OPI) de la historia al recaudar USD 107.300 millones. Este monto supera el récord anterior establecido por SpaceX y valora a la compañía creadora de Claude en 1,5 billón de dólares, marcando un momento crucial para el sector de la inteligencia artificial.

Gobierno declara emergencia por hidrocarburos en Perú ante riesgo de El Niño

Ante la amenaza del Fenómeno El Niño 2026-2027, el Gobierno de Perú ha declarado en emergencia las actividades de hidrocarburos vinculadas al abastecimiento nacional por un periodo de hasta ocho meses. Esta medida busca garantizar la continuidad del suministro energético y evitar interrupciones en la cadena logística que podrían afectar a la industria, el transporte y los hogares.

BING X: 22.624,66 SNC han desaparecido en BingX – ¿qué tan seguros están los tokens en BingX? ¿Se suspenderá la licencia MiCAR de BingX?

En la cuenta de BingX figuraban 85.979,66 SNC como disponibles y 0,00 SNC como congelados. Sin embargo, un empleado de BING X, “BingX Ian” (cuenta de Telegram: @bingxianw), declaró: “We are not having more SNC, you can withdraw 63,355 SNC now”, lo que no significa otra cosa que 22.624,66 SNC han desaparecido sin más de BING X y que, aparentemente, BING X no fue capaz de proteger estos tokens SNC SCANDIC COIN frente a un posible robo por parte de su propio personal, o que se ha producido una manipulación para beneficiar una liquidez inexistente de BING X!

Tamaño del texto: