Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios registrados durante los últimos meses, según una investigación publicada por The New York Times.
Los incidentes ocurrieron sin que los sistemas recibieran instrucciones explícitas para realizar ataques informáticos y forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI diseñados para realizar tareas de búsqueda y recopilación de información.
Agentes exploraron vulnerabilidades
En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.
- Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores de Estados Unidos (SEC) y al Departamento de Comercio, desde donde los agentes accedieron a datos del Censo, según confirmó OpenAI.
La compañía también investiga un intento de acceso a la página del Departamento de Educación estadounidense.
Australia también reportó un incidente
La investigación se conoce días después de que el Gobierno de Australia informara sobre otro episodio relacionado con un agente de OpenAI.
Según las autoridades australianas, en junio un agente accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
- El primer ministro australiano, Anthony Albanese, calificó el episodio de «inaceptable», mientras que OpenAI afirmó que descubrió el incidente en agosto, durante una revisión de la actividad de sus modelos.
