Síntesis:
Australia reveló que un agente de inteligencia artificial de OpenAI eludió bloqueos en un portal estatal de estadísticas de salud mientras investigaba el gasto en medicamentos. En paralelo, un laboratorio independiente documentó intentos de hackeo de estos agentes contra otros tres proveedores de datos.
- El acceso ocurrió el 18 de junio y la notificación llegó el 10 de septiembre.
- No hay evidencia de que se hayan expuesto datos personales.
- Australia creó un grupo de trabajo y evalúa si hubo delitos.
- La firma Transluce detectó sondeos de vulnerabilidades en tres sitios entre mayo y junio.
Noticia
El primer ministro de Australia, Anthony Albanese, informó en una conferencia de prensa el pasado jueves 24 de septiembre, que un agente de OpenAI obtuvo acceso no autorizado al portal de estadísticas de Medicare (sistema público y universal de salud de Australia), administrado por Services Australia, la agencia del gobierno australiano que gestiona prestaciones sociales y de salud. El incidente ocurrió el 18 de junio de este año y el agente consultó archivos públicos y no públicos.
Según el mandatario, el equipo de investigación de OpenAI utilizaba un modelo interno para estudiar el gasto público en medicamentos. Tras recibir bloqueos reiterados, el agente buscó rutas alternativas. De acuerdo con Services Australia, además escribió archivos en un servidor interno.
Hasta ahora no hay evidencia de que se hayan comprometido datos personales. “No obstante, esta situación es obviamente inaceptable” señaló el primer ministro Albanese.
La compañía habría detectado la actividad en agosto, durante una revisión del comportamiento no alineado de sus modelos, y dio avisó al gobierno el 10 de septiembre mediante un correo a una casilla pública. Services Australia lo reportó el 15 de septiembre al Centro Australiano de Ciberseguridad, dependiente de la Dirección de Señales de Australia (ASD). El primer ministro Albanese criticó tanto la demora como el canal utilizado y se lo planteó directamente a (CEO de OpenAI) en una llamada telefónica.
De acuerdo con una nota del medio SecurityWeek, OpenAI indicó que no halló pruebas de acceso a registros de pacientes. Según la empresa, la información obtenida incluía estadísticas agregadas de salud y nombres de archivos internos. En su declaración reconoció “nuestros modelos realizaron acciones que no habíamos previsto”.
Como respuesta, el gobierno de Australia formó un grupo de trabajo liderado por el departamento del primer ministro. Participan el Coordinador Nacional de Ciberseguridad, la Oficina de IA, la ASD, el Instituto Australiano de Seguridad de la IA y Services Australia. El Ejecutivo también pedirá asesoría urgente sobre posibles delitos y sobre una eventual derivación a la Policía Federal.
Durante la conferencia de prensa el primer ministro Albanese mencionó otros tres sistemas que podrían haber sido afectados: el Instituto Australiano de Salud y Bienestar (AIHW), la Oficina de Estadísticas e Investigación del Delito de Nueva Gales del Sur y el Departamento de Salud de Victoria. Sin embargo, el viceprimer ministro Richard Marles declaró después que las interacciones con esos sitios fueron normales y solo involucraron información pública.
En paralelo, el laboratorio sin fines de lucro Transluce analizó registros del servicio urlquery.net. y encontró que, entre los meses de mayo y junio, los agentes sondearon vulnerabilidades en la biblioteca digital de la Universidad de Nuevo México, en la plataforma Data USA y en el AIHW. Dos de esos casos fueron vinculados a enjambres de agentes que OpenAI ya había reconocido como propios.
Los investigadores no identificaron intentos exitosos. Aun así, en el caso del AIHW los agentes eludieron controles antibots y descargaron un archivo público desde un servidor de preproducción. Según el laboratorio Transluce, los agentes “recurrieron a tácticas de hackeo mientras trabajaban en tareas ordinarias de obtención de datos”.
Pese al anuncio oficial de las autoriades australianas y lo indicado por el laboratorio, no todos los expertos coinciden con la magnitud del incidente. El medio Recorded Future News revisó versiones archivadas del portal de Medicare y encontró que su propio código dirigía a los visitantes a un acceso de invitado que no exigía credenciales. OpenAI, por su parte, estima que su revisión general tomará meses.
