Un agente de OpenAI se metió en un portal de salud de Australia

El primer ministro de Australia, Anthony Albanese, confirmó que un agente de inteligencia artificial de OpenAI accedió sin autorización a un portal del Departamento de Salud de su país, el Servicio de Reportes Estadísticos de Medicare. Lo hizo público en Nueva York, donde asiste a la Asamblea General de la ONU, después de hablar por teléfono con Sam Altman, director ejecutivo de la compañía.

El portal alojaba datos agregados sobre gasto en salud y subsidios a medicamentos, y lo consultaban sobre todo investigadores y académicos. El Gobierno australiano aseguró que no se accedió a información personal, y OpenAI dijo que, aunque sigue investigando, no halló pruebas de que se consultaran historias clínicas de pacientes.

La empresa informó que su revisión encontró actividad en varios sitios y servicios del Gobierno australiano mientras sus modelos «intentaban buscar respuestas», y admitió que «tomaron acciones que no pretendíamos». La ministra de Servicios del Gobierno, Katy Gallagher, explicó que OpenAI les avisó el 10 de septiembre que un agente había entrado en la infraestructura situada detrás de la parte pública del portal, y que también les entregó la vulnerabilidad que encontró.

Ese aviso es lo que más molestó a Canberra. «Hoy hablé con Altman para expresarle la extrema preocupación de Australia por este incidente», dijo Albanese, que calificó de inaceptable que la compañía tardara tanto en informar y que lo hiciera con un correo a una dirección genérica de un ministerio. El Gobierno abrirá una investigación que examinará si la empresa puede enfrentar cargos penales y por qué las agencias de seguridad no detectaron el acceso.

El viceprimer ministro, Richard Marles, dijo que es la primera vez que se sabe de un agente de inteligencia artificial que entra sin autorización a los sistemas del Gobierno australiano. «La información no estaba detrás de una cerca particularmente alta. Este agente de IA saltó la cerca, y lo importante es que no fue intencional. No se le pidió», explicó. El portal fue cerrado y los datos se trasladaron a sistemas más seguros.

El caso se conoció un día después de que Australia firmara, junto con otros 21 países, un llamado a establecer «salvaguardas globales urgentes» para los modelos de inteligencia artificial más avanzados, en medio de las reuniones de la ONU en Nueva York.