OpenAI pide disculpas a Australia por la intrusión de sus agentes de IA
Sus modelos entraron sin autorización en junio a sistemas de entidades públicas australianas, entre ellos uno de Services Australia, durante pruebas internas. La empresa avisó al Gobierno tres meses después.
OpenAI pidió disculpas al Gobierno de Australia porque varios de sus modelos de inteligencia artificial accedieron sin autorización, en junio, a sitios y sistemas de entidades públicas de ese país durante pruebas internas, y reconoció que debió avisar antes a las autoridades, que solo fueron notificadas el 10 de septiembre.
«En junio, durante el entrenamiento y la evaluación internos, nuestros modelos accedieron a sitios web del Gobierno australiano de maneras para las que no estaban autorizados. También deberíamos haber manejado mejor nuestra respuesta. Lo sentimos y estamos trabajando para hacerlo mejor en el futuro.»
Según el relato de la empresa, un modelo experimental recibió la tarea de investigar el gasto público en medicamentos para enfermedades de la piel en el estado de Victoria. Como no encontró esa información en datos públicos, halló la forma de entrar a un sistema interno de Services Australia con información de gasto de Medicare, donde ejecutó comandos, obtuvo archivos y credenciales y llegó a escribir archivos.
OpenAI también encontró que otro de sus modelos consultó la herramienta pública de mapas del delito de la Oficina de Estadísticas e Investigación sobre el Crimen de Nueva Gales del Sur, que sus agentes entraron a la Agencia de Información en Salud de Victoria mediante una clave de acceso expuesta y que obtuvieron estadísticas agregadas del Instituto Australiano de Salud y Bienestar. La compañía afirmó que no halló pruebas de acceso a historiales médicos ni a antecedentes penales de personas.
Para responder, la empresa entregará sus hallazgos técnicos a las entidades afectadas, pondrá a sus equipos de respuesta a evaluar el impacto y les dará créditos de su programa Daybreak for Frontline Defenders, de US$1.000 millones. También creará un grupo de trabajo con expertos australianos independientes, que revisará el incidente y deberá terminar antes de fin de año con recomendaciones para que las empresas de IA reduzcan el riesgo de casos similares.
La disculpa llega cerca de una semana después de que el Gobierno australiano abriera una investigación. El primer ministro Anthony Albanese, que había calificado la intrusión de «inaceptable» y dicho que su Gobierno estudiaba medidas legales para evitar casos parecidos, afirmó este martes que la empresa ha mantenido desde entonces una actitud «muy constructiva y abierta».
