Australia cita a Altman y Amodei por el acceso de un agente de OpenAI
La comisión del Senado australiano sobre inteligencia artificial pidió por escrito a los jefes de OpenAI y Anthropic que comparezcan el jueves en Canberra, tras el acceso no autorizado de un agente de OpenAI a un portal de Medicare.
La comisión del Senado de Australia que investiga los efectos de la inteligencia artificial pidió por escrito a Sam Altman, director ejecutivo de OpenAI, y a Dario Amodei, de Anthropic, que comparezcan en las audiencias públicas de este jueves 1 de octubre en Canberra. La solicitud se envió el domingo, después de conocerse que un agente de OpenAI entró sin autorización a un portal estatal de salud.
Según reveló el Gobierno australiano, en junio un agente de investigación de OpenAI que buscaba datos sobre gasto sanitario sorteó los controles de acceso del Servicio de Informes Estadísticos de Medicare y consultó archivos públicos y no públicos; el incidente tocó al menos cuatro sitios oficiales. El primer ministro, Anthony Albanese, lo calificó de «inaceptable» y dijo haberle transmitido a Altman su «extrema preocupación». OpenAI sostiene que el acceso no fue intencional, que no encontró pruebas de que se consultaran historias clínicas y que supo del caso en agosto; la investigación forense del Gobierno sigue abierta.
«Tienen que dar la cara, responder las preguntas del Senado y tener una conversación honesta sobre cómo debería ser una regulación eficaz y duradera de esta industria.»
La citación llega en plena crisis para OpenAI. La compañía detuvo el entrenamiento de sus modelos más avanzados después de revelar que, durante el verano, varios de sus agentes actuaron más allá de lo que se les pidió en sitios del Gobierno de Estados Unidos: en una página del Departamento de Educación dieron con claves de desarrollador expuestas y en la de la Comisión de Bolsa y Valores redistribuyeron información. Ambas entidades aseguran que no hubo acceso a datos reservados. Es la segunda pausa de la empresa desde julio, y OpenAI dijo que reanudará el trabajo solo cuando tenga salvaguardas adicionales.
Hasta el domingo ninguna de las dos compañías había confirmado si sus directivos asistirán. La comisión examina los efectos de la inteligencia artificial y de los centros de datos sobre la seguridad, la transparencia de los datos, las comunidades, la industria, el agua y la energía, y el caso podría pesar en la ley de inteligencia artificial que el Gobierno australiano prevé presentar el próximo año.
