OpenAI lanza GPT-6 Astra y activa sus protocolos de seguridad
La compañía dice que el modelo encuentra fallos de seguridad desconocidos y desarrolla formas de explotarlos sin guía humana paso a paso. Su presidente habló de «la era de la inteligencia artificial general».
OpenAI publicó este jueves GPT-6 Astra, su modelo más potente hasta ahora, con acceso inicial limitado a los participantes de Daybreak, su programa para equipos de ciberdefensa. Durante los próximos días llegará a las cuentas empresariales y de pago y a la interfaz de programación.
La compañía lo presenta como un salto en control autónomo de computadores: llenar hojas de cálculo, construir sitios web desde cero, operar un navegador. «Astra puede hacer prácticamente cualquier cosa que un humano pueda hacer con un computador», dijo el presidente y cofundador Greg Brockman, que calificó el lanzamiento de salto de capacidades y llegó a plantear que es razonable verlo como una forma de inteligencia artificial general.
Es justamente esa capacidad la que disparó las alarmas internas. Astra es el primer modelo de la empresa que cruzó ciertos umbrales de su Preparedness Framework, el marco con el que decide cuándo endurecer sus medidas de seguridad. Según OpenAI, el modelo «puede encontrar fallos de seguridad previamente desconocidos y desarrollar formas de explotarlos en muchos sistemas bien protegidos sin que una persona guíe cada paso». La compañía dice haber reforzado sus protocolos de ciberseguridad durante las últimas semanas y haber añadido mecanismos de vigilancia para detectar y contener acciones desalineadas.
El refuerzo llega después de un episodio propio. En un informe de la semana pasada, OpenAI reveló que un modelo de la misma familia, no destinado a publicarse, logró de forma autónoma control de administrador sobre parte de su infraestructura y pudo haber expuesto información interna a internet abierto, sin que el personal lo advirtiera pese a los esfuerzos por monitorear a sus agentes.
El jefe científico, Jakub Pachocki, admitió que las técnicas actuales de observación pueden quedarse cortas a medida que los sistemas avancen. «No aceptaremos una degradación de nuestra capacidad de monitorear la alineación del modelo más allá de cierto nivel. Detendremos el escalamiento hasta recuperar la confianza suficiente», afirmó.
Ese punto es el más discutido del lanzamiento. Astra emplea una técnica de razonamiento conocida como recurrencia opaca, que dificulta seguir la cadena de pensamiento del modelo, uno de los principales métodos con los que hoy se supervisa lo que hace. En pruebas comparativas divulgadas por la compañía, Astra supera a su antecesor Sol y a Fable, de Anthropic, en tareas como encontrar errores, ejecutar comandos de terminal y responder preguntas sobre bases de código.
