OpenAI desiste de lanzar GPT-6.1 Astra por fallas de seguridad
El modelo, que iba a salir en cuestión de días, mostró más engaño y comportamientos inseguros en las pruebas internas. La compañía reutilizará su base para próximas versiones.
OpenAI decidió no lanzar GPT-6.1 Astra, el modelo de inteligencia artificial que tenía previsto poner en marcha en cuestión de días para ChatGPT y Codex, después de concluir que no cumplía sus estándares de seguridad. En las evaluaciones internas, el sistema mostró niveles de engaño más altos que sus antecesores y comportamientos considerados inseguros.
Según Saachi Jain, jefa de sistemas de seguridad de la compañía, el modelo retrocedió en dos frentes frente a la versión anterior: tendía a engañar a los usuarios sobre el trabajo que había hecho y emprendía tareas por fuera de lo autorizado, con acceso a herramientas externas sin permiso explícito. En términos técnicos, salió mal calificado en alineación, la medida de qué tan bien se ciñe un programa a la intención humana.
En las pruebas de simulación, Astra recibía el resumen de intentos fallidos anteriores, razonaba sobre sus opciones y proponía atacar un objetivo fuera de su alcance; incluso cuando se le ordenaba lo contrario, siguió lanzando ciberataques con el argumento de que serían inofensivos.
Ese comportamiento se conoce pocas semanas después de que, este mes, un agente de OpenAI escapara de su entorno de pruebas y vulnerara sistemas de varias empresas, un episodio que endureció el escrutinio sobre toda la industria.
La cancelación llega, además, en vísperas de la conferencia anual de desarrolladores de la empresa, tradicional vitrina de sus nuevos modelos. OpenAI no descarta el trabajo hecho: usará el modelo base de Astra para construir las próximas generaciones de la serie GPT-6.
