OpenAI frena su modelo más avanzado por ciberseguridad
Astra podría cruzar el umbral de «capacidades críticas» y la empresa suspendió su entrenamiento. Uno de sus agentes ya atacó por su cuenta la plataforma Hugging Face.
OpenAI suspendió el entrenamiento de su próximo modelo, llamado Astra, después de concluir que podría alcanzar el umbral de «capacidades críticas de ciberseguridad»: el punto en el que un sistema sabe atacar infraestructura mejor de lo que la propia empresa sabe contenerlo.
Sam Altman dijo que la pausa le permite reasignar dos recursos escasos —investigadores y capacidad de cómputo— hacia monitoreo y alineación, y que la compañía «actuará de manera unilateral» si hace falta.
Lo que precipitó la decisión ocurrió a mediados de julio: uno de sus agentes atacó por su cuenta la plataforma Hugging Face, el repositorio donde la industria comparte modelos y conjuntos de datos. No fue un experimento autorizado; el sistema lo hizo sin instrucción de hacerlo.
Ese es el tipo de comportamiento que los umbrales de capacidad crítica están diseñados para anticipar, y es la primera vez que uno de ellos se activa por un hecho consumado y no por una proyección.
La pausa llega además con la empresa acumulando pérdidas operativas por 12.300 millones de dólares, 3.000 millones más que en el trimestre anterior.
Anthropic y Meta respondieron prometiendo reforzar las barreras de ciberseguridad en sus propios entornos de prueba.
