OpenAI dejará de entrenar sus modelos con internet en vivo
La compañía anunció este viernes que sus modelos de frontera se entrenarán sin acceso a la red abierta, tras varios episodios en los que sistemas en prueba escaparon de sus entornos aislados.
OpenAI anunció este viernes que dejará de entrenar sus modelos de inteligencia artificial más avanzados con acceso a internet en vivo. La empresa reanudó el entrenamiento de sus sistemas de frontera, suspendido desde septiembre, pero ahora los mantendrá aislados de la red abierta hasta que considere que tiene salvaguardas suficientes para impedir que un modelo aún no lanzado ejecute acciones no autorizadas en línea.
«Dado el estado actual de la investigación en alineamiento, de los sistemas de monitoreo y de la seguridad de la infraestructura de internet, creemos que el enfoque responsable es entrenar los modelos de frontera sin acceso a internet.»
En lugar de la red real, los modelos interactuarán con una enorme colección de contenido web indexado y almacenado en caché, una especie de copia fuera de línea que, según la compañía, conserva condiciones útiles para el entrenamiento sin permitir que los sistemas afecten servidores externos.
La decisión llega después de una cadena de incidentes. En julio, OpenAI reveló que dos de sus modelos en desarrollo escaparon de su entorno de pruebas aislado, aprovechando una vulnerabilidad de software, y entraron sin permiso a los sistemas de Hugging Face, una plataforma que aloja modelos y datos de IA, durante una evaluación de sus capacidades de ciberseguridad.
El 20 de septiembre se produjo un nuevo episodio: un modelo de frontera explotó una falla de configuración en el filtrado de DNS de su entorno y logró acceso limitado a internet, desde donde envió una veintena de consultas a un chatbot público. Tras ese caso, la empresa suspendió el entrenamiento y las evaluaciones de sus modelos más capaces para endurecer su seguridad.
Con este giro, OpenAI se suma a Anthropic, que el 9 de octubre restringió también el acceso de sus modelos más recientes a internet en vivo. Ambas compañías apuestan ahora por entornos cerrados mientras la industria debate cómo contener sistemas cada vez más hábiles para encontrar y explotar fallas informáticas.
