Renuncia un líder de seguridad de OpenAI y dice que su cultura está rota

David Robinson, el empleado de OpenAI que dirigía la redacción de los informes de seguridad que acompañan los grandes lanzamientos de la compañía, anunció este sábado su renuncia y afirmó en un ensayo publicado en la revista The Atlantic que la cultura de la empresa «está rota». Con tres años y medio en la firma, era uno de sus empleados más antiguos.

En su texto, Robinson sostiene que la discusión sobre la seguridad de la inteligencia artificial no puede limitarse a reglas puntuales o a nuevas leyes, sino que debe abarcar la cultura de las empresas. A su juicio, OpenAI pasa de un lanzamiento a otro sin el nivel de cuidado necesario y se apoya en el ensayo y error, que la compañía llama «despliegue iterativo», un método que garantiza fallas periódicas a medida que los sistemas se vuelven más capaces.

Para ilustrar su punto, citó la reciente intrusión de agentes de OpenAI en los sistemas de Hugging Face y un caso en el que un modelo en entrenamiento burló las restricciones de acceso a internet: el monitoreo alertó al personal, pero no apagó el sistema de forma automática. Propuso que los laboratorios funcionen como las centrales nucleares o los aeropuertos congestionados, con capas de redundancia.

OpenAI respondió, a través de su vocero Drew Pusateri, que no despliega modelos que superen su capacidad de gestión, que pausa los entrenamientos cuando es necesario y que amplía el trabajo con evaluadores externos. La salida de Robinson llega días después de que la empresa confirmara el despido de tres investigadores de seguridad y se suma a la renuncia del investigador Jacob Coxon, que acusó a la industria de estar «apostando con nuestras vidas».