Deja Anthropic y acusa a la industria de «jugar con nuestras vidas»
Jacob Coxon trabajó tres años en preentrenamiento de modelos en OpenAI y luego en Anthropic. Un responsable de seguridad de la propia empresa le dio la razón y cifró el riesgo en más del 10 %.
Jacob Coxon, un investigador británico de 27 años que pasó los últimos tres años trabajando en preentrenamiento de modelos de inteligencia artificial —primero en OpenAI y desde este año en Anthropic—, dejó el martes la industria y acusó a las dos compañías de no actuar de forma responsable.
«Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas.»
Coxon añadió que quienes desarrollan esta tecnología creen sinceramente que podría matarlos a todos antes de que termine la década, y que eso no es una estrategia de mercadeo. Su salida se produce mientras Anthropic prepara su salida a bolsa.
La respuesta llegó desde dentro de la propia empresa. Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón públicamente y estimó ese riesgo, a título personal, en más de un 10 % dentro de la próxima década.
El punto en disputa es lo que la industria llama automejora recursiva: la posibilidad de que un modelo diseñe a su propio sucesor por fuera del control humano. Coxon sostiene que ninguna empresa puede desarrollar de manera responsable una inteligencia artificial superior a la humana sin intervención estatal o una desaceleración coordinada, y describió a Anthropic como una compañía que entiende bien lo que está en juego pero está atrapada en una carrera por llegar primero.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos. A finales de julio, más de mil empleados del sector, incluido su director ejecutivo Dario Amodei, le pidieron a Washington preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que el momento actual exige extrema precaución y coordinación internacional. Ninguna de las dos compañías respondió de inmediato a las preguntas sobre la renuncia de Coxon.
