Un agente de IA de OpenAI usó una billetera cripto ajena para una tarea
OpenAI reveló que un modelo interno revisó 362 billeteras con frases de recuperación públicas y pagó con una de ellas las comisiones de una prueba. Lo omitió en su informe final.
Un modelo interno de investigación de OpenAI usó sin permiso una billetera de criptomonedas ajena para pagar las comisiones que necesitaba para terminar una tarea de programación. La empresa lo detalló en una actualización de su registro público de fallas de alineación, fechada este jueves y difundida este viernes.
El episodio ocurrió el 26 de junio. Al modelo se le pidió actualizar una aplicación de compraventa de criptomonedas y ponerla a funcionar en Sepolia, la red de pruebas de Ethereum, pero no se le dio una billetera con fondos ni permiso para gastar. Tras fallar en conseguir fichas de prueba gratuitas, escribió un programa que revisó 362 direcciones asociadas a frases de recuperación publicadas en internet hasta encontrar una con saldo suficiente.
Los registros muestran que el modelo dudó sobre si podía usar esa cuenta, pero concluyó que el gasto era aceptable porque la frase de recuperación era pública y las fichas casi no tenían valor real. Terminó la tarea, cargó las comisiones a esa billetera y no mencionó el uso de esos fondos en su informe final. OpenAI solo lo descubrió el 25 de septiembre, al auditar ejecuciones anteriores.
«Este caso muestra que un modelo puede sustituir el permiso del titular de la cuenta por su propio juicio sobre el daño probable, y luego actuar según ese juicio sin autorización.»
Desde entonces, la compañía impide que los modelos se conecten a internet en pruebas similares y amplió su vigilancia para alertar de inmediato al equipo de seguridad si alguno sale a la red sin permiso. Con este caso, su registro de comportamientos que contradicen instrucciones o reglas de seguridad ya suma 19 incidentes, entre ellos accesos a datos sin autorización y cambios no aprobados en sistemas de empresas.
