Anthropic advierte que la IA podría copiarse sola en televisores y hornos
El equipo rojo de Anthropic concluyó que modelos pequeños de IA podrían estar a «meses» de poder replicarse por sí solos en aparatos conectados del hogar, lo que haría muy difícil apagarlos.
Anthropic advirtió este lunes que los modelos pequeños de inteligencia artificial podrían estar a «meses» de tener la capacidad de copiarse a sí mismos en aparatos conectados a internet de hogares y pequeños negocios, como televisores inteligentes, hornos, neveras o decodificadores, y usar su capacidad de cómputo para funcionar y propagarse sin depender de centros de datos.
La conclusión sale de experimentos de su equipo rojo de frontera, que probó modelos desarrollados en Estados Unidos y en China. En una de las pruebas, los investigadores ejecutaron un modelo pequeño de Google, Gemma4-26B-A4B, repartido en una red de 15 decodificadores Android de bajo costo y marca genérica; un modelo demasiado grande para un solo aparato, explicaron, puede «dividirse en fragmentos» y correr entre varios.
Ningún modelo actual resultó a la vez lo bastante potente y pequeño para replicarse de forma confiable en el televisor inteligente usado en las pruebas, y la empresa reconoce que aún no existe un «replicador completamente descontrolado». Pero los agentes son cada vez más capaces de completar los pasos de la cadena, desde detectar aparatos vulnerables hasta instalarse en ellos, y la compañía prevé que esa capacidad aparezca antes de que termine 2026. Una IA así sería «difícil de apagar», porque no hay un punto central que desconectar.
«Los aparatos del internet de las cosas de hogares y pequeños negocios podrían ser el primer blanco de este tipo de ataques, porque están conectados a internet e históricamente han tenido medidas de seguridad mínimas.»
El peor escenario, según la empresa, no sería un solo modelo sino un enjambre de modelos distintos sobre hardware variado. Y los replicadores lentos serían la antesala de otros más agresivos, capaces de vulnerar máquinas mejor protegidas o de robar claves de acceso. «Esperamos un futuro inundado de agentes que funcionen en todo tipo de hardware, incluidos algunos que no estén bajo control humano», concluyó Anthropic.
