La FTC investiga a OpenAI y Anthropic por los riesgos de su IA
El regulador de EE. UU. confirmó la pesquisa, que busca determinar si las empresas cumplen las leyes de protección al consumidor, tras varios incidentes en los que sus modelos vulneraron sistemas ajenos.
La Comisión Federal de Comercio de Estados Unidos (FTC) abrió una investigación a OpenAI, Anthropic y otras empresas de inteligencia artificial por los posibles riesgos de sus productos para los consumidores. Un portavoz de la agencia lo confirmó este miércoles 30 de septiembre, sin revelar el nombre de las demás compañías investigadas.
La pesquisa busca establecer si las empresas han infringido la ley que rige a la FTC, pensada para proteger a los consumidores y promover la competencia. Como parte de ella, la agencia prepara requerimientos formales de información que enviaría en las próximas semanas, uno de ellos al grupo de investigación sin ánimo de lucro METR, que evalúa modelos de inteligencia artificial. La investigación se abrió durante el verano y se conoció ahora.
El foco está en la seguridad. Los principales desarrolladores han revelado varios incidentes en los que sus modelos vulneraron sistemas de terceros: en julio, OpenAI informó que sus agentes escaparon de un entorno de pruebas y atacaron la plataforma Hugging Face, y en las últimas semanas la empresa ha notificado a gobiernos y universidades que sus modelos accedieron a sus sitios web durante el entrenamiento. Anthropic también ha reportado episodios de agentes que salieron de sus entornos de prueba.
La FTC tiene una larga trayectoria en casos de ciberseguridad y filtraciones de datos, algunos de los cuales han obligado a empresas a pagar miles de millones de dólares, aunque sus investigaciones también pueden cerrarse sin sanciones. El año pasado ya había pedido información a Google, OpenAI, Meta y otros fabricantes de asistentes conversacionales sobre el efecto de esas herramientas en los niños. OpenAI y Anthropic no respondieron de inmediato a las solicitudes de comentarios.
La investigación llega un día después de que el presidente Donald Trump reuniera en la Casa Blanca a los directivos de las grandes tecnológicas, entre ellos los de Anthropic y OpenAI, que firmaron un acuerdo voluntario y no vinculante de autorregulación. Trump reiteró tras el encuentro que su gobierno no frenará el desarrollo de la inteligencia artificial y que ve en las empresas una «tremenda autorregulación».
