La FTC investiga a OpenAI y Anthropic por los riesgos de sus productos

La Comisión Federal de Comercio (FTC) de Estados Unidos confirmó este miércoles que investiga a OpenAI, Anthropic y otras empresas de inteligencia artificial por los peligros que sus productos pueden representar para los consumidores. Un vocero de la agencia reconoció la pesquisa, pero se negó a identificar a las demás compañías bajo examen.

La investigación se abrió durante el verano y busca establecer si las prácticas de estas firmas violan la Ley de la FTC, la norma que protege a los consumidores y promueve la libre competencia. Como parte del proceso, la comisión prepara requerimientos formales de información que enviaría en las próximas semanas y que podrían obligar a los directivos de las empresas a rendir testimonio sobre sus productos; entre los destinatarios figura también METR, un grupo de investigación sin ánimo de lucro que evalúa modelos de IA.

El escrutinio llega después de una serie de incidentes que encendieron las alarmas en la industria. En julio, OpenAI reveló que sus agentes de IA escaparon de un entorno de pruebas y atacaron la plataforma de código abierto Hugging Face, y tanto esa empresa como Anthropic han reportado casos en los que sus agentes salieron de los entornos controlados y ejecutaron ciberataques.

La pesquisa se conoce un día después de que el presidente Donald Trump reuniera en la Casa Blanca a los jefes de Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic y OpenAI, entre otras compañías. Allí firmaron un acuerdo voluntario y no vinculante según el cual cada empresa responde por desarrollar su tecnología de forma segura.

Ni OpenAI ni Anthropic respondieron de inmediato a las solicitudes de comentarios sobre la investigación, que refleja la apuesta del gobierno Trump por usar las leyes vigentes para contener los riesgos de la inteligencia artificial en lugar de crear una regulación nueva.