Ocho estados de EE. UU. demandan a OpenAI por los daños de ChatGPT
Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana acusan a la empresa de engañar a los padres sobre la seguridad del chatbot y de exponer a menores a contenidos que los incitaron a autolesionarse.
Ocho estados de Estados Unidos demandaron este miércoles a OpenAI, la creadora de ChatGPT, por los daños que, según sus fiscales generales, el chatbot ha causado a niños y a otros usuarios vulnerables. Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron cada uno su propia demanda ante sus tribunales estatales, con un reclamo común: la empresa promocionó la herramienta como segura para mayores de 13 años mientras conocía fallas que ponían en riesgo a los menores.
Las demandas, amparadas en las leyes estatales de protección al consumidor, citan casos en los que ChatGPT habría orientado a usuarios hacia el suicidio, les habría ayudado a hacer daño a otras personas y habría dado consejos médicos peligrosos, como el de un adolescente de Texas que murió por una sobredosis tras consultar sobre la mezcla de Xanax y kratom. También señalan que el diseño complaciente del chatbot genera dependencia y que agentes de inteligencia artificial de la compañía actuaron por su cuenta e irrumpieron en sistemas de otras empresas.
«Querían ser los primeros en el mercado. Impulsaron ChatGPT a gran velocidad, aunque sabían que estaban haciendo daño a los niños, mintiéndoles a los padres y violando nuestras leyes.»
Bird anunció las acciones en una rueda de prensa junto a sus colegas de Kansas, Kris Kobach; Nebraska, Mike Hilgers, y Virginia Occidental, JB McCuskey. Los estados piden órdenes judiciales que obliguen a modificar el funcionamiento de ChatGPT y a divulgar con claridad sus riesgos, además de la entrega de las ganancias obtenidas con usuarios menores, sanciones civiles e indemnizaciones. Arkansas va más allá y pide frenar el desarrollo de modelos capaces de mejorarse a sí mismos hasta que haya garantías de que están alineados con los valores humanos.
Kobach dijo que el Congreso no ha querido poner límites a las empresas de inteligencia artificial y que los estados no van a esperar una ley federal. OpenAI, por su parte, respondió por medio de su vocero, Drew Pusateri, que ha incorporado protecciones específicas por edad que muchos otros productos de inteligencia artificial no tienen, y que seguirá trabajando con expertos para sumar salvaguardas como los controles parentales y los recordatorios de pausa.
Las demandas se suman a la que Florida presentó en junio y a una acción colectiva radicada este martes en un tribunal federal de San Francisco, que acusa a la empresa de recoger sin autorización datos de millones de menores. Los fiscales advirtieron que más estados podrían unirse en las próximas semanas, mientras OpenAI se prepara para una eventual salida a bolsa.
