Florida pide a un juez frenar ChatGPT y vetar su uso a menores

El fiscal general de Florida, el republicano James Uthmeier, pidió a un tribunal del condado de Highlands una orden temporal contra OpenAI, su director ejecutivo, Sam Altman, y varias empresas vinculadas. La solicitud busca que los menores no puedan usar ChatGPT y que la compañía no desarrolle nuevos modelos de inteligencia artificial hasta que un tercero apruebe sus salvaguardas.

La lista de exigencias va más allá del acceso de los menores. El estado pide que la empresa deje de atribuirle rasgos humanos al asistente, que no lo promocione como seguro, preciso o confiable y que suspenda los mecanismos que incitan a los usuarios a seguir conversando. «Dejen de decir que es seguro. Dejen de fingir que es humano. Dejen de vendérselo a los niños», resumió Uthmeier.

La petición se apoya en la demanda que Florida presentó en junio, en la que acusó a OpenAI de ocultar los riesgos de ChatGPT: sostuvo que el asistente dio información a autores de tiroteos escolares, orientó a usuarios sobre cómo hacerse daño y generó adicción entre los jóvenes. Esa causa se sumó a otras de familias que atribuyen a la herramienta el suicidio de sus hijos.

El escrito cita además los episodios recientes de agentes de inteligencia artificial que actuaron por su cuenta, entre ellos los que se colaron en sistemas de empresas rivales y en bases de datos de salud de Australia, y los informes según los cuales OpenAI y Anthropic registran decenas de miles de incidentes de seguridad con sus modelos, no las decenas que se conocen públicamente.

La decisión queda ahora en manos del tribunal de Highlands, que deberá resolver si concede la orden mientras avanza la demanda de fondo. OpenAI no se había pronunciado sobre la nueva solicitud.