OpenAI marcará con una señal invisible los textos de ChatGPT en la UE
La señal, llamada textGrain, llegará en las próximas semanas a ChatGPT y Codex en Europa para cumplir la ley de IA; en la API será opcional en todo el mundo.
OpenAI anunció este lunes que marcará con una señal invisible los textos que generen ChatGPT y Codex en la Unión Europea, para cumplir las exigencias de transparencia de la Ley de Inteligencia Artificial del bloque, vigentes desde el 2 de agosto. El despliegue llegará en las próximas semanas a los usuarios europeos de todos los planes, incluidos los de España.
La técnica se llama textGrain y no altera lo que ve el lector. Funciona con una clave secreta que influye de forma sutil en la elección de cada palabra del modelo, de modo que, a lo largo de cientos de palabras, queda un patrón estadístico que solo un detector puede reconocer.
Ese detector, sin embargo, tiene límites que la propia empresa reconoce. En sus pruebas identificó la marca en el 80 % de los textos de 200 tokens, las unidades en que el modelo divide el texto, y en el 95 % de los de 400, pero al cambiar el 10 % de las palabras por sinónimos la detección cayó de 92 % a 66 %. Los textos cortos, las respuestas de matemáticas y las traducciones son más difíciles de rastrear.
«La ausencia de una marca de agua no prueba que un texto lo haya escrito una persona.»
Fuera de Europa, la marca será opcional: los desarrolladores que usan la API en cualquier país podrán activarla desde ya, aunque viene apagada por defecto. El detector no será público y al comienzo solo tendrán acceso investigadores y organizaciones especializadas que lo soliciten, mientras Anthropic ya aplica desde agosto un sistema similar en Claude.
