Seleccione su idioma

Huella digital en IAAINeuralAPIDBUIMLtextGrain: señal invisible en palabras

OpenAI implementará textGrain, una marca de agua invisible en textos generados por ChatGPT y Codex, para cumplir con la Ley Europea de IA, disponible inicialmente para usuarios en la UE desde próximas semanas.

La compañía estadounidense confirmó el lunes que integrará esta tecnología de identificación de origen en ciertos textos generados por sus modelos, específicamente para usuarios de la Unión Europea, como parte de su estrategia de transparencia tras la entrada en vigor de la regulación europea. Asimismo, lanzó de forma voluntaria la opción para clientes globales que usan su API, aunque permanecerá desactivada por defecto.

Dato clave: textGrain inserta una señal estadística invisible en las decisiones léxicas del modelo sin afectar su rendimiento, detectable únicamente mediante herramientas especializadas.

La tecnología se basa en alterar sutilmente la selección de palabras para dejar una huella que un detector autorizado pueda identificar. Sin embargo, OpenAI reconoce que la detección no es infalible: presenta mayores tasas de error en textos cortos y pierde eficacia si el contenido es editado, reescrito o traducido. Por ello, el detector estará restringido a investigadores y organizaciones acreditadas que ya pueden solicitar acceso.

Contexto

Esta medida responde al creciente impulso regulatorio global, encabezado por la UE, que exige transparencia en la generación de contenido por IA. La marca de agua no identifica al autor humano ni al propietario del texto, sino solo su origen en modelos de OpenAI, lo que limita su utilidad en escenarios legales o de responsabilidad. La empresa también prometió liberar textGrain como código abierto, fomentando así la estandarización y la colaboración técnica en la detección de contenido sintético.

¿Qué sigue?

En las próximas semanas, la marca de agua se activará automáticamente para usuarios elegibles en la UE, mientras que los desarrolladores globales podrán decidir su uso mediante la API. OpenAI continuará trabajando con proveedores de nube para integrar la tecnología en sus servicios y expandir su disponibilidad. La iniciativa marca un hito en la lucha por la trazabilidad del contenido generado por IA, aunque su efectividad dependerá de la adopción masiva y del desarrollo de estándares comunes.


📰 Publicado originalmente en El Comercio. Este contenido ha sido reescrito con fines informativos.