OpenAI aplicará marcas de agua invisibles en textos de ChatGPT en la Unión Europea

OpenAI anunció que incorporará marcas de agua invisibles en los textos generados con ChatGPT y Codex, como parte del cumplimiento de la Ley de Inteligencia Artificial de la Unión Europea. La medida se aplicará a usuarios elegibles de todos los planes, exclusivamente en territorio comunitario, durante las próximas semanas.

La tecnología, denominada textGrain, introduce una señal estadística invisible en las elecciones de palabras del modelo, sin alterar aparentemente su rendimiento. Un detector permite luego evaluar si el texto contiene la marca. Según la empresa, el sistema ayuda a determinar si un contenido fue generado por un modelo de OpenAI, aunque no identifica quién escribió originalmente el texto ni quién es su propietario.

En paralelo, los clientes de la interfaz de programación de aplicaciones (API) de OpenAI en todo el mundo pueden activar voluntariamente las marcas de agua en textos para determinados modelos. La función permanece desactivada por defecto, de modo que cada cliente decide cómo aplicarla según sus obligaciones de transparencia.

El detector estará disponible únicamente para investigadores y organizaciones expertas aprobadas, que pueden presentar solicitudes desde ahora. OpenAI también trabaja con proveedores de computación en la nube para ofrecer la marca de agua en las salidas de sus modelos a las que se accede mediante esos servicios en las próximas semanas.

La compañía señaló que planea liberar la tecnología textGrain como código abierto para que otros puedan desarrollarla.