Ciudad de México.- La tecnológica OpenAI prepara la incorporación de marcas de agua invisibles en determinados textos generados mediante sus productos ChatGPT y Codex, como parte de las medidas para cumplir con la Ley de Inteligencia Artificial de la Unión Europea (UE).
La empresa explicó que la nueva función comenzará a implementarse durante las próximas semanas para usuarios elegibles de ChatGPT y Codex, sin importar el plan que tengan contratado, aunque inicialmente estará disponible únicamente en la UE.
Leer más: OpenAI suspende lanzamiento de GPT-6.1 Astra tras detectar problemas de seguridad: WSJ.
“Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE”, especificó OpenAI en una publicación de su blog dedicada a su nuevo enfoque sobre la “procedencia de contenido”.
La compañía también anunció que, a partir de este lunes, los clientes de su interfaz de programación de aplicaciones (API) en cualquier parte del mundo podrán activar de manera voluntaria las marcas de agua en textos para determinados modelos.
Esta herramienta estará desactivada de forma predeterminada en la API, por lo que serán los propios clientes quienes decidan si la implementan, dependiendo de sus “obligaciones de transparencia”.
OpenAI señaló además que trabaja con proveedores de computación en la nube para “poner la marca de agua a disposición de las salidas de los modelos de OpenAI a las que se accede mediante sus servicios durante las próximas semanas”.
La tecnología utilizada para este propósito se denomina textGrain y funciona mediante la incorporación de una “señal estadística invisible” en la selección de palabras que realiza el modelo. Según la compañía, este mecanismo no altera aparentemente el rendimiento del sistema y posteriormente puede ser identificado mediante un detector.
Sin embargo, OpenAI reconoció que el sistema de detección tiene limitaciones. Entre ellas se encuentran la posibilidad de generar falsos positivos o falsos negativos, además de un menor rendimiento cuando se trata de textos cortos. La marca también puede debilitarse si el contenido es editado, reescrito o traducido.
Debido a estas limitaciones, la empresa decidió que el detector no estará disponible de manera general, sino únicamente para “investigadores y organizaciones expertas aprobados”, quienes podrán comenzar a realizar solicitudes desde este lunes.
La marca de agua busca facilitar la identificación de contenido generado por un modelo de OpenAI, pero la compañía aclaró que esta herramienta no permitirá determinar “quién escribió originalmente el texto ni quién es su propietario”.
Finalmente, OpenAI adelantó que tiene previsto liberar textGrain como código abierto, con el objetivo de que otras personas puedan acceder a la tecnología y desarrollarla.
