OpenAI retrasa el lanzamiento de una herramienta de detección de IA en medio de preocupaciones

OpenAI ha pospuesto el lanzamiento de su esperada herramienta, diseñada para detectar texto generado por su modelo ChatGPT. Según informes, el lanzamiento se ha retrasado debido a posibles problemas que podrían afectar la experiencia del usuario y el ecosistema.

Según The Wall Street Journal, OpenAI lleva un año preparándose para lanzar la herramienta, pero no lo ha hecho, principalmente debido a riesgos y diversos problemas. La decisión de posponer el lanzamiento también parece estar relacionada con la opinión de los usuarios. En una encuesta realizada por OpenAI, descubrieron que casi un tercio de sus usuarios habituales de ChatGPT podrían verse disuadidos por la introducción de tecnología antitrampas.

Cómo funciona la herramienta anti-trampas

Según el Centro para la Democracia y la Tecnología, el 59% de los profesores de escuelas secundarias y preparatorias creen que losdenthan utilizado IA en sus tareas, un aumento respecto al año anterior.

La herramienta antitrampas funciona insertando una marca de agua en el texto escrito por una IA. Aunque esta marca de agua es invisible a simple vista, la tecnología de detección de OpenAI puede detectarla. La herramienta proporciona una puntuación que representa la probabilidad de que un texto determinado haya sido escrito por ChatGPT. Se dice que esta técnica de marca de agua es casi perfecta, ya que documentos internos revelan que tiene una efectividad del 99,9 % cuando ChatGPT genera mucho contenido.

Sin embargo, se han planteado algunos problemas con la herramienta. Una preocupación importante es que podría ser desventajosa para quienes no son hablantes nativos de inglés. A algunos les preocupa que la marca de agua no sea tan eficiente como debería o que pueda marcar como plagiadas otras obras de autores con bajo dominio del inglés. Además, los críticos han expresado su preocupación por la posibilidad de borrar o manipular la marca de agua traduciéndola o insertando y eliminando emojis.

Otra cuestión es quién debería tener permiso para usar la herramienta de detección. Limitar el acceso puede reducir la aplicabilidad del método de marca de agua; sin embargo, permitir el acceso libre puede invalidarlo. 

Otros gigantes tecnológicos desarrollan soluciones similares

Aunque OpenAI aún no ha implementado la herramienta antitrampas para texto, la compañía ya ha comenzado a aplicar marcas de agua en audio y video. La compañía ha priorizado estos formatos multimedia, ya que los deepfakes generados por IA presentan mayores riesgos que el contenido de texto. 

Otras empresas tecnológicas también están desarrollando soluciones similares. Por ejemplo, Google también está desarrollando su propia solución de marca de agua, SynthID, que aún se encuentra en fase beta. Sin embargo, OpenAI ha priorizado las marcas de agua de audio y visuales sobre las de texto, ya que el impacto de las primeras es mayor y puede ocurrir en periodos críticos como los años electorales. 

Esta noticia llega mientras Elon Musk vuelve a los tribunales para demandar a OpenAI, acusando a la empresa y a sus fundadores, Sam Altman y Greg Brockman, de alejarse del objetivo original de crear IA para la mejora de la humanidad.