OpenAI retrasa el lanzamiento de la herramienta de detección de IA ante preocupaciones

OpenAI ha pospuesto el lanzamiento de su tan esperada herramienta diseñada para detectar texto generado por su modelo ChatGPT. Según los informes, el lanzamiento se ha retrasado debido a posibles problemas que podrían afectar la experiencia del usuario y el ecosistema.

The Wall Street Journal dijo que OpenAI ha estado preparándose para lanzar la herramienta durante el último año, pero no lo ha hecho, principalmente debido a los riesgos y varios problemas. La decisión de posponer el lanzamiento de la herramienta también parece estar relacionada con la entrada del usuario. En una encuesta realizada por OpenAI, descubrieron que casi un tercio de sus usuarios leales de ChatGPT podrían ser disuadidos por la introducción de tecnología anti-trampas.

Cómo funciona la herramienta anti-trampas

Según el Centro para la Democracia y la Tecnología, el 59% de los profesores de escuelas intermedias y secundarias creen que los estudiantes han utilizado IA en sus tareas, un aumento respecto al año anterior.

La herramienta anti-trampas funciona incrustando una marca de agua en el texto escrito por una IA. Aunque esta marca de agua es invisible a simple vista, la tecnología de detección de OpenAI es capaz de captarla. La herramienta proporciona una puntuación que representa la probabilidad de que un texto dado haya sido escrito por ChatGPT. Se dice que esta técnica de marca de agua es casi perfecta, ya que documentos internos revelan que tiene una efectividad del 99,9 % cuando ChatGPT genera mucho contenido.

Sin embargo, se han planteado algunos problemas concernientes a la herramienta. Una gran preocupación es que podría ser desventajosa para quienes no son hablantes nativos de inglés. Algunas personas temen que la marca de agua pueda no ser tan eficiente como debería o que pueda marcar como plagio otras obras de autores con habilidades deficientes en inglés. Además, los críticos han expresado preocupación de que la marca de agua pueda borrarse o manipularse traduciendo el texto o insertando y eliminando emojis.

Otro problema es quién debería tener permitido usar la herramienta de detección. Limitar el acceso podría reducir la aplicabilidad del método de marca de agua; sin embargo, permitir el acceso libre podría hacer que el método sea ineficaz. 

Otros gigantes tecnológicos desarrollan soluciones similares

Aunque OpenAI aún no ha implementado la herramienta anti-trampas para texto, la compañía ya ha comenzado a aplicar marcas de agua para salidas de audio y video. Estos formatos multimedia han sido considerados por la compañía como prioridades porque los deepfakes generados por IA plantean riesgos más altos que el contenido basado en texto. 

Otras empresas tecnológicas también están desarrollando soluciones similares. Por ejemplo, Google también está desarrollando su propia solución de marca de agua conocida como SynthID, que aún está en fase beta. Sin embargo, OpenAI ha priorizado las marcas de agua de audio y visual sobre el texto, ya que los impactos de las primeras son más graves y pueden ocurrir durante intervalos críticos como los años electorales. 

Esta noticia llega mientras Elon Musk vuelve a los tribunales para demandar a OpenAI, acusando a la compañía y a sus fundadores, Sam Altman y Greg Brockman, de desviarse del objetivo original de crear IA para la mejora de la humanidad.