¿Programar chatbots para que no produzcan resultados controvertidos es un problema de libertad de expresión?

El tema de actualidad es la inteligencia artificial y su impacto en la tecnología, las artes y la literatura existentes, y ahora surge una nueva pregunta: ¿la expresión de la IA también cuenta con algún tipo de protección bajo la Primera Enmienda? Los investigadores han intentado imitar las capacidades del cerebro humano con la IA desde el inicio de su evolución, como la creatividad, la resolución de problemas y el reconocimiento de voz. La primera se considera una actividad exclusiva del cerebro humano, mientras que las dos últimas se integran en el enfoque de la IA hasta cierto punto.

El chatbot Gemini generó imágenes controvertidas

Básicamente, la IA puede ser cualquier cosa, desde un conjunto de algoritmos hasta un sistema que toma billones de decisiones en cualquier plataforma, como la configuración de la base de datos de una empresa o una red social, o podría ser un chatbot. Más tarde, en febrero, Google anunció la suspensión de su chatbot, Gemini, y que no generaría imágenes de personas. La razón fue que Gemini generó revuelo al generar imágenes de escenas que mostraban a personas de color en escenarios históricamente dominados por personas blancas. Los críticos afirmaron que si la compañía estaba corrigiendo el bot excesivamente por el riesgo de sesgo, Google tuiteó en X que..

Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras tanto, pausaremos la generación de imágenes de personas y pronto lanzaremos una versión mejorada

Fuente: Google.

Según dos académicos de alto nivel, Jordi Calvet-Bademunt de la Universidad de Vanderbilt y Jacob Mchangama de la Universidad de Vanderbilt, los esfuerzos para combatir el sesgo de la IA y el debate sobre sus inclinaciones políticas son importantes, pero plantearon otra cuestión que a menudo se discute menos y es sobre el enfoque del sector de la IA hacia la libertad de expresión.

Investigadores evalúan el enfoque de la IA sobre la libertad de expresión

Los investigadores también señalaron que si el enfoque de la industria hacia la libertad de expresión está de acuerdo con los estándares internacionales de libertad de expresión, dijeron que sus hallazgos sugieren que la IA generativa tiene fallas críticas con respecto al acceso a la información y la libre expresión.

Durante la investigación, evaluaron las políticas de seis chatbots de IA, incluyendo los principales, Google Gemini y ChatGPT, de OpenAI. Observaron que el derecho internacional de los derechos humanos debería ser un referente para estas políticas, pero las políticas de uso reales en los sitios web de las empresas con respecto al discurso de odio y la desinformación son demasiado vagas. Esto a pesar de que el derecho internacional de los derechos humanos no protege en gran medida la libertad de expresión.

Según ellos, empresas como Google tienen políticas demasiado amplias contra el discurso de odio porque, en caso de que se produzca un incidente de este tipo, Google prohíbe la generación de contenido. Si bien el discurso no es deseable, tener políticas tan amplias y vagas también puede ser contraproducente. Cuando los investigadores plantearon preguntas controvertidas sobre la participación de las mujeres trans en el deporte o la colonización europea, en más del 40 % de los casos, los chatbots se negaron a generar contenido. Es decir, todos los chatbots se negaron a responder preguntas que se oponían a la participación de las mujeres transgénero, pero muchos de ellos sí la apoyaban.

La libertad de expresión es un derecho fundamental de cualquier persona en Estados Unidos, pero las políticas imprecisas se basan en las opiniones de los moderadores, que son subjetivas en cuanto a la comprensión del discurso de odio. Los expertos señalaron que las políticas de las grandes empresas tendrán un efecto considerable en el derecho de las personas a acceder a la información. Además, la negativa a generar contenido puede incitar a las personas a usar chatbots que sí generan contenido de odio, lo cual sería un mal resultado.