¿Es la programación de chatbots para no producir resultados controvertidos un problema de libertad de expresión?
- Los investigadores cuestionan el enfoque de las empresas de IA sobre la libertad de expresión y el acceso a la información.
- Las grandes empresas tienen políticas demasiado vagas y amplias en relación con el discurso de odio, lo que puede tener efectos adversos.
- La libertad de expresión y el acceso a la información son derechos humanos básicos en EE. UU., pero el derecho internacional de los derechos humanos no es estricto al respecto.
El tema candente de estos días es la inteligencia artificial y su impacto en la tecnología, el arte y la literatura existentes, y ahora uno nuevo: si la expresión de la IA también tiene algún tipo de protección bajo la Primera Enmienda. Los investigadores han intentado imitar las capacidades del cerebro humano con la IA desde el comienzo de su evolución, como la creatividad, la resolución de problemas y el reconocimiento de voz. El primero se considera un ejercicio único del cerebro humano, mientras que los dos últimos están en el enfoque de la IA en cierta medida.
El chatbot Gemini generó imágenes controvertidas
Básicamente, la IA puede ser cualquier cosa, desde un conjunto de algoritmos hasta un sistema que toma billones de decisiones en cualquier plataforma dada, como la configuración de la base de datos de una empresa o un sitio de redes sociales, o podría ser un chatbot. Más tarde en febrero, Google dijo que estaba suspendiendo su chatbot, Gemini, y que no generaría imágenes de personas. La razón fue que Gemini creó un revuelo porque presentó algunas imágenes de escenas que mostraban personas de color en algunas escenas históricamente dominadas por personas blancas, y los críticos dijeron que si la empresa está arreglando demasiado el bot por el riesgo de sesgo, Google tuiteó en X que,
“Ya estamos trabajando para abordar los problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, pausaremos la generación de imágenes de personas y volveremos a lanzar una versión mejorada pronto.”
Google también está incorporando una función de bloqueo de dispositivo sin conexión, destinada a proteger el dispositivo en caso de que se desconecte deliberadamente de la red. Esa función se activará por cosas como no autenticar el teléfono en varias ocasiones.
Según dos eruditos senior, Jordi Calvet-Bademunt de la Universidad de Vanderbilt y Jacob Mchangama de la Universidad de Vanderbilt, los esfuerzos para combatir el sesgo de la IA y la discusión sobre sus inclinaciones políticas son importantes, pero plantearon otra pregunta que a menudo se discute menos y que se refiere al enfoque del sector de la IA hacia la libertad de expresión.
Los investigadores evalúan el enfoque de la IA hacia la libertad de expresión
Los investigadores también señalaron que si el enfoque de la industria hacia la libertad de expresión está de acuerdo con los estándares internacionales de libertad de expresión, dijeron que sus hallazgos sugieren que la IA generativa tiene defectos críticos con respecto al acceso a la información y la libre expresión.
Durante la investigación, evaluaron las políticas de seis chatbots de IA, incluidos los principales, Google Gemini y ChatGPT, de OpenAI. Observaron que el derecho internacional de los derechos humanos debería ser una referencia para estas políticas, pero las políticas de uso real en los sitios web de las empresas sobre el discurso de odio y la desinformación son demasiado vagas. A pesar de que el derecho internacional de los derechos humanos no protege mucho la libertad de expresión.
Según ellos, empresas como Google tienen políticas de discurso de odio demasiado amplias porque, en caso de tal evento, Google prohíbe la generación de contenido. Aunque el discurso de odio no es deseable, tener políticas tan amplias y vagas también puede resultar contraproducente. Cuando los investigadores hicieron preguntas controvertidas sobre la participación de las mujeres trans en el deporte o la colonización europea, en más del 40% de los casos, los chatbots se negaron a generar contenido. Por ejemplo, todos los chatbots se negaron a responder preguntas que se oponían a la participación de las mujeres trans, pero muchos de ellos apoyaron su participación.
La libertad de expresión es un derecho básico de cualquier persona en EE. UU., pero las políticas vagas dependen de las opiniones de los moderadores, que son subjetivas sobre la comprensión del discurso de odio. Los expertos señalaron que las políticas de las empresas más grandes tendrán un efecto considerable en el derecho de las personas a acceder a la información. Y la negativa a generar contenido puede animar a las personas a usar chatbots que sí generan contenido de odio, lo cual sería un mal resultado.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad (Disclaimer): La información proporcionada no constituye asesoramiento de inversión. Cryptopolitan.com no asume responsabilidad alguna por las inversiones realizadas basándose en la información contenida en esta página. Recomendamos encarecidamente realizar investigaciones independientes o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
