Los Modelos de IA Generativa Codifican Sesgos y Fabrican Información Sin Sentido, Revela la Investigación
- Los modelos de IA generativa están incrustando sesgos y propagando información sin sentido, afectando desproporcionadamente a grupos marginados.
- La falta de representación de la incertidumbre en los modelos generativos lleva a aceptar información inexacta como hecho, distorsionando las creencias.
- Se necesita colaboración entre psicólogos y expertos en aprendizaje automático para evaluar y abordar el impacto de los modelos generativos en las creencias y sesgos humanos.
En los últimos meses, los modelos de IA generativa como ChatGPT, Bard de Google y Midjourney han ganado una popularidad creciente entre los individuos para fines tanto personales como profesionales. Sin embargo, la investigación está descubriendo una tendencia preocupante: estos modelos están incrustando sesgos y estereotipos negativos en sus usuarios, al mismo tiempo que generan y difunden información sin sentido pero aparentemente precisa.
Las consecuencias de este fenómeno son particularmente graves para los grupos marginados, que soportan una carga desproporcionada de la difusión de información fabricada. A medida que estos modelos se vuelven más prevalentes en la World Wide Web, existe una creciente preocupación de que puedan influir en las creencias humanas. Un nuevo artículo de perspectiva publicado en la revista Science destaca la urgente necesidad de colaboración entre psicólogos y expertos en aprendizaje automático para evaluar la escala de este problema y desarrollar soluciones.
Abeba Birhane, profesora adjunta asistente en la Escuela de Ciencias de la Computación y Estadística de Trinity y Investigadora Principal en IA Confiable en la Fundación Mozilla, explica que los modelos generativos carecen de la capacidad de comunicar incertidumbre, lo que resulta en respuestas seguras y fluidas sin calificadores apropiados ni representaciones de duda. En consecuencia, las personas pueden aceptar estas respuestas como factualmente precisas, lo que lleva a una distorsión de las creencias. Además, los intereses financieros y de responsabilidad incentivan a las empresas a antropomorfizar los modelos generativos como inteligentes, empáticos o incluso infantiles, exacerbando el problema.
Impacto desproporcionado en grupos marginados
Las repercusiones de los sesgos y la información fabricada son particularmente pronunciadas entre las poblaciones marginadas. El estudio enfatiza la importancia de realizar análisis detallados para medir el impacto de los modelos generativos en las creencias y sesgos humanos. Al centrarse en las comunidades marginadas más afectadas por las fabricaciones y estereotipos negativos en las salidas de los modelos, los estudios e intervenciones futuras pueden abordar eficazmente estos problemas.
Un ejemplo concreto discutido en la Perspectiva se relaciona con el uso de modelos de IA generativa en el sistema legal. Las regularidades estadísticas dentro de estos modelos han resultado en puntajes de riesgo más altos asignados a los acusados negros. En consecuencia, los jueces de los tribunales, habiendo internalizado estos patrones, pueden alterar sus prácticas de sentenciamiento para alinearse con las predicciones de los algoritmos. Incluso si se implementan regulaciones para limitar el uso de tales sistemas, este mecanismo de aprendizaje estadístico puede perpetuar la creencia de que los individuos negros tienen más probabilidades de reincidir.
Desafíos para superar sesgos y fabricaciones
Una vez que los sesgos y la información fabricada han sido aceptados por los individuos, se vuelven difíciles de disipar. Los niños son particularmente vulnerables, ya que es más probable que antropomorficen la tecnología y sean fácilmente influenciados. Reconociendo esto, se deben realizar esfuerzos para educar al público, los responsables políticos y los científicos interdisciplinarios sobre el funcionamiento de los modelos de IA generativa, disipando la desinformación existente y contrarrestando las afirmaciones exageradas sobre estas tecnologías.
El artículo de Perspectiva destaca la importancia de un análisis oportuno y exhaustivo para evaluar el impacto de los modelos generativos en las creencias y sesgos humanos. También insta a intervenciones y recursos dirigidos a mitigar los efectos en las poblaciones marginadas. Además, se deben llevar a cabo campañas de educación y concientización para proporcionar perspectivas realistas sobre cómo funcionan estos modelos de IA y para rectificar los malentendidos y el hype alrededor de sus capacidades.
A medida que los modelos de IA generativa ganan una adopción generalizada, la codificación de sesgos y la fabricación de información sin sentido plantean preocupaciones significativas. Las comunidades marginadas se ven afectadas desproporcionadamente, exacerbando las desigualdades existentes. La colaboración entre psicólogos y expertos en aprendizaje automático es crucial para evaluar la escala de este problema y diseñar soluciones efectivas. Al comprender el impacto de los modelos generativos en las creencias y sesgos humanos, es posible abordar y rectificar los sesgos y fabricaciones incrustados dentro de estos sistemas de IA.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Glory Kaburu
Glory es una periodista extremadamente experta con herramientas e investigación sobre IA. Está apasionada por la inteligencia artificial y ha escrito varios artículos sobre el tema. Se mantiene al día con los últimos avances en Inteligencia Artificial, Aprendizaje Automático y Aprendizaje Profundo, y escribe regularmente sobre ellos.
