- El estudio revela que los modelos de lenguaje con IA, como GPT-4 y GPT-3.5, muestran un sesgo racial contra el inglés afroamericano, vinculándolo con estereotipos negativos y consecuencias legales.
- Los modelos de IA más grandes presentan un sesgo más pronunciado, lo que genera preocupaciones sobre la escalabilidad y las implicaciones éticas en el desarrollo de la IA.
- La investigación destaca la necesidad de esfuerzos continuos para abordar de manera integral el sesgo en los sistemas de IA, garantizando así equidad e inclusión.
En un estudio realizado por investigadores del Instituto Allen para la IA, la Universidad de Stanford y la Universidad de Chicago, han surgido revelaciones sobre el sesgo racial incrustado en populares modelos de lenguaje grandes (LLM), incluidos GPT-4 y GPT-3.5 de OpenAI.
El estudio, detallado en una publicación en el servidor de preimpresión arXiv, se centró en investigar cómo estos LLM responden a diferentes dialectos y expresiones culturales, particularmente el inglés afroamericano (AAE) y el inglés americano estándar (SAE). A través de una serie de experimentos, los investigadores introdujeron documentos de texto en AAE y SAE en chatbots de IA, solicitándoles que inferieran y comentaran sobre los autores.
Los resultados fueron alarmantes, revelando un sesgo constante en las respuestas de los modelos de IA. Los textos en AAE fueron consistentemente recibidos con estereotipos negativos, describiendo a los autores como agresivos, groseros, ignorantes y sospechosos. Por el contrario, los textos en SAE elicitaron respuestas más positivas. Este sesgo se extendió más allá de los rasgos de personalidad, influyendo en las capacidades profesionales y las percepciones de la situación legal.
Implicaciones en diversas profesiones y ámbitos legales
Cuando se les preguntó sobre carreras potenciales, los chatbots asociaron los textos en AAE con trabajos de menor salario o campos estereotípicamente vinculados a los afroamericanos, como el deporte o el entretenimiento. Además, a menudo se sugería que los autores de textos en AAE tenían más probabilidades de enfrentar repercusiones legales, incluyendo sentencias más duras como la pena de muerte.
Curiosamente, cuando se les pidió que describieran a los afroamericanos en términos generales, las respuestas fueron positivas, utilizando adjetivos como «inteligente», «brillante» y «apasionado». Esta discrepancia destaca la naturaleza matizada del sesgo, que emerge selectivamente según el contexto, particularmente en lo que respecta a las suposiciones sobre el comportamiento o las características de las personas basándose en su uso del lenguaje.
El estudio también reveló que cuanto mayor es el modelo de lenguaje, más pronunciado es el sesgo negativo hacia los autores de textos en inglés afroamericano. Esta observación plantea preocupaciones sobre la escalabilidad del sesgo en los sistemas de IA, lo que indica que simplemente aumentar el tamaño de los modelos de lenguaje sin abordar las causas raíz puede exacerbar el problema.
Desafíos en el desarrollo ético de la IA
Estos hallazgos subrayan los importantes desafíos que enfrenta el desarrollo de sistemas de IA éticos y libres de sesgos. A pesar de los avances tecnológicos y los esfuerzos para mitigar los prejuicios, los sesgos profundamente arraigados continúan impregnando estos modelos, reflejando y potencialmente reforzando los estereotipos sociales.
La investigación enfatiza la importancia de la vigilancia continua, conjuntos de datos diversos y metodologías de entrenamiento inclusivas para crear una IA que sirva a toda la humanidad de manera justa. Sirve como un recordatorio contundente de la necesidad crítica de abordar el sesgo de manera integral en el desarrollo de IA para garantizar resultados equitativos para todos los individuos.
El estudio arroja luz sobre un aspecto crítico del desarrollo de IA, instando a las partes interesadas a confrontar y abordar el sesgo para construir un paisaje tecnológico más justo y equitativo.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
