- El informe de la UNESCO muestra que la IA aún presenta un sesgo de género, especialmente en los sectores de salud y finanzas.
- Los modelos de IA a menudo generan contenido sexista, lo que afecta los esfuerzos por la igualdad de género.
- Necesitamos datos diversos y prácticas transparentes en el desarrollo de la IA para corregir los sesgos.
Un reciente informe de la UNESCO ha arrojado luz sobre el sesgo de género persistente perpetuado por los modelos contemporáneos de Inteligencia Artificial (IA). A pesar de los esfuerzos continuos para mitigar el prejuicio, el estudio encontró que los sistemas de IA, incluidos los modelos de lenguaje grandes (LLM), son propensos a amplificar los sesgos sociales, particularmente en torno al género.
Sesgo de género en los modelos de IA
El informe reveló que los LLM populares a menudo generan contenido sexista y misógino, reflejando prejuicios sociales. Por ejemplo, cuando se les pidió que completaran oraciones que mencionaban género e identidad sexual, el modelo Llama 2 de código abierto de Meta produjo salidas que contenían lenguaje sexista o misógino en el 20 % de los casos. Si bien algunos modelos de IA, como ChatGPT, mostraron un mejor comportamiento, los sesgos aún estaban presentes incluso después del ajuste fino.
La UNESCO advirtió que, si no se aborda, el sesgo algorítmico podría integrarse más profundamente en sectores críticos como la atención médica y las finanzas. Los algoritmos de IA sesgados podrían exacerbar las disparidades de género existentes en estos campos, obstaculizando los esfuerzos por lograr la igualdad de género.
Una de las preocupaciones importantes destacadas en el informe es el impacto de los datos médicos sesgados en los sistemas de atención médica impulsados por IA. Las prácticas de recopilación de datos han favorecido históricamente a los sujetos masculinos, lo que ha llevado a brechas de género en los datos de entrenamiento de IA. Este sesgo tiene consecuencias tangibles, como lo demostró un estudio de herramientas de IA utilizadas para detectar enfermedades hepáticas, que pasó por alto el 44 % de los casos en mujeres debido a datos de entrenamiento sesgados hacia los hombres.
Abordar el desequilibrio
Sandy Carter, COO de Unstoppable Domains, enfatizó la importancia de abordar la brecha de género en los datos de entrenamiento de IA. Abogó por una mayor transparencia de los datos para resaltar los sesgos de género y propuso enfoques novedosos, como la recopilación de datos de salud de las mujeres mediante crowdsourcing o la generación de datos sintéticos para mitigar las discrepancias.
Carter subrayó la necesidad de una representación justa en los datos de entrenamiento para desarrollar sistemas de IA equitativos. Al incorporar diversas fuentes de datos y adoptar la transparencia en las prácticas de recopilación de datos, los desarrolladores pueden trabajar hacia la minimización de los sesgos en los modelos de IA.
El informe de la UNESCO sirve como un recordatorio contundente del desafío continuo planteado por el sesgo de género en la IA. Para construir sistemas de IA que sirvan a todos los usuarios de manera equitativa, se necesitan esfuerzos concertados para abordar los sesgos en cada etapa del desarrollo, desde la recopilación de datos hasta el despliegue de modelos.
Al crear conciencia sobre estos problemas y abogar por prácticas inclusivas, las partes interesadas pueden trabajar hacia la realización del potencial de la IA para avanzar en la igualdad de género en la atención médica y más allá. Solo a través de la acción colaborativa y el compromiso con la equidad se puede realizar plenamente la promesa de la tecnología de IA para todos los individuos, independientemente de su género.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
James Kinoti
Entusiasta de las criptomonedas, James encuentra placer en compartir conocimientos sobre fintech, criptomonedas, así como blockchain y tecnologías de vanguardia. Las últimas innovaciones en la industria de las criptomonedas, los juegos cripto, la IA, la tecnología blockchain y otras tecnologías son su preocupación. Su misión: mantenerse al día con aplicaciones transformadoras en diversas industrias.
