- La tecnología de IA avanza muy rápido estos días, buscando lograr capacidades humanas mediante el análisis de datos y el aprendizaje automático.
- El fracaso del chatbot Tay de Microsoft, ocurrido en 2016, es uno de los ejemplos más trágicos de mal comportamiento de la IA.
- Para erradicar la discriminación racial en la Inteligencia Artificial, las industrias deben enfatizar la diversidad y la inclusión tanto en el desarrollo de la IA como en el entrenamiento de los conjuntos de datos.
La IA es muy avanzada en estos días en que su objetivo principal es imitar a los humanos a través del análisis de datos y el aprendizaje automático. Peor aún, el desarrollo de las tecnologías de IA ha descubierto espinosos problemas, incluida la perpetuación del sesgo racial en el contenido producido por IA. Business Insider proporcionó algunos casos de los sesgos raciales construidos por los sistemas de IA con estos pocos profesionales que están en la industria tecnológica como ejemplo. Muchos de estos sesgos representan un gran problema y merecen una acción prioritaria.
Sin embargo, hay algunos casos en los que la IA no está en su mejor momento y esto podría incluir algo trágico como la caída de Tay, una IA de Microsoft que ocurrió en 2016. Utilizando plataformas de redes sociales como Twitter, el diseñador de Tay, un bot, pudo aprender lenguaje no deseado después de alentar a los usuarios a participar en interacciones ofensivas, lo que provocó que el bot fuera terminado después de solo 1 día. Aunque ha habido un desarrollo del campo de la IA desde la década de 1970, los problemas principales asociados con ella no han sido totalmente erradicados todavía. Este caso atestigua la necesidad de combatir el sesgo racial de la IA durante el proceso de diseño.
Preocupaciones actuales y respuesta de la industria
En la última actualización de un artículo de IEEE Spectrum, Jay Wolcott, el fundador de Knowbl, una empresa de IA generativa, planteó esta pregunta crucial de qué límites deben intentar controlar los sistemas de IA con lo que deciden involucrarse. Por otro lado, este problema puede revelar un problema más serio cuando el futuro perfectamente diseñado de la IA y la historia de la vida real podrían ser confrontados por los efectos secundarios de la IA. Con el avance de la IA en muchos campos, en particular la pregunta de cómo desarrollar una estrategia integral para abordar los sesgos raciales, merece más atención.
Para eliminar la discriminación racial en el campo de la Inteligencia Artificial, las industrias deben poner más énfasis en la diversidad y la inclusión durante el diseño de soluciones de IA y el entrenamiento de los conjuntos de datos. Las voces diversas pueden llevar a la identificación de unidireccionalidad, o el sesgo inconsciente incluso dentro del proceso de construcción de nuevos productos. Como punto adicional, los rigurosos estándares éticos y los sistemas de gobernanza son los escudos que mantienen a la IA segura una vez que se implementan. Las actividades colaborativas entre empresas tecnológicas, instituciones gubernamentales y asociaciones de defensa apuntan a su creación en el futuro de un reino de IA digitalmente justo y equitativo.
Garantizando la transparencia y la rendición de cuentas
La transparencia en los algoritmos de IA es la clave para la implementación efectiva y bien comportada de la IA, lo que ayuda a eliminar los sesgos de los algoritmos de IA. Las organizaciones deben ser abiertas sobre cómo los sistemas de IA llegan a sus decisiones, lo que también debe incluir formas de quejas y rendición de cuentas. A través de auditorías y evaluaciones sistemáticas de injusticias, podemos detectar y desafiar los sesgos que se re-adaptan de generación en generación. Estos actores clave contribuyen al establecimiento de la creencia y confianza requeridas en la tecnología de IA al destacar la importancia de la transparencia y la rendición de cuentas.
Dado que el sesgo racial en la IA abre muchos problemas en el uso ético y justo de esta tecnología, es el problema más prioritario para su desarrollo futuro. Aunque el beneficio de la inteligencia artificial para los humanos es enorme, combatir el sesgo es la tarea principal. Con la idea de la diversidad en mente, inyectando ética en el entorno de la IA y promoviendo la apertura y la transparencia, las partes interesadas pueden tener un sistema que sea inclusivo. La colaboración de la industria acompañada de cualquier medida correctiva necesaria que eliminará el sesgo racial y mantendrá los principios de equidad e igualdad en la IA es de suma importancia.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
