¿Quién responderá por la ética de la IA y el compromiso con las responsabilidades sociales en el mundo real?
- La rendición de cuentas por una IA ética se extiende a las empresas tecnológicas, los responsables políticos y muchos otros, pero no se deben excluir las voces marginadas.
- El desarrollo ético de la IA requiere un enfoque en los contextos sociales, y son necesarios cambios de paradigma para una innovación responsable.
- El uso de mano de obra global barata en el desarrollo de la IA genera preocupaciones sobre la explotación y las responsabilidades éticas en la industria tecnológica.
Las recientes controversias en torno a la inteligencia artificial (IA) han reavivado el debate sobre quién debe ser responsable de garantizar el desarrollo ético y el despliegue de la IA. A medida que la IA generativa como ChatGPT se vuelve cada vez más común, continúan surgiendo preguntas sobre el compromiso de la industria tecnológica con la ética de la IA o la innovación responsable.
El costo oculto de la IA
Investigaciones han revelado que OpenAI, una empresa líder de IA respaldada por Microsoft, ha estado dependiendo de contratistas extranjeros mal remunerados para manejar la delicada tarea de moderación de contenido, un componente crucial en el desarrollo de sistemas «seguros» como ChatGPT. Estos contratistas, basados en Kenia, recibían apenas 2 dólares por hora para etiquetar textos e imágenes perturbadores, una tarea que según se informa ha causado traumas psicológicos significativos. Tras revelarse el impacto de este trabajo, el socio de externalización de OpenAI rompió relaciones con la compañía.
Esta investigación ha puesto de manifiesto la dependencia de la industria tecnológica de mano de obra barata de todo el mundo para llevar a cabo las tareas más agotadoras que sustentan los avances en IA. Esto ocurre en un momento en que equipos destacados de seguridad de IA están siendo disueltos, a pesar de la retórica elevada sobre ética del sector.
La realidad detrás del maquillaje publicitario
Varias figuras de alto perfil en la industria tecnológica han pedido una pausa en el desarrollo de la IA hasta que se puedan establecer las regulaciones adecuadas. Sin embargo, algunos expertos sostienen que depender únicamente de los responsables políticos y las corporaciones para dar forma al futuro de la IA es un error, ya que excluye perspectivas clave. La Dra. Alison Powell del Instituto Ada Lovelace ha señalado que el discurso actual se centra demasiado en el potencial de la inteligencia artificial general para superar la cognición humana, en lugar de abordar las realidades del presente.
“Esto es perjudicial porque se centra en un mundo imaginado en lugar del mundo real en el que vivimos”, dijo Powell. Argumenta que las capacidades de toma de atribuidas a la IA pasan por alto las responsabilidades sociales del mundo real que conlleva tal poder.
El investigador de Oxford Abid Adonis también ha señalado que las voces de los grupos marginados, que se ven afectados directamente por la IA, están conspicuamente ausentes del debate. “Es importante escuchar lo que dicen los grupos marginados porque falta en la discusión”, dijo Adonis.
Las deficiencias de la “IA ética”
Ya existe evidencia de sesgo algorítmico y discriminación en los sistemas de IA actualmente en uso, desde la tecnología de reconocimiento facial hasta los algoritmos utilizados en evaluaciones de vivienda y préstamos. A pesar de las elevadas declaraciones de principios éticos de las empresas tecnológicas, sus acciones a menudo cuentan una historia diferente.
Los modelos generativos como ChatGPT, entrenados con un conjunto limitado de datos de internet, inevitablemente heredan los sesgos presentes en esos datos. Las capacidades de razonamiento tan alabadas de estos modelos a menudo no resisten el escrutinio. Por ejemplo, se ha descubierto que ChatGPT genera afirmaciones claramente falsas sobre personas reales. La falta de transparencia en el origen de los datos comerciales para el entrenamiento de la IA solo aumenta estas preocupaciones.
Una perspectiva más amplia sobre la ética de la IA
La Dra. Powell sugiere que, en lugar de ver la ética como un problema técnico por resolver, debemos examinar los contextos sociales en los que ocurren los daños. «Las IAs son máquinas institucionales, máquinas sociales y máquinas culturales», dijo. Centrarse únicamente en ajustar los algoritmos ignora el hecho de que la exclusión a menudo proviene de las instituciones y la cultura que rodean a la tecnología.
Según el investigador Abid Adonis, un fuerte discurso público y normas desempeñarán un papel crucial en la configuración del futuro de la innovación. Garantizar la responsabilidad implica hacer cumplir las leyes existentes de manera justa, en lugar de simplemente regular la tecnología en sí.
Paradigma moldeará los pasillos de la innovación
Abid Adonis, Investigador
A medida que la IA sigue ganando prominencia, garantizar que produzca resultados justos es una responsabilidad que debe ser compartida entre empresas tecnológicas, responsables políticos, investigadores, medios de comunicación y el público. Sin embargo, el discurso actual está fuertemente sesgado hacia aquellos con más poder. Para avanzar, necesitamos incluir una gama más amplia de perspectivas sobre los posibles riesgos de la IA, para que podamos desarrollar tecnología ética que realmente satisfaga las necesidades humanas. Esto nos requerirá mirar más allá del giro de relaciones públicas de las grandes empresas tecnológicas y enfrentar los daños reales que se están causando actualmente.
La imagen destacada transmite las condiciones laborales de alta presión y orientadas a plazos que caracterizan la dependencia de la industria tecnológica de la mano de obra barata.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar investigaciones independientes y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Editah Patrick
Editah es una analista fintech versátil con un profundo conocimiento de los dominios blockchain. Tanto si la tecnología la fascina, encuentra fascinante la intersección entre tecnología y finanzas. Su interés particular en las billeteras digitales y blockchain beneficia a su audiencia.
