Desglosando los conceptos clave en la ética de la IA: más allá de la explicabilidad y la equidad

La reciente publicación de modelos avanzados de lenguaje como ChatGPT4, Bard y Bing Chat ha desatado un amplio interés en la ética de la IA. Muchos buscan comprender los conceptos subyacentes que gobiernan los riesgos potenciales que plantean estas tecnologías de vanguardia. Este artículo tiene como objetivo desmenuzar ideas cruciales presentadas en una charla de 2021 sobre la ética de la IA, enfatizando la necesidad de una comprensión más profunda más allá de la mera explicabilidad y equidad.

Si bien la explicabilidad a menudo se promociona como un aspecto crucial de la IA ética, por sí sola es insuficiente. La verdadera pregunta radica en si las explicaciones proporcionadas son accionables. Tomemos, por ejemplo, una denegación de préstamo por parte de un algoritmo. En lugar de solo justificar la decisión, el sistema debería ofrecer un recurso accionable, permitiendo a las personas rectificar sus situaciones para futuras solicitudes de préstamo. Este concepto de recurso accionable se vuelve primordial en decisiones que impactan la vida de las personas.

La contestabilidad en el núcleo

La contestabilidad sugiere incorporar mecanismos para cuestionar y disentir con los resultados de la IA dentro del núcleo del sistema. Esto desafía la práctica común de agregar la resolución de disputas como una capa externa después de que hayan ocurrido errores potenciales. La idea es construir sistemas que inviten activamente al desacuerdo y la cuestionabilidad, fomentando un paisaje de IA más resiliente y responsable.

Abordar la equidad y el sesgo es crucial, pero por sí solo no garantiza una IA ética. La investigación de Gender Shades sobre el reconocimiento facial reveló disparidades significativas en la precisión basadas en el género y el color de la piel. El énfasis debe cambiar de simplemente igualar el rendimiento entre grupos a cuestionar los cimientos subyacentes, el despliegue y la propiedad de las tareas de IA. Las dinámicas de poder, la creación y el uso desempeñan roles cruciales en las consideraciones éticas.

Implicaciones dañinas a escala

La escala a la que se implementa la IA puede exacerbar las preocupaciones éticas. El programa Robodebt en Australia, que utiliza la automatización para crear deudas ilegales, ejemplifica el lado oscuro de la capacidad del aprendizaje automático para centralizar el poder. Los sistemas automatizados, que carecen de mecanismos de verificación de errores, pueden llevar a un daño generalizado y replicar sesgos a una escala sin precedentes, como se ha visto en varios ejemplos del mundo real.

Un aspecto a menudo pasado por alto de la ética de la IA es el reconocimiento inmediato de los problemas por parte de aquellos directamente afectados. Instancias como el mal uso del reconocimiento facial en protestas o el papel de Facebook en el genocidio de Myanmar destacan la importancia de escuchar las preocupaciones planteadas por las comunidades afectadas. Dar voz y vías de participación a los más afectados es crucial para mitigar los riesgos éticos.

Bucles de retroalimentación y cambio de poder

Los bucles de retroalimentación, donde los modelos de IA crean los resultados que predicen, plantean desafíos adicionales. Los datos contaminados por salidas sesgadas y la amplificación de sesgos existentes en los modelos de aprendizaje automático subrayan la necesidad de cuestionar no solo la equidad, sino también el cambio en las dinámicas de poder. Las aplicaciones de IA deben evaluarse en cómo redistribuyen o concentran el poder en la sociedad.

El artículo concluye con recursos prácticos para implementar prácticas éticas de IA. El Kit de Herramientas de Ética Tecnológica del Centro Markkula de Ética Aplicada proporciona prácticas accionables para las organizaciones, enfatizando la importancia de expandir el círculo ético para considerar a todas las partes interesadas. La guía de Voces Diversas del Laboratorio de Política Tecnológica de la Universidad de Washington ofrece información sobre la formación de paneles diversos para asegurar que se consideren una amplia gama de perspectivas.

En el paisaje en evolución de la IA, comprender e implementar principios éticos más allá de los conceptos superficiales es primordial. Este artículo destaca las complejidades involucradas en la ética de la IA, instando a las partes interesadas a profundizar en el recurso accionable, la contestabilidad y los impactos en las comunidades marginadas. Al adoptar enfoques participativos y democráticos, el campo puede avanzar hacia una integración más responsable y ética de las tecnologías de IA.