¿Por qué la vigilancia con IA ética no es factible, como poner pintalabios a un cerdo?

Resumen TL;DR

• Rumman Chowdhury cree que la vigilancia con IA ética no es factible, afirmando: "No podemos poner pintalabios a un cerdo".
• Aboga por el establecimiento de un consejo de gobernanza global externo para supervisar las tecnologías de IA y abordar problemas como el capitalismo de vigilancia.
• Chowdhury enfatiza la importancia de la responsabilidad y la colaboración en la gobernanza de la IA, advirtiendo contra la sobre-regulación mientras aborda los desafíos éticos.

En una entrevista reciente, Rumman Chowdhury, ex directora de ética, transparencia y responsabilidad del aprendizaje automático en Twitter, expresó su escepticismo sobre la posibilidad de una vigilancia de inteligencia artificial (IA) ética. Hablando en la Escuela de Ciencias Sociales de la Universidad de Nueva York, Chowdhury declaró: "No podemos poner pintalabios a un cerdo. No creo que pueda existir una vigilancia ética".

Chowdhury, conocida por su trabajo en ética de la IA, destacó sus preocupaciones sobre el auge del capitalismo de vigilancia, que cree que es inherentemente racista y no debería ser apoyado. En un artículo de opinión para Wired, abogó por el establecimiento de un consejo de gobernanza global externo para supervisar las tecnologías de IA, abordando problemas como el capitalismo de vigilancia, la interrupción del empleo y la desinformación nuclear. Chowdhury enfatizó la necesidad de un consejo diverso que no esté vinculado a ninguna institución única y que represente una perspectiva global.

Desafíos de responsabilidad y regulación en la industria de la IA

Según Chowdhury, la responsabilidad es un aspecto crucial que a menudo falta en la industria de la IA. Señaló que el análisis de riesgos interno dentro de las empresas tiende a pasar por alto las consideraciones morales. Cuando el riesgo de fracaso o daño reputacional se vuelve significativo, señaló, las organizaciones a menudo doblan las reglas a su favor. Chowdhury cree que abordar estos desafíos requiere un esfuerzo colectivo, que involucre a varias partes interesadas y la cooperación a escala global.

Aunque reconoce que la regulación es necesaria, Chowdhury advirtió contra la sobre-regulación, lo que podría llevar a que los modelos corrijan en exceso y no aborden los problemas subyacentes. Enfatizó la naturaleza compleja de definir qué es tóxico u odioso, afirmando que es un viaje continuo que requiere evaluación y adaptación continuas.

Rumman Chowdhury cree que la tecnología no debería divorciarse de la humanidad

El trabajo de Chowdhury tiene como objetivo cerrar la brecha entre tecnólogos y responsables políticos, abogando por una mejor comprensión del impacto humano de la tecnología. Cree que la tecnología no debería divorciarse de la humanidad, sino que debería ser aprovechada para abordar los defectos humanos y mejorar la sociedad.

Rumman Chowdhury, una figura prominente en el campo de la ética de la IA, siempre ha estado intrigada por la complejidad e imprevisibilidad del comportamiento humano. Durante sus estudios de pregrado en ciencias políticas en el MIT, se dio cuenta del potencial para usar modelos y datos de manera más efectiva en organizaciones sin fines de lucro. Esto la llevó a cursar una maestría en métodos cuantitativos en la Universidad de Columbia, donde perfeccionó aún más sus habilidades.

El trabajo de Chowdhury la ha llevado a varios lugares alrededor del mundo solo en el último mes. Desde España hasta San Francisco, Boston hasta Nueva York, y charlas próximas en Viena y Pittsburgh, está activamente comprometida en abordar problemas apremiantes relacionados con la IA, como la ciberseguridad, la desinformación nuclear y plataformas de aprendizaje de idiomas como Duolingo.

Aprovechar las estructuras de incentivos y descentralizar el poder.

En el núcleo del enfoque de Chowdhury yace un dictamen simple pero poderoso: escuchar, comunicarse, colaborar. Sin embargo, reconoce que incluso cuando los líderes de la industria expresan su compromiso de prevenir el daño de la IA, a menudo puede haber una discrepancia entre las palabras y las acciones. Observa que durante tiempos de escrutinio intensificado, algunas entidades pueden llamar a la regulación mientras simultáneamente emplean tácticas de cabildeo para obstaculizar la aprobación de leyes regulatorias.

El enfoque de Chowdhury hacia la ética y gobernanza de la IA se basa en la comprensión de que las personas, a diferencia de las máquinas, tienen motivaciones y prioridades diversas. Efectuar un cambio significativo requiere aprovechar las estructuras de incentivos y descentralizar el poder. Desafía la noción de una narrativa de héroe único y enfatiza la importancia de la colaboración y la toma de decisiones colectiva para dar forma al futuro de la IA.