Las luminarias de la IA de Princeton brillan en la lista de TIME 100 2023

En la prestigiosa lista TIME100 de Inteligencia Artificial de 2023 de TIME Magazine, la Universidad de Princeton se enorgullece de contar con una representación significativa de figuras prominentes en inteligencia artificial (IA). Estas personas incluyen críticos dedicados de los sesgos de la IA, pioneros que han alertado sobre riesgos potenciales y el CEO de una empresa de IA profundamente comprometida con la seguridad y la alineación con los intereses humanos.

Arvind Narayanan: Una voz contra el sesgo de la IA

Entre estas luminarias se encuentra Arvind Narayanan, un distinguido profesor de ciencias de la computación de la Universidad. Narayanan ha sido un crítico vocal de los sesgos inherentes en los sistemas de IA. Su conferencia viral de 2019, titulada “Cómo reconocer el aceite de serpiente de la IA”, puso de manifiesto los defectos en las tecnologías de IA predictiva, que a menudo producen resultados influenciados por prejuicios humanos. Narayanan señaló los sistemas de IA utilizados en la evaluación de candidatos a empleos como un ejemplo de cómo los sesgos pueden infiltrarse en la toma de decisiones impulsada por la IA.

Narayanan también dirige el Proyecto de Transparencia y Responsabilidad Web de Princeton, una iniciativa vital que busca descubrir la extensión de la recopilación de datos de usuarios por parte de las empresas y cómo se utilizan. Además, desempeñó un papel fundamental en el grupo de trabajo sobre IA generativa organizado por la Oficina del Decano de la Facultad, Jill Dolan, donde discutieron los desafíos y los posibles sesgos asociados con la IA.

En un correo electrónico a The Daily Princetonian, Narayanan enfatizó sus preocupaciones: “Mi opinión es que la IA predictiva es fundamentalmente dudosa. Las razones por las que el futuro es difícil de predecir son intrínsecas y es poco probable que se rectifiquen. No toda la IA predictiva es aceite de serpiente, pero cuando se comercializa de una manera que oculta sus limitaciones, es un problema.”

Sayash Kapoor: Socio en la defensa

Sayash Kapoor, un estudiante de doctorado que trabaja bajo la supervisión de Narayanan, se ha unido al profesor para coescribir un próximo libro titulado “AI Snake Oil” (Aceite de serpiente de IA). Programado para su publicación en 2024, este libro promete profundizar en el fenómeno de la IA sesgada y sus implicaciones. Kapoor y Narayanan también mantienen una popular página de Substack con el mismo nombre, fomentando la conciencia y el diálogo sobre los desafíos de la IA.

Pioneros de la IA entre los exalumnos de Princeton

Tres exalumnos de la Universidad también han ganado un lugar en la lista TIME100 de IA por sus contribuciones al campo:

Dario Amodei: CEO de Anthropic

Dario Amodei, exalumno de Princeton, ocupa el cargo de CEO en Anthropic, un laboratorio de IA de renombre mundial. Anthropic es conocido por ser pionero en la “IA Constitucional”, un enfoque innovador para alinear los sistemas de IA con los valores humanos a través de principios explícitos. Amodei completó sus estudios de doctorado en física en Princeton, trabajando bajo la guía del profesor de neurociencia Michael Berry y del profesor de física William Bialek. Antes de dirigir Anthropic, encabezó los equipos de GPT-2 y GPT-3 en OpenAI.

La Dra. Fei-Fei Li de Stanford: Defensora de la diversidad

La doctora Fei-Fei Li, egresada de la Universidad de Princeton en 1999, ha desempeñado un papel crucial en la ampliación de la diversidad dentro de la inteligencia artificial (IA) y la informática. Co-fundó AI4ALL, una organización sin fines de lucro que promueve iniciativas de diversidad e inclusión en la IA, incluyendo campamentos para estudiantes de secundaria. La doctora Li también es reconocida por su trabajo pionero en sistemas de reconocimiento de imágenes con IA altamente precisos. En los últimos años, ha abocado por una financiación gubernamental sustancial para garantizar el desarrollo seguro y regulado de las tecnologías de IA.

Eric Schmidt: Abordando el impacto de la IA en la democracia

Eric Schmidt, egresado de la Universidad de Princeton y ex CEO de Google, ha expresado preocupaciones sobre la rápida transformación de la sociedad por parte de la IA sin las salvaguardas regulatorias adecuadas. Schmidt, ahora co-fundador de Schmidt Features, teme que la IA, particularmente la IA que subyace a muchas plataformas de redes sociales, pueda poner en peligro la integridad de las elecciones políticas facilitando la propagación de desinformación. Sus reflexiones subrayan la urgente necesidad de un desarrollo responsable de la IA.

Las contribuciones multifacéticas de Princeton a la ética de la IA

Arvind Narayanan destaca los diversos proyectos emprendidos por académicos de la Universidad para mitigar los posibles daños de la IA, incluidos los sesgos y los riesgos existenciales. Estos incluyen:

• El equipo de la profesora Aleksandra Korolova investiga algoritmos de segmentación publicitaria discriminatorios y posibles soluciones.
• La investigación etnográfica de la becaria postdoctoral Shazeda Ahmed sobre la comunidad aislada de seguridad de la IA y sus contribuciones políticas respecto a la IA y los riesgos existenciales.
• El equipo de la profesora Olga Russakovsky es reconocido por desarrollar algoritmos avanzados de visión por computadora mientras aborda activamente los sesgos.
• La investigación de Sayash Kapoor y Arvind Narayanan analiza el impacto de la IA generativa en las redes sociales.

Estos esfuerzos representan colectivamente el compromiso de la Universidad de Princeton con la resolución de las preocupaciones éticas relacionadas con la tecnología de IA.

Reconocimiento global para líderes de IA

Las figuras destacadas de IA de Princeton se unen a un distinguido grupo de líderes globales reconocidos en la lista TIME100 AI. Entre las figuras notables se incluyen la cantante y compositora canadiense Grimes y el CEO de OpenAI, Sam Altman. Naina Bajekal, editora ejecutiva de TIME, enfatizó el enfoque de la lista en líderes de la industria, innovadores y defensores de la ética que están moldeando el panorama de la IA y abordando desafíos sociales apremiantes.

A medida que la IA continúa evolucionando e integrándose en la sociedad, el trabajo de estos princetonianos sirve como testimonio de la importancia de la responsabilidad ética en el desarrollo de la IA. Su dedicación a abordar los sesgos, los riesgos y las preocupaciones éticas destaca el papel vital que desempeñan los líderes académicos e industriales en la configuración del futuro de la inteligencia artificial. La Universidad de Princeton sigue a la vanguardia de este debate crítico, impulsando la innovación mientras aboga por prácticas responsables de IA.