El papel de RAND en la definición de la política de inteligencia artificial de Biden plantea interrogantes sobre su influencia

El influyente centro de estudios RAND Corporation ha sido objeto de escrutinio por su participación en la formulación de la política de inteligencia artificial (IA) de Estados Unidos. Una reciente revelación sugiere que RAND influyó significativamente en la orden ejecutiva del presidentedent Biden sobre IA, centrándose específicamente en los requisitos de información para los sistemas avanzados de IA. Si bien esta medida busca mitigar los riesgos potencialmente catastróficos asociados con la IA, han surgido preocupaciones respecto a la influencia de Open Philanthropy, uno de los principales donantes de RAND. 

La influencia de RAND en la política de IA

presidentedent Biden sobre inteligencia artificial, emitida en octubre, describe los requisitos de información para regular el uso y desarrollo de tecnologías avanzadas de IA. Estos requisitos, que se asemejan a las prioridades políticas de Open Philanthropy, buscan abordar los riesgos existenciales que plantea la IA, como la posible creación de armas biológicas mediante sistemas de IA.

Cabe destacar que Jason Matheny, director ejecutivo de RAND, y Jeff Alstott, científico de información senior de RAND, son figuras destacadas del movimiento de altruismo eficaz, que aboga por enfoques de filantropía basados ​​en datos y enfatiza la importancia de abordar el potencial apocalíptico de la IA.

La contribución de la filantropía abierta

Open Philanthropy, financiada por el cofundador de Facebook, Dustin Moskovitz, y su esposa, Cari Tuna, es un importante contribuyente a RAND, habiendo donado más de 15 millones de dólares solo este año. La organización alinea sus esfuerzos filantrópicos con el altruismo efectivo, que prioriza la tecnología de IA.

Los altruistas eficaces, incluidos los de RAND, abogan por el desarrollo y la regulación responsables de la IA para prevenir el uso indebido de esta poderosa tecnología. Su influencia ha crecido en Washington a medida que los legisladores reconocen cada vez más la necesidad de abordar los posibles peligros de la IA.

Equilibrar prioridades

Los críticos argumentan que la intensa atención del altruismo efectivo a la IA podría favorecer inadvertidamente los intereses de los gigantes tecnológicos al desviar la atención de los responsables políticos de los problemas existentes relacionados con la IA. Estos problemas incluyen la perpetuación del sesgo racial en los sistemas de IA y la erosión de las protecciones de los derechos de autor.

Esta crítica plantea interrogantes sobre el posible sesgo en el desarrollo de políticas de IA. El personal de RAND vinculado al altruismo efectivo participa en la redacción de órdenes ejecutivas e influye en la dirección de la regulación de la IA.

En respuesta a estas inquietudes, el portavoz de RAND, Jeffrey Hiday, reconoció que el personal de RAND participó en la redacción de la orden ejecutiva sobre IA. Explicó que la misión principal de RAND es investigar y analizar temas críticos y compartir esa experiencia con los responsables políticos. Sin embargo, Hiday no abordó directamente las inquietudes sobre la objetividad de la organización, dada su vinculación con Open Philanthropy.

Preocupaciones de los empleados

Las recientes revelaciones sobre la participación de RAND en la formulación de políticas de IA no han pasado desapercibidas entre sus empleados. Durante una reunión general en octubre, un empleado expresó su preocupación por que la conexión del think tank con Open Philanthropy pudiera socavar su reputación de rigor y objetividad. Existe la preocupación de que la asociación de RAND con el altruismo eficaz pueda llevar a priorizar la "agenda del altruismo eficaz" sobre el desarrollo de políticas imparciales.

La importante influencia de RAND Corporation en la formulación de la política de IA deldent Biden ha suscitado dudas sobre la objetividad y el posible sesgo de la organización. Si bien el think tank afirma que su participación se alinea con su misión de brindar experiencia a los responsables políticos, persiste la preocupación sobre la influencia de la Filantropía Abierta y el movimiento de altruismo eficaz en el desarrollo de políticas de IA.

A medida que la IA avanza y desempeña un papel cada vez más crucial en la sociedad, es fundamental que los responsables políticos, los centros de investigación y las organizaciones que participan en la formulación de políticas de IA mantengan la transparencia y la imparcialidad para garantizar el desarrollo y la regulación responsables de esta tecnología transformadora. El debate sobre cómo lograr este equilibrio entre la innovación y la protección contra posibles riesgos probablemente continuará a medida que la tecnología de IA evolucione.