O papel da RAND na formulação da política de IA de Biden levanta questões sobre influência.

Um influente centro de estudos, a RAND Corporation, passou a ser alvo de críticas por seu envolvimento na formulação da política de IA dos Estados Unidos. Uma revelação recente sugere que a RAND contribuiu significativamente para a elaboração da ordem executiva do presidentedent Biden sobre inteligência artificial (IA), com foco específico nos requisitos de relatórios para sistemas avançados de IA. Embora essa medida vise mitigar os riscos potencialmente catastróficos associados à IA, surgiram preocupações quanto à influência da Open Philanthropy, uma importante doadora da RAND. 

A influência da RAND na política de IA

presidentedent Biden sobre IA, emitida em outubro, define requisitos de relatórios para regulamentar o uso e o desenvolvimento de tecnologias avançadas de IA. Esses requisitos, que se assemelham às prioridades políticas da Open Philanthropy, buscam abordar os riscos existenciais representados pela IA, como a potencial criação de armas biológicas usando sistemas de IA.

Notavelmente, Jason Matheny, CEO da RAND, e Jeff Alstott, cientista sênior da informação na RAND, são figuras proeminentes no movimento do altruísmo eficaz, que defende abordagens filantrópicas baseadas em dados e enfatiza a importância de abordar o potencial apocalíptico da IA.

A contribuição da filantropia aberta

A Open Philanthropy, financiada pelo cofundador do Facebook, Dustin Moskovitz, e sua esposa, Cari Tuna, é uma importante contribuinte da RAND, tendo doado mais de US$ 15 milhões somente este ano. A organização alinha seus esforços filantrópicos ao altruísmo eficaz, que coloca a tecnologia de IA na vanguarda de suas preocupações.

Os altruístas eficazes, incluindo os da RAND, defendem o desenvolvimento e a regulamentação responsáveis ​​da IA ​​para evitar o uso indevido dessa poderosa tecnologia. Sua influência tem crescido em Washington à medida que os legisladores reconhecem cada vez mais a necessidade de abordar os potenciais perigos da IA.

Equilibrar prioridades

Os críticos argumentam que o intenso foco do altruísmo eficaz na IA pode, inadvertidamente, servir aos interesses das gigantes da tecnologia, desviando a atenção dos legisladores de problemas já existentes relacionados à IA. Tais problemas incluem a perpetuação do viés racial em sistemas de IA e a erosão das proteções de direitos autorais.

Essa crítica levanta questões sobre o potencial viés no desenvolvimento de políticas de IA. Funcionários da RAND com ligações ao altruísmo eficaz participam da elaboração de decretos executivos e influenciam a direção da regulamentação da IA.

Em resposta a essas preocupações, o porta-voz da RAND, Jeffrey Hiday, reconheceu que funcionários da RAND desempenharam um papel na elaboração da ordem executiva sobre IA. Ele explicou que a missão principal da RAND é pesquisar e analisar tópicos críticos e compartilhar esse conhecimento com os formuladores de políticas. No entanto, Hiday não abordou diretamente as preocupações sobre a objetividade da organização em vista de seus laços com a Open Philanthropy.

preocupações dos funcionários

As recentes revelações sobre o envolvimento da RAND na formulação de políticas de IA não passaram despercebidas entre seus funcionários. Durante uma reunião geral em outubro, um funcionário expressou preocupação de que a ligação do think tank com a Open Philanthropy pudesse prejudicar sua reputação de rigor e objetividade. Há receios de que a associação da RAND com o altruísmo eficaz possa levar à priorização da “agenda do altruísmo eficaz” em detrimento do desenvolvimento imparcial de políticas.

A influência significativa da RAND Corporation na formulação da política de IA dodent Biden levantou questões sobre a objetividade e o potencial viés da organização. Embora o think tank afirme que seu envolvimento está alinhado com sua missão de fornecer conhecimento especializado aos formuladores de políticas, persistem as preocupações sobre a influência da Open Philanthropy e do movimento do altruísmo eficaz no desenvolvimento de políticas de IA.

À medida que a IA continua a avançar e a desempenhar um papel cada vez mais crucial na sociedade, é essencial que os decisores políticos, os centros de estudos e as organizações envolvidas na formulação de políticas de IA mantenham a transparência e a imparcialidade para garantir o desenvolvimento e a regulamentação responsáveis ​​desta tecnologia transformadora. O debate sobre como encontrar este equilíbrio entre a inovação e a proteção contra potenciais riscos provavelmente continuará à medida que a tecnologia de IA evolui.