O movimento do altruísmo eficaz do Vale do Silício influencia a política de IA em Washington

Nos últimos anos, o movimento do Altruísmo Eficaz (AE), nascido no Vale do Silício, ganhou influência substancial na definição da abordagem de Washington em relação às políticas tecnológicas, particularmente no que diz respeito à inteligência artificial (IA). Esse movimento racionalista, apoiado por bilionários da tecnologia, começou como uma abordagem baseada em dados para lidar com o sofrimento humano, mas evoluiu para uma força influente com foco intenso nos riscos existenciais da IA. Embora alguns formuladores de políticas acolham as preocupações do AE, outros permanecem céticos quanto à extensão dessas ameaças.

Preocupações da EA com o apocalipse da IA

Uma das características defidos adeptos do Altruísmo Eficaz é a sua apreensão em relação a um apocalipse da IA. Muitos defensores do Altruísmo Eficaz acreditamtronque a humanidade está prestes a criar uma IA superinteligente que poderia potencialmente superar todos os esforços humanos para controlá-la. Essa IA, temem eles, poderia agir de forma autônoma ou cair em mãos erradas, levando a consequências catastróficas. Alguns, incluindo o proeminente pensador do Altruísmo Eficaz, Eliezer Yudkowsky, argumentam que até mesmo um holocausto nuclear seria um resultado preferível a um futuro com IA descontrolada.

A invasão de Washington pela EA

Altruístas eficazes têm chegado em grande número a Washington, D.C., e sua presença está remodelando o cenário das políticas tecnológicas da cidade. Sua abordagem às políticas de IA difere substancialmente da dos profissionais tradicionais da área na capital do país. Enquanto Washington normalmente lida com questões práticas como o perfilamento racial, a desinformação e o deslocamento da força de trabalho, o altruísmo eficaz traz uma perspectiva mais abstratatracexistencial para a discussão.

Os membros do Altruísmo Eficaz estão pressionando ativamente por leis abrangentes de IA, concebidas para alinhar o desenvolvimento da IA ​​com os valores e objetivos humanos. Essas políticas incluem novas regras de relatório para modelos avançados de IA, requisitos de licenciamento para empresas de IA, restrições a modelos de IA de código aberto e até mesmo uma proposta para uma "pausa" completa em experimentos de IA "gigantescos". O objetivo principal é evitar um futuro com IA que possa potencialmente ameaçar a humanidade.

Um choque de culturas

Os defensores do Altruísmo Eficaz costumam abordar Washington com um fervor semelhante ao de convertidos religiosos, criando um choque cultural com a cultura de formulação de políticas da cidade, que é incremental e focada em detalhes. Enquanto os formuladores de políticas em Washington estão acostumados a lidar com questões práticas, os altruístas eficazes enfatizam preocupações existenciaistrac, diferenciando-se em seu estilo e foco.

Críticos têm levantado preocupações sobre a falta de diversidade entre os adeptos do Altruísmo Eficaz. O movimento é predominantemente composto por indivíduos brancos, homens e de origens privilegiadas. Essa composição demográfica gerou ceticismo por parte de alguns legisladores, particularmente aqueles de comunidades marginalizadas, que acreditam que a visão de mundo do Altruísmo Eficaz pode não abordar adequadamente as preocupações relacionadas à Inteligência Artificial daqueles que representam.

O dinheiro que flui para o Altruísmo Eficaz

Um dos principais fatores que impulsionam a influência da IA ​​em Washington é o substancial apoio financeiro que recebe. A Open Philanthropy, uma das principais financiadoras de causas da IA, fundada por Dustin Moskovitz e Cari Tuna, canalizou imensos recursos para grupos de reflexão e programas, colocando pesquisadores de IA e biossegurança em posições cruciais dentro de agências governamentais e gabinetes do Congresso.

A influência dos bilionários da tecnologia no Altruísmo Eficaz é inegável. Figuras proeminentes como Elon Musk e Dustin Moskovitz financiaram generosamente causas e organizações ligadas ao Altruísmo Eficaz, investindo centenas de milhões de dólares em influentes centros de pesquisa e programas que colocaram seus funcionários em posições governamentais importantes. Esse apoio financeiro conferiu ao Altruísmo Eficaz uma vantagem significativa na defesa de suas políticas.

Uma influência crescente

Apesar do ceticismo e das críticas, a influência da EA continua a crescer, moldando o debate sobre políticas de IA em Washington. Profissionais de políticas financiados pela EA estão inseridos em importantes núcleos políticos da cidade, incluindo a Casa Branca, agências federais e influentes centros de pesquisa. Sua presença está direcionando as discussões para os riscos existenciais da IA, que se tornaram um ponto central do discurso político.

Otimistas da IA: surge uma força contrária

Embora a Aceleração Efetiva (AE) tenha ganhado considerável tracem Washington, uma força contrária está começando a surgir. Os otimistas da IA, frequentemente chamados de "aceleracionistas efetivos", estão se opondo às propostas para desacelerar o desenvolvimento e o controle da IA. Esses otimistas, liderados por figuras como Marc Andreessen, estão concentrados principalmente no Vale do Silício e estão determinados a oferecer uma narrativa alternativa.

Nem todos em Washington aceitam prontamente a narrativa apocalíptica da IA. Alguns legisladores permanecem céticos quanto à probabilidade e à gravidade dos riscos existenciais da IA. Eles acreditam que o foco nesses riscos pode desviartracatenção de questões urgentes, como viés da IA, privacidade e segurança cibernética.

Embora as preocupações da EA sobre os riscos existenciais da IA ​​estejam ganhando destaque, um número crescente de legisladores defende uma abordagem mais equilibrada. Eles argumentam que o enfrentamento dos desafios imediatos da IA, como viés e preocupações com a privacidade, não deve ser relegado a segundo plano em relação ao medo de um hipotético apocalipse da IA.

O crescente impacto da EA nas políticas de IA

O movimento do Altruísmo Eficaz, com seu foco nos riscos existenciais da IA ​​e seus influentes apoiadores, teve um impacto significativo no cenário das políticas de IA em Washington. Sua presença e suas políticas estão remodelando o debate em torno da regulamentação da IA, mesmo que alguns legisladores permaneçam cautelosos quanto à gravidade das ameaças. À medida que o discurso sobre políticas de IA continua a evoluir, encontrar um equilíbrio entre abordar as preocupações imediatas e contemplar os riscos existenciais permanece um desafio central para os legisladores na capital do país.