- Os especialistas em IA de Princeton, incluindo Arvind Narayanan e Sayash Kapoor, são reconhecidos na lista de IA 2023 do TIME100 por seu trabalho sobre viés e ética em IA.
- Ex-alunos de Princeton, Dario Amodei, a Dra. Fei-Fei Li e Eric Schmidt, contribuem para a inovação em IA e questões éticas globalmente.
- A abordagem multifacetada da universidade em relação à ética em IA, incluindo pesquisas sobre mitigação de viés, destaca seu compromisso com o desenvolvimento responsável de IA.
Na prestigiosa lista TIME100 de Inteligência Artificial de 2023 da TIME Magazine, a Universidade de Princeton orgulhosamente ostenta uma representação significativa de figuras proeminentes em inteligência artificial (IA). Essas pessoas incluem críticos dedicados dos vieses da IA, pioneiros que alertaram sobre riscos potenciais e o CEO de uma empresa de IA profundamente comprometida com a segurança e o alinhamento com os interesses humanos.
Arvind Narayanan: Uma voz contra o viés da IA
Entre essas luminárias está Arvind Narayanan, um distinto professor de ciência da computação da universidade. Narayanan tem sido um crítico vocal dos vieses inerentes aos sistemas de IA. Sua palestra viral de 2019, intitulada “Como reconhecer a ‘snake oil’ da IA”, destacou as falhas nas tecnologias de IA preditiva, que frequentemente produzem resultados influenciados por preconceitos humanos. Narayanan apontou sistemas de IA usados em avaliações de candidatos a emprego como um exemplo de como os vieses podem infiltrar-se na tomada de decisões orientada por IA.
Narayanan também lidera o Projeto de Transparência e Responsabilidade da Web de Princeton, uma iniciativa vital que busca desvendar a extensão da coleta de dados dos usuários pelas empresas e como ela é utilizada. Além disso, ele desempenhou um papel fundamental no grupo de trabalho sobre IA generativa organizado pelo Escritório da Dean do College, Jill Dolan, onde discutiram os desafios e os potenciais vieses associados à IA.
Em um e-mail para The Daily Princetonian, Narayanan enfatizou suas preocupações: “Minha visão é que a IA preditiva é fundamentalmente duvidosa. As razões pelas quais o futuro é difícil de prever são intrínsecas e é improvável que sejam corrigidas. Nem toda IA preditiva é ‘snake oil’, mas quando é comercializada de forma a ocultar suas limitações, isso é um problema.”
Sayash Kapoor: Parceiro na Advocacia
Sayash Kapoor, um estudante de doutorado que trabalha sob a orientação de Narayanan, juntou-se ao professor para coautoria de um livro forthcoming intitulado “AI Snake Oil”. Agendado para publicação em 2024, este livro promete aprofundar o fenômeno da IA enviesada e suas implicações. Kapoor e Narayanan também mantêm uma página popular no Substack com o mesmo nome, promovendo a conscientização e o diálogo sobre os desafios da IA.
Pioneiros da IA entre os ex-alunos de Princeton
Três ex-alunos da Universidade também conquistaram lugares na lista TIME100 de IA por suas contribuições para o campo:
Dario Amodei: CEO da Anthropic
Dario Amodei, ex-aluno de Princeton, ocupa o cargo de CEO na Anthropic, um laboratório de IA de renome global. A Anthropic é conhecida por ser pioneira na “IA Constitucional”, uma abordagem inovadora para alinhar sistemas de IA com os valores humanos por meio de princípios explícitos. Amodei concluiu seu doutorado em física em Princeton, trabalhando sob a orientação do professor de neurociência Michael Berry e do professor de física William Bialek. Antes de liderar a Anthropic, ele comandou as equipes de GPT-2 e GPT-3 na OpenAI.
Dra. Fei-Fei Li, de Stanford: Campeã da Diversidade
A ex-aluna de Princeton, Dra. Fei-Fei Li, que se formou na Universidade em 1999, desempenhou um papel crucial na ampliação da diversidade dentro da IA e da ciência da computação. Ela co-fundou a AI4ALL, uma organização sem fins lucrativos que promove iniciativas de diversidade e inclusão na IA, incluindo acampamentos de ensino médio. A Dra. Li também é celebrada por seu trabalho pioneiro em sistemas de reconhecimento de imagens por IA altamente precisos. Nos últimos anos, ela tem defendido um financiamento governamental substancial para garantir o desenvolvimento seguro e regulamentado das tecnologias de IA.
Eric Schmidt: Abordando o impacto da IA na democracia
Eric Schmidt, ex-aluno de Princeton e ex-CEO do Google, levantou preocupações sobre a rápida transformação da sociedade pela IA sem salvaguardas regulatórias adequadas. Schmidt, agora co-fundador da Schmidt Features, preocupa-se que a IA, particularmente a IA subjacente a muitas plataformas de mídia social, possa comprometer a integridade das eleições políticas, facilitando a disseminação de desinformação. Suas percepções destacam a necessidade urgente de um desenvolvimento responsável de IA.
Contribuições multifacetadas de Princeton para a ética da IA
Arvind Narayanan destaca os diversos projetos realizados por estudiosos da universidade para mitigar os danos potenciais da IA, incluindo vieses e riscos existenciais. Estes incluem:
- A equipe da professora Aleksandra Korolova investiga algoritmos discriminatórios de segmentação de anúncios e possíveis soluções.
- A pesquisa etnográfica da bolsista pós-doutoranda Shazeda Ahmed sobre a comunidade fechada de segurança da IA e suas contribuições políticas em relação à IA e aos riscos existenciais.
- A equipe da professora Olga Russakovsky é renomada por desenvolver algoritmos avançados de visão computacional enquanto aborda ativamente os vieses.
- A pesquisa de Sayash Kapoor e Arvind Narayanan analisa o impacto da IA generativa nas redes sociais.
Esses esforços representam coletivamente o compromisso da Universidade de Princeton em abordar as preocupações éticas em torno da tecnologia de IA.
Reconhecimento global para líderes de IA
As luminárias de IA de Princeton se juntam a um grupo distinto de líderes globais reconhecidos na lista TIME100 de IA. Figuras notáveis incluem a cantora e compositora canadense Grimes e o CEO da OpenAI, Sam Altman. A editora executiva da TIME, Naina Bajekal, enfatizou o foco da lista em líderes da indústria, inovadores e defensores éticos que estão moldando o cenário da IA e abordando desafios sociais prementes.
À medida que a IA continua a evoluir e se integrar à sociedade, o trabalho desses princetonianos serve como um testemunho da importância da responsabilidade ética no desenvolvimento da IA. Seu compromisso em abordar vieses, riscos e preocupações éticas destaca o papel vital que os líderes acadêmicos e da indústria desempenham na moldagem do futuro da inteligência artificial. A Universidade de Princeton permanece na vanguarda desse discurso crítico, impulsionando a inovação enquanto defende práticas responsáveis de IA.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não nos responsabilizamos por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente pesquisa independente e/ou consulta com um profissional qualificado antes de tomar qualquer decisão de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
