A OpenAI cria uma equipe de alinhamento coletivo para aproveitar as percepções do público para o desenvolvimento de IA

A OpenAI, startup líder em inteligência artificial, anunciou a formação de uma nova equipe dedicada a integrar a opinião pública ao desenvolvimento e ao comportamento de seus modelos de IA. A equipe Collective Alignment, apresentada em 16 de janeiro, é resultado direto de um programa de financiamento iniciado pela OpenAI em maio, que concedeu € 1 milhão a dez projetos. Esses projetos focaram na experimentação com "contribuições democráticas para a IA", uma abordagem inovadora que visa incorporar uma gama mais ampla de perspectivas e preocupações à governança da IA.

Ética da IA ​​por meio da colaboração coletiva em uma abordagem democrática

A equipe recém-formada será composta por um grupo diversificado de pesquisadores e engenheiros encarregados de criar sistemas que incluam ativamente a opinião pública. Essa abordagem busca enfrentar uma série de desafios urgentes, como a exclusão digital, grupos polarizados e a representação de vozes diversas no desenvolvimento de IA. Ao interagir com consultores externos e equipes de financiamento, a equipe de Alinhamento Coletivo planeja executar programas piloto que testem a integração da opinião pública nos mecanismos de direcionamento de modelos de IA.

Esta iniciativa está alinhada com o compromisso da OpenAI com um processo democrático na definição dos princípios orientadores dos sistemas de IA. Conforme declarado em uma publicação de maio em seu blog, a empresa defium processo democrático como aquele que “envolve um grupo amplamente representativo de pessoas que trocam opiniões, participam de discussões deliberativas e decidem sobre os resultados por meio de um processo transparente de tomada de decisão”. A equipe de Alinhamento Coletivo incorpora esse princípio, trabalhando para garantir que o desenvolvimento de IA não seja apenas tecnicamente sólido, mas também fundamentado democraticamente.

Participação global e transparência na governança da IA

Um dos aspectos fundamentais desta iniciativa é o seu alcance global. Ao atribuir bolsas de pesquisa em todo o mundo, a OpenAI pretende reunir uma vasta gama de opiniões e ideias, enriquecendo assim o processo de desenvolvimento da IA ​​com diversas perspetivas. Esta abordagem também responde às crescentes preocupações sobre a utilização da IA ​​na formulação de políticas e à necessidade de transparência na forma como a IA é aplicada nos processos democráticos. As sessões de deliberação realizadas após o programa de bolsas revelaram que a participação pública pode aumentar o otimismo relativamente ao papel da IA ​​na sociedade, sugerindo um impacto positivo na perceção pública quando a transparência e a participação são priorizadas.

Além disso, o compromisso da OpenAI em compartilhar o código e os resumos do trabalho do programa de bolsas reforça sua dedicação à abertura e ao progresso colaborativo. Ao disponibilizar esses recursos, a empresa promove um diálogo mais inclusivo e informado sobre IA, permitindo uma participação mais ampla na definição do futuro da tecnologia.

Unindo forças por um futuro de IA responsável

Para construir uma equipe robusta e interdisciplinar, a OpenAI está buscando ativamente engenheiros de pesquisa excepcionais com diversas formações técnicas. O objetivo é formar uma equipe capaz de enfrentar os desafios complexos e multifacetados inerentes ao alinhamento do desenvolvimento de IA com os diversos interesses públicos. A chamada para candidaturas da empresa é um convite aberto para que especialistas do mundo todo contribuam com suas habilidades e perspectivas para esse esforço pioneiro.

A formação da equipe de Alinhamento Coletivo é um passo significativo na jornada da OpenAI rumo ao desenvolvimento responsável de IA. Ao integrar a opinião pública e os processos democráticos à governança da IA, a empresa estabelece um novo padrão na área, reconhecendo a importância das considerações éticas e dos impactos sociais no desenvolvimento tecnológico. À medida que a IA continua a avançar e a permear diversos aspectos da vida, iniciativas como essa tornam-se cada vez mais cruciais para garantir que a tecnologia se desenvolva de forma benéfica e aceitável para a sociedade em geral.