A Anthropic busca a opinião pública americana para forjar uma Constituição revolucionária para a IA

Em uma iniciativa inovadora, a Anthropic, a startup de IA por trás do popular chatbot Claude, firmou uma parceria com o Collective Intelligence Project (CIP) para aproveitar a sabedoria coletiva de 1.000 cidadãos americanos na elaboração de uma “Constituição para IA” singular. Essa ousada empreitada busca desvendar a complexa relação entre os processos democráticos e o desenvolvimento da inteligência artificial, colocando a participação pública no centro da definição dos princípios éticos da tecnologia de IA.

Constituição antropológica e experimentação democrática

A Anthropic, reconhecida por seu método de IA Constitucional (IAC), que orienta grandes modelos de linguagem (MLLs) com princípios normativos, deu um passo significativo ao envolver o público americano neste experimento. A constituição da Anthropic, inspirada em documentos globalmente reconhecidos como a Declaração Universal dos Direitos Humanos da ONU, geralmente guia o comportamento de Claude. A empresa, em colaboração com a CIP, utilizou a Polis, uma plataforma criada para coletar opiniões públicas, para obter contribuições sobre as regras de um agente de bate-papo de um MLL.

A constituição pública revelou sobreposições e disparidades intrigantes com a constituição interna da Anthropic. Embora o experimento tenha estabelecido uma convergência de aproximadamente 50% entre as duas, princípios específicos se destacaram. Por exemplo, as preferências do público enfatizaram a importância de fornecer informações equilibradas e objetivas, refletindo um compromisso com a compreensão, a adaptabilidade, a acessibilidade e a flexibilidade para pessoas com deficiência. Essas variações trazem à tona as perspectivas sutis que emergem quando os ideais democráticos se cruzam com o mundo da IA.

Revelando a dinâmica da participação pública e o comportamento do modelo.

A publicação desta semana no blog da Anthropic revelou não apenas a constituição moldada pela opinião pública, mas também o treinamento subsequente de um novo sistema de IA com base nela. O experimento revelou áreas em que as preferências do público se alinhavam com a visão da Anthropic e onde ocorreram divergências. Notavelmente, declarações públicas conflitantes sobre a priorização do bem-estar coletivo em detrimento dos direitos individuais, ou vice-versa, destacaram a complexidade das considerações éticas em IA.

A avaliação abrangente e meticulosa do experimento realizada pelo CIP destacou inequivocamente a observação notável de que o modelo público, em suas múltiplas manifestações, apresentou uma redução perceptível no viés em uma ampla gama de estereótipos. Notavelmente, o referido modelo exibiu um desempenho não apenas comparável, mas, em certos casos, equivalente ao modelo de referência em avaliações que abrangem os domínios complexos da capacidadematic, da compreensão da linguagem natural e das nuances de prestatividade e inofensividade. 

A organização, em sua criteriosa elucidação, sublinhou e enfatizou o papel crucial e indispensável da participação pública na configuração determinante do comportamento da IA. Ressaltou, com clareza inabalável, a profunda importância dessa participação na influência abrangente e de longo alcance que exerce sobre o modo de operação das atividades humanas, a dinâmica da comunicação e as interações interpessoais em uma escala grandiosa e abrangente.

A odisseia democrática rumo a uma constituição para a IA

À medida que o cenário digital testemunha a convergência de ideais democráticos com avanços tecnológicos, o experimento da Anthropic suscita questões cruciais sobre o futuro da ética da IA. Como a sabedoria coletiva do público pode moldar o comportamento dos modelos de IAe quais as implicações disso para a relação em constante evolução entre tecnologia e sociedade? Na busca por uma constituição da IA ​​moldada por diversas perspectivas, a iniciativa da Anthropic nos leva a refletir sobre as implicações mais amplas da democratização do desenvolvimento da inteligência artificial.

Neste território inexplorado, onde a constituição da IA ​​se torna um esforço colaborativo, o experimento antrópico não apenas reformula o discurso sobre ética tecnológica, mas também nos convida a refletir sobre o papel em constante evolução dos cidadãos na condução do curso da inovação. Ao navegarmos pelas interseções ainda desconhecidas entre democracia e inteligência artificial, a pergunta permanece: pode a voz coletiva do povo ser verdadeiramente a força motriz na evolução algorítmica que molda nosso futuro digital?