Anthropic Engaja a Opinião do Público Americano para Forjar uma Constituição Revolucionária para a IA

Em uma iniciativa inovadora, a Anthropic, a startup de IA inovadora por trás do popular chatbot Claude, empreendeu um esforço colaborativo com o Collective Intelligence Project (CIP) para aproveitar a sabedoria coletiva de 1.000 cidadãos americanos na elaboração de uma única “Constituição para a IA”. Esta ousada incursão busca desvendar a relação intricada entre processos democráticos e o desenvolvimento da inteligência artificial, posicionando a contribuição pública no cerne da formação dos contornos éticos da tecnologia de IA.

A constituição da Anthropic e a experimentação democrática

A Anthropic, reconhecida por seu método Constitutional AI (CAI), que orienta grandes modelos de linguagem (LLMs) com princípios normativos, deu um passo significativo ao envolver o público americano neste experimento. A constituição da Anthropic, inspirada em documentos globalmente reconhecidos como a Declaração Universal dos Direitos Humanos da ONU, geralmente guia o comportamento do Claude. A empresa, em colaboração com o CIP, empregou o Polis, uma plataforma projetada para coletar opiniões públicas, para buscar input sobre regras para um agente de chat LLM.

A constituição de origem pública revelou sobreposições e disparidades intrigantes com a constituição interna da Anthropic. Embora o experimento tenha estabelecido uma convergência de aproximadamente 50% entre os dois, princípios específicos se destacaram. Por exemplo, as preferências públicas enfatizaram a importância de fornecer informações equilibradas e objetivas, refletindo um compromisso com a compreensão, adaptabilidade, acessibilidade e flexibilidade para indivíduos com deficiências. Essas variações trazem à tona as perspectivas nuances que emergem quando os ideais democráticos intersectam o mundo da IA.

Desvendando a dinâmica da participação pública e o comportamento dos modelos

A publicação do blog da Anthropic nesta semana revelou não apenas a constituição moldada pela participação pública, mas também o treinamento subsequente de um novo sistema de IA contra ela. O experimento revelou áreas em que as preferências do público estavam alinhadas com a visão da Anthropic e onde ocorreram desvios. Notavelmente, declarações públicas conflitantes sobre priorizar o bem-estar coletivo em detrimento dos direitos individuais, ou vice-versa, destacaram a complexidade das considerações éticas na IA.

A avaliação abrangente e meticulosa do CIP do experimento destacou inequivocamente a observação conspicua de que o modelo público, em suas múltiplas manifestações, evidenciou uma redução discernível no viés em uma diversa gama de estereótipos. Notavelmente, o referido modelo exibiu um desempenho que não apenas foi comparável, mas, em certas instâncias, equivalente ao modelo de referência em avaliações que abrangem os domínios intricados da competência matemática, compreensão da linguagem natural e as graduações sutis de utilidade e inofensividade. 

A organização, em sua elucidação criteriosa, sublinhou e acentuou o papel pivotal e indispensável desempenhado pela participação pública na configuração determinista do comportamento da IA. Enfatizando com clareza inabalável, a profunda significância dessa participação na influência profunda e de longo alcance que ela exerce sobre o modus operandi dos esforços humanos, dinâmicas de comunicação e interações interpessoais em uma escala ampla e abrangente.

A jornada democrática rumo a uma constituição para a IA

À medida que o cenário digital testemunha a convergência de ideais democráticos com avanços tecnológicos, o experimento da Anthropic desperta questões cruciais sobre o futuro da ética da IA. Como a sabedoria coletiva do público pode moldar o comportamento dos modelos de IA, e quais implicações isso tem para a relação em evolução entre tecnologia e sociedade? Na busca por uma constituição de IA moldada por perspectivas diversas, a incursão da Anthropic nos leva a ponderar sobre as implicações mais amplas da democratização do desenvolvimento da inteligência artificial.

Neste território inexplorado onde a constituição para a IA se torna um esforço colaborativo, o experimento da Anthropic não apenas remodela o discurso sobre a ética tecnológica, mas também nos convida a contemplar o papel evolutivo dos cidadãos na orientação do curso da inovação. À medida que navegamos pelas interseções inexploradas da democracia e da inteligência artificial, a questão permanece: A voz coletiva do povo pode realmente ser a força orientadora na evolução algorítmica que molda nosso futuro digital?