O Conselho da OpenAI definirá o que é Inteligência Artificial Geral (AGI): implicações para a Microsoft e o mundo

A estrutura de governança da OpenAI e o papel de seu conselho na determinação da conquista da Inteligência Artificial Geral (AGI) têm levantado questões sobre o futuro de sua parceria com a Microsoft e o impacto mais amplo no mundo. A complexa estrutura de lucro limitada da organização, típica de entidades sem fins lucrativos, e o potencial conflito entre interesses com e sem fins lucrativos têm sido alvo de escrutínio.

defide Inteligência Artificial Geral (AGI) da OpenAI

A OpenAI, uma das principais empresas no campo da inteligência artificial, estabeleceu uma meta defi: criar uma IAG (Inteligência Artificial Geral), que descreve como "um sistema altamente autônomo que supera os humanos na maioria das tarefas economicamente valiosas". A conquista da IAG é um marco crucial que pode remodelar indústrias e sociedades em todo o mundo. No entanto, a natureza ambígua e em constante evolução da IAG torna desafiador estabelecer critérios claros para sua obtenção.

A OpenAI opera sob uma estrutura de governança única, onde um conselho administrativo sem fins lucrativos, composto por seis membros, detém a autoridade para determinar quando a Inteligência Artificial Geral (IAG) foi alcançada. Este conselho inclui executivos da OpenAI, como o CEO Sam Altman, bem como figuras externas com experiência em IA e políticas públicas. A composição do conselho tem atraído atenção devido a potenciais conflitos de interesse e à influência do movimento do Altruísmo Eficaz.

Investimento e participação da Microsoft na OpenAI

A Microsoft é uma investidora significativa na OpenAI e tem um interesse direto no sucesso da organização em alcançar a Inteligência Artificial Geral (IAG). Apesar de ser uma entidade com fins lucrativos, a OpenAI Global, LLC, é totalmente controlada pela organização sem fins lucrativos OpenAI e está legalmente obrigada a seguir a missão desta. A disposição da Microsoft em apoiar a missão da OpenAI de fornecer IAG segura e benéfica desempenhou um papel crucial em sua parceria.

O papel do conselho da OpenAI na definição da Inteligência Artificial Geral (AGI) levantou questões sobre o futuro do envolvimento da Microsoft. Uma vez alcançada a AGI, os acordos comerciais da OpenAI, incluindo as licenças de propriedade intelectual, não se aplicarão mais à tecnologia pós-AGI. O substancial investimento da Microsoft pode enfrentar incertezas caso o conselho da OpenAI decida priorizar os interesses da organização sem fins lucrativos em detrimento dos interesses comerciais.

Especialistas jurídicos se manifestaram sobre a natureza incomum do conselho da OpenAI tomar decisões operacionais sobre Inteligência Artificial Geral (IAG). Embora possa não haver impedimento legal, o potencial de conflitos entre os interesses de uma organização sem fins lucrativos e de uma empresa com fins lucrativos permanece uma preocupação. Alguns argumentam que o direito societário geralmente impõe aos diretores o dever de supervisionar questões críticas para a missão da empresa, o que pode justificar a abordagem da OpenAI.

Diversidade e perspectiva

Os críticos argumentam que o foco da OpenAI na Inteligência Artificial Geral (IAG) ofuscou os impactos atuais das tecnologias e ferramentas de IA. Preocupações foram levantadas sobre a diversidade de perspectivas dentro da OpenAI e de seu conselho. No entanto, o debate sobre a composição do conselho podetraca atenção de questões mais fundamentais sobre a legitimidade da missão da OpenAI e suas alegações em relação à IAG.

A defimutável de Inteligência Artificial Geral (IAG) da OpenAI, que sugere que a primeira IAG será apenas um ponto ao longo do contínuo da inteligência, aumenta a complexidade da situação. O CEO Sam Altman vislumbra um futuro com múltiplas IAGs para evitar a concentração de poder. Essas defiem constante evolução levantam questões sobre as implicações práticas para a parceria com a Microsoft.