Dar Nomes Verdadeiros a Entidades de IA Minimizará os Seus Comportamentos Negativos?
- Maximizar os resultados positivos e minimizar os danos na IA exige promover a responsabilidade recíproca entre as entidades de IA.
- A individualização, atribuindo a cada entidade de IA uma identidade e endereço únicos, é crucial para estabelecer confiança e responsabilidade nos sistemas de IA.
- A implementação de mecanismos de responsabilização, como sistemas de registro de identificação ou Núcleos de Alma vinculados ao hardware físico, pode permitir a aplicação da lei e tornar as entidades de IA responsáveis por suas ações.
À medida que o campo da inteligência artificial (IA) avança, as preocupações sobre potenciais consequências negativas levaram os especialistas a pedir uma pausa no desenvolvimento de IA. O desafio reside em maximizar os benefícios da IA enquanto se minimizam os riscos associados ao seu uso indevido. Existem diferentes formatos de entidades de IA que exigem uma abordagem novel para promover a responsabilidade e o comportamento responsável nos sistemas de IA. Que tal explorar a ideia de Vernor Vinge de um “nome verdadeiro”, uma proposta para incentivar as entidades de IA a competir e cooperar enquanto mantêm a sua individualidade distinta?
Os formatos padrão de entidades de IA
As discussões atuais sobre o controlo da IA baseiam-se em três suposições: o domínio de algumas entidades principais como Microsoft e Google, o potencial de replicação e distribuição infinitas de sistemas de IA, e a possibilidade de estes sistemas convergirem para uma entidade poderosa e singular, semelhante ao personagem fictício Skynet dos filmes de Terminator. No entanto, nenhum destes formatos resolve o nosso dilema de equilibrar resultados positivos com danos potenciais.
À medida que os sistemas de IA ganham autonomia e se tornam mais rápidos que os humanos, os métodos tradicionais de regulação e controlo tornam-se inadequados. Para abordar isto, sugere-se promover a responsabilidade recíproca entre as próprias entidades de IA. Ao fomentar a competição, os sistemas de IA podem manter uns aos outros responsáveis, detetando e denunciando comportamentos negativos.
A individuação refere-se à necessidade de cada entidade de IA ter uma identidade única e um endereço no mundo real. Este conceito permite o estabelecimento de confiança e responsabilidade entre os sistemas de IA. Baseando-se na ideia de Vernor Vinge de um “nome verdadeiro”, propõe-se incentivar as entidades de IA a competir e cooperar enquanto mantêm a sua individualidade distinta.
Implementação de mecanismos de responsabilidade
Para garantir que as entidades de IA são responsáveis, é necessário criar um sistema de registo de identificação. Este sistema poderia basear-se na tecnologia blockchain ou exigir que os sistemas de IA mantivessem um “Núcleo de Alma” (SK) ligado à memória de hardware físico. O SK serviria como prova verificável da identidade de uma entidade e permitiria que outros a responsabilizassem pelas suas ações.
Confiar apenas em regulamentações pode não ser suficiente, dada a velocidade a que a IA evolui. Em vez disso, propõe-se um sistema onde a recusa em fazer negócios com entidades de IA que não possuam identificação adequada se torne um mecanismo de aplicação robusto. Ao criar incentivos para denunciantes e para a denúncia de comportamentos negativos, as entidades de IA seriam motivadas a manter um quadro de responsabilidade competitivo.
Cooperação entre entidades de IA
Por que é que entidades de IA altamente inteligentes cooperariam num tal sistema? A resposta é que os formatos tradicionais de controlo, como agências centrais ou estruturas de poder monolíticas, não são opções viáveis. Em vez disso, ao promover um sistema de responsabilidade competitiva, as entidades de IA podem garantir que os seus interesses estão protegidos, evitando o caos ou a concentração de poder.
Promover a responsabilidade da IA é essencial para maximizar o impacto positivo da IA e minimizar danos potenciais. Ao fomentar a individuação, criar sistemas de identificação robustos e incentivar a responsabilidade competitiva, podemos criar um quadro que permita aos sistemas de IA manter uns aos outros responsáveis e adaptar-se aos tempos em mudança. Esta abordagem garante a entrada contínua da sociedade humana, proporcionando um equilíbrio entre o avanço da IA e o comportamento responsável.
Vernor Steffen Vinge é um Professor de Matemática reformado da San Diego State University, cientista da computação e autor de ficção científica. É mais conhecido pelos seus romances vencedores do Prémio Hugo A Fire Upon The Deep (1992), A Deepness in the Sky (1999) e Rainbows End (2006), as suas novelas vencedoras do Prémio Hugo Fast Times at Fairmont High (2002) e The Cookie Monster (2004), bem como pelo seu ensaio 1993 “The Coming Technological Singularity”, no qual argumenta que o crescimento exponencial na tecnologia atingirá um ponto para além do qual nem sequer podemos especular sobre as consequências.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
