Principais Modelos de IA Falham em Transparência, Mostra Novo Índice
Principais Modelos de IA Falham em Transparência, Mostra Novo Índice
- Um novo índice mostra que a maioria dos modelos de IA carece de transparência.
- A transparência é fundamental para os reguladores regulamentarem efetivamente a IA para a segurança do consumidor.
- A falta de transparência também pode dificultar a identificação de vieses, questões de privacidade e outros danos que os modelos de IA podem causar.
Pesquisadores do Centro de Pesquisa de Modelos de Fundação (CRFM) de Stanford descobriram recentemente que os maiores modelos de fundação de IA carecem de transparência, o que pode ser motivo de preocupação, considerando o quão poderosa e rápida a tecnologia está se espalhando pelo mundo.
Principais Modelos de IA Falham em Transparência
Para pontuar a transparência dos 10 principais modelos de fundação, os pesquisadores colaboraram com outros especialistas do MIT e de Princeton para desenvolver o "Índice de Transparência de Modelos de Fundação". O índice avalia 100 aspectos diferentes de transparência com base em como uma empresa constrói um modelo de fundação, como ele funciona e como é utilizado a jusante.
O índice classificou o Llama 2 da Meta em 54%, seguido pelo BLOOMZ da BigScience (53%) e pelo GPT-4 da OpenAI (48%). O PaLM 2 do Google teve uma classificação de transparência de 40%, sendo o modelo menos transparente o Titan Text da Amazon em 12%.
"Isso é uma indicação bastante clara de como essas empresas se comparam aos seus concorrentes, e esperamos que isso motive a melhoria de sua transparência", disse Rishi Bommasani, Líder Social no CRFM.
Por que isso Importa?
A transparência nos modelos de IA é imperativa para prevenir certas ameaças à proteção do consumidor e também garantir que essas ferramentas sejam seguras para uso.
A falta de transparência tornaria mais difícil para as empresas saberem se podem construir aplicações com segurança usando modelos de fundação comerciais ou para acadêmicos confiarem nos modelos para pesquisa.
No lado da regulamentação, é uma prioridade importante. A transparência é crucial para eliminar vieses, violações de privacidade, etc., e para ajudar efetivamente os formuladores de políticas em todo o mundo a criar regras para regular os modelos de IA.
"Se você não tem transparência, os reguladores nem podem fazer as perguntas certas, muito menos tomar medidas nessas áreas", disse Bommasani.
Alguns países, incluindo a Austrália, já começaram a aplicar medidas para garantir a transparência e a integridade dos modelos de IA. Em setembro, Cryptopolitan reportou que o governo australiano capacitou os cidadãos com o direito de solicitar informações significativas sobre como as decisões automatizadas são tomadas.
O governo exige que as empresas de IA forneçam essas informações de forma clara e compreensível, garantindo que os cidadãos possam entender como a IA influencia suas vidas.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Ibiam Wayas
Ibiam Wayas cobre notícias sobre criptomoedas desde 2019. Estudou Ciência da Computação na Universidade Aberta Nacional da Nigéria. Seu trabalho apareceu em várias plataformas de notícias sobre cripto, incluindo Coinfomania, Crypto News Australia e AltcoinBuzz. Com base em sua formação em Ciência da Computação, ele agora se concentra em notícias sobre cripto, robótica e longevidade.
