Qual o nível de perigo na adoção da IA? O padrinho da IA ​​deixa o Google

A rápida adoção da IA ​​coloca a humanidade em risco de catástrofes. Em uma reviravolta chocante, o Dr. Geoffrey Hinton, amplamente conhecido como o "Pai da IA", renunciou ao seu cargo no Google e emitiu um alerta severo sobre os perigos da inteligência artificial.

A inteligência artificial acaba por se revelar a maior ameaça para a humanidade

Segundo relatos, o "Pai da IA" renunciou ao seu cargo no Google para poder falar mais abertamente sobre os potenciais riscos da tecnologia de inteligência artificial. O Dr. Geoffrey Hinton trabalhou com algoritmos de aprendizado de máquina no Google por mais de uma década antes de deixar a empresa. Seu trabalho de uma vida inteira com redes neurais teria lhe rendido o apelido.

A renúncia do Dr. Geoffrey ocorre em meio a crescentes preocupações sobre o uso da inteligência artificial em diversos setores, incluindo saúde, finanças e transporte. Críticos argumentam que a inteligência artificial pode levar à perda de empregos, violações de privacidade e até mesmo ao desenvolvimento de armas autônomas.

Em entrevista ao The New York Times, ele afirmou que sua maior preocupação era com o uso da inteligência artificial para inundar a internet com fotos, vídeos e textos falsos, a ponto de as pessoas não conseguirem mais "distinguir o que é verdade".

Hinton também estava apreensivo com a possibilidade da inteligência artificial substituir o trabalho humano. Ele acreditava que a inteligência artificial poderia representar uma ameaça para a humanidade no futuro, devido à sua capacidade de adquirir comportamentos inesperados a partir da enorme quantidade de dados que analisa. Hinton também expressou certo arrependimento em relação ao trabalho de sua vida:

Consolo-me com a desculpa de sempre: se eu não tivesse feito, outra pessoa teria feito.

Dr. Geoffrey Hinton

A renúncia do Dr. Geoffrey Hinton causou grande impacto na indústria de tecnologia, com muitos especialistas defendendo maior supervisão e regulamentação da inteligência artificial. À medida que o debate sobre os riscos e benefícios da inteligência artificial continua, fica claro que as contribuições de pioneiros como o Dr. Geoffrey Hinton serão cruciais para moldar o futuro dessa tecnologia em rápida evolução.

Muitos especialistas em tecnologia alertam sobre os perigos da inteligência artificial

Nos últimos meses, reguladores, legisladores e líderes da indústria de tecnologia expressaram preocupação com o desenvolvimento da inteligência artificial. Mais de 2.600 executivos e pesquisadores da área de tecnologia assinaram uma carta aberta em março, pedindo a suspensão temporária do desenvolvimento da inteligência artificial, citando “graves riscos para a sociedade e a humanidade”

Em abril, doze legisladores da União Europeia assinaram uma carta semelhante, e um projeto de lei recente da UE classifica as ferramentas de inteligência artificial de acordo com seus níveis de risco. Além disso, o Reino Unido destinará US$ 125 milhões a uma força-tarefa para o desenvolvimento de “IA segura”

Segundo relatos, ferramentas de inteligência artificial já estão sendo usadas para desinformação, com exemplos recentes de veículos de comunicação sendo enganados para publicar notícias falsas. Além disso, um veículo de comunicação alemão usou inteligência artificial para forjar uma entrevista.

Binance afirmou em 1º de maio que seu CEO, Changpeng “CZ” Zhao, era membro de uma organizaçãodent do Partido Comunista Chinês, informação divulgada por um chatbot originário do ChatGPT, conforme evidenciado por capturas de tela do chatbot.

Na semana passada, um grupo de brincalhões também enganou diversos veículos de comunicação ao redor do mundo, incluindo o Daily Mail e o Thedent. O Daily Mail publicou uma matéria sobre um suposto ator canadense chamado "Saint Von Colucci", que teria morrido após se submeter a uma cirurgia plástica para ficar parecido com uma estrela pop sul-coreana. O Daily Mail posteriormente removeu o artigo.

Quais são os perigos previsíveis da IA ​​para a humanidade?

Existem diversos perigos previsíveis da inteligência artificial para a humanidade, alguns dos quais já estamos vivenciando e outros que podem ocorrer no futuro. Aqui estão alguns dos perigos mais preocupantes:

1. Substituição de empregos: À medida que a inteligência artificial se torna mais avançada, existe o risco de que ela substitua trabalhadores humanos em muitos setores, levando a perdas massivas de empregos e perturbações econômicas. Elon Musk observou que existem empregos que serão assumidos por robôs, que desempenharão suas funções melhor do que os humanos.

2. Armas autônomas: O desenvolvimento de armas autônomas, capazes de tomar decisões sobre quem alvejar e quando atacar sem intervenção humana, é uma grande preocupação. Essas armas podem potencialmente causar danos não intencionais, pois podem apresentar mau funcionamento ou serem hackeadas.

3. Consequências não intencionais: À medida que os sistemas de inteligência artificial se tornam mais complexos, existe o risco de que produzam consequências não intencionais que podem ser prejudiciais. Por exemplo, um sistema de inteligência artificial projetado para maximizar os lucros de uma empresa pode, inadvertidamente, prejudicar o meio ambiente ou a sociedade.

4. Viés e discriminação: os sistemas de inteligência artificial são tão imparciais quanto os dados com os quais são treinados, o que significa que, se os dados usados ​​para treiná-los forem tendenciosos, o sistema de inteligência artificial também será tendencioso. Isso pode ter sérias consequências, particularmente em áreas como a justiça criminal, onde sistemas de inteligência artificial tendenciosos podem resultar em tratamento injusto de certos grupos.

5. Riscos de cibersegurança: À medida que os sistemas de inteligência artificial se tornam mais avançados, também podem se tornar mais vulneráveis ​​a ataques cibernéticos. Se um sistema de IA for invadido, poderá ser usado para causar danos ou interromper sistemas críticos.

6. Falta de transparência e responsabilidade: Se os sistemas de inteligência artificial tomam decisões importantes sobre a vida das pessoas, como a concessão de um empréstimo ou a sua libertação sob fiança, é fundamental que esses sistemas sejam transparentes e responsáveis. No entanto, existem preocupações de que alguns sistemas de inteligência artificial possam ser opacos e difíceis de compreender ou auditar.

7. Riscos existenciais: Alguns especialistas manifestaram preocupação com o fato de o desenvolvimento da inteligência artificial poder representar uma ameaça existencial para a humanidade, seja pelo desenvolvimento de inteligência artificial superinteligente que esteja além do controle humano, seja pelo uso da IA ​​em fins militares ou outros fins destrutivos.