Quanto perigo reside na adoção de IA? O padrinho da IA deixa o Google

A rápida adoção de IA prepara a humanidade para perigos catastróficos. Em uma reviravolta chocante, o Dr. Geoffrey Hinton, amplamente conhecido como o “Padrinho da IA”, renunciou ao seu cargo no Google e emitiu um aviso severo sobre os perigos da inteligência artificial.

A IA se revela a maior ameaça à humanidade

De acordo com relatórios, o “Padrinho da IA” renunciou ao seu cargo no Google para que pudesse falar mais abertamente sobre os riscos potenciais da tecnologia de inteligência artificial. O Dr. Geoffrey Hinton trabalhou com algoritmos de aprendizado de máquina no Google por mais de uma década antes de deixar a empresa. Seu trabalho de toda a vida em redes neurais lhe rendeu, segundo relatos, a alcunha.

A renúncia do Dr. Geoffrey ocorre em meio a crescentes preocupações sobre o uso da inteligência artificial em várias indústrias, incluindo saúde, finanças e transporte. Os críticos argumentam que a inteligência artificial poderia levar ao deslocamento de empregos, violações de privacidade e até ao desenvolvimento de armas autônomas.

Em uma entrevista ao The New York Times, ele afirmou que estava mais preocupado com o uso da inteligência artificial para inundar a internet com fotos, vídeos e textos falsos, a ponto de as pessoas não “conseguirem mais saber o que é verdade.”

Hinton também estava apreensivo com a tecnologia de inteligência artificial substituindo o trabalho humano. Ele acredita que a inteligência artificial poderia representar uma ameaça à humanidade no futuro devido à sua capacidade de adquirir comportamentos inesperados a partir das enormes quantidades de dados que analisa. Hinton também expressou algum arrependimento sobre o trabalho de sua vida:

Consolo-me com a desculpa normal: Se eu não tivesse feito, alguém teria feito.

Dr. Geoffrey Hinton

A renúncia do Dr. Geoffrey Hinton enviou ondas de choque por toda a indústria de tecnologia, com muitos especialistas pedindo maior supervisão e regulamentação da inteligência artificial. À medida que o debate sobre os riscos e benefícios da inteligência artificial continua, está claro que as contribuições de pioneiros como o Dr. Geoffrey Hinton serão cruciais para moldar o futuro desta tecnologia em rápida evolução.

Muitos especialistas em tecnologia alertam sobre os perigos da inteligência artificial

Nos últimos meses, reguladores, legisladores e líderes da indústria de tecnologia expressaram preocupação quanto ao desenvolvimento da inteligência artificial. Mais de 2.600 executivos e pesquisadores de tecnologia assinaram uma carta aberta em março pedindo uma suspensão temporária do desenvolvimento da inteligência artificial, citando “riscos graves para a sociedade e a humanidade.”

Em abril, doze legisladores da União Europeia assinaram uma carta semelhante, e um projeto de lei recente da UE classifica as ferramentas de inteligência artificial de acordo com seus níveis de risco. Além disso, o Reino Unido fornecerá US$ 125 milhões para uma força-tarefa para o desenvolvimento de “IA segura.”

Relatadamente, ferramentas de inteligência artificial já estão sendo usadas para desinformação, com exemplos recentes de veículos de mídia sendo enganados para publicar notícias falsas. Além disso, um veículo alemão usou inteligência artificial para fingir uma entrevista.

A Binance afirmou em 1º de maio que seu CEO Changpeng “CZ” Zhao era membro de uma organização estudantil do Partido Comunista Chinês, o que foi propagado por um chatbot originado do ChatGPT, conforme evidenciado por capturas de tela do chatbot.

Na semana passada, um grupo de brincalhões também enganou múltiplos veículos de mídia ao redor do mundo, incluindo o Daily Mail e The Independent. O Daily Mail publicou uma história sobre um suposto ator canadense chamado “Saint Von Colucci”, que supostamente morreu após passar por cirurgia plástica para se parecer mais com uma estrela do pop sul-coreana. O Daily Mail posteriormente removeu o artigo.

Quais são os perigos previsíveis da IA para a humanidade?

Existem vários perigos previsíveis da inteligência artificial para a humanidade, alguns dos quais já estão sendo experimentados e outros que podem ocorrer no futuro. Aqui estão alguns dos perigos mais preocupantes:

1. Deslocamento de empregos: À medida que a inteligência artificial se torna mais avançada, há o risco de que ela substitua trabalhadores humanos em muitas indústrias, levando a enormes perdas de empregos e interrupção econômica. Elon Musk observou que há empregos que os robôs assumirão e realizarão melhor do que os humanos

2. Armas autônomas: O desenvolvimento de armas autônomas, que podem tomar decisões sobre quem mirar e quando atacar sem intervenção humana, é uma grande preocupação. Essas armas potencialmente poderiam levar a danos não intencionais, pois poderiam falhar ou ser hackeadas.

3. Consequências não intencionais: À medida que os sistemas de inteligência artificial se tornam mais complexos, há o risco de que produzam consequências não intencionais que possam ser prejudiciais. Por exemplo, um sistema de inteligência artificial projetado para maximizar os lucros de uma empresa poderia inadvertidamente prejudicar o meio ambiente ou a sociedade.

4. Vieses e discriminação: Os sistemas de inteligência artificial são tão imparciais quanto os dados em que são treinados, o que significa que, se os dados usados para treiná-los forem tendenciosos, o sistema de inteligência artificial também será tendencioso. Isso pode ter consequências graves, particularmente em áreas como a justiça criminal, onde sistemas de inteligência artificial tendenciosos poderiam resultar em tratamento injusto de certos grupos.

5. Riscos de cibersegurança: À medida que os sistemas de inteligência artificial se tornam mais avançados, eles também podem se tornar mais vulneráveis a ciberataques. Se um sistema de IA for hackeado, ele potencialmente poderia ser usado para causar danos ou interromper sistemas críticos.

6. Falta de transparência e responsabilidade: Se os sistemas de inteligência artificial estão tomando decisões importantes sobre a vida das pessoas, como se elas recebem um empréstimo ou são libertadas sob fiança, é importante que esses sistemas sejam transparentes e responsáveis. No entanto, há preocupações de que alguns sistemas de inteligência artificial possam ser opacos e difíceis de entender ou auditar.

7. Riscos existenciais: Alguns especialistas levantaram preocupações de que o desenvolvimento da inteligência artificial poderia representar uma ameaça existencial para a humanidade, seja através do desenvolvimento de uma inteligência artificial superinteligente que está além do controle humano ou através do uso de IA de maneira militar ou destrutiva.