A crescente adoção da IA coloca a humanidade diante de perigos catastróficos. Numa reviravolta chocante, o Dr. Geoffrey Hinton, amplamente conhecido como o “Padrinho da IA”, renunciou ao seu cargo no Google e emitiu um alerta severo sobre os perigos da inteligência artificial.
A IA acaba por ser a maior ameaça à humanidade
Segundo relatos, o “Padrinho da IA” renunciou ao seu cargo no Google para poder falar mais abertamente sobre os riscos potenciais da inteligência artificial. tecnologia. Geoffrey Hinton trabalhou em algoritmos de aprendizado de máquina no Google por mais de uma década antes de deixar a empresa. Seu trabalho ao longo da vida em redes neurais lhe rendeu o apelido.
A renúncia do Dr. Geoffrey ocorre em meio a preocupações crescentes sobre o uso da inteligência artificial. em vários setores, incluindo saúde, finanças e transporte. Os críticos argumentam que a inteligência artificial pode levar ao deslocamento de empregos, violações de privacidade e até mesmo ao desenvolvimento de armas autônomas.
Em entrevista ao The New York Times, ele afirmou que estava mais preocupado com o uso da inteligência artificial para inundar a internet com fotos, vídeos e textos falsos, a ponto de as pessoas não “serem mais capazes de saber o que é verdade”. não mais."
Hinton também estava apreensivo com a possibilidade de a tecnologia de inteligência artificial substituir o trabalho humano. Ele acredita que a inteligência artificial pode representar uma ameaça para a humanidade no futuro devido à sua capacidade de adquirir comportamentos inesperados a partir das enormes quantidades de dados que analisa. Hinton também expressou algum arrependimento pelo trabalho de sua vida:
Consolo-me com a desculpa normal: se eu não tivesse feito isso, outra pessoa o teria feito.
Dr. Geoffrey Hinton
A demissão do Dr. Geoffrey Hinton provocou ondas de choque em toda a indústria tecnológica, com muitos especialistas a apelar a uma maior supervisão e regulamentação da inteligência artificial. À medida que o debate sobre os riscos e benefícios da inteligência artificial continua, fica claro que as contribuições de pioneiros como o Dr. Geoffrey Hinton serão cruciais para moldar o futuro desta tecnologia em rápida evolução.
Muitos especialistas em tecnologia alertam sobre os perigos da inteligência artificial
Nos últimos meses, reguladores, legisladores e líderes da indústria tecnológica expressaram preocupação relativamente ao desenvolvimento da inteligência artificial. Mais de 2.600 executivos e investigadores tecnológicos assinaram uma carta aberta em Março apelando a uma suspensão temporária do desenvolvimento da inteligência artificial, citando “graves riscos para a sociedade e a humanidade”.
Em Abril, doze legisladores da União Europeia assinaram uma carta semelhante, e um recente projecto de lei da UE classifica as ferramentas de inteligência artificial de acordo com os seus níveis de risco. Além disso, o Reino Unido fornecerá 125 milhões de dólares a um grupo de trabalho para o desenvolvimento de “IA segura”.
Alegadamente, ferramentas de inteligência artificial já estão a ser utilizadas para desinformação, com exemplos recentes de meios de comunicação social que foram enganados na publicação de notícias falsas. Além disso, um meio de comunicação alemão usou inteligência artificial para falsificar uma entrevista.
Binance afirmou em 1º de maio que seu CEO Changpeng “CZ” Zhao era membro de uma dent , que foi propagada por um chatbot originário do ChatGPT, como evidenciado por capturas de tela do chatbot.
Na semana passada, um grupo de brincalhões também enganou vários meios de comunicação em todo o mundo, incluindo o Daily Mail e o The Indepen dent . O Daily Mail publicou uma história sobre um suposto ator canadense chamado “Saint Von Colucci”, que teria morrido após passar por uma cirurgia plástica para torná-lo mais parecido com uma estrela pop sul-coreana. O Daily Mail posteriormente removeu o artigo.
Quais são os perigos previsíveis da IA para a humanidade?
Existem vários perigos previsíveis da inteligência artificial para a humanidade, alguns dos quais já estão a ser experimentados e outros que poderão ocorrer no futuro. Aqui estão alguns dos perigos mais preocupantes:
1. Deslocação de empregos: À medida que a inteligência artificial se torna mais avançada, existe o risco de substituir trabalhadores humanos em muitas indústrias, levando a perdas massivas de empregos e a perturbações económicas. Elon Musk observou que existem empregos que os robôs assumirão e terão melhor desempenho do que os humanos
2. Armas autónomas: O desenvolvimento de armas autónomas, que possam tomar decisões sobre quem atacar e quando atacar sem intervenção humana, é uma grande preocupação. Essas armas podem causar danos não intencionais, pois podem funcionar mal ou serem hackeadas.
3. Consequências não intencionais: À medida que os sistemas de inteligência artificial se tornam mais complexos, existe o risco de que possam produzir consequências não intencionais que podem ser prejudiciais. Por exemplo, uma inteligência artificial. Um sistema concebido para maximizar os lucros de uma empresa pode inadvertidamente prejudicar o ambiente ou a sociedade.
4. Preconceito e discriminação: os sistemas de inteligência artificial são tão imparciais quanto os dados sobre os quais são treinados, o que significa que se os dados utilizados para os treinar forem tendenciosos, o sistema de inteligência artificial também será tendencioso. Isto pode ter consequências graves, especialmente em áreas como a justiça criminal, onde sistemas tendenciosos de inteligência artificial podem resultar num tratamento injusto de determinados grupos.
5. Riscos de cibersegurança: À medida que os sistemas de inteligência artificial se tornam mais avançados, também poderão tornar-se mais vulneráveis a ataques cibernéticos. Se um sistema de IA for hackeado, ele poderá ser usado para causar danos ou interromper sistemas críticos.
6. Falta de transparência e responsabilização: Se os sistemas de inteligência artificial estão a tomar decisões importantes sobre a vida das pessoas, tais como a concessão de um empréstimo ou a libertação sob fiança, é importante que estes sistemas sejam transparentes e responsáveis. No entanto, existem preocupações de que alguns sistemas de inteligência artificial possam ser opacos e difíceis de compreender ou auditar.
7. Riscos existenciais: Alguns especialistas levantaram preocupações de que o desenvolvimento da inteligência artificial possa representar uma ameaça existencial para a humanidade, quer através do desenvolvimento de inteligência artificial superinteligente que está fora do controlo humano, quer através da utilização da IA de forma militar ou de outras formas destrutivas.
