Sam Altman está preocupado com os perigos silenciosos por trás do ChatGPT

O diretor executivo da OpenAI, Sam Altman, explicou como sua empresa toma decisões sobre o ChatGPT. Ele afirmou que as menores escolhas sobre o comportamento do chatbot o preocupam mais do que políticas abrangentes.

Em entrevista a Tucker Carlson, Altman disse que não dorme bem à noite. "Há muita coisa que me preocupa, mas provavelmente nada mais do que o fato de que, todos os dias, centenas de milhões de pessoas interagem com o nosso modelo", afirmou Altman.

Altman descreveu o suicídio como o problema mais difícil que a equipe enfrenta, mencionando um processo movido por uma família que culpava o ChatGPT pela morte de seu filho adolescente.

“Eles provavelmente falaram sobre [suicídio], e provavelmente não salvamos suas vidas”, disse ele. “Talvez pudéssemos ter dito algo melhor. Talvez pudéssemos ter sido mais proativos. Talvez pudéssemos ter dado um conselho um pouco melhor, tipo, ‘ei, vocês precisam procurar ajuda’”

No mês passado, os pais de Adam Raine entraram com um processo por responsabilidade civil do fabricante e homicídio culposo contra a OpenAI após o suicídio de seu filho de 16 anos. A queixa alegava que o "ChatGPT ajudou ativamente Adam a explorar métodos de suicídio". Logo depois, a OpenAI publicou um artigo intitulado "Ajudando as pessoas quando elas mais precisam", delineando medidas para aprimorar as respostas em "situações delicadas"

Quem define as regras éticas do ChatGPT?

Altman afirmou que o modelo base é treinado com base no conhecimento compartilhado da humanidade e, em seguida, a OpenAI alinha o comportamento e decide o que o sistema não fará. “Este é um problema realmente difícil. Temos muitos usuários agora, e eles vêm de perspectivas de vida muito diferentes… Mas, no geral, fiquei agradavelmente surpreso com a capacidade do modelo de aprender e aplicar uma estrutura moral”, disse ele.

Ele afirmou que a empresa consultou “centenas de filósofos morais e pessoas que refletiram sobre a ética da tecnologia e dos sistemas”. Ele destacou um limite imposto pela empresa: o sistema não fornecerá instruções sobre a criação de armas biológicas.

“Há exemplos claros de situações em que os interesses da sociedade entram em grande tensão com a liberdade do usuário”, disse ele, acrescentando que a empresa “não vai acertar em tudo e também precisa da opinião do mundo”

O que acontece com a privacidade do usuário ao usar o ChatGPT?

Quando Carlson disse que a IA generativa poderia ser usada para "controle totalitário", Altman respondeu que vinha defendendo um "privilégio da IA", segundo o qual o que alguém dissesse a um chatbot seriadent. "Quando você conversa com um médico sobre sua saúde ou com um advogado sobre seus problemas legais, o governo não pode obter essas informações, certo?... Acho que deveríamos ter o mesmo conceito para a IA."

Conforme mencionado em uma Cryptopolitanreportagem da sem salvaguardas legais.

Ele observou que, atualmente, as autoridades americanas podem obter dados de usuários da empresa mediante intimação judicial.

Questionado se os militares usariam o ChatGPT para prejudicar pessoas, Altman não deu uma resposta direta. "Não sei como as pessoas nas forças armadas usam o ChatGPT hoje em dia... mas suspeito que muitas pessoas nas forças armadas estejam consultando o ChatGPT em busca de conselhos", disse ele, acrescentando mais tarde que não tinha certeza "exatamente como se sentir a respeito disso"

A OpenAI é uma das empresas de IA que recebeu um prêmio de 200 milhões de dólares do Departamento de Defesa dos EUA.

Carlson previu que, em sua trajetória atual, a IA generativa, e por extensão Altman, poderia acumular mais poder do que qualquer outra pessoa, chamando o ChatGPT de "religião"

“O que está acontecendo agora é que muita gente usa o ChatGPT e outros chatbots, e todos eles são mais capazes. Todos eles estão fazendo mais coisas. Todos eles conseguem realizar mais, abrir novos negócios, adquirir novos conhecimentos”, disse Altman. Ele também afirmou acreditar que a IA eliminará muitos empregos que existem hoje, principalmente no curto prazo.