ChatGPT finalmente diz ‘David Mayer’ mas falha em 5 nomes no meio de processos judiciais de IA
Shraddha Sharma
2 min de leitura
- O ChatGPT não mais trava quando questionado sobre 'David Mayer'.
- A ferramenta da OpenAI deixa de responder quando questionada sobre outros nomes específicos.
- Processos judiciais em andamento destacam a necessidade de as empresas de IA priorizarem a privacidade de dados.
Ferramentas de inteligência artificial (IA) como o ChatGPT da OpenAI podem realizar várias funções, mas os usuários ocasionalmente descobem falhas. Recentemente, surgiram relatos de que o ChatGPT parou de funcionar quando perguntado sobre certos nomes, como David Mayer.
A comunidade agora questiona o manuseio do modelo de dados sensíveis ou legalmente complexos. Podemos esperar que as ferramentas de IA abordem mais preocupações com privacidade no meio de vários processos judiciais.
ChatGPT não revela quem é David Mayer
setembro — O ChatGPT supostamente parou de funcionar quando perguntado sobre nomes específicos no último fim de semana. TechCrunch citaram usuários relatando uma lista de nomes proibidos, que incluía “David Mayer”, que fazia o chatbot congelar ou travar sem responder.
Quando o Cryptopolitan verificou como a caixa de chat baseada no modelo de linguagem Generative Pre-trained Transformer (GPT) respondeu na terça-feira, os resultados foram semelhantes, mas não exatamente os mesmos.
Acontece que David Mayer não é mais um nome proibido. De acordo com o ChatGPT-4o, Mayer é um nome bastante comum, embora, não pudesse especificar a pessoa. Quando perguntado sobre a falha anterior, o ChatGPT descartou dizendo:”
Entendo a que você se refere! Pode ter havido casos em que falhas ou erros ocorreram com formatação, ortografia ou geração de conteúdo, mas nada especificamente ligado a soletrar consistentemente o nome ‘David Mayer’ de forma errada.
Também recomendou relatar respostas ‘estranhas e inconsistentes’.
Outros nomes—Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber e Guido Scorza—causaram a falha do sistema no fim de semana e novamente na terça-feira quando verificamos.
O relatório encontra que esses nomes pertencem a figuras públicas ou semi-públicas, como jornalistas, advogados ou pessoas que podem ter estado envolvidas em disputas de privacidade ou legais com a OpenAI. Por exemplo, o indivíduo chamado Hood supostamente foi mal representado pelo ChatGPT no passado, levando a discussões legais com a OpenAI.
Processos judiciais se acumularam na IA Essas são opções significativamente mais baratas e possuem capacidades comparáveis às das versões americanas principais.
A TechCrunch adivinha que a OpenAI pode estar cautelosa sobre a lista de nomes para lidar com dados sensíveis ou legalmente protegidos de forma diferente. Poderia possivelmente ser para cumprir leis de privacidade ou acordos legais. No entanto, uma falha no código pode fazer com que o chatbot falhe sempre que informações forem solicitadas sobre os nomes mencionados.
Ao longo dos anos, vários casos foram foram movidos entre empresas de IA por gerar informações incorretas ou violar a privacidade dos dados quadro. Em um caso de 2020, Janecyk v. International Business Machines, o fotógrafo Tim Janecyk afirmou que a IBM usou indevidamente imagens tiradas pelo fotógrafo para fins de pesquisa sem consentimento. Não muito tempo atrás, a IA Gemini do Google enfrentou críticas por suas capacidades de geração de imagens, o que levou à sua suspensão temporária. Na ação coletiva PM v. OpenAI LP apresentada em 2023, a OpenAI foi acusada de usar “informações privadas roubadas” sem consentimento.
Em 2024, a agência de notícias indiana ANI supostamente processou a OpenAI por usar o material protegido por direitos autorais da empresa de mídia para treinar o LLM.
À medida que as ferramentas de IA se tornam cada vez mais integradas ao cotidiano, incidentes como esses destacam a importância das considerações éticas e legais em seu desenvolvimento. Seja protegendo a privacidade, garantindo informações precisas ou evitando falhas ligadas a dados sensíveis, empresas como a OpenAI enfrentam a tarefa de construir confiança enquanto refinam sua tecnologia. Esses desafios nos lembram que mesmo os sistemas de IA mais avançados requerem vigilância contínua para abordar complexidades técnicas, éticas e legais.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Shraddha Sharma
Sharma traz cerca de cinco anos de experiência como jornalista financeira, com formação em banca de investimentos e finanças. Ela começou sua carreira na Índia como estagiária de notícias empresariais e produtora de vídeo. Ela descobriu o cripto durante esse período, mas o lockdown causado pela pandemia lhe deu tempo para desacelerar e entender melhor essa classe de ativos. Sharma tem se dedicado a compreender as tecnologias emergentes à medida que influenciam os mercados mais amplos.
