O diretor de tecnologia Ripple destaca a controvérsia sobre IA relacionada ao perigoso livro dedentde cogumelos

David Schwartz, diretor de tecnologia da Ripple, publicou recentemente em sua conta no Reddit um post que viralizou e conta a história de uma família que foi hospitalizada após consumir cogumelos venenosos, os quais foramdentpor meio de um guia gerado por inteligência artificial.

De acordo com a publicação no Reddit, a família usou um livro dedentde cogumelos que compraram em uma loja popular. A publicação afirmava que o livro fornecia imagens e textos criados por IA paradentos cogumelos, mas todos eram venenosos. A família consumiu os cogumelos com a ajuda do livro escrito pela IA e todos foram hospitalizados, o que levanta sérias dúvidas sobre a veracidade das informações da IA. 

O diretor de tecnologia Ripple traça paralelos com um processo judicial histórico

A publicação também afirmava que o livro não só continha imagens geradas por IA, como também respostas de chatbot no texto, sugerindo que nenhum ser humano participou da sua criação. Embora o vendedor aparentemente tenha reembolsado o valor do livro, o caso levantou questionamentos sobre a possibilidade de existirem outros livros de baixa qualidade escritos por IA à venda. 

Em sua publicação nas redes sociais, Schwartz comparou esse evento a um processo judicial bastante conhecido ocorrido no início da década de 1990. O executivo Ripple citou o caso Winter v. GP Putnam's Sons, de 1991, julgado pelo Tribunal de Apelações. O caso envolve dois jovens adultos que decidiram comprar um livro chamado "A Enciclopédia dos Cogumelos" para usar como referência.

O casal foi obrigado a recorrer à justiça contra a editora P. Putnam's Sons por responsabilidade pelo produto, negligência e propaganda enganosa. Embora os dois caçadores de cogumelos quase tenham perdido a vida devido às informações incorretas contidas no livro, o tribunal decidiu a favor da editora. 

Guias dedentenfrentam escrutínio devido ao uso de IA

O uso que Schwartz faz desse caso demonstra como a utilização de IA na criação de conteúdo não é algo positivo e tem implicações legais. Resta saber se livros gerados por IA podem ser submetidos a procedimentos legais semelhantes, à medida que mais e mais conteúdo é produzido com o auxílio de IA. 

Schwartz escreveu uma publicação no X sobre o Quora, um popular site de perguntas e respostas. Esta não é a primeira vez que o Ripple critica este site e a forma como a IA é utilizada nele. Em sua publicação, Schwartz destacou alguns dos problemas com as perguntas geradas pela IA do Quora, que ele chamou de "lixo gerado por IA".