Le directeur technique Ripple met en lumière la controverse autour de l'IA et du livre dangereux surdentdes champignons

David Schwartz, directeur technique de Ripple, a récemment publié sur son compte Reddit un message devenu viral, racontant l'histoire d'une famille admise à l'hôpital après avoir consommé des champignons vénéneux, qu'ils ontdentà l'aide d'un livre généré par une IA.

D'après un message publié sur Reddit, la famille a utilisé un guide d'dentdes champignons acheté dans une grande enseigne. Ce guide, qui fournissait des images et des textes générés par une IA pourdentles champignons, s'est révélé toxique. La famille a consommé les champignons en suivant les indications du guide, et tous ses membres ont été hospitalisés, ce qui soulève de sérieuses questions quant à la fiabilité de l'IA. 

Le directeur technique Ripple établit des parallèles avec un procès historique

L'article précisait également que le livre contenait non seulement des images générées par IA, mais aussi des réponses de chatbot intégrées au texte, suggérant ainsi une absence d'intervention humaine. Bien que le vendeur ait apparemment remboursé l'auteur, cette affaire a suscité des interrogations quant à la possibilité que d'autres ouvrages de piètre qualité, écrits par IA, soient mis en vente. 

Dans sa publication sur les réseaux sociaux, Schwartz a comparé cet événement à un procès célèbre du début des années 1990. Le dirigeant Ripple a cité l'affaire Winter contre GP Putnam's Sons, un arrêt de la Cour d'appel de 1991. Cette affaire concerne deux jeunes adultes qui avaient décidé d'acheter un ouvrage intitulé « L'Encyclopédie des champignons » comme ouvrage de référence.

Le couple a été contraint d'engager des poursuites contre P. Putnam's Sons pour responsabilité du fait des produits, négligence et fausses déclarations. Bien que les deux cueilleurs de champignons aient failli perdre la vie à cause des informations erronées contenues dans le livre, le tribunal a donné raison à l'éditeur. 

Les guides d'dentfont l'objet d'un examen minutieux concernant l'utilisation de l'IA

L'utilisation de ce cas par Schwartz démontre que le recours à l'IA dans la création de contenu n'est pas sans conséquences juridiques. La question de savoir si les livres générés par l'IA pourront être soumis à des procédures légales similaires, compte tenu de la quantité croissante de contenu produit grâce à cette technologie, reste ouverte. 

Schwartz a publié un article sur X concernant Quora, un site web populaire de questions-réponses. Ce n'est pas la première fois que le Ripple critique ce site et son utilisation de l'IA. Dans son article, Schwartz a souligné certains problèmes liés aux questions générées par l'IA de Quora, qu'il a qualifiées de « résultats de l'IA ».