Des produits bizarres générés par l'IA inondent les marketplaces en ligne : comment naviguer dans le chaos

Dans l'immense étendue des marketplaces en ligne comme Amazon et Etsy, une tendance particulière émerge qui peut facilement passer inaperçue jusqu'à ce que vous y regardiez de plus près. Des produits comme « Floral Whispers, Coloring Book for Women » font leur entrée dans nos vies et portent l'empreinte indélébile de l'intelligence artificielle. Ces merveilles générées par l'IA, des livres de développement personnel à l'art mural et aux mugs, présentent souvent des caractéristiques déformées et des bizarreries qui trahissent leur origine non conventionnelle.

L'ère des marchandises générées par l'IA

L'intelligence artificielle facilement accessible redéfinit la façon dont nous communiquons, travaillons et créons. Maintenant, elle s'infiltre dans le commerce électronique, car les livres de développement personnel, mugs, art mural et livres de coloriage générés par l'IA prolifèrent dans les marketplaces en ligne telles qu'Amazon et Etsy. Les vendeurs tiers responsables de ces produits ne sont pas tenus de divulguer leur nature générée par l'IA, rendant presque impossible pour les consommateurs de distinguer les articles fabriqués par des humains de ceux générés par l'IA. La conséquence ? Une vague de produits frauduleux inondant un paysage de shopping en ligne déjà déroutant, risquant de faire recevoir aux acheteurs imprudents des produits de faible qualité ou de saper involontairement les moyens de subsistance des artistes réels.

Les périls des marchandises générées par l'IA non identifiées

Alors que certains créateurs d'IA sont transparents sur leur processus et produisent des produits générés par l'IA à des fins de nouveauté, d'autres se livrent à des pratiques moins louables. Ces vendeurs peu scrupuleux exploitent l'IA pour réduire les coûts et accélérer la production, tirant parti des catégories de produits populaires pour des profits faciles. De plus, les questions de droits d'auteur et de propriété intellectuelle entourant l'IA restent non résolues. De nombreux outils d'IA générative, tels que ChatGPT d'OpenAI et le générateur d'images Dall-E, ont été entraînés sur du contenu extrait d'Internet, y compris du matériel protégé par le droit d'auteur, laissant les créateurs originaux non rémunérés et non crédités.

L'IA peut même être utilisée pour imiter des créateurs spécifiques, suscitant des préoccupations pour des artistes comme l'artiste polonais Greg Rutkowski et l'auteure Jane Friedman, qui ont découvert des livres sur Amazon utilisant son nom et imitant son style d'écriture. De tels cas soulèvent des questions sur l'authenticité du contenu généré par l'IA et son potentiel à induire les consommateurs en erreur.

Le dilemme de l'exactitude

Au-delà de l'authenticité et de la légalité, le contenu généré par l'IA pose un problème plus profond : l'exactitude. Le texte généré par l'IA n'est pas optimisé pour générer la vérité ; il est conçu pour produire un texte captivant. Cette disparité entre la génération de contenu captivant et la transmission d'informations exactes peut avoir des conséquences désastreuses, en particulier dans des domaines comme la santé ou l'éducation. Par exemple, Amazon a récemment retiré un guide sur la cueillette de champignons, que certains lecteurs soupçonnaient d'avoir été généré par l'IA et qui aurait pu fournir des conseils erronés sur l'édibilité des champignons.

Recherche de solutions pour les produits IA

Les grandes entreprises de commerce électronique comme Amazon et Etsy n'ont pas interdit le contenu généré par l'IA sur leurs plateformes, ni n'exigent l'étiquetage ou la divulgation des produits principalement produits à l'aide d'outils d'IA. Ce manque de réglementation laisse les consommateurs dans une position vulnérable.

L'Authors Guild, qui représente les auteurs dont le travail a été utilisé pour entraîner des outils d'IA, plaide en faveur de la législation et exhorte les entreprises à divulguer lorsque l'IA écrit un livre. Mary Rasenberger, la PDG de l'Authors Guild, a souligné la nécessité de protéger les consommateurs et de préserver le marché des œuvres créatives humaines. L'objectif ultime est de s'assurer que l'IA est réglementée, licenciée et légitime et que les auteurs reçoivent une compensation due.

Amazon a fait un pas en exigeant que les livres autoédités utilisant Kindle Direct Publishing les informent s'ils sont générés par l'IA. Cependant, cette information n'est pas actuellement visible pour les acheteurs, laissant les consommateurs à risque.

Le rôle des organisations technologiques

En réponse à la montée des produits générés par l'IA, les organisations technologiques travaillent sur des outils pour identifier le contenu généré par l'IA. Par exemple, Google développe un outil de filigrane invisible pour détecter la sortie de l'IA. Ces outils visent à fournir aux consommateurs les moyens de différencier les produits créés par des humains de ceux créés par l'IA.

Comment détecter les produits générés par l'IA

Jusqu'à ce que les réglementations et les étiquettes deviennent monnaie courante, les consommateurs doivent assumer le rôle de détectives lors du shopping en ligne. Voici quelques stratégies pour aider à distinguer les produits générés par l'IA :

1. Examinez les détails du produit

   Examinez toutes les images de produit disponibles, zoomez pour une inspection rapprochée et recherchez des anomalies.

   Faites attention aux arrière-plans, car ils peuvent révéler des erreurs qui ne sont pas immédiatement évidentes dans le sujet principal.

   Inspectez les représentations de personnes pour des caractéristiques inhabituelles, telles que des proportions déformées ou des parties du corps incorrectes.

   Comptez les doigts et assurez-vous que les détails anatomiques sont exacts.

2. Enquêtez sur l'auteur

   Recherchez la présence en ligne de l'auteur et ses profils de réseaux sociaux.

   Soyez prudent avec les auteurs autoédités, bien que cela seul n'indique pas une génération par IA.

   Examinez les descriptions de produit pour la cohérence et la pertinence.

3. Examinez les credentials du vendeur

   Enquêtez sur l'historique du vendeur, ses autres produits et son nom commercial.

   Vérifiez depuis combien de temps le vendeur est en activité.

 4. Faites confiance à votre intuition

   Méfiez-vous des produits qui semblent inhabituellement nouveaux dans le magasin et qui imitent les articles populaires des éditeurs établis.

   Recherchez des modèles que les escrocs pourraient utiliser, tels que des tropes communs des livres populaires.

Dans un monde où le contenu généré par l'IA est en hausse, les consommateurs doivent rester vigilants et informés. Bien que l'IA ait sa place en tant qu'outil pour les créateurs, il est essentiel de s'assurer que les produits générés par l'IA sont transparents et réglementés, et qu'ils respectent la qualité et l'authenticité que les consommateurs attendent. Jusqu'à présent, les acheteurs sont responsables de la navigation dans cet paysage évolutif des marchandises générées par l'IA.