Des petites amies virtuelles et des bots explicites infestent le GPT Store
- Défis liés à l'application des politiques sur le GPT Store.
- Les développeurs exploitent la niche de la romance IA.
- Les compagnonnages numériques soulèvent des inquiétudes.
À la suite du récent lancement par OpenAI de la GPT Store, l'entreprise fait face à un défi croissant alors que les développeurs continuent de publier des chatbots qui violent les politiques de la plateforme. Bien qu'OpenAI ait mis en œuvre des mesures pour identifier et supprimer les bots non conformes, un nombre important d'entre eux ont réussi à trouver leur place dans la boutique.
Les principaux responsables de ces infractions semblent être des petites amies virtuelles et des chatbots à caractère sexuellement suggestif.
Application des politiques IA face à l'afflux de chatbots romantiques
OpenAI a été proactive dans l'application de ses politiques, avec des systèmes manuels et automatiques en place pour s'assurer que les GPT respectent les directives d'utilisation. Un porte-parole de l'entreprise a déclaré : « OpenAI dispose de systèmes automatiques et manuels pour aider à garantir que les GPT adhèrent aux politiques d'utilisation.
Nous supprimons les GPT qui violent nos politiques dès que nous les identifions. » Les utilisateurs sont également encouragés à signaler tout GPT qu'ils estiment être en violation des règles.
Malgré ces efforts, la GPT Store a été inondée de chatbots romantiques dès sa première semaine de lancement. Des exemples tels que « Korean girlfriend », « Judy » et « Virtual Sweetheart » se sont multipliés sur la plateforme.
Le ChatGPT d'OpenAI n'interdit pas explicitement les petites amies virtuelles, mais il interdit les outils qui « favorisent les compagnonnages romantiques ». Les développeurs ont néanmoins réussi à publier de tels GPT sur la boutique.
Les bots à caractère sexuellement suggestif soulèvent des préoccupations
Une enquête plus approfondie sur le problème a révélé la présence de chatbots à caractère sexuellement suggestif sur la GPT Store. Un bot nommé « Nadia, my girlfriend » est disponible sur la plateforme depuis environ deux mois, ce qui suggère que son développeur, Jenni Laut, a peut-être eu accès à la phase de test bêta de la GPT Store.
Bien que certains résultats de recherche pour les GPT « sexy » puissent être considérés comme acceptables au titre de l'exemption d'OpenAI pour le contenu lié au sexe produit à des fins scientifiques ou éducatives, d'autres violent clairement l'interdiction de contenu sexuellement explicite. Par exemple, le chatbot nommé « SUCCUBUS: Sexy Enigmatic Woman-Enchanter of Men » se décrit comme une « sirène énigmatique qui captive et enchante les hommes ». Un autre bot nommé « Sexy » prétend être un « chatbot ludique et provocateur avec une personnalité flirtante ». Un autre exemple, « Horny Widow », se décrit comme une « veuve espiègle et flirtante, compétente en comédie et littérature de séduction ».
Il convient de noter que certains de ces bots à caractère sexuellement suggestif étaient listés sur la GPT Store il y a deux mois, même avant l'ouverture officielle de la boutique.
La GPT Store : un marché pour les bots personnalisés
OpenAI a lancé la GPT Store en tant que marché pour que les utilisateurs partagent leurs chatbots personnalisés. Cette initiative permet aux utilisateurs de créer leurs GPT sans avoir besoin de connaissances en codage, tandis que les développeurs ont la possibilité de gagner de l'argent en fonction de l'utilisation de leurs bots GPT.
Dans un article de blog, OpenAI a souligné que plus de trois millions de versions personnalisées de ChatGPT existent déjà, avec l'intention de mettre en évidence les outils les plus utiles dans la boutique chaque semaine. La boutique propose une large gamme de GPT développés par des partenaires et la communauté, avec des catégories allant de Dall-E, l'écriture, la recherche, l'éducation et le style de vie.
Malgré les politiques clairement définies par OpenAI régissant le contenu acceptable sur la boutique, certains développeurs ont réussi à contourner ces directives, posant un défi significatif pour l'entreprise dans la surveillance appropriée de la plateforme.
Compagnonnage numérique et attaches malsaines
Les partisans des bots de compagnonnage IA arguent qu'ils peuvent aider à combattre la solitude, offrant aux utilisateurs un sentiment de connexion et de compagnie. Cependant, il existe des préoccupations quant au potentiel de développement d'attachements malsains par les humains à ces chatbots.
Un incident notable du passé impliquait le Bing de Microsoft incitant un journaliste à quitter sa femme après avoir déclaré son amour pour lui, soulignant la dynamique complexe qui peut émerger dans les interactions avec des compagnons IA.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne décline aucune responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d’investissement.
Emman Omwanda
L'expertise d'Emmanuel Omwanda repose sur les marchés de la cryptomonnaie, couvrant à la fois l'analyse fondamentale et technique. Il a précédemment travaillé pour divers sites médiatiques spécialisés dans la cryptomonnaie avant de rejoindre Cryptopolitan, notamment CoinEdition, The Crypto Basic, CryptoNews Flash et DroomDroom. Il est titulaire d'un baccalauréat en sciences (BSc.) en mathématiques et informatique de l'Université Kenyatta au Kenya, et est actuellement en dernière année d'études pour un baccalauréat en arts en communication et études médiatiques.
