ChatGPT finit par dire « David Mayer » mais échoue sur 5 noms dans le cadre des procès sur l'IA
Shraddha Sharma
2 min de lecture
- ChatGPT ne plante plus lorsqu'on lui demande de parler de « David Mayer ».
- L'outil d'OpenAI cesse de répondre lorsqu'on lui demande de traiter d'autres noms spécifiques.
- Les procès en cours soulignent la nécessité pour les entreprises d'IA de prioriser la confidentialité des données.
Les outils d'intelligence artificielle (IA) comme ChatGPT d'OpenAI peuvent effectuer plusieurs fonctions, mais les utilisateurs découvrent occasionnellement des bugs. Récemment, des rapports ont fait état de l'arrêt de fonctionnement de ChatGPT lorsqu'on lui demandait des informations sur certains noms, comme David Mayer.
La communauté remet désormais en question la gestion par le modèle des données sensibles ou juridiquement complexes. Nous pouvons attendre que les outils d'IA répondent aux fréquente, en particulier préoccupations en matière de vie privée dans le cadre de plusieurs procès.
ChatGPT ne révèle pas qui est David Mayer
OpenAI's Selon les rapports, ChatGPT a cessé de fonctionner lorsqu'on lui a demandé des noms spécifiques le week-end dernier. TechCrunch des utilisateurs ont cité une liste de noms interdits, incluant « David Mayer », qui faisaient geler ou planter le chatbot sans réponse.
Lorsque Cryptopolitan a vérifié la réponse de la boîte de chat basée sur le modèle de langage Generative Pre-trained Transformer (GPT) mardi, les résultats étaient similaires mais pas tout à fait identiques.
Il s'avère que David Mayer n'est pas fréquente, en particulier un nom interdit. Selon ChatGPT-4o, Mayer est un nom assez courant, bien que, il n'ait pas pu identifier la personne. Lorsqu'on lui a demandé le bug précédent, ChatGPT l'a écarté en disant :
Je vois à quoi vous faites référence ! Il peut y avoir eu des cas où des bugs ou des erreurs se sont produits avec la mise en forme, l'orthographe ou la génération de contenu, mais rien de spécifiquement lié à une faute d'orthographe constante du nom « David Mayer ».
Il a également recommandé de signaler les réponses « étranges et incohérentes ».
D'autres noms – Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber et Guido Scorza – ont provoqué un dysfonctionnement du système le week-end dernier et à nouveau mardi lors de notre vérification.
Le rapport constate que ces noms appartiennent à des personnalités publiques ou semi-publiques, telles que des journalistes, des avocats ou des personnes qui auraient été impliquées dans des litiges de confidentialité ou juridiques avec OpenAI. Par exemple, l'individu nommé Hood aurait été mal représenté par ChatGPT par le passé, ce qui a conduit à des discussions juridiques avec OpenAI.
Les procès s'accumulent sur l'IA américaines d'IA
TechCrunch suppose qu'OpenAI pourrait être prudent concernant la liste des noms pour traiter les données sensibles ou juridiquement protégées différemment. Il pourrait s'agir d'une conformité aux lois sur la vie privée ou aux accords juridiques. Cependant, un bug de code pourrait entraîner l'échec du chatbot chaque fois que des informations sont demandées sur les noms mentionnés.
Au fil des ans, plusieurs affaires étaient ont été intentées entre des entreprises d'IA pour avoir généré des informations incorrectes ou violé la confidentialité des données de cadre. Dans une affaire de 2020, Janecyk c. International Business Machines, le photographe Tim Janecyk a affirmé a affirmé qu'IBM avait utilisé de manière inappropriée des images prises par des photographes à des fins de recherche sans consentement. Pas si longtemps auparavant, l'IA Gemini de Google a fait face à des critiques pour ses capacités de génération d'images, ce qui a conduit à sa suspension temporaire. Dans l'affaire collective PM c. OpenAI LP déposées en 2023, OpenAI a été accusé d'avoir utilisé des « informations privées volées » sans consentement.
En 2024, l'agence de presse indienne ANI serait a intenté un procès contre OpenAI pour avoir utilisé le matériel protégé par le droit d'auteur de l'entreprise média pour entraîner le LLM.
À mesure que les outils d'IA s'intègrent de plus en plus dans la vie quotidienne, des incidents comme ceux-ci soulignent l'importance des considérations éthiques et légales dans leur développement. Qu'il s'agisse de protéger la vie privée, de garantir l'exactitude des informations ou d'éviter les dysfonctionnements liés aux données sensibles, des entreprises comme OpenAI ont pour tâche de bâtir la confiance tout en affinant leur technologie. Ces défis nous rappellent que même les systèmes d'IA les plus avancés nécessitent une vigilance continue pour relever les complexités techniques, éthiques et légales.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Shraddha Sharma
Sharma apporte environ cinq ans d'expérience en tant que journaliste financière, avec une formation en banque d'investissement et en finance. Elle a commencé sa carrière en Inde en tant que stagiaire en actualités économiques et productrice vidéo. C'est durant cette période qu'elle a découvert la crypto, mais les confinements liés à la pandémie lui ont donné le temps de ralentir et de mieux comprendre cette classe d'actifs. Sharma est très intéressée par la compréhension des technologies émergentes et de leur influence sur les marchés plus larges.
