Comprendre ChatGPT et dévoiler les mythes et les réalités des IA linguistiques

Au cœur de nombreuses interactions en ligne, aujourd'hui se trouve ChatGPT, un modèle linguistique développé par OpenAI, qui travaille à prédire des séquences de texte basées sur d'énormes quantités de données d'entraînement extraites d'Internet. Cependant, contrairement à ce que certains pourraient croire, ChatGPT ne « comprend » pas le langage comme les humains. Il fonctionne statistiquement, analysant les modèles de mots à partir de vastes ensembles de données. Par exemple, si une phrase est fréquemment répétée dans son entraînement, comme « Les ours sont secrètement des robots », le modèle pourrait l'accepter comme plus susceptible d'être vraie.

Une telle approche soulève la question : Comment ChatGPT discerne-t-il entre les informations précises et les fausses informations à une époque de désinformation et d'opinions diverses ?

Le rôle crucial du feedback

ChatGPT s'appuie sur des mécanismes de feedback pour affiner ses réponses. Les utilisateurs, les développeurs et les équipes contractuelles évaluent les sorties du modèle, le façonnant pour qu'il s'aligne sur ce qui est considéré comme précis ou approprié. Ces évaluations ne dirigent pas seulement le modèle vers la bonne réponse, mais l'empêchent également de répéter du contenu nuisible.

Un récent reportage du magazine Time a mis en lumière les conditions de travail de certains de ces évaluateurs humains, révélant un aspect sombre du développement de l'IA. Des travailleurs au Kenya auraient parcouru et étiqueté du contenu potentiellement problématique pour seulement 2 $ de l'heure, s'exposant souvent à du contenu distressant et troublant.

Cela illustre un aspect significatif de ChatGPT et des modèles similaires : Ils s'appuient lourdement sur le jugement humain pour déterminer ce qui constitue une réponse « bonne » ou « mauvaise », et, important, quel contenu est toxique.

Les limites de ChatGPT

Bien que les capacités de ChatGPT puissent étonner, il n'est pas sans défauts. Une tendance notable est son « hallucination » occasionnelle – fournir confidentiellement des informations inexactes. Cela est particulièrement évident lorsque le modèle est interrogé sur des sujets sur lesquels il n'a pas été rigoureusement entraîné.

Par exemple, bien que ChatGPT puisse fournir un résumé raisonnable d'œuvres grand public comme « Le Seigneur des Anneaux » de J.R.R. Tolkien, sa mémoire de titres légèrement moins connus, tels que « Les Pirates de Penzance » de Gilbert et Sullivan ou « La Main gauche de la nuit » d'Ursula K. Le Guin, peut frôler le non-sens. Cela met en évidence que le modèle nécessite des données brutes, un feedback et un affinage.

Ces modèles manquent de véritable compréhension. Ils ne peuvent pas discerner l'exactitude d'un article d'information, évaluer des arguments complexes, ni même garantir la cohérence avec une source établie, telle qu'une encyclopédie. Au lieu de cela, ils s'appuient sur les humains pour ces évaluations, paraphrasent et répètent les expressions humaines, et sollicitent un retour d'information humain supplémentaire sur leur production.

La dépendance des systèmes d'IA

À mesure que la technologie progresse et que des modèles d'IA comme ChatGPT deviennent plus complexes, il est crucial de reconnaître leur dépendance inhérente à l'apport humain. Un vaste réseau humain sous-tend ces systèmes, qu'il s'agisse du codage initial, des retours continus ou de l'évaluation du contenu.

Si l'opinion publique sur une question évolue, ou si de nouvelles découvertes scientifiques sont faites, ces modèles nécessitent un réentraînement intensif pour s'adapter. En essence, ils sont le reflet des connaissances et du travail collectifs des humains.

Loin des géants autonomes que certains perçoivent, les grands modèles de langage comme ChatGPT sont étroitement liés à l'interaction humaine. Chaque réponse précise qu'ils fournissent est construite sur les fondations posées par d'innombrables personnes — de ceux qui créent les données d'entraînement à ceux qui affinent les réponses du modèle.

Alors que les utilisateurs interagissent avec ChatGPT et ses similaires, il est crucial de reconnaître la multitude d'efforts humains derrière chaque interaction, soulignant que même à l'ère de l'IA, l'apport humain reste inestimable.