L'industrie de l'intelligence artificielle fait face aux critiques pour avoir dévoilé hâtivement des outils d'IA imparfaits

Dans une course pour dominer le domaine émergent de l'intelligence artificielle générative, des géants technologiques comme Google, OpenAI et Amazon ont rapidement lancé de nouveaux produits d'IA, souvent avec des résultats décevants. 

Les récentes présentations publiques de ces outils d'IA ont mis en lumière des défauts significatifs, notamment la génération de fausses informations et d'inexactitudes factuelles. La précipitation à commercialiser ces innovations a suscité des inquiétudes parmi les experts et les régulateurs quant aux risques potentiels associés aux technologies non testées.

Google a présenté son chatbot Bard, conçu pour résumer le contenu de Gmail et Google Docs, mais les utilisateurs ont rapidement découvert qu'il fabriquait des e-mails qui n'avaient jamais été envoyés. OpenAI a présenté son générateur d'images Dall-E 3, mais les utilisateurs des réseaux sociaux ont souligné que les images des démos officielles ne répondaient pas aux détails demandés. Amazon a annoncé un mode conversationnel pour Alexa, qui a échoué lors d'une démonstration pour The Washington Post, recommandant même un musée au mauvais endroit.

Cette vague de sorties défectueuses souligne la course frénétique de l'industrie technologique pour exploiter la technologie d'IA générative, où les machines peuvent produire du texte semblable à celui d'un humain et des images réalistes. Cette hâte, motivée par la peur de manquer quelque chose (FOMO), vise à attirer davantage d'utilisateurs afin de générer les données nécessaires à l'amélioration de ces outils d'IA. Cependant, les experts et les dirigeants technologiques ont tous deux émis des avertissements contre le déploiement prématuré d'IA non testées.

L'industrie reconnaît les imperfections mais continue son chemin

Les entreprises technologiques affirment avoir communiqué sur le caractère expérimental de leurs produits d'IA et mis en place des sauvegardes pour empêcher les sorties offensives ou biaisées. Certains soutiennent qu'exposer les gens aux outils d'IA dès maintenant permet de mieux comprendre les risques associés avant que la technologie ne devienne plus puissante. Malgré ces assurances, le déploiement rapide et défectueux contredit les appels à la prudence, surtout compte tenu du potentiel de l'IA à introduire des biais et même à dépasser l'intelligence humaine.

Notamment, les préoccupations concernant l'IA ont attiré l'attention réglementaire. Aux États-Unis, le Congrès a tenu des audiences et proposé des projets de loi pour réglementer l'IA, bien que les actions concrètes restent limitées. La semaine dernière, des dirigeants technologiques, dont Elon Musk et Mark Zuckerberg, ont répondu aux questions des législateurs qui envisagent une législation pour régir cette technologie. En Europe, les législateurs font avancer des réglementations pour interdire certaines utilisations de l'IA, telles que la prédiction du comportement criminel, et pour établir des règles strictes pour l'industrie. Au Royaume-Uni, la coopération mondiale sur la réglementation de l'IA figure à l'ordre du jour d'un sommet majeur en novembre.

Le ministre britannique des Finances, Jeremy Hunt, a souligné l'importance de trouver un équilibre entre réglementation et innovation. Il a reconnu que la tension concurrentielle stimule les avancées technologiques, mais a insisté sur la nécessité d'un cadre réglementaire qui favorise l'innovation tout en garantissant les sauvegardes nécessaires.

Les défis persistent dans le développement de l'IA

La dernière génération d'outils d'IA, illustrée par ChatGPT d'OpenAI, a attiré une large attention pour ses capacités. Ces systèmes d'IA, alimentés par d'immenses ensembles de données provenant d'Internet, peuvent répondre à des questions complexes, réussir des examens professionnels et engager des conversations semblables à celles des humains. Cependant, des défis persistent.

Les chatbots génèrent fréquemment de fausses informations et les présentent comme factuelles, un phénomène appelé « hallucination ». Les générateurs d'images s'améliorent rapidement, mais des inquiétudes persistent quant à leur potentiel de création de propagande et de désinformation, en particulier à l'approche des élections américaines de 2024. De plus, l'utilisation de matériel protégé par le droit d'auteur pour entraîner les modèles d'IA a déclenché des litiges juridiques, des auteurs renommés ayant récemment intenté un procès à OpenAI pour avoir utilisé leur travail dans l'entraînement de leur IA.