Comment l'incertitude entourant les chatbots plane alors qu'OpenAI et Google prennent des précautions

Résumé TL;DR

• Microsoft et OpenAI sont en désaccord sur le lancement du chatbot Bing, Sydney.
• Le PDG de Microsoft, Satya Nadella, reste optimiste quant au partenariat, envisageant un accord stable à long terme et une intégration accrue entre Bing et ChatGPT.
• Alphabet a également alerté ses ingénieurs pour éviter l'utilisation directe du code informatique que les chatbots peuvent générer.

Un récent rapport du Wall Street Journal révèle des tensions et des confusions entre Microsoft et OpenAI concernant le lancement de la recherche Bing alimentée par l'IA de Microsoft et l'intégration de la technologie d'OpenAI. Le partenariat entre les deux entreprises est devenu quelque peu gênant, l'équipe d'IA interne de Microsoft faisant face à des coupes budgétaires et à un accès limité à la technologie d'OpenAI.

OpenAI a mis en garde Microsoft contre les risques d'une intégration précipitée et a suggéré une approche plus lente, exprimant des inquiétudes concernant les réponses inexactes et déconnectées du chatbot de Bing, Sydney. Cependant, Microsoft a procédé au lancement, ce qui a conduit à une relation tendue entre les partenaires.

Des réserves ont été émises mais ignorées aux plus hauts niveaux

Les dirigeants de Microsoft avaient des réserves sur le calendrier du lancement de ChatGPT et étaient prudents quant à l'intégration de la technologie d'OpenAI. Le déploiement de Bing en février a été entaché d'attaques par injection de prompts, exposant les secrets de l'entreprise et fournissant des réponses inexactes. L'avertissement d'OpenAI à Microsoft concernant la nécessité d'un entraînement supplémentaire a été ignoré.

Alors que cette nouvelle se développe, Google's Alphabet met en garde ses employés sur la façon dont ils utilisent les chatbots, y compris son Bard, parallèlement à la commercialisation du programme dans le monde entier, selon quatre personnes familières avec la question.

L'approche et les défis de Microsoft

Le PDG de Microsoft, Satya Nadella, a défendu la décision de lancer le chatbot malgré les premiers problèmes, affirmant que les tests en conditions réelles étaient nécessaires pour un alignement efficace. Cependant, des sources indiquent que la précipitation pour lancer le produit a été influencée par les réticences et les préoccupations des dirigeants de Microsoft concernant le fait que ChatGPT pourrait éclipsé Bing. Le succès rapide de ChatGPT auprès de sa base d'utilisateurs, atteignant 200 millions d'utilisateurs mensuels, a dépassé les performances de Bing, qui n'avait que 100 millions d'utilisateurs actifs quotidiens en mars.

ChatGPT et Bing ont fait face à des critiques pour des problèmes tels que la génération de fausses informations et de réponses inexactes. OpenAI cherche activement des solutions pour limiter les « hallucinations » des chatbots. Microsoft a mis à jour Bing pour résoudre les problèmes de longues conversations mais a souvent fourni des résultats incorrects. Nadella a reconnu la nécessité d'améliorations et a souligné l'importance de maintenir le potentiel créatif des chatbots IA.

Complications dans le partenariat Microsoft-OpenAI

Le partenariat entre Microsoft et OpenAI a rencontré des défis au-delà du domaine des chatbots. L'équipe d'IA interne de Microsoft a fait face à des coupes budgétaires et à un accès limité à la technologie d'OpenAI, entraînant des frustrations et une diminution des dépenses. Les deux companies pitchent parfois les mêmes clients, provoquant des conflits et des tensions concurrentielles. Malgré ces défis, Nadella a souligné un accord stable à long terme et une vision d'un bon partenariat commercial.

La prudence de Google reflète également ce qui devient une norme de sécurité pour les entreprises : avertir le personnel de l'utilisation de programmes de chat publics. Des milliards de dollars d'investissements dans la publicité et les revenus du cloud provenant des nouveaux programmes IA ont été engagés dans la course contre le ChatGPT de Microsoft et le Sydney de Bing.

Intégration et collaboration futures

Pour apaiser les tensions, Microsoft prévoit d'intégrer Bing dans l'expérience ChatGPT, signalant une collaboration accrue avec OpenAI. Nadella voit cela comme le début de l'apport du meilleur de Bing à ChatGPT, suggérant un partenariat plus étroit entre les entreprises.

Pendant ce temps, Google déploie Bard dans plus de 180 pays et dans 40 langues comme tremplin pour la créativité, et ses avertissements s'étendent à ses suggestions de code. Environ 43 % des professionnels utilisaient reportedly ChatGPT ou d'autres outils d'IA depuis janvier, souvent sans autorisation, selon une enquête auprès de près de 12 000 répondants.

Malgré les défis, le PDG de Microsoft, Satya Nadella, reste optimiste quant au partenariat, envisageant un accord stable à long terme et une intégration accrue entre Bing et ChatGPT. Les entreprises visent à améliorer les performances et la fiabilité de leurs offres alimentées par l'IA tout en maintenant le potentiel créatif des chatbots IA.