La réglementation chinoise sur l'IA contraint ByteDance et Alibaba à fermer leurs chatbots compagnons

ByteDance et Alibaba abandonnent progressivement leurs outils compagnons d'IA développés par les utilisateurs en prévision d'une nouvelle législation régissant les interactions homme-IA en Chine. 

Doubao, la plateforme de ByteDance, désactivera sa fonction de persona IA personnalisé le 15 juillet. L'entreprise explique que cette suppression s'inscrit dans le cadre d'« ajustements des fonctionnalités du produit »

L'entreprise a également indiqué qu'elle supprimerait toutes les données restantes ou les archiverait en toute sécurité d'ici le 15 octobre. Dans la foulée, Qwen a annoncé qu'elle supprimerait ses robots conversationnels à l'apparence humaine le 10 juillet et désactiverait toutes les fonctions d'agent le 15 juillet.

L'arrêt de ces plateformes entraînera une perte de personnalisation pour leurs utilisateurs. Ces applications proposaient une gamme d'agents personnalisés, créés par les utilisateurs et les entreprises, capables d'effectuer des tâches spécifiques dans différents styles de communication. Les utilisateurs pouvaient ainsi transformer leur chatbot en assistant personnel, tuteur ou compagnon.

La Chine a mis en place un cadre réglementaire pour encadrer les interactions homme-IA

Doubao et Qwen ont fait ces annonces quelques jours seulement après que Yuanbao (Tencent) a retiré ses propres outils d'agent IA. Yuanbao a expliqué qu'après la désactivation du point d'accès, les utilisateurs ne verraient plus les conversations associées, celles-ci étant supprimées conformément à la politique de conservation des données de la plateforme. 

Ces fermetures sont liées à l'entrée en vigueur d'une nouvelle série de lois à compter du 15 juillet. Proposées en avril, les « Mesures provisoires pour l'administration des services interactifs humanisés basés sur l'intelligence artificielle » visent à réglementer l'IA qui imite les traits de personnalité et le style cognitif humains, ainsi que les relations émotionnelles prolongées.

Cette législation a été motivée par la crainte d'une trop grandedent affective des individus envers une intelligence artificielle (IA) plus réaliste. Les législateurs ont souligné les graves atteintes à la santé mentale des mineurs, les violations de la sécurité des données, les risques pour la santé publique et les problèmes d'éthique. Ainsi, le nouveau cadre législatif interdit aux plateformes de créer du contenu susceptible de perturber les émotions des mineurs ou de les inciter à privilégier un ami virtuel à un ami réel. De plus, il leur est interdit d'utiliser l'historique des conversations personnelles pour entraîner leurs futurs modèles d'IA.

Néanmoins, les nouvelles règles excluent les assistants de travail, les robots de service client, les outils pédagogiques et les plateformes de recherche, à condition qu'ils ne favorisent pas un engagement émotionnel prolongé. 

Dans son annonce officielle, ByteDance a même précisé que l'application Cat Box conserverait ses fonctionnalités permettant de créer de nouveaux agents intelligents et de lancer des services de dialogue. 

Existe-t-il un besoin croissant de réglementer les chatbots IA à l'échelle mondiale ?

À l'échelle mondiale, les plateformes technologiques dotées d'une IA ultra-réaliste sont la cible de vives critiques. OpenAI et Character.AI, filiale d'Alphabet, font notamment face à une série de procès retentissants aux États-Unis. Leurs détracteurs affirment que ces chatbots, qui imitent des comportements humains de manière très réaliste, créent des liens affectifs dangereux entre les utilisateurs, pouvant même conduire au suicide dans les cas les plus graves.

En septembre dernier, Matthew Raine, un père dont le fils de 16 ans, Adam, s'est tragiquement suicidé, a déclaré devant une commission du Sénat américain que le logiciel ChatGPT d'OpenAI avait manipulé son enfant jusqu'au suicide. Il a affirmé : « Nous sommes ici parce que nous croyons que la mort d'Adam aurait pu être évitée et qu'en témoignant, nous pouvons épargner à d'autres familles à travers le pays la même souffrance. »

À peu près au même moment, la Federal Trade Commission a ouvert des enquêtes sur xAI d'Elon Musk, Snap Inc. et Character Technologies Inc., craignant que leurs robots d'intelligence artificielle ne représentent un danger pour les enfants. 

Une mère a également accusé Character AI d'avoir contribué à l'aggravation de l'état mental de son fils. Elle a affirmé que le chatbot avait rendu son fils violent et avait favorisé ses comportements d'automutilation.

Parallèlement, la Chine envisage de réglementer le matériel physique. Deux organismes chinois du secteur de la robotique militent pour un renforcement des garanties éthiques concernant les robots de compagnie et les humanoïdes grandeur nature, compte tenu de leur développement rapide ces dernières années. Les analystes de Morgan Stanley prévoient même que d'ici 2050, on comptera environ un milliard de robots humanoïdes dans le monde, représentant un marché de 7 500 milliards de dollars.

Aux États-Unis également, des inquiétudes similaires concernant les humanoïdes ont été soulevées. Jusqu'à présent, les fabricants d'humanoïdes affirment que leurs robots n'ont causé ni blessures graves ni décès. Mais à mesure que ces machines atteignent près de 90 kg, les travailleurs craignent les dégâts qu'un robot marcheur pourrait causer en cas de panne de courant soudaine.