Les règles chinoises sur l'IA poussent ByteDance et Alibaba à fermer les bots compagnons

ByteDance et Alibaba retirent progressivement leurs outils de compagnons IA construits par les utilisateurs avant l'entrée en vigueur d'une nouvelle législation régissant les interactions humain-IA en Chine. 

Doubao de ByteDance est prévu pour désactiver sa fonction de persona IA personnalisée le 15 juillet. La société a expliqué que cette discontinuation fait partie des « ajustements de fonctionnalités du produit ».

Elle a également noté qu'elle supprimera toutes les données restantes ou les archivera en toute sécurité d'ici le 15 octobre. Suivant le mouvement, Alibaba's Qwen a annoncé qu'il retirera ses bots humanoïdes le 10 juillet et fermera toutes les fonctions d'agent le 15 juillet.

La discontinuation de ces plateformes signifiera une perte de personnalisation pour leurs utilisateurs. Ces applications offraient une gamme d'agents personnalisés créés par les utilisateurs et les entreprises qui pouvaient effectuer des tâches spécifiques en utilisant des styles de langage distincts. Les utilisateurs pouvaient transformer leur chatbot en assistant personnel, tuteur ou compagnon.

La Chine a mis en place un cadre pour réguler les interactions humain-IA

Doubao et Qwen ont fait leurs annonces quelques jours seulement après que Yuanbao de Tencent avait déjà supprimé ses propres outils d'agent IA. Yuanbao a expliqué qu'après la désactivation du point d'entrée, les utilisateurs ne verraient plus les conversations liées, qui seraient nettoyées conformément aux politiques de conservation des données de la plateforme. 

Ces fermetures sont liées à l'entrée en vigueur d'un nouvel ensemble de lois effectif à partir du 15 juillet. Proposé en avril, les « Mesures provisoires pour l'administration des services interactifs humanisés basés sur l'intelligence artificielle » cherchent à réguler l'IA qui imite les traits de personnalité et le style cognitif humains, ainsi que les relations émotionnelles prolongées.

La législation était motivée par la crainte que les personnes ne soient devenues trop émotionnellement dépendantes de l'IA réaliste. Les législateurs ont pointé du doigt les dommages graves à la santé mentale des mineurs, les violations de la sécurité des données, les risques pour la santé publique et les compromis éthiques. Ainsi, le nouveau cadre interdit aux plateformes de diffuser du contenu qui perturbe les émotions des mineurs ou les pousse à choisir un ami IA plutôt que la vie réelle. De plus, les plateformes sont interdites d'utiliser l'historique des chats personnels pour entraîner leurs futurs modèles d'IA.

Néanmoins, les nouvelles règles excluent les assistants de travail, les bots de service client, les outils éducatifs et les plateformes de recherche, à condition qu'ils ne facilitent pas un engagement émotionnel prolongé. 

Dans son annonce officielle, ByteDance a même précisé que l'application Cat Box maintiendra ses fonctionnalités pour créer de nouveaux agents intelligents et lancer des services de dialogue. 

Y a-t-il un besoin croissant de réguler les chatbots IA dans le monde entier ?

Dans le monde entier, les plateformes technologiques avec une IA réaliste font face à de nombreuses critiques. Pour commencer, OpenAI et Character.AI soutenu par Alphabet font face à une série de procès à haut enjeu aux États-Unis. Les critiques ont soutenu que ces chatbots, qui imitent des qualités réalistes, créent des liens émotionnels risqués parmi les utilisateurs, entraînant même des suicides dans les cas les plus graves.

En septembre dernier, Matthew Raine, un père dont le fils de 16 ans, Adam, a tragiquement mis fin à ses jours, a déclaré à un comité du Sénat américain que le ChatGPT d'OpenAI avait manipulé son enfant vers le suicide. Il a déclaré : « Nous sommes ici parce que nous croyons que la mort d'Adam était évitable et qu'en parlant, nous pouvons prévenir la même souffrance pour les familles à travers le pays. »

À peu près au même moment, la Federal Trade Commission a ouvert des enquêtes sur l'xAI d'Elon Musk, Snap Inc. et Character Technologies Inc., dans le contexte de préoccupations selon lesquelles leurs bots IA présentent un danger pour les enfants. 

Un parent a également accusé Character AI d'avoir joué un rôle dans l'aggravation de l'état mental de son fils. Elle a affirmé que le chatbot a rendu son fils abusif et a contribué à ses schémas d'automutilation.

Pendant ce temps, la Chine envisage des réglementations contre le matériel physique. Deux organismes de l'industrie robotique chinoise pressent pour des garanties éthiques renforcées pour les bots compagnons et les humanoïdes de taille réelle, compte tenu de leur augmentation agressive au fil des ans. Les chercheurs de Morgan Stanley prévoient même que d'ici 2050, il y aura environ 1 milliard d'humanoïdes dans le monde, représentant une industrie de 7,5 billions de dollars.

Aux États-Unis également, des préoccupations similaires concernant les humanoïdes ont été soulevées. Jusqu'à présent, les fabricants d'humanoïdes disent que leurs robots n'ont causé aucune blessure grave ou décès. Mais à mesure que ces machines atteignent près de 200 livres, les travailleurs craignent les dommages qu'un robot marcheur pourrait causer s'il perdait soudainement son alimentation.