Le gouvernement modifie l'avis sur l'IA, assouplissant la réglementation pour les acteurs de l'industrie

Dans un développement majeur visant à favoriser l'innovation dans le secteur de l'intelligence artificielle (IA), le gouvernement a révisé son avis concernant la mise sur le marché des outils et fonctionnalités basés sur l'IA générative (GenAI) et l'IA. Cette mesure, saluée par les acteurs de l'industrie, constitue un soulagement car les entreprises ne seront plus tenues d'obtenir l'approbation explicite du gouvernement avant de lancer leurs produits.

L'industrie salue les révisions

L'avis amendé, publié le 15 mars, a notablement supprimé l'exigence pour les entreprises de se conformer dans un délai strict de 15 jours. Cette modification a été approuvée par des experts de l'industrie qui avaient exprimé des préoccupations quant à l'obstacle potentiel que les réglementations initiales représentaient pour le rythme de l'innovation.

Rohit Kumar, partenaire fondateur de The Quantum Hub, un cabinet de conseil en politiques publiques, a salué la réactivité du gouvernement face aux retours de l'industrie. Il a souligné que l'avis précédent aurait pu entraver considérablement la rapidité de mise sur le marché et étouffer l'écosystème de l'innovation. Kumar a également fait remarquer que la suppression de la nécessité de soumettre un rapport sur les mesures prises indiquait que l'avis n'était pas seulement suggestif, mais portait le poids d'une directive.

Révisions clés et continuité des exigences

Conformément à l'avis révisé, les plateformes et intermédiaires dotés de capacités IA et GenAI, tels que Google et OpenAI, doivent toujours obtenir l'approbation du gouvernement avant d'offrir des services permettant la création de deepfakes. De plus, ils doivent continuer à s'étiqueter comme « en cours de test » et obtenir le consentement explicite des utilisateurs, en les informant des erreurs potentielles inhérentes à la technologie.

La directive s'applique à toutes les plateformes et intermédiaires utilisant des modèles de langage larges (LLM) et des modèles fondamentaux. De plus, les services sont tenus de ne pas produire de contenu qui compromettrait l'intégrité du processus électoral ou violerait la loi indienne, soulignant les préoccupations concernant la désinformation et les deepfakes influençant les résultats des élections.

Accent mis sur les garanties procédurales

Tout en reconnaissant l'avancée positive avec la révision de l'avis, certains dirigeants soulignent l'importance des garanties procédurales dans l'élaboration des politiques. Ils préconisent une approche consultative pour éviter les réactions impulsives aux incidents et garantir l'élaboration de réglementations bien réfléchies.

Des dirigeants, parlant sous couvert d'anonymat, ont souligné la nécessité pour les intermédiaires de faire preuve de prudence pendant les périodes à haut risque telles que les élections. Ils ont soutenu l'initiative du gouvernement d'exhorter les intermédiaires à être vigilants avant de lancer des modèles non testés et à étiqueter correctement les sorties.

L'avis original a été déclenché par diverses controverses, notamment lorsque la plateforme IA de Google, Gemini, a fait face à des critiques pour les réponses générées concernant le Premier ministre Modi. Des cas d'« hallucinations » par des modèles GenAI, illustrés par la plateforme bêta GenAI de Krutrim d'Ola, ont également été observés, provoquant une intervention réglementaire.