Le gouvernement modifie son avis consultatif sur l'IA et assouplit la réglementation pour les acteurs du secteur

Afin de favoriser l'innovation dans le secteur de l'intelligence artificielle (IA), le gouvernement a revu sa réglementation concernant la mise GenAI). Cette mesure, saluée par les acteurs du secteur, est un soulagement car les entreprises n'auront plus besoin d'obtenir l'autorisation explicite du gouvernement avant de commercialiser leurs produits.

L'industrie salue les révisions

L’avis modifié, publié le 15 mars, supprime notamment l’obligation pour les entreprises de se conformer à la réglementation dans un délai strict de 15 jours. Cette modification a été approuvée par des experts du secteur qui avaient exprimé des inquiétudes quant au risque de ralentissement de l’innovation que pouvait engendrer la réglementation initiale.

Rohit Kumar, associé fondateur de The Quantum Hub, cabinet de conseil en politiques publiques, a salué la réactivité du gouvernement face aux observations du secteur. Il a souligné que l'avis précédent aurait pu considérablement ralentir la mise sur le marché et freiner l'écosystème d'innovation. M. Kumar a également fait remarquer que la suppression de l'obligation de soumettre un rapport sur les mesures prises indiquait que l'avis n'était pas une simple suggestion, mais constituait une véritable directive.

Principales révisions et continuité des exigences

Conformément à l'avis révisé, les plateformes et intermédiaires dotés de capacités d'IA et d'IA générale, tels que Google et OpenAI, sont toujours tenus d'obtenir l'approbation des autorités compétentes avant de proposer des services permettant la création de deepfakes. De plus, ils doivent continuer à se présenter comme « en phase de test » et obtenir le consentement explicite des utilisateurs, en les informant des erreurs potentielles inhérentes à cette technologie.

Cette directive s'applique à toutes les plateformes et à tous les intermédiaires utilisant des modèles de langage étendus (LLM) et des modèles de base. De plus, il leur est interdit de produire des contenus compromettant l'intégrité du processus électoral ou enfreignant la loi indienne, ce qui souligne les inquiétudes liées à la désinformation et aux deepfakes susceptibles d'influencer les résultats des élections.

Accent mis sur les garanties procédurales

Tout en reconnaissant les progrès réalisés grâce à la révision consultative, certains dirigeants insistent sur l'importance des garanties procédurales dans l'élaboration des politiques. Ils préconisent une approche consultative afin d'éviter les réactions impulsives face auxdentet de garantir la formulation de réglementations mûrement réfléchies.

Des dirigeants, s'exprimant sous couvert d'anonymat, ont souligné la nécessité pour les intermédiaires de faire preuve de prudence durant les périodes à haut risque, comme les élections. Ils ont soutenu l'initiative gouvernementale visant à inciter les intermédiaires à la vigilance avant de diffuser des modèles non testés et à bien qualifier leurs résultats.

L'avis initial faisait suite à diverses controverses, notamment lorsque la plateforme d'IA de Google, Gemini, a été critiquée pour les réponses qu'elle a générées concernant le Premier ministre Modi. Des cas d'« hallucinations » de la part des modèles d'IA générale, comme ceux observés avec la plateforme bêta d'IA générale d'Ola, Krutrim, ont également été constatés, ce qui a nécessité une intervention des autorités de régulation.