La sécurité sera un point central du sommet de l'IA à Séoul

Les gouvernements de la Corée du Sud et du Royaume-Uni exhorteront les entreprises technologiques à s'attaquer à la supervision de la sécurité de l'intelligence artificielle lors du sommet international sur l'IA cette semaine.

Cette réunion fait suite au premier sommet mondial sur la sécurité de l'IA tenu au parc Bletchley, en Angleterre, l'année dernière, où plusieurs gouvernements ont exprimé leurs préoccupations concernant les risques liés à l'IA. Les entreprises d'IA étaient également présentes, car la technologie sur laquelle elles travaillent pose ces risques.

Au milieu des nombreuses tentatives internationales pour créer des garde-fous pour cette technologie en développement rapide qui a le potentiel de révolutionner de nombreux aspects de la société, le sommet de Séoul a suscité des inquiétudes quant aux risques émergents pour la vie quotidienne. 

« Bien que des efforts positifs aient été faits pour façonner la gouvernance mondiale de l'IA, des lacunes importantes subsistent. »

Le sommet du Royaume-Uni en novembre a réuni des chercheurs, des responsables gouvernementaux, des dirigeants technologiques et des représentants d'organisations de la société civile, dont beaucoup avaient des opinions divergentes sur l'intelligence artificielle. Les réunions se sont tenues à huis clos à Bletchley. Avec des politiciens dont le Premier ministre britannique Rishi Sunak, les PDG d'OpenAI Sam Altman et de Tesla, Elon Musk, ont également assisté, ainsi que beaucoup d'autres.

La sécurité sera une priorité au sommet de l'IA

La sécurité sera à nouveau une priorité absolue au sommet de l'IA de Séoul, qui commence mardi. Les gouvernements britannique et sud-coréen co-organisent la réunion les 21 et 22 mai.

Des entreprises d'IA de premier plan, telles que Microsoft, Anthropic, Google DeepMind, le créateur de ChatGPT OpenAI et Mistral, une startup française d'IA, sont prévues pour envoyer des représentants.

Le Premier ministre britannique Rishi Sunak et le président sud-coréen Yoon Suk Yeol ont également co-écrit un article, publié dans INews lundi. Acceptant le potentiel de cette technologie, ils ont exprimé leur volonté d'assurer la sécurité, en disant :

« Ensemble, nous sommes déterminés à saisir le potentiel de cette technologie pour transformer le monde pour le mieux. »

Ils ont également souligné qu'à mesure que les nouvelles technologies apportent de nouveaux risques, l'IA en est un. Ils ont souligné l'utilisation abusive de l'IA par des acteurs malveillants qui souhaitent délibérément exploiter l'IA à des fins malveillantes.

Récemment, OpenAI a dissous son équipe de sécurité, appelée équipe Superalignment, lorsque son cofondateur Ilya Sutskever et quelques autres employés clés ont quitté l'entreprise. Le développement est intervenu de la part de l'entreprise d'IA leader mondiale quelques jours seulement avant le sommet de Séoul, dont l'objectif est d'atténuer les risques de l'IA.

À lire également : Coopération internationale demandée pour faire face aux risques de l'IA lors du sommet de Bletchley Park

Dans un autre développement, Anthropic a publié aujourd'hui son rapport sur les politiques d'échelle responsable, qui, selon l'entreprise, a donné de bons résultats. Cependant, nous ne pouvons pas confirmer ces résultats. Bien que nous ne soyons pas en mesure de commenter aucun de ces développements, ils fournissent néanmoins matière à réflexion.

L'innovation doit continuer

Après la montée fulgurante de ChatGPT vers la popularité peu après son lancement en 2022, les entreprises technologiques du monde entier ont commencé à investir des milliards de dollars dans la construction de leurs modèles d'IA générative. Sunak et Yeol ont mentionné l'innovation à rythme rapide alors que de nouveaux modèles d'IA sont lancés quotidiennement. Ils ont déclaré :

« Le gouvernement peut favoriser cette innovation en investissant des milliards, en stimulant la recherche de pointe dans nos universités de classe mondiale et en veillant à ne pas surréglementer les startups qui pourraient produire la prochaine grande idée. »

Les partisans des modèles d'IA générative ont salué cette technologie comme une avancée qui améliorera la vie des gens et des entreprises dans le monde entier, car elle peut produire du texte, des photographies, de la musique et même des vidéos en réponse à des invites simples.

Certains de ces produits qui ont attiré l'attention du public ont leur propre biais intégré, ce qui est une source de préoccupation. 

À lire également : Travailler avec l'IA est essentiel, disent les experts en IA lors du Forum mondial sur le leadership de Fidic

Et ce ne sont pas seulement ceux-ci ; la technologie qui fonctionne derrière ces produits, appelée grands modèles de langage (LLM), est également devenue la technologie de base derrière de nombreuses solutions dans différents secteurs. Des véhicules autonomes aux solutions médicales, beaucoup s'appuient sur les LLM d'IA générative pour fonctionner.

Il y a encore des voix préoccupantes

De nombreuses personnes ont exigé des directives internationales pour contrôler l'avancement et l'application de l'IA. Par exemple, un mouvement basé à New York appelé Ban the Scan exige l'arrêt de l'utilisation de la reconnaissance faciale aux niveaux gouvernemental et privé. 

Ils soutiennent que ces technologies interfèrent avec la liberté personnelle et ont un taux élevé de faux positifs. Une page de la Electronic Frontier Foundation indique :

« La reconnaissance faciale est une menace pour la vie privée, la justice raciale, la liberté d'expression et la sécurité de l'information. La reconnaissance faciale sous toutes ses formes, y compris la numérisation faciale et le suivi en temps réel, pose des menaces pour les libertés civiles et la vie privée individuelle. »

Ils ne sont pas les seuls. Les défenseurs des droits humains, les gouvernements et les critiques ont mis en garde contre le fait que l'IA peut être abusée de nombreuses manières. Par exemple, des acteurs non étatiques peuvent l'utiliser pour influencer les électeurs avec des rapports de nouvelles fictifs ou de soi-disant images et vidéos « deepfake » de responsables élus. Une autre préoccupation croissante est celle des rapports faisant état d'États soutenant des éléments malveillants pour leurs intérêts.

« Nous prendrons également les prochaines étapes pour façonner les normes mondiales qui éviteront une course au moins-disant. »

L'article du duo mentionnait la déclaration ci-dessus et soulignait que discuter des normes internationales pour l'IA dans un forum plus ouvert serait utile. En même temps, certaines organisations sud-coréennes de défense des droits civils ont critiqué les organisateurs pour ne pas avoir invité suffisamment de pays en développement.

La France organisera également une conférence « Viva Technology » cette semaine, soutenue par LVMH, le plus grand groupe de luxe au monde. Au cours de l'année dernière, la France a tenté d'attirer les startups d'IA pour se positionner comme le champion européen de l'IA.

Article de Cryptopolitan par Aamir Sheikh