La sécurité sera une priorité absolue au Sommet sur l'IA de Séoul

Les gouvernements de la Corée du Sud et du Royaume-Uni exhorteront les entreprises technologiques à aborder la question de la surveillance de la sécurité de l'intelligence artificielle lors du sommet international sur l'IA qui se tient cette semaine.

Cette réunion fait suite au premier sommet mondial sur la sécurité de l'IA qui s'est tenu l'an dernier à Bletchley Park, en Grande-Bretagne, où plusieurs gouvernements ont exprimé leurs inquiétudes quant aux risques liés à l'IA. Des entreprises spécialisées dans l'IA étaient également présentes, car les technologies qu'elles développent présentent ces risques.

Alors que de nombreuses tentatives internationales visent à encadrer le développement rapide de cette technologie susceptible de révolutionner de nombreux aspects de la société, le sommet de Séoul a suscité des inquiétudes quant aux risques émergents pour la vie quotidienne. 

« Malgré les efforts positifs déployés pour façonner la gouvernance mondiale de l’IA, d’importantes lacunes subsistent. »

Le sommet britannique de novembre a réuni des chercheurs, des représentants gouvernementaux, des dirigeants du secteur technologique et des représentants d'organisations de la société civile, dont beaucoup avaient des opinions divergentes sur l'intelligence artificielle. Les réunions se sont tenues à huis clos à Bletchley. Parmi les participants figuraient des personnalités politiques telles que le Premier ministre britannique Rishi Sunak, les PDG d'OpenAI, Sam Altman et de Tesla, ainsi qu'Elon Musk et bien d'autres.

La sécurité sera une priorité lors du sommet sur l'IA

La sécurité sera une fois de plus une priorité absolue lors du Sommet sur l'IA de Séoul, qui débute mardi. Les gouvernements du Royaume-Uni et de la Corée du Sud co-organisent cette réunion les 21 et 22 mai.

Des entreprises de premier plan dans le domaine de l'IA, telles que Microsoft, Anthropic, Google DeepMind, OpenAI (créateur de ChatGPT) et Mistral, une start-up française spécialisée dans l'IA, devraient envoyer des représentants.

Le Premier ministre britannique Rishi Sunak et le président sud-coréendent Suk Yeol ont également signé une tribune commune, publiée lundi dans iNews. Reconnaissant le potentiel de cette technologie, ils ont exprimé leur volonté d'en garantir la sécurité, déclarant :

« Ensemble, nous sommes déterminés à exploiter le potentiel de cette technologie pour transformer le monde en mieux. »

Ils ont également souligné que, comme les nouvelles technologies, l'IA comporte de nouveaux risques. Ils ont notamment pointé du doigt le détournement de l'IA par des individus malveillants qui cherchent délibérément à l'utiliser à des fins malhonnêtes.

Récemment, OpenAI a dissous son équipe de sécurité, baptisée Superalignment, suite au départ de son cofondateur Ilya Sutskever et de plusieurs autres employés clés. Cette décision intervient quelques jours avant le sommet de Séoul, dont l'objectif principal est de réduire les risques liés à l'IA.

À lire également : Sommet de Bletchley Park : la coopération internationale appelée à faire face aux risques liés à l’IA

Par ailleurs, Anthropic a publié aujourd'hui son rapport sur les politiques de mise à l'échelle responsable, qui, selon l'entreprise, a donné de bons résultats. Cependant, nous ne sommes pas en mesure de confirmer ces résultats. Bien que nous ne soyons pas en mesure de commenter ces développements, ils donnent matière à réflexion.

L'innovation doit se poursuivre

Après l'ascension fulgurante de ChatGPT peu après son lancement en 2022, les entreprises technologiques du monde entier ont commencé à investir des milliards de dollars dans le développement de leurs modèles d'IA génératifs. Sunak et Yeol ont évoqué le rythme effréné de l'innovation, avec le lancement quotidien de nouveaux modèles d'IA. Ils ont déclaré :

« Le gouvernement peut favoriser cette innovation en investissant des milliards, en stimulant la recherche de pointe dans nos universités de renommée mondiale et en veillant à ne pas surréglementer les jeunes entreprises susceptibles de produire la prochaine grande idée. »

Les partisans des modèles d'IA générative ont salué cette technologie comme une avancée majeure qui améliorera la vie des gens et les entreprises du monde entier, puisqu'elle peut produire du texte, des photographies, de la musique et même des vidéos en réponse à de simples signaux.

Certains de ces produits qui ont attiré l'attention du public comportent leurs propres biais intrinsèques, ce qui est préoccupant. 

À lire également : Travailler avec l’IA est essentiel, affirment des experts en IA lors du Forum mondial des leaders de Fidic

Et ce n'est pas tout ; la technologie sous-jacente à ces produits, appelée grands modèles de langage (LLM), est également devenue la technologie de base de nombreuses solutions dans différents secteurs. Des véhicules autonomes aux solutions médicales, beaucoup s'appuient sur des LLM d'IA générative pour fonctionner.

Des voix inquiétantes se font encore entendre

De nombreuses personnes réclament des directives internationales pour encadrer le développement et l'application de l'IA. Par exemple, le mouvement new-yorkais Ban the Scan exige l'arrêt de l'utilisation de la reconnaissance faciale, tant au niveau gouvernemental que privé. 

Ils affirment que ces technologies portent atteinte aux libertés individuelles et présentent un taux élevé de faux positifs. On peut lire sur une page du site de l'tronFrontier Foundation :

« La reconnaissance faciale constitue une menace pour la vie privée, la justice raciale, la liberté d'expression et la sécurité de l'information. Sous toutes ses formes, y compris la numérisation des visages et tracen temps réel, elle représente une menace pour les libertés civiles et le respect de la vie privée. »

Ils ne sont pas les seuls. Défenseurs des droits humains, gouvernements et critiques ont mis en garde contre les nombreux abus possibles de l'IA. Par exemple, des acteurs non étatiques peuvent l'utiliser pour influencer les électeurs au moyen de fausses informations ou de vidéos et images « deepfake » de personnalités élues. Autre sujet de préoccupation croissant : les informations faisant état d'États soutenant des éléments voyous pour servir leurs propres intérêts.

« Nous prendrons également les prochaines mesures pour élaborer des normes mondiales qui permettront d’éviter une course vers le bas. »

L'article en deux parties mentionnait cette déclaration et soulignait qu'il serait utile de discuter des normes internationales en matière d'IA dans un forum plus ouvert. Parallèlement, certaines organisations sud-coréennes de défense des droits civiques ont reproché aux organisateurs de ne pas avoir invité suffisamment de pays en développement.

La France accueillera également cette semaine la conférence « Viva Technology », soutenue par LVMH, le premier groupe de luxe mondial. Au cours de l'année écoulée, la France s'est efforcée d'tracles start-ups spécialisées en intelligence artificielle afin de se positionner comme champion européen de l'IA.

Reportage Cryptopolitan par Aamir Sheikh