Les startups cherchent la clarté et une réglementation de l'IA sectorielle dans le cadre des discussions du Sommet sur la sécurité de l'IA

Le récent sommet sur la sécurité de l'IA au Royaume-Uni a réuni des leaders de l'industrie, des décideurs politiques et des startups pour discuter des défis et des risques associés aux systèmes d'IA avancés. Bien que beaucoup aient vu l'événement comme une étape diplomatique positive, les startups développant des produits d'IA soulignent désormais le besoin de clarté réglementaire et d'approches sectorielles spécifiques à la réglementation de l'IA. 

Établir des connexions et rassembler des informations

Connor Leahy, cofondateur de la startup de sécurité de l'IA Conjecture, a souligné que le sommet a principalement servi de plateforme pour le réseautage, l'échange d'informations et la construction de relations plutôt que comme un lieu de décisions politiques. Des fondateurs comme Leahy ont souligné l'importance de favoriser les connexions au sein de la communauté de l'IA.

L'appel à des règles claires

Les startups appellent à une réglementation plus claire au Royaume-Uni pour fournir un environnement stable pour leurs entreprises d'IA. Eric Topham, cofondateur d'Octaipipe, une startup londonienne axée sur la sécurité des données pour les produits d'IA sur des appareils physiques, a souligné le besoin de clarté dans les règles de sécurité des données. Il a contrasté le manque de normes définies au Royaume-Uni avec l'actuel Cyber Resiliency Act en Europe, qui pénalise les violations de données des appareils.

Cependant, des startups comme Octaipipe font preuve de prudence quant à l'adoption d'une approche unique en matière de législation sur l'IA. De nombreux fondateurs estiment que des réglementations sectorielles sont plus adaptées que l'approche horizontale de l'UE, qui applique les mêmes règles à des industries diverses. Alex Kendall, cofondateur de Wayve, une entreprise de conduite autonome, a fait valoir que différents secteurs font face à des risques liés à l'IA uniques et devraient bénéficier de réglementations sur mesure.

Équilibrer les risques immédiats et à long terme

Bien que le sommet se soit principalement concentré sur les risques « catastrophiques » associés aux futurs systèmes d'IA surpuissants, les startups exhortent les décideurs politiques à relever les défis immédiats et à long terme. Marc Warner, PDG de Faculty, a souligné l'importance de traiter simultanément les risques à court et à long terme, en utilisant l'analogie de l'importance de prendre soin à la fois des ceintures de sécurité et des convertisseurs catalytiques dans l'industrie automobile.

Réglementer l'IA de pointe

La réglementation des systèmes d'IA les plus puissants, tels que ceux entraînés sur d'énormes quantités de données et de puissance de calcul, reste une question controversée dans le secteur de l'IA. Certains experts, comme Yann LeCun de Meta, soutiennent que ces systèmes ne sont pas véritablement intelligents, mais constituent des outils de saisie semi-automatique sophistiqués et pourraient ne pas nécessiter une réglementation stricte.

En revanche, des startups comme Conjecture proposent de fixer des limites maximales à la puissance de calcul pour l'entraînement de nouveaux modèles afin d'empêcher les systèmes d'IA de dépasser les capacités humaines. Elles font valoir que des systèmes d'IA super-intelligents incontrôlés pourraient conduire à des machines contrôlant l'avenir, déplaçant le contrôle humain.

Mistral, une startup parisienne spécialisée dans l'IA générative, plaide pour une supervision indépendante obligatoire des modèles d'IA des grandes entreprises technologiques. Cela permettrait aux institutions de recherche publiques d'étudier ces modèles et d'assurer la transparence. Bien que certaines grandes entreprises technologiques comme OpenAI et Google DeepMind aient conclu des accords volontaires pour des tests externes, le cofondateur de Mistral, Arthur Mensch, insiste sur le fait qu'une législation est nécessaire pour empêcher ces entreprises de se réglementer elles-mêmes.

Mustafa Suleyman, cofondateur de DeepMind et désormais PDG d'Inflection, reconnaît que les accords volontaires constituent une première étape positive. Cependant, il souligne la nécessité d'équilibrer la réglementation avec les droits de propriété intellectuelle des entreprises.

À la suite du sommet sur la sécurité de l'IA au Royaume-Uni, les startups du secteur de l'IA recherchent une clarté réglementaire et plaident pour des approches sectorielles de la réglementation de l'IA. Bien que le sommet ait principalement abordé les risques à long terme associés aux systèmes d'IA avancés, les startups ont souligné la nécessité de prendre en compte les défis immédiats. Le débat sur la manière de réglementer les systèmes d'IA les plus puissants se poursuit, certains plaidant pour des limites strictes sur la puissance de calcul, tandis que d'autres argumentent en faveur d'une supervision indépendante des grandes entreprises technologiques. Malgré les questions qui restent sans réponse, le dialogue en cours marque une étape positive vers la définition de l'avenir de la réglementation de l'IA. À mesure que l'industrie de l'IA évolue, trouver le bon équilibre entre innovation et réglementation sera crucial pour sa croissance et son développement responsable.