Les dirigeants de l'U de T appellent à la prudence alors que les développeurs d'IA accélèrent
- Les leaders de l'IA, dont l'Université de Toronto, mettent en garde contre la menace existentielle posée par l'IA et exhortent les décideurs politiques à agir rapidement.
- Le développement rapide de l'IA dépasse le cadre réglementaire, présentant des risques comparables à ceux des pandémies et de la guerre nucléaire.
- Une régulation fondée sur le marché est proposée comme solution pour suivre le rythme effréné des avancées technologiques.
Le domaine de l'intelligence artificielle (IA) connaît une transformation monumentale, marquée par les capacités remarquables de programmes IA comme Chat-GPT et DALL-E. Ces programmes ont émerveillé le public avec leurs créations artistiques et leurs capacités de pensée abstraite, mais ont également soulevé de sérieuses préoccupations. Au-delà des spéculations des théoriciens du complot, les dirigeants de l'industrie, y compris ceux de l'Université de Toronto (U of T), lancent l'alarme concernant la menace existentielle potentielle de l'IA.
L'appel à la prudence
Monique Crichlow, la directrice exécutive de l'Institut Schwartz Reissman de l'U of T (SRI), souligne que le rythme rapide du développement technologique pourrait dépasser notre capacité à en comprendre les implications. Bien qu'il soit incertain si l'IA pose réellement une menace existentielle, le SRI exhorte les dirigeants mondiaux à prendre cette possibilité au sérieux.
L'histoire complexe de l'U of T avec l'IA
L'importance du message du SRI est amplifiée par le rôle historique de l'U of T dans le développement de l'IA. Onze ans plus tôt, Geoffrey Hinton et deux étudiants diplômés de l'U of T ont été les pionniers des réseaux neuronaux artificiels, jetant les bases de technologies comme Chat-GPT. Hinton, souvent appelé le « parrain » de l'IA, a plus tard fondé le Vector Institute, une société de recherche en IA à but non lucratif.
En mai de l'année en cours, Hinton a quitté son poste chez Google, exprimant des regrets concernant ses contributions au développement de l'IA. Il reconnaît la gravité des menaces existentielles posées par l'IA et la nécessité d'une approche plus responsable.
Les experts appellent à la législation et à la coopération
Hinton et la professeure de droit de l'U of T, Gillian Hadfield, figurent parmi les signataires d'une déclaration du Centre for AI Safety, qui appelle à prioriser l'atténuation des risques d'extinction liés à l'IA. La déclaration souligne l'importance de la coopération mondiale, comparant les risques à des pandémies et à la guerre nucléaire.
De plus, Hadfield a signé une lettre préconisant une pause immédiate dans l'entraînement des systèmes IA plus puissants que GPT-4. Cette lettre, publiée par le Future of Life Institute, met en lumière la course frénétique dans le développement de l'IA, où même les créateurs peinent à comprendre et contrôler leurs créations. Elle appelle à l'établissement de gardiens de l'industrie et de cadres réglementaires complets, soulignant la nécessité de coopération entre les laboratoires IA, les entreprises et les gouvernements.
Équilibrer innovation et responsabilité
Monique Crichlow précise que la lettre de pause n'a pas l'intention d'étouffer l'innovation, mais encourage la pensée critique quant à la direction du progrès technologique. Elle met en lumière l'impératif de guider l'IA dans la bonne direction par des mesures réglementaires robustes, un sentiment partagé par beaucoup dans l'industrie.
Régulation de l'IA au Canada
La Chambre des communes du Canada examine le projet de loi C-27, qui représente la première tentative globale d'Ottawa de réglementer l'IA. Parmi ses dispositions, le projet de loi place la responsabilité sur les développeurs, distributeurs et gestionnaires d'IA d'atténuer et de surveiller les risques de leur technologie. Cela inclut la sauvegarde de l'anonymat des données personnelles et la fourniture d'explications claires des risques potentiels aux consommateurs.
Cependant, les réglementations proposées ne sont pas sans lacunes. La nature du développement exponentiel de l'IA entre en conflit avec le rythme généralement lent de l'élaboration des politiques. L'IA est intrinsèquement complexe, rendant difficile pour les fonctionnaires de rédiger une législation efficace pour adresser les menaces potentielles.
Une nouvelle approche de la réglementation de l'IA
Gillian Hadfield et Jack Clark, le directeur des politiques pour OpenAI, proposent une approche basée sur le marché pour la réglementation de l'IA. Sous ce modèle, les développeurs et distributeurs de technologies IA seraient responsables de l'achat de services de réglementation auprès d'un organisme de réglementation tiers. Cette approche déplace la charge de suivre le rythme des développeurs d'IA sur les développeurs eux-mêmes.
Jusqu'à ce qu'un tel modèle devienne une réalité, les gouvernements du monde entier, y compris le Canada, auront du mal à rattraper les développeurs d'IA qui s'élancent vers une crise existentielle mondiale potentielle.
L'avancement rapide de la technologie IA a soulevé des préoccupations significatives concernant sa menace existentielle potentielle. Les dirigeants de l'Université de Toronto et des figures proéminentes de l'industrie IA appellent à la prudence, exhortant les décideurs politiques à prendre des mesures décisives. Alors que le débat sur la réglementation de l'IA se poursuit, trouver un équilibre entre innovation et responsabilité reste un défi critique pour assurer un avenir plus sûr et plus sécurisé à l'ère de l'intelligence artificielle.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Glory Kaburu
Glory est une journaliste extrêmement compétente, maîtrisant les outils d'intelligence artificielle et la recherche. Passionnée par l'IA, elle a rédigé plusieurs articles sur le sujet. Elle se tient informée des dernières avancées en intelligence artificielle, en apprentissage automatique et en apprentissage profond, et écrit régulièrement à ce propos.
