Les principaux esprits de l’IA exhortent les gouvernements et les entreprises à investir 33 % de leurs budgets IA dans la sécurité de l’IA

Dans le domaine en évolution rapide de l’intelligence artificielle, les principaux chercheurs et personnalités éminentes sonnent l’alarme, exigeant un changement de paradigme dans l’approche de la sécurité de l’IA. Une lettre, signée par trois lauréats du prix Turing, un lauréat du prix Nobel et plus d’une douzaine d’universitaires en IA respectés, souligne un besoin critique pour les gouvernements et les entreprises d’allouer une part substantielle de leurs fonds de recherche et développement en IA pour assurer la sécurité et l’utilisation éthique de ces systèmes avancés.

Le sommet international sur la sécurité de l’IA approche

Alors que le monde se prépare pour le prochain Sommet international sur la sécurité de l’IA à Londres, l’urgence d’aborder les risques de l’IA prend le devant de la scène. La lettre décrit un ensemble complet de mesures, exhortant les gouvernements et les entreprises d’IA à s’engager à consacrer au moins un tiers de leurs fonds de recherche et développement à la sécurité de l’IA. Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song et Yuval Noah Harari, parmi d’autres personnalités éminentes, soulignent la nécessité de mesures proactives pour prévenir les dommages potentiels causés par les systèmes d’IA de pointe en constante évolution.

Selon la lettre signée par des figures éminentes de la communauté de la recherche en IA, il existe un sentiment partagé selon lequel les gouvernements devraient assumer un rôle pivotal en imposant une responsabilité légale pour les dommages prévisibles et évitables causés par les systèmes d’IA. L’appel à la responsabilité cherche à combler le vide laissé par l’absence de réglementations globales spécifiquement axées sur les préoccupations de sécurité de l’IA.

Les gouvernements sont exhortés à tenir les entreprises d’IA responsables des dommages systémiques

Actuellement, un écart notable existe en termes de réglementations complètes axées sur la sécurité de l’IA. L’ensemble initial de législations de l’Union européenne, bien qu’en cours, n’est pas encore devenu loi alors que les législateurs luttent avec des problèmes non résolus. La lettre plaide pour une résolution rapide de ce vide réglementaire, soulignant que les progrès rapides de l’IA exigent des précautions tout aussi rapides pour assurer un développement éthique.

Yoshua Bengio, souvent considéré comme l’un des pères fondateurs de l’IA, met en lumière l’urgence des investissements dans la sécurité de l’IA. Dans la lettre, le sentiment est exprimé que les modèles d’IA de pointe récents sont jugés excessivement puissants et significatifs, justifiant la nécessité d’une surveillance démocratique, comme l’a averti l’auteur. Le rythme des avancées de l’IA, dépassant de loin les mesures de précaution, nécessite un engagement immédiat et substantiel pour se protéger contre les risques potentiels.

Les modèles d’IA puissants soulèvent des alarmes

Les signataires de la lettre, qui incluent des personnalités éminentes comme Geoffrey Hinton et le lauréat du prix Nobel Daniel Kahneman, attirent l’attention sur les capacités stupéfiantes des modèles d’IA récents. Ils soutiennent que ces modèles sont trop influents pour être laissés sans contrôle et soulignent l’importance d’une surveillance démocratique dans leur développement.

Stuart Russell, un informaticien britannique, rejette les préoccupations des entreprises concernant les coûts de conformité, soulignant la nécessité de réglementations. Russell remet en question l’idée que la réglementation étouffe l’innovation, soulignant qu’il y a plus de réglementations sur les sandwicheries que sur les entreprises d’IA, selon le contenu de la lettre. L’appel à une action rapide et décisive est fondé sur la compréhension que la progression sans contrôle de l’IA pose des risques sans précédent qui exigent une attention immédiate.

Le débat sur la sécurité de l’IA atteint un point critique, les principaux chercheurs et influenceurs exhortant les gouvernements et les entreprises à prioriser les considérations éthiques et à allouer des ressources pour assurer le développement responsable de l’IA. Alors que le monde se prépare pour le Sommet international sur la sécurité de l’IA, la question reste : Ces appels urgents à l’action seront-ils entendus, ou les risques potentiels d’un développement de l’IA sans contrôle continueront-ils de s’aggraver ?