Le PDG d’OpenAI, Sam Altman, témoignera devant le Congrès sur l’avenir de l’IA

Le PDG d’OpenAI, Sam Altman, la vice-présidente de la confiance et de la vie privée d’IBM, Christina Montgomery, et le professeur émérite de l’Université de New York (NYU), Gary Marcus, sont prévus pour témoigner devant le Congrès le 16 mai sur la réglementation et la supervision de l’IA. Bien que les détails de l’ordre du jour de l’audience restent rares, le titre « Supervision de l’IA : Règles pour l’intelligence artificielle » suggère que la discussion portera principalement sur la sécurité et la vie privée. Marcus, qui a récemment exprimé son soutien à une « pause » communautaire de six mois dans le développement de l’IA, est le seul cas atypique parmi les participants prévus.

L’idée de Gary Marcus concernant une pause de l’IA a été définie dans une lettre ouverte publiée sur le site du Future of Life Institute le 22 mars, qui a recueilli plus de 27 500 signatures. L’objectif de cette lettre est de « demander à tous les laboratoires d’IA de suspendre immédiatement pendant au moins 6 mois l’entraînement des systèmes d’IA plus puissants que GPT-4 ».

Le PDG d’OpenAI et Christina Montgomery figurent parmi ceux qui s’opposent à la pause. Montgomery estime qu’une pause générale de l’entraînement de l’IA, conjuguée aux tendances actuelles qui semblent déprioriser les investissements dans les efforts d’éthique de l’IA de l’industrie, ne fera qu’aggraver les dommages et causer des revers. IBM estime que l’IA devrait être réglementée en fonction des risques.

IBM et OpenAI adoptent des positions opposées sur l’éthique de l’IA 

OpenAI est responsable de ChatGPT, sans doute la technologie d’IA grand public la plus populaire existant à ce jour. Altman soutient le développement sûr et éthique des systèmes d’IA, mais croit en « l’implication de tous dans la discussion » et en « la mise à disposition de ces systèmes dans le monde ». Montgomery, membre du Comité consultatif national américain sur l’IA, a plaidé pour une approche plus précise de la réglementation de l’IA, en soulignant la nécessité de prioriser l’éthique.

L’audience au Sénat devrait probablement servir de forum pour que les membres du Congrès posent des questions. Selon l’expert que l’on croit, la discussion pourrait avoir des conséquences perturbatrices. Si le Congrès estime que la réglementation de l’IA mérite une main lourde, Montgomery craint que ces efforts n’aient un effet glaçant sur l’innovation sans nécessairement répondre aux préoccupations en matière de sécurité.

 Ces dommages pourraient se répercuter sur les secteurs opérationnels où la technologie GPT sous-tend une pléthore de bots et de services. Des experts tels que Marcus et Elon Musk s’inquiètent du fait que l’absence de politiques de bon sens en matière de supervision de l’IA pourrait entraîner une crise existentielle pour l’humanité.

L’audience au Sénat abordera probablement la nécessité de réglementer et de superviser l’IA. Alors qu’Altman et Montgomery s’opposent à une pause générale du développement de l’IA, Marcus y est favorable. La discussion pourrait avoir des conséquences perturbatrices, selon que le Congrès estime ou non que la réglementation de l’IA mérite une main lourde. Alors que Montgomery craint un effet glaçant sur l’innovation, Marcus et Musk s’inquiètent du fait que l’absence de politiques de bon sens pourrait entraîner une crise existentielle pour l’humanité.