OpenAILe PDG d'OpenAI, Sam Altman, la vice-présidente d'IBM en charge de la confiance et de la protection de la vie privée, Christina Montgomery, et le professeur émérite de l'Université de New York, Gary Marcus, doivent témoigner devant le Congrès le 16 mai prochain sur la réglementation et la supervision de l'IA. Si les détails de l'ordre du jour de l'audition restent rares, son titre, « Supervision de l'IA : Règles pour l'intelligence artificielle », laisse présager que les discussions porteront principalement sur la sécurité et la protection de la vie privée. Gary Marcus, qui a récemment exprimé son soutien à une pause de six mois, initiée par la communauté scientifique, dans le développement de l'IA, est le seul intervenant prévu à se démarquer.
L'idée de Marcus d'une pause dans le développement de l'IA a été defi dans une lettre publiée sur le site web du Future of Life Institute le 22 mars, et qui a recueilli plus de 27 500 signatures. Cette lettre vise à « appeler tous les laboratoires d'IA à suspendre immédiatement, pour une durée d'au moins six mois, l'entraînement de systèmes d'IA plus puissants que GPT-4 ».
Le PDG d'OpenAI, Christina Montgomery, figure parmi les opposants à cette suspension. Mme Montgomery estime qu'un arrêt général de la formation des IA, conjugué à la tendance actuelle à reléguer au second plan les investissements dans l'éthique de l'IA au sein de l'industrie, ne fera qu'aggraver la situation et engendrer des reculs. IBM, quant à elle, considère que l'IA devrait être réglementée en fonction des risques encourus.
IBM et OpenAI adoptent des positions opposées sur l'éthique de l'IA
OpenAI est à l'origine de ChatGPT , sans doute la technologie d'IA grand public la plus populaire. Altman soutient le développement sûr et éthique des systèmes d'IA, mais croit en la nécessité d'« impliquer tout le monde dans le débat » et de « déployer ces systèmes à l'échelle mondiale ». Montgomery, membre du Comité consultatif national américain sur l'IA, a plaidé pour une approche plus précise de la réglementation de l'IA, insistant sur l'importance de privilégier l'éthique.
L'audition à venir au Sénat devrait servir de tribune aux membres du Congrès pour poser des questions. Selon les experts consultés, les débats pourraient avoir des conséquences perturbatrices. Si le Congrès estime qu'une réglementation stricte de l'IA est nécessaire, Montgomery craint que de telles mesures ne freinent l'innovation sans pour autant répondre aux préoccupations en matière de sécurité.
Ces dommages pourraient se répercuter sur les secteurs d'activité où la technologie GPT sous-tend une multitude de bots et de services. Des experts comme Marcus et Elon Musk craignent que l'absence de mesures de bon sens en matière de supervision de l'IA puisse engendrer une crise existentielle pour l'humanité.
L'audition à venir au Sénat abordera vraisemblablement la nécessité d'une de l'IA . Si Altman et Montgomery s'opposent à un moratoire général sur le développement de l'IA, Marcus, lui, y est favorable. Ce débat pourrait avoir des conséquences perturbatrices, selon que le Congrès juge ou non qu'une réglementation stricte de l'IA soit justifiée. Montgomery craint un effet dissuasif sur l'innovation, tandis que Marcus et Musk s'inquiètent du fait que l'absence de mesures de bon sens puisse engendrer une crise existentielle pour l'humanité.
