EUのフォン・デア・ライエン委員長、AIのペースダウンを支持し、最先端ラボを招集して安全性について協議

欧州委員会委員長のウルスラ・フォン・デア・ライエン氏は、最も強力なモデルが効果的に制御できるよりも速く進化しているという懸念が高まる中、主要な人工知能企業をブリュッセルに招き、AI開発のペースを遅らせるための協議を行う計画である。

ストラスブールでの年次「欧州連合の状況」演説で、フォン・デア・ライエン氏は、欧州がAI業界の開発ペースを遅らせるのを支援する準備ができていると述べた。彼女はEU議員に対し、主要なフロンティアAIラボを招集し、規制当局が「フロンティアのペース管理」をどのように支援できるかについて議論する計画だと、Politicoの報道によると語った。

フォン・デア・ライエン氏は、ますます能力が高まるAIシステムがもたらすリスクについて非常に率直に語り、自己改善型モデルの危険性が「ますます明らかになっている」と述べた。

大統領はまた、彼女の演説中にAI業界のリーダーたちからの警告を指摘し、技術を開発する経営陣は、自己再帰的システムへの推進を遅らせるべきだと考えており、これが規制当局が懸念を真剣に受け止める十分な理由であると述べた。

テックCEOたちの警告

フォン・デア・ライエン氏の発言は、業界の最も著名な人物たちの間で高まっている懸念に続くものである。AnthropicのCEO、ダリオ・アモデイ氏は最近、安全性の懸念から、AI開発者に対し、より能力の高いモデルへの推進を遅らせるよう呼びかけた。xAIのElon Musk氏とOpenAIのSam Altman氏もその後、この呼びかけを支持した。

しかし、AI業界は、開発を遅らせるべきかどうかについて依然として分かれている。NvidiaのCEO、ジェンセン・ホアン氏とMetaのCEO、マーク・ザッカーバーグ氏は、ペースダウンの呼びかけに反発している。

「各ラボには、モデルを安全にトレーニングするために必要なペースで進む責任とインセンティブがあり、それを実現するために独自の行動を起こす能力がある」とザッカーバーグ氏は述べた。同CEOは、責任追及の脅威が、有害なシステムが一般公開されるのを防ぐために、AI開発者に十分なインセンティブを与えていると主張した。

AIの安全性をめぐる議論は、大西洋を挟んで政治的な分断もある。フォン・デア・ライエン氏の立場は、AIの安全性に関する懸念を退けた米国大統領ドナルド・トランプ氏の立場とは対照的である。

ブリュッセルには何かカードがあるのか？

EUにはすでに拘束力のあるAI規則があり、そのAI法は、安全でないと見なされるモデルを停止する権限を規制当局に与え、独立した評価者が先進的なシステムをテストすることを可能にしている。

フォン・デア・ライエン氏は、AI法を「重要」と表現し、それが欧州にAIの世界的なアプローチを形成する上で重要な役割を握らせると主張した。

彼女はまた、フロンティアAIモデルのテストと評価に関する国境を越えた協力のレベル向上を呼びかけ、カナダと英国への招待延長計画にも言及した。しかし、米国と中国は彼女の演説に含まれておらず、これらの国々はAI競争における2つの主要プレイヤーであり続けている。

EUのAIに関する関心

フォン・デア・ライエン氏は、フロンティアでのAI競争をリードしようとするのではなく、欧州は技術の経済的価値を捕らえることに注力すべきだと述べた。彼女は、健康、輸送、農業食品、先進製造、防衛および宇宙を含む5つの優先分野を特定した。

演説ではまた、子供たちのソーシャルメディア利用にも触れ、EU委員会委員長が提案した、13歳未満の子供のソーシャルメディアアクセス禁止および15歳未満の個人アカウント禁止が含まれる。プラットフォームはまた、そのサービスが未成年者に安全であることを示すことが義務付けられる。

木曜日、フォン・デア・ライエン氏は措置の詳細をさらに提供する見込みである。