ソウルAIサミットでは安全性が最優先課題となる

韓国とイギリスの政府は、今週開催される国際AIサミットで、テクノロジー企業に人工知能の安全監督に対処するよう要請するでしょう。

今回の会議は、昨年イギリスのブレッチリー・パークで開催された初のグローバルAIサミットに続くものです。そのサミットでは、多くの政府がAIリスクに対する懸念を表明しました。AI企業も出席しており、彼らが取り組んでいる技術がこれらのリスクを孕んでいるためです。

社会の多くの側面に革命をもたらす可能性を秘めた急速に発展する技術に対するガードレール作成のための数多くの国際的な試みの中で、ソウル・サミットは日常生活における新たなリスクへの懸念に火をつけました。 

「グローバルなAIガバナンスを形成するための前向きな取り組みが行われてきましたが、依然として大きなギャップが残っています。」

11月の英国サミットでは、研究者、政府関係者、テック企業の執行役員、市民社会団体の代表者が集まり、人工知能について多くの見解が分かれる中、議論が行われました。会議はブレッチリー・パークで非公開で行われました。英国のリーシ・スナク首相をはじめ、OpenAIのサム・アルトマンCEO、テスラのイーロン・マスクCEOなど、多くの著名人が出席しました。

AIサミットで安全が最優先課題に

火曜日に始まるAIソウル・サミットでは、安全が再び最優先課題となります。英国政府と韓国政府が5月21日〜22日に共同で主催します。

マイクロソフト、Anthropic、Google DeepMind、ChatGPTの開発元であるOpenAI、フランスのAIスタートアップであるMistralなど、著名なAI企業が代表者を派遣する予定です。

イギリスのリーシ・スナク首相と韓国の尹錫悦大統領も、月曜日にINewsで掲載された共同記事を書きました。彼らはこの技術の可能性を受け入れ、安全性を確保する意志を示しました。

「私たちは協力し、この技術の可能性を捉えて世界をより良い方向に変革することを決意しています。」

また、新技術が新たなリスクをもたらすのと同様に、AIも新たなリスクをもたらしていることを強調しました。彼らは、悪意のある行為者が意図的にAIを不正行為に利用する misuse を指摘しました。

つい最近、OpenAIは共同創設者のイリヤ・スツケバーら一部の主要社員が退社したことに伴い、スーパーアライメントチームと呼ばれる安全チームを解散させました。この動きは、AIのリスク軽減を焦点とするソウル・サミットの数日前に、世界をリードするAI企業から発表されました。

関連記事: ブレッチリー・パーク・サミットでAIリスクに対処するため国際協力を要請

別の動きとして、Anthropicは本日、同社が良好な結果を示したとする責任あるスケーリングポリシーに関するレポートを公開しました。しかし、私たちはこれらの結果を確認することができません。これらの動きについてコメントする立場にないものの、考えさせられる要素を提供しています。

想像力を止めない

2022年のローンチ直後にChatGPTが急激な人気を集めた後、世界中のテック企業は生成AIモデルの構築に数十億ドルを投資し始めました。スナク氏とイェル氏は、新しいAIモデルが毎日登場するこの急速な想像力を言及しました。彼らはこう述べています。

「政府は、数十億ドルを投資し、世界クラスの大学での最先端研究を強化し、次の大きなアイデアを生み出す可能性のあるスタートアップに対する過度な規制を避けることで、この想像力を育むことができます。」

生成AIモデルの支持者たちは、この技術を、単純なプロンプトに対してテキスト、写真、音楽、さらにはビデオを生成できることから、人々の生活や世界中のビジネスを向上させる画期的な技術として称賛しています。

注目を集めたこれらの製品の中には、埋め込まれたバイアスがあり、これが懸念事項となっています。 

関連記事: Fidicのグローバル・リーダーシップ・フォーラムでAI専門家らが「AIとの協働が不可欠」と述べる

そして、これらだけでなく、これらの製品を支える技術である大規模言語モデル（LLM）も、異なるセクターの多くのソリューションの基盤技術となっています。自律走行車から医療ソリューションに至るまで、多くが生成AI LLMsに依存して機能しています。

依然として懸念の声がある

AIの進展と応用を制御するための国際的なガイドラインを求める声が多数あります。例えば、ニューヨークを拠点とする「Ban the Scan」という運動は、政府および民間レベルでの顔認証の使用停止を求めています。 

彼らは、これらの技術が個人の自由を侵害し、誤検知率が高いと主張しています。エレクトロニック・フロンティア・ファウンデーションのページには次のように記載されています。

「顔認証はプライバシー、人種的公正、表現の自由、情報セキュリティに対する脅威です。顔スキャンやリアルタイム追跡を含むあらゆる形態の顔認識は、市民の自由と個人のプライバシーに対する脅威をもたらします。」

彼らだけがではありません。人権擁護団体、政府、批評家は、AIが多くの方法で悪用される可能性を警告しています。例えば、非国家主体が架空のニュース記事や、政治家のいわゆる「ディープフェイク」画像・動画を用いて有権者に影響を与えようとする可能性があります。さらに懸念を深めているのは、国家が自国の利益のために不正な要素を支援しているという報告です。

「私たちはまた、底辺への競争を避けるためのグローバル基準を形成する次のステップも取ります。」

2人の共著記事は上記の発言に触れ、よりオープンな場でAIに関する国際規範を議論することが有益であると強調しました。同時に、韓国の市民権団体の中には、開発途上国からの招待が不十分だと主催者を批判する声もあります。

フランスも今週、世界最大のラグジュアリーグループであるLVMHの支援を受けた「Viva Technology」会議を開催します。過去1年間、フランスは欧州のAIチャンピオンとしての地位を確立するため、AIスタートアップの誘致を試みてきました。

CryptopolitanによるAamir Sheikhのレポート