ソウルAIサミットでは安全性が主要議題に

韓国と英国の政府は、今週開催される国際AIサミットで、テクノロジー企業に対し人工知能の安全性監視に取り組むよう促す予定だ。.

この会議は、昨年イギリスのブレッチリー・パークで開催された初のグローバルAI安全サミットのフォローアップであり、多くの政府がAIのリスクに対する懸念を表明しました。AI企業も、開発中の技術がこれらのリスクを及ぼす可能性があるため、このサミットに出席しました。.

急速に発展し、社会の多くの側面に革命を起こす可能性のある技術に対するガードレールを作ろうとする国際的な試みが数多くある中、ソウルでの首脳会談は日常生活への新たなリスクに対する懸念を引き起こした。. 

「世界的なAIガバナンスを形成するための前向きな取り組みは行われているものの、依然として大きなギャップが残っています。」

11月に英国で開催されたサミットには、研究者、政府関係者、テクノロジー企業の幹部、そして市民社会団体の代表者が集まり、その多くは人工知能（AI）に関して異なる意見を持っていました。会議はブレッチリー・オフィスで非公開で行われました。リシ・スナック英国首相をはじめとする政治家、OpenAIのサム・アルトマンCEO、テスラのイーロン・マスクCEOをはじめとする多くの人々が出席しました。.

AIサミットでは安全性が最優先事項となる

火曜日に開幕するAIソウルサミットでは、安全が再び最優先事項となる。英国と韓国の両政府が5月21日と22日に共催するこの会議は、両国が共同で開催する。.

マイクロソフト、アントロピック、グーグル・ディープマインド、ChatGPTの開発元であるOpenAI、フランスのAIスタートアップ企業ミストラルなど、著名なAI企業が代表者を派遣する予定だ。.

英国のリシ・スナック首相と韓国の尹錫悦大統領dent 共同記事を執筆し、 掲載された 。両氏はこの技術の可能性を認め、安全性確保への意欲を表明し、次のように述べた。

「私たちは力を合わせ、この技術の可能性を掴み、世界をより良い方向に変えていく決意です。」

彼らはまた、新しい技術が新たなリスクをもたらすように、AIも新たなリスクをもたらすと強調した。彼らは、AIを悪用して悪事を働こうとする不正行為者によるAIの悪用を指摘した。.

つい最近、OpenAIは共同創設者のイリヤ・スツケヴァー氏と他の主要従業員数名が退社したことを受け、「スーパーアライメントチーム」と呼ばれる安全対策チームを解散した。この開発は、AIのリスク軽減に注力する世界有数のAI企業である同社が、ソウルサミット開催のわずか数日前に開始したものだ。.

こちらもご覧ください: ブレッチリー・パーク・サミットでAIリスクへの対処に国際協力が求められる

また、Anthropic社は本日、責任あるスケーリングポリシーに関するレポートを発表しました。同社によると、このレポートは良好な結果を示しているとのことです。しかし、当社はこの結果を確認することはできません。これらの進展についてコメントする立場にはありませんが、検討材料となる情報を提供してくれることは確かです。.

イノベーションは継続しなければならない

ChatGPTは2022年のリリース直後から急速に人気を博し、世界中のテクノロジー企業が生成AIモデルの構築に数十億ドルを投資し始めました。スナック氏とヨル氏は、毎日新しいAIモデルがリリースされるという急速なイノベーションについて言及し、次のように述べています。

「政府は数十億ドルを投資し、世界トップクラスの大学における最先端の研究を促進し、次の大きなアイデアを生み出す可能性のあるスタートアップ企業を過剰に規制しないようにすることで、こうしたイノベーションを促進できる。」

生成AIモデルの支持者たちは、この技術は単純な指示に応じてテキスト、写真、音楽、さらにはビデオまでも生成できるため、世界中の人々の生活とビジネスを向上させる画期的な技術だと称賛している。.

世間の注目を集めている製品の中には、独自の偏見が組み込まれているものもあり、懸念材料となっている。. 

こちらもご覧ください： AI専門家がFIDICグローバルリーダーシップフォーラムで語る、AIとの協働は不可欠

そして、これらだけではありません。これらの製品の背後で機能する大規模言語モデル（LLM）と呼ばれる技術は、様々な分野の多くのソリューションの基盤技術にもなっています。自動運転車から医療ソリューションまで、多くの製品が生成AI LLMに依存して機能しています。.

依然として懸念の声

AIの進歩と応用を規制するための国際的なガイドラインの制定を求める声が、多くの人々から上がっています。例えば、ニューヨークを拠点とする「Ban the Scan（スキャンを禁止せよ）」という運動は、政府および民間レベルでの顔認識技術の利用停止を求めています。. 

彼らは、これらの技術は個人の自由を侵害し、誤検知率が高いと主張している。tronフロンティア財団のページには次のように書かれている。

「顔認識は、プライバシー、人種的正義、表現の自由、そして情報セキュリティに対する脅威です。顔スキャンやリアルタイム tracを含むあらゆる形態の顔認識は、市民の自由と個人のプライバシーに対する脅威となります。」

彼らだけではありません。人権擁護団体、政府、そして批評家たちは、AIが様々な形で悪用される可能性があると警告しています。例えば、非国家主体がAIを利用して、虚偽のニュース報道や、いわゆる「ディープフェイク」と呼ばれる選出公職者の画像や動画で有権者に影響を与える可能性があります。また、国家が自国の利益のために不正な勢力を支援しているという報道が増えていることも、懸念を一層深めています。.

「我々はまた、底辺への競争を回避するための世界基準の策定に向けて次のステップを踏み出すつもりだ。」

デュオの記事は上記の発言に言及し、AIに関する国際規範についてよりオープンなフォーラムで議論することが有益であると強調した。同時に、韓国の一部市民権団体は、主催者が十分な数の発展途上国を招待していないと批判している。.

フランスでは今週、世界最大のラグジュアリーグループであるLVMHの支援を受けて「Viva Technology」カンファレンスも開催される。フランスは過去1年間、欧州のAIリーダーとしての地位を確立するため、AIスタートアップ企業のtracに取り組んできた。.

Cryptopolitan アーミール・シェイク記者によるレポート