米上院議員らメタの「無制限」AI公開を非難

リチャード・ブルーメンソールとジョシュ・ホーリーの2人の米国上院議員は、メタ社の最高経営責任者マーク・ザッカーバーグ氏と、テクノロジー大手のLLaMAと呼ばれる「流出した」人工知能モデルについて懸念を表明した。 上院議員らは、LLaMAには潜在的な危険があり、犯罪行為に悪用される可能性があると主張している。

上院議員らは6月6日付の書簡で、LLaMAをオープンソース化するというザッカーバーグ氏の決定を批判し、メタ社のAIモデルのリリースには十分な保護措置がなかったと主張した。 彼らは、オープンソース ソフトウェアの利点を認めながらも、Meta による LLaMA のリリースは潜在的な結果についての十分な検討を欠いており、それは公衆に対する不利益であると考えたと主張しました。

当初、LLaMA は研究者向けにオンラインで限定的にリリースされていました。 しかしその後、2月下旬に画像掲示板サイト4chanからユーザーによって全文が流出した。 上院議員らは、完全なモデルが監視や監視なしに BitTorrent 上で容易に入手可能となり、世界中の誰でもアクセスできるようになったことに懸念を表明した。 Blumenthal と Hawley は、LLaMA はスパマー、サイバー犯罪者、詐欺行為や不快なコンテンツの配布に関与する個人によって簡単に採用される可能性があると主張しました。

米国上院議員の懸念

懸念を強調するために、上院議員らは LLaMA を 2 つのクローズドソース モデル、OpenAI の ChatGPT-4 と Google の Bard と対比させました。 彼らは、ChatGPT-4 が、誰かの息子を騙って金銭を要求するメモを生成するよう求められると、倫理ガイドラインに基づいてその要求を拒否するのに対し、LLaMA は要求された手紙だけでなく、自傷行為、犯罪、反ユダヤ主義。 この区別により、LLaMA が虐待的な内容を生成する可能性があるという懸念が生じました。

ChatGPT は特定のリクエストを拒否するようにプログラムされていますが、ユーザーはモデルを「脱獄」し、通常は拒否されるレスポンスを生成する方法を見つけました。 上院議員らはザッカーバーグ氏に対し、LLaMAの公開前に何らかのリスク評価が行われたかどうか、漏洩以降、被害を防止または軽減するためにメタ社が

OpenAI が、他のオープンソース モデルによる進歩の圧力を受けて、独自のオープンソース AI モデルに取り組んでいると伝えられていることは注目に値します。 Google の上級ソフトウェア エンジニアが作成した漏洩文書は、これらのオープンソース モデルによる進歩を強調しています。

AI モデルのコードをオープンソース化すると、特定の目的に合わせてカスタマイズできるようになり、他の開発者からの貢献が容易になります。 しかし、ブルメンタール上院議員とホーリー上院議員が提起した懸念は、潜在的な誤用や危害を防ぐために、AI モデルのリリースと監視に対する責任ある思慮深いアプローチの必要性を強調しています。