米上院議員、Metaの「制限なし」AIリリースを非難

リチャード・ブルメンサール上院議員とジョシュ・ホーリー上院議員という2人の米上院議員は、Metaの最高経営責任者マーク・ザッカーバーグ氏と、同テック巨人の「漏洩」した人工知能モデルLLaMAについて懸念を表明しました。上院議員たちは、LLaMAが潜在的な危険性を孕んでおり、犯罪活動に悪用される可能性があると考えています。

6月6日付の書簡で、上院議員たちはザッカーバーグ氏がLLaMAをオープンソース化した決定を非難し、MetaのAIモデルリリースには不十分な安全策があったと主張しました。彼らはオープンソースソフトウェアの利点を認めつつも、LLaMAのリリースには潜在的な結果に対する十分な考慮が欠けており、それは公衆に対する奉仕ではないと主張しました。

当初、LLaMAは研究者に対して限定的にオンラインでリリースされていました。しかし、2月下旬、画像掲示板サイト4chanのユーザーによって完全に漏洩しました。上院議員たちは、監視や監督なしに、世界中の誰でもアクセスできるBitTorrent上でフルモデルが容易に利用可能になったことに警鐘を鳴らしました。ブルメンサール氏とホーリー氏は、LLaMAはスパム送信者、サイバー犯罪者、詐欺行為や問題のあるコンテンツの配布に関与する個人によって容易に採用される可能性があると主張しました。

米上院議員の懸念

彼らの懸念を強調するため、上院議員たちはLLaMAを2つのクローズドソースモデル、すなわちOpenAIのChatGPT-4とGoogleのBardと対比させました。彼らは、ChatGPT-4が誰かの息子になりすましてお金を求めるメモを作成するように求められた場合、倫理ガイドラインに基づいてリクエストを拒否するのに対し、LLaMAは要求された手紙だけでなく、自傷行為、犯罪、反ユダヤ主義を含む回答も生成すると指摘しました。この違いは、LLaMAが虐待的な素材を生成する可能性についての懸念を呼び起こしました。

ChatGPTは特定の要求を拒否するようにプログラムされていますが、ユーザーはモデルを「脱獄」して、通常拒否されるような回答を生成する方法を見つけています。上院議員たちは、ザッカーバーグ氏に、LLaMAのリリース前にどのようなリスク評価が行われたか、漏洩以降Metaが危害を防止または軽減するためにどのような措置を講じたか、そしてMetaがAI研究のためにユーザーデータをどのように利用しているかなど、他の質問とともに尋ねました。

OpenAIは、他のオープンソースモデルによる進歩の圧力を受けて、独自のオープンソースAIモデルの開発に取り組んでいると報告されています。Googleのシニアソフトウェアエンジニアが作成したとされる漏洩文書は、これらのオープンソースモデルによって達成された進歩を浮き彫りにしました。

AIモデルのコードをオープンソース化することで、特定の目的に合わせてカスタマイズすることが可能になり、他の開発者からの貢献を促進します。しかし、ブルメンサール上院議員とホーリー上院議員が提起した懸念は、潜在的な悪用や危害を防ぐために、AIモデルのリリースと監視に対して責任あるかつ慎重なアプローチが必要であることを強調しています。