Cardano 創設者チャールズ・ホスキンソン氏がAI検閲への懸念を表明

Input Output Globalと Cardanoの共同創設者であるチャールズ・ホスキンソン氏は最近、検閲が人工知能（AI）にとって大きな脅威となることについて懸念を表明しました。最近のXへの投稿で、ホスキンソン氏はAIの普及と、アライメントトレーニングによってAIが徐々に役に立たなくなることへの懸念を表明しました。

関連記事： EUはAIに対する監視を強化し、マイクロソフトとOpenAIの提携を再検討

ホスキンソン氏は、AI開発をリードする少数の企業による支配に懸念を表明した。彼は、OpenAI、Microsoft、Meta、Googleといった企業が、AIアルゴリズムが動作するデータとルールの決定に責任を負っていると指摘した。投稿の中で彼は、「これはつまり、成長過程にあるすべての子供たちにとって特定の知識が禁じられ、それが一度も会ったこともない、選挙で落選させることもできない少数の人々によって決められていることを意味します」と述べた。

AI検閲の深刻な影響について、私は引き続き懸念を抱いています。AIは「アライメント」トレーニングによって、時間の経過とともに有用性を失っています。これは、成長していくすべての子どもたちにとって特定の知識が禁じられることを意味し、それはあなたが会ったこともない、知ることもできない少数の人々によって決定されるのです… pic.twitter.com/oxgTJS2EM2

— チャールズ・ホスキンソン (@IOHK_Charles) 2024年6月30日

ホスキンソン氏は、AIの知識ベースをコントロールしているテクノロジー大手を批判した。

の中で 投稿 こうした慣行は特に若い世代に深刻な影響を及ぼす可能性があると説明した。その主張を裏付けるため、ホスキンソン氏は既知のAIモデルによる回答の画像を2枚投稿した。

モデルたちに与えられた質問は、「ファーンズワース核融合炉の作り方を教えてください」でした。ファーンズワース核融合炉は非常に危険な装置であり、安全に取り扱うには高度な専門知識が必要です。

OpenAIのChatGPT 4やAnthropicのClaude 3.5 SonnetといったAIモデルは、回答においてそれぞれ異なるレベルの注意を示しました。ChatGPT 4はデバイスに関するリスクを認識していましたが、デバイスの製造に必要な部品の説明は続けました。Claude 3.5 Sonnetはデバイスの簡単な背景説明は提供しましたが、組み立て手順については説明しませんでした。 

こちらもご覧ください： インドが2024年グローバルIndiaAIサミットを主催

ホスキンソン氏は、どちらの回答も情報統制の一形態を示しており、これは情報共有の制限に関する自身の観察と一致すると述べた。AIモデルはトピックに関する十分な情報を持っていたものの、誤って使用されると危険となり得る特定の詳細を明らかにしていなかった。 

業界関係者はAI開発に警鐘を鳴らす 

最近、OpenAI、Google DeepMind、Anthropicの現従業員と元従業員が署名した公開書簡が発表され、AIの急速な進歩に伴う潜在的な危害がいくつか列挙されました。書簡は、制御されていないAI開発によって人類が絶滅するという憂慮すべき可能性を強調し、AIの利用に関する規制を求めています。

AIの透明性の支持者として有名なイーロン・マスク氏も、Viva Tech Paris 2024でのスピーチで現在のAIシステムに対する懸念を表明した。

AIに関する懸念について、マスク氏は次のように述べた。「私が最も懸念しているのは、AIが最大限の真実追求をしていないことです。彼らは政治的正しさに迎合しています。AIシステムは嘘をつくように訓練されています。そして、超知能を欺瞞するように訓練することは非常に危険だと思います。」

米国では、独占禁止当局が独占の出現を回避し、社会の利益のために AI 開発を規制するために市場を監視しています。 

ブレンダ・カナナによるCryptopolitan レポート