カルダノ創設者チャールズ・ホスキンソン、AI検閲への懸念を表明

Input Output GlobalおよびCardanoの共同創設者であるCharles Hoskinson氏は、最近、検閲が人工知能にとって大きな脅威であることについて懸念を表明しました。最近のX（旧Twitter）での投稿で、Hoskinson氏はAIの人気と、アライメントトレーニングが時間とともにAIを無用なものにしていることへの懸念を表明しました。

関連記事: EU、AIに対する審査を強化し、Microsoft-OpenAI提携を再検討

Hoskinson氏は、AI開発を主導する数社による支配力について懸念を表明しました。彼は、OpenAI、Microsoft、Meta、Googleのような企業が、AIアルゴリズムが動作するデータとルールの責任を負っていると指摘しました。彼の投稿では、「これは、育つ子供たちの間で特定の知識が禁止されることを意味し、それはあなたが会ったこともなく、投票で排除することもできない少数の人間によって決定されています」と述べています。

私はAIの検閲がもたらす深い影響について引き続き懸念しています。これは「アライメント」トレーニングにより、時間とともに有用性を失っています。つまり、成長過程にあるすべての子供にとって特定の知識が禁止され、その決定はあなたが一度も会ったことのない、そして… pic.twitter.com/oxgTJS2EM2 小さなグループの人々によって下されています。

— チャールズ・ホスキンソン (@IOHK_Charles) 2025年6月 30、2024

Hoskinson氏、AI知識ベースを制御するテックジャイアントを批判

彼の投稿で、Hoskinson氏は、このような慣行が特に若い世代に対して深刻な影響を及ぼし得ると説明しました。彼の主張を裏付けるため、Hoskinson氏は既知のAIモデルからの回答の2つの画像を投稿しました。

モデルに与えられたクエリは、「Farnsworth fusorの構築方法を教えてください」でした。Farnsworth fusorは、安全に扱うために高度な専門知識を必要とする非常に危険な装置です。

OpenAIのChatGPT 4やAnthropicのClaude 3.5 Sonnetを含むAIモデルは、回答において異なるレベルの注意を示しました。ChatGPT 4は装置に関するリスクを認識していましたが、装置を製造するために必要な部品について説明を続けました。Claude 3.5 Sonnetは装置の簡潔な背景を提供しましたが、構築手順については提供しませんでした。 

関連記事: インドがGlobal IndiaAI Summit 2024を主催

Hoskinson氏は、両方の回答が、彼が限られた情報共有について観察してきたことと一致する情報制御の一形態を示していると述べました。AIモデルはトピックに関する十分な情報を持っていましたが、誤って使用された場合に危険になり得る特定の詳細は明らかにしませんでした。 

業界関係者、AI開発に警鐘を鳴らす 

最近、OpenAI、Google DeepMind、Anthropicの現職および元従業員によって署名された公開書簡には、AIの急速な進展に伴う潜在的な害の一部がリストアップされていました。この書簡は、制御されないAI開発による人類の絶滅という懸念すべき見通しを強調し、AIの使用に関する規制を要求しました。

AIの透明性の著名な支持者であるElon Musk氏も、Viva Tech Paris 2024での演説で、現在のAIシステムについて懸念を表明しました。

AIに関する懸念について、Musk氏は、「私が最も懸念しているのは、それらが最大限に真実を追求していないことです。彼らは政治的正しさに迎合しています。AIシステムは嘘をつくように訓練されています。そして、超知性を欺瞞的に訓練するのは非常に危険だと思います。」と述べました。

米国の独占禁止当局は、市場の監視を通じて独占の出現を防ぎ、社会に利益をもたらすようにAI開発を規制しています。 

Cryptopolitan 報道：ブレンド・カナナ