ヴィタリック・ブテリン氏、価値の維持と権力の集中化防止のため人間主導のAIシステムを提唱

イーサリアム共同創設者のヴィタリック・ブテリン氏は、彼が「大胆な計画」と呼ぶ、人間が制御する人工知能（AI）の計画を発表し、権力が集中し、人類の生存が脅かされ、または回復不能になるディストピア的未来を避けるためにそのような発生が必要であると強調した。

共同創設者はAIの能力を differently. 彼は、AIは人間よりも強力になり得ると信じており、したがって進化を促進し、いくつかの産業で最高のイノベーション実践を引き出すだろうと考えている。

しかし、ブテリン氏はなお、AIが自律的になりすぎると、人間の利益と深刻な衝突を引き起こし始める可能性を懸念している。意図せず放出された力として、人工知能は人類の生命を終わらせるかもしれない急速な飛躍を遂げることができる。

人工知能は今、非常に急速に進歩しており、独自の目標を形成しつつある。その過程で、それは一部の人々を恐怖させるが、他の人々にとってはうまく機能する社会を生み出すかもしれない。進化の歴史において、このパターンはよく知られており、しばしば悲劇的である。

現在の立法議論では遠く離れているように思えても、AIからの存在リスクの非自明な確率を示す世論調査により、この未来は妥当性を持つ。これらの発見は、AIの発展を合理的に導くことができる構造を確立することが重要であることを強調している。

AIは人類に偉大な知的成果を達成する力を提供する

ブテリン氏は AIを、個人を強化し、偉大な知的および実践的成果を達成するためのツールとして捉えている。このようなアプローチは、AIと人間の協力を深め、技術を人間の意思決定の拡張と見なす。

その結果、ブレイン・コンピュータ・インターフェース（BCI）は潜在的な利益をもたらすアプローチとなっている。BCIは、人間と人工知能の間の直接の神経通信のスタックを提供し、人間とAIの交換間の遅延を秒からミリ秒に短縮する。

これらの進歩により、人間の意思決定が制御されたまま保たれ、技術が人々に意味のある方法で奉仕し、自動化システムが人間の権限を超えて作動しないことが保証される。この分離は、知的システムが人間の認知とより統合されるにつれて自律性を保護するBCIによって強化されている。

ブテリン氏はまた、意思決定におけるAIシステムに関する重要な「凝縮された人間の判断」の存在を同様に強調している。これは、群衆の知恵を活性化し、機械の行動を導く可能性のある道徳的な入力を提供することによってAIの行動を誘導するという考え方である。また、技術が社会の規範や期待により密接に反映されるように、開発者が人間の判断をAIシステムに組み込むことも重要である。

権力の集中に対抗するためのAIの分散化

ブテリン氏の議論はまた、AIの開発と制御の分散化に依存している。彼は、AI技術が少数の大規模なエージェントの独占となり、極端な権力の集中を制御するようになる状況を警告している。その結果、AIの発展を形作る力は、 effectively 少数の個人の手元に置かれる可能性があり、それは社会全体にとって有害であるかもしれない。

ブロックチェーンとゼロ知識証明は、分散化を実現するのを助ける技術の例であり、これはコミュニティ間でより公平なAI開発を実現するための1つのアプローチとなり得る。

これはAI研究の民主化を進め、権力の蓄積を制限し、AIが特定のもののではなく集団的な財であることを保証する。

ブテリン氏は具体的には、分散型加速主義（Decentralized Accelerationism）が、集中化された制御に対して個人の自律性を防衛するための技術の急速な発展であると述べている。それは、強力な AIシステム。 その過程で、保護技術の開発は、調和の取れた社会に先行すべきである。

彼の広範な影響力と解決策志向の思考により、ブテリン氏は技術の軌道における潜在的な軌道修正の必要性を特定した。今、彼は研究者、政策立案者、一般市民からすべての利害関係者に対し、AIの軌道を形作るために積極的に協力して取り組むよう呼びかけている。

技術開発の規制とガバナンスを参照して、これらの優先事項の核心は、AIに関する倫理ガイドラインと規制枠組みの必要性である。