ブテリン氏は、AIは人類を無力化するのではなく、力を発揮させるべきだと警告

VitalikはAIが人類を強化すべきであり、無力化すべきではないと警告

ブテリンは人工知能（AI）の将来の方向性について投稿しました。一連の投稿の中で、イーサリアムの共同創設者は、AIは人類を無力化するのではなく、力を発揮させるべきだと明確に示しました。

イーサリアムの共同創設者であるVitalik Buterin氏は、人工知能（AI）の慎重な開発を促し、人類をより強くするのを助けるべきであり、人々から制御を奪うシステムを生み出すべきではないと述べています。

AIは人間を助けるべきであり、乗っ取るべきではない

彼は、「設計が不適切なAIシステムは、制御不能で自己複製するエンティティを生み出す可能性がある」と警告しました。

Buterin氏は、「間違った方法で行われたAIは、新しい形態の独立した自己複製型知的生命体を作り出している」と書き、「正しい方法で行われたAIは、人間の心のためのメカスーツである。前者を後者なしで行うと、人間の永久的な無力化のリスクがある。後者を行うと、繁栄する超知能の人類文明が生まれる。」

彼は、AIは人間の思考、創造性などを増強すべきだと信じており、それはユーザーの力を高める「メカスーツ」のようなものだと考えています。これに対し、彼によると、人間の監視なしの自律型AIシステムの危険性が対比されており、最終的には私たちが創造した技術の制御を失う可能性があるとしています。

Buterin氏はさらに、意思決定の改善のための集団的な手段として「凝縮された人間の判断」の使用があるべきだと示唆しています。彼はこれを、人間の意思決定プロセスを模倣するが人間よりも効率的に実行できるシステムを作成することとして説明しました。

したがって、人間はAIの能力から得られる利益を享受しながら、制御を維持することができます。

後者は、彼が説明したように、凝縮された人間の判断を通じて集団レベルで達成できます。集団的な人間の知性は、AIが人間の能力を代替するのではなく、増幅するのを助けるためのガイダンスを提供できます。

制御不能なAIシステムのリスク

Buterin氏はさらに、このリアルタイム・ビデオ生成ソフトウェアのような新興のAIツールは、確かに強化するAIシステムの例を持っている一方で、「テキストから画像へのモデルのような『パッシブ・システム』の方式では、ユーザーの影響は非常に最小限である」と明確にしています。

「プロンプトして待つだけでは機能せず、常にリアルタイムのベースに合わせて狙いを定め調整する必要がある」と彼は述べており、人間とAIのより親密で強化されたダイナミクスを示唆しています。

最終的に、ブテリンは責任あるAI開発を提唱し、人類に力を与えることを支持しています。彼は自律型システムへの制御不能で抑えきれない推進力には反対であり、人間の能力を高めるためのツールとしてAIを見るべきだと考えています。「適切に行われれば、AIは繁栄する超知能文明をもたらすことができる」と彼は考えています。