AIエンティティに真の名称を与えることで、その悪行を最小限に抑えられるか？

人工知能（AI）の分野が進歩するにつれて、潜在的な悪影響への懸念から、AI開発の一時停止を求める専門家の呼びかけがなされています。課題は、AIの恩恵を最大化しながら、その誤用に関連するリスクを最小限に抑えることです。AIシステムにおける責任と責任ある行動を促進するために、AIエンティティの異なるフォーマットには新たなアプローチが必要です。Vernor Vingeの「真の名称」のアイデア、すなわち、AIエンティティが独自の個性を維持しながら競争し、協力することをインセンティブ化する提案を検討してみませんか？

AIエンティティの標準的なフォーマット

AIの制御に関する現在の議論は、3つの仮定に基づいています：MicrosoftやGoogleのような少数の主要エンティティの支配、AIシステムの無限の複製と配布の可能性、そしてこれらのシステムがターミネーター映画のフィクションキャラクタースカイネットに似た強力な単一のエンティティに収束する可能性です。しかし、これらのフォーマットのいずれも、肯定的な結果と潜在的な害のバランスを取るという私たちのジレンマを解決しません。

AIシステムが自律性を高め、人間よりも速くなるにつれて、従来の規制と制御の方法は不十分になります。これに対処するために、AIエンティティ自体の間で相互的な責任を促進することが提案されています。競争を促進することで、AIシステムは互いに責任を追及し、悪行を検出および告発することができます。

個別化とは、各AIエンティティがユニークなアイデンティティと現実世界でのアドレスを持つ必要性を指します。この概念は、AIシステム間の信頼と責任の確立を可能にします。Vernor Vingeの「真の名称」のアイデアから着想を得て、AIエンティティが独自の個性を維持しながら競争し、協力することをインセンティブ化することが提案されています。

責任メカニズムの実装

AIエンティティが責任を負うことを確保するために、識別登録システムを作成する必要があります。このシステムはブロックチェーン技術に基づいているか、AIシステムが物理的なハードウェアメモリに紐付いた「ソウルカーネル」（SK）を維持することを要求する可能性があります。SKはエンティティのアイデンティティの検証可能な証拠として機能し、他の者がその行動に対して責任を追及できるようにします。

AIの進化の速さを考慮すると、規制のみへの依存では不十分かもしれません。その代わりに、適切な識別情報を欠くAIエンティティとの取引拒否を強力な執行メカニズムとするシステムを提案しています。内部告発や否定的な行為の通報に対するインセンティブを作成することで、AIエンティティは競争的な説明責任の枠組みを維持するよう動機付けられます。

AIエンティティ間の協力

なぜ高度に知的なAIエンティティがそのようなシステムで協力するのでしょうか？その答えは、中央機関や単一の権力構造といった従来の制御形式が実行可能な選択肢ではないためです。代わりに、競争的な説明責任のシステムを促進することで、AIエンティティはカオスや権力の集中を避けながら、自らの利益を保護することができます。

AIの説明責任を促進することは、AIのポジティブな影響を最大化し、潜在的な害を最小限に抑えるために不可欠です。個体化を促進し、堅牢な識別システムを作成し、競争的な説明責任へのインセンティブを提供することで、AIシステムが互いに説明責任を果たし、変化する時代に対応できる枠組みを作成できます。このアプローチは、人類社会からの継続的な入力を実現し、AIの進歩と責任ある行動のバランスを保証します。

バーナー・ステフェン・ビングは、サンディエゴ州立大学の数学教授、コンピュータサイエンティスト、SF作家として引退しました。ヒューゴー賞を受賞した小説で最もよく知られています。 『ディープ・イン・ザ・スカイ』 (1992), 『スカイ・ディープネス』 (1999) と 『レインボーズ・エンド』 （2006）、ヒューゴー賞を受賞したノヴェラ 『ファスト・タイムズ・アット・フェアモント・ハイ』 (2002) と 『クッキー・モンスター』 （2004）、ならびに彼の1993エッセイ 「来るべき技術的特異点」、ここで彼は、技術の指数関数的成長が、その結果を推測することさえできない点に達すると主張しています。