ボストンの学者、壊滅的なAI不安は過大評価され、誤った方向を向いていると主張

の学者たちは UMass Bostonの応用倫理センター AIとの関与が人々の自己理解に与える影響を研究しており、 ニール・アイジコヴィッツ 特に、これらの壊滅的な不安は 過大評価され、誤った方向を向いていると信じています。大きな人間の問題（AIによって引き起こされたものではなく、人間によって引き起こされたもの）は存在しますが、それらは政策立案者の注意を必要とします。問題は以前から存在しており、壊滅的なものではないという論理です。

最近の数ヶ月、ChatGPTなどのシステムに代表されるAIの台頭は、その潜在的な危険性についての広範な不安を巻き起こしました。一部の人は、AIをパンデミックや核戦争に例え、存在論的な恐怖や壊滅的なシナリオさえ表現しています。ニールは特に、真の危険は本質的な人間の性質の微妙な侵食にあるという概念を提供し、AIの時代において人間である意味を再評価するよう促しています。

壊滅的なシナリオへの挑戦

「ペーパークリップ・マキシマイザー」のような思考実験は潜在的なリスクを説明するために使用されてきましたが、現実は既存のAIアプリケーションが大規模な壊滅的被害を引き起こす能力を遥かに下回っています。これらのシナリオは魅力的ですが、差し迫った脅威というよりはSFの領域に属します。今日のAIシステムは特定のタスクに焦点を当てており、極端な例で提示されたような洗練された判断力や重要インフラへのアクセスを欠いています。

壊滅的な出来事ではなく、真の危険はAIの統合の増加を通じて人間の存在が徐々に変容することにあります。既存のAI技術は、説得力のあるディープフェイクメディアの作成や、意思決定システムにおけるアルゴリズムバイアスの永続化など、危害を及ぼす可能性をすでに示しています。これらの問題は政策立案者の注意と規制を必要としますが、人類に対する存在論的な脅威ではありません。

人間の性質の減少

ニール・アイジコヴィッツ教授は、AIがもたらす存在論的な危険は異なる性質のものであると主張しています。それは哲学的なリスクです。AIは個人が自分自身をどのように認識するかを変化させる可能性があり、基本的な人間の能力や経験を徐々に侵食する可能性があります。そのような能力の一つが判断力であり、これは人間の性質に深く根ざした特性です。判断の多くが自動化されアルゴリズムに委ねられるにつれて、人々はそれら自身の判断を下す能力を失い、推論し、情報に基づいた決定を下す能力の低下を招く可能性があります。

AIが影響を与える人間の存在のもう一つの重要な側面は、偶然と巡り合わせの役割です。人間は人生における予期せぬ出会いや驚きの要素を重視しますが、アルゴリズムによる推薦システムは、予測可能性と計画に依存することで、そのような巡り合わせの経験を最小限に抑えようとします。偶然のアルゴリズムによる漸進的な置換は、個人にとって意味深く予期せぬ発見を奪う可能性があります。

さらに、AIのライティング能力の進歩は、批判的思考能力の衰退に関する懸念を提起します。AI技術が高等教育におけるライティング課題を置き換える場合、教育者は学生に批判的に思考し、効果的に表現する方法を教えるための貴重なツールを失う可能性があります。

慎重な統合の重要性

AIが差し迫った壊滅的な脅威をもたらすわけではありませんが、AIの無批判な採用と各分野への統合には結果が伴います。アイジコヴィッツ教授は、これらの発展が抑制されずに続けば、判断力、偶然の出会いへの appreciation、批判的思考などの人間のスキルが時間とともに減少すると警告しています。人間種はこれらの損失から生き残りますが、人間の存在の質は結果として貧弱になります。

AIを取り巻く不安が高まる中、誇張された壊滅的なシナリオと社会への統合に伴う哲学的リスクを区別することが不可欠です。AIが終末的な結末をもたらす可能性は低いものの、本質的な人間の性質の侵食は真の懸念事項です。AIの微妙なコストを認識し、対処することで、政策立案者、研究者、そして社会全体は、AI技術がそれを減少させるのではなく、人間の存在を強化するために慎重に統合されることを確保できます。

ニール・アイジコヴィッツは哲学の教授であり、応用倫理センターの創設ディレクターです。UMass Bostonに着任する前は、サフォーク大学で法哲学および政治哲学の准教授を務め、そこで倫理と公共政策の大学院プログラムを共同設立し、ディレクターを務めました。アイジコヴィッツ教授の研究は、戦争後に生じる道徳的および政治的ジレンマに焦点を当てています。著書に『休戦の理論』（Palgrave MacMillan）および『敵との共感：和解、移行期正義、交渉』（Brill）があり、『移行期正義の理論化』（Routledge）の共編者也です。また、『非対称戦争の時代の平和の理念』に関するTheoriaの最近の号のゲスト編集者也です。彼についてもっと読む。