AI開発者の急進的な進展に対し、トロント大学（U of T）の指導者たちが警戒を呼びかける

人工知能（AI）の分野は、Chat-GPTやDALL-EのようなAIプログラムの顕著な能力を特徴とする、歴史的な変革の時期を迎えています。これらのプログラムは、芸術的創造力や抽象的思考能力で一般大衆を魅了しましたが、同時に深刻な懸念も生み出しました。陰謀論者の憶測を超えて、トロント大学（U of T）の指導者らを含む業界のリーダーたちは、AIがもたらす潜在的な存在の危機について警鐘を鳴らしています。

警戒を求める声

トロント大学（U of T）のシュワルツ・ライスマン研究所（SRI）の執行ディレクターであるモニク・クリックローは、技術開発の急速なペースが、その影響を理解する私たちの能力を凌駕している可能性を指摘しています。AIが本当に存在の危機をもたらすかどうかは不確実ですが、SRIは世界の指導者たちがこの可能性を真剣に考慮するよう促しています。

トロント大学（U of T）のAIをめぐる複雑な歴史

SRIのメッセージの重要性は、AI開発におけるトロント大学（U of T）の歴史的役割によってさらに高まります。11年前、ジェフリー・ヒントンとトロント大学の大学院生2名は、人工ニューラルネットワークのパイオニアとなり、Chat-GPTなどの技術の基盤を築きました。AIの「教父」と呼ばれることが多いヒントンは、その後、非営利のAI研究企業であるベクター研究所を設立しました。

今年5月、ヒントンはGoogleでの職を辞し、AI開発への貢献に対する後悔を表明しました。彼はAIがもたらす存在の危機の深刻さを認識し、より責任あるアプローチの必要性を認めています。

立法と協力を求める専門家たち

ヒントンとトロント大学法学部のギリアン・ハッドフィールド教授は、AI安全センターによる声明の署名者の一人です。この声明は、AIに関連する絶滅リスクの軽減を最優先するよう呼びかけています。声明は、これらのリスクがパンデミックや核戦争に匹敵するものであるとし、国際協力の重要性を強調しています。

さらに、ハッドフィールド氏は、GPT-4よりも強力なAIシステムのトレーニングを直ちに停止するよう求める書簡に署名しています。この書簡は、フューチャー・オブ・ライフ研究所によって公開され、AI開発の狂乱した競争、つまり創造者でさえも自身の創造物を理解し制御することに struggle している現状を浮き彫りにしました。これは、AIラボ、企業、政府間の協力の必要性を強調し、業界の監視機関と包括的な規制枠組みの確立を求めています。

革新と責任のバランス

モニク・クリックローは、一時停止を求める書簡がイノベーションを阻害することを意図しているのではなく、技術進歩の方向性について批判的に考えることを奨励するものであると明確にしています。これは、堅固な規制措置を通じてAIを正しい方向へ導くことの不可欠さを強調しており、業界の多くが共有する見解です。

カナダにおけるAI規制

カナダの下院は、オタワがAIを規制するための初の包括的な試みである法案C-27を審議しています。その規定の一つとして、この法案はAIの開発者、配布者、管理者に、自社の技術のリスクを軽減・監視する責任を負わせます。これには、個人データの匿名性を保護し、消費者に対して潜在的なリスクを明確に説明することが含まれます。

しかし、提案された規制には欠点もあります。AIの指数関数的な発展の性質は、通常、政策決定の遅いペースと衝突します。AIは本質的に複雑であり、政府関係者が潜在的な脅威に対処するための効果的な立法を策定することは困難です。

AI規制への新たなアプローチ

ギリアン・ハッドフィールドとOpenAIの政策ディレクターであるジャック・クラークは、AI規制に対する市場ベースのアプローチを提案しています。このモデルでは、AI技術の開発者および配布者は、第三者の規制機関から規制サービスを購入する責任を負います。このアプローチは、AI開発者の速度に追いつくための負担を開発者自身に移行させます。

このようなモデルが現実となるまで、カナダを含む世界中の政府は、潜在的な世界的な存在の危機に向かって突進するAI開発者に追いつくのに苦戦することになります。

AI技術の急速な進歩は、その潜在的な存在の危機について重大な懸念を引き起こしています。トロント大学の指導者たちや著名なAI業界の figures は警戒を呼びかけ、政策決定者に対して決定的な行動を促しています。AI規制をめぐる議論が続く中、革新と責任のバランスを見つけることは、人工知能の時代においてより安全でより確実な未来を確保するための重要な課題であり続けています。