国連人権高等弁務官のトゥルク氏は、高度なAIが人類を脅かす可能性があると警告し、「レッドライン」の設定を強く求めた。

国連人権高等弁務官のフォルカー・テュルク氏は、本日9月7日、ジュネーブで開催された人権理事会において、人工知能の能力が人類にとって存亡の危機となる段階まで拡大する可能性について公に警告した。.

トゥルク氏は、各国政府に対し、侵害や安全dentの増加に伴い、自律システム技術の主導権を握る競争の最前線に立つAI研究所が制御不能に陥らないよう、迅速に対策を講じ、規制を強化するよう強く求めた。.

国連事務局にとって最大の懸念は、AI技術の発展速度が、現在それを統制するシステムの対応能力 tracていることだ。この制御不能な発展は、誤情報や雇用喪失といった脅威を超え、安全保障、説明責任、高度に自律的なシステムに対する監視の不備といった、存亡に関わる領域にまで脅威を及ぼしている。. 

国連人権高等弁務官が国際社会の緊急行動を呼びかけ 

トゥルク氏は、AIの能力を検証できる期間が残り少なくなっていることを、国際的な協調行動を求める自身の呼びかけの緊急性の根拠として挙げた。また、同氏は、 指摘し によって不均衡に左右されている現状についても 少数のテクノロジー企業の幹部や企業。 

トゥルク氏は 解決策を提案した 。彼の提案する代替案は、これらの主要なAI企業が拠点を置く国々や、重要なサプライチェーンを管理する国々が、AI技術のどこまで許容できるかについて「レッドライン」を明確に定めるべきだというものだ。

国連人権高等弁務官は、7月に同じスイスの都市で開催された第1回AIガバナンスに関するグローバル対話で同機関が取り上げたテーマを改めて取り上げている。. 

国連の映像によると、議論の発端となったITUの「AI for Good」サミットで、トゥルク氏は 次のように述べた。「医薬品、自動車、航空機の安全基準は、進歩の妨げになるとは考えていません。むしろ、人々がこれらの技術を信頼する理由なのです。」さらに同氏は、人間の監視は「単なる形式的なものであってはならない」と付け加えた。

そのサミットでの議論を促した証拠の一部は、 国連が設置したAIに関するグローバル科学パネルのソニア・リビングストン氏によって提示された。当時、グローバル・サウスの11カ国を対象とした調査では、各教室で少なくとも1人の子どもが、性的に露骨なAIディープフェイクの被害に遭ったと答えていた。 

国連女性機関のシーマ・バホウス事務局長も、 ジェンダーバイアスを指摘した 。彼女によると、AI研究者の約88%が女性だという。また、彼女の機関が調査した女性活動家やジャーナリストの少なくとも4人に1人が、AIを利用したオンライン上の嫌がらせに直面したと報告した。

AI研究所と議員たちは、これらの問題に気づき始めている。

この夏、警鐘を鳴らしたのは国連だけではない。米国のバーニー・サンダース上院議員は、高度なAI開発の即時停止と超知能の永久禁止を求めた一方、英国の超党派議員グループは、一連の暴走AI事件を受けて、AIの「キルdent」を法的に義務付けるよう働きかけた。. 

こうした不安は、OpenAIが GPT-6 Astraモデル、自社の技術が汎用人工知能に到達したと主張したこと、そしてAnthropicが自社のモデルが人間の価値観と「完全に一致しているわけではない」と認めたことに端を発している。

そうした圧力の一部は業界内部から来ている。Axios が取り上げた、AnthropicのCEOであるダリオ・アモデイ氏は、政府は危険なAIの導入を阻止または撤回する法的権限を持つべきであり、最先端のAIモデルは自動車、航空機、新薬と同様に、義務的な試験を受けるべきだと主張した。 

トゥルク氏は自身の評議会報告の中で、このテーマを戦場にまで広げ、人間の介入なしに人を殺傷できる兵器を禁止すべきだという主張を支持した。.