国連人権担当高官のテュルク氏、高度なAIが人類に脅威をもたらす可能性を警告し、「レッドライン」の設定を要請

国連（UN）の高等弁務官であるVolker Türk氏は、本日9月7日、ジュネーブの人権理事会で、人工知能の能力が人類にとって存続の脅威となる段階まで成長することについて公に警告しました。

テュルク氏は、エスカレートする侵害や安全事案の中で、自律型システム技術のリーダーシップ争いの最前線にいるAIラボが制御不能に陥るのを防ぐため、政府に対して迅速にヘッジを構築し、AIラボの成長にブレーキをかけるよう圧力をかけました。

国連の執行部にとって最大の頭痛の種は、AI技術の成長速度が、現在それを追跡・管理するシステムよりも速いことです。その制御不能な成長により、誤情報や失業を超え、セキュリティ、説明責任、高度に自律的なシステムに対する無制限な監視といった存続領域での脅威がエスカレートしています。 

国連人権担当高官、緊急の国際的行動を呼びかけ 

テュルク氏は、AIの能力がまだ制御可能なうちに行動を起こすための猶予期間が限られていることを指摘し、国際的に協調した行動への彼の要請に緊急性を持たせる根拠としました。また、彼は 指摘した 分野の進歩のペースと方向性が、不均衡なほど 限られた数のテクノロジー経営陣や企業. 

テュルク が握っていること を指摘した赤旗に対する解決策を提案しました。彼の代替案は、これらの主要なAI企業が拠点を置く国と、重要なサプライチェーンを制御する国が歩み寄り、技術がどこまで進むことを許容するかについて「レッドライン」を引くことです。

国連高等弁務官は、7月に同じスイスの都市で行われた最初の「AIガバナンスに関するグローバル・ダイアログ」で国際的な取り組みが行われたトピックを再検討しています。 

会話を始めたITUの「AI for Good」サミットで発言したテュルク氏は、「医薬品、自動車、航空機の安全基準を進歩の障害とは考えていません」と述べました。これは 国連の映像によるものです。「それらは人々がそれらの技術を最初に信頼する理由です。」人間による監督は、「単なるお墨付きであってはなりません」と彼は付け加えました。

そのサミットでの 議論を促した証拠の一部 は、国連が任命したAIに関するグローバル科学パネルのソニア・リビングストン氏によって提示されました。当時、11のグローバルサウス諸国をカバーした調査では、教室あたりの少なくとも1人の児童が、性的に露骨なAIディープフェイクの被害者であったと回答しました。 

国連女性機関（UN Women）のチーフであるシマ・バフース氏も そのジェンダーバイアスを指摘しました。 それについて。彼女によると、トップAI研究者の約88％は男性です。また、彼女の機関が調査した女性活動家やジャーナリストの少なくとも4人に1人が、AI支援によるオンラインハラスメントの被害に遭ったと報告しました。

AIラボと立法府が問題に気づき始めた

国連だけが今夏、警鐘を鳴らしているわけではありません。米上院議員バーニー・サンダース氏は、高度なAI作業の即時一時停止とスーパーインテリジェンスの恒久的禁止を呼びかけています。また、英国の超党派議員グループは、彼らが「暴走したAI事案の連続」と表現する出来事の後、法的に義務付けられたAI「キルスイッチ」の導入を推進しました。 

これらの不安は、OpenAIの主張に続くものでした。それは GPT-6 Astraモデル, に関連付けられており、その技術が人工一般知能（AGI）に到達したと主張するものでした。また、Anthropicも自社のモデルが人間の価値観と「完全に一致していない」と認めています。

その圧力の一部は業界内部からも来ています。6月のエッセイ Axiosによって取り上げられた記事で、AnthropicのCEOであるダリオ・アモデイ氏は、政府に危険なAIの展開をブロックまたは元に戻す法的権限を与えるべきであり、フロンティアモデルは自動車、航空機、または新薬と同様に必須テストを受けるべきだと主張しました。 

自身の理事会での更新において、テュルク氏はこのテーマを戦場にも拡張し、人間が関与しない殺傷兵器の禁止を求める呼びかけを支持しました。