倫理的なAI監視が不可能なのは、豚に口紅を塗るようなものなのか？

TL;DR 要約

• ルーマン・チョードリー氏は、倫理的なAI監視は不可能だと考え、「豚に口紅を塗っても意味がない」と述べている。
• 彼女は、AI技術を監督し、監視資本主義などの問題に対処するための外部のグローバルガバナンスボードの設立を提唱している。
• チョードリー氏は、AIのガバナンスにおける説明責任と協力の重要性を強調し、過度な規制を避けながら倫理的課題に対処するよう警告している。

最近のインタビューで、Twitterの機械学習倫理、透明性、説明責任の元ディレクターであるルーマン・チョードリー氏は、倫理的な人工知能（AI）監視の可能性について懐疑的な見解を示した。ニューヨーク大学社会科学大学院での講演で、チョードリー氏は「豚に口紅を塗っても意味がない。倫理的な監視は存在し得ないと思う」と述べた。

AI倫理における彼女の功績で知られるチョードリー氏は、監視資本主義の台頭に対する懸念を強調し、これは本質的に人種差別的であり、支持されるべきではないと信じている。Wiredの論説記事で、彼女はAI技術を監督し、監視資本主義、雇用の混乱、核に関する誤情報などの問題に対処するための外部のグローバルガバナンスボードの設立を提唱した。チョードリー氏は、特定の機関に縛られず、世界的な視点を代表する多様なボードの必要性を強調した。

AI業界における説明責任と規制の課題

チョードリー氏によると、説明責任はAI業界でしばしば欠如している重要な側面である。彼女は、企業内の内部リスク分析は道徳的な考慮事項を見落としがちだと指摘した。失敗や評判への損害のリスクが重大になると、彼女は組織が自分たちに有利なように規則を曲げることが多いと述べた。チョードリー氏は、これらの課題に対処するには、多様な利害関係者を含み、世界的規模での協力を含む集団的な努力が必要だと信じている。

規制が必要であることを認めつつも、チョードリー氏は、過度な規制がモデルの過剰修正や根本的な問題への対処の失敗を招く可能性があると警告した。彼女は、有毒または憎悪表現を定義することが複雑な性質を持っていることを強調し、それは継続的な評価と適応を必要とする継続的な旅であると述べた。

ルーマン・チョードリー氏は、技術が人間性から切り離されるべきではないと信じている

チョードリー氏の取り組みは、技術者政策立案者の間のギャップを埋めることを目的としており、技術が人間に与える影響についてのより良い理解を提唱している。彼女は、技術が人間性から切り離されるべきではなく、人間の欠点を克服し社会を改善するために活用されるべきだと信じている。

AI倫理の分野で著名な人物であるルーマン・チョウドリーは、人間の行動の複雑さと予測不可能性について常に興味を持っていました。MITで政治学を専攻する学部生時代、彼女は非営利団体においてモデルやデータをより効果的に活用する可能性に気づきました。これがきっかけとなり、彼女はコロンビア大学で定量手法の修士号を取得し、そのスキルをさらに磨きました。

チョウドリー氏の仕事は、過去1ヶ月だけでも世界中の様々な場所へと彼女を連れて行きました。スペインからサンフランシスコ、ボストンからニューヨーク、そしてウィーンとピッツバーグでの今後の講演まで、彼女はサイバーセキュリティ、核に関する誤情報、Duolingoのような言語学習プラットフォームなど、AIに関連する喫緊の課題に取り組むために積極的に活動しています。

インセンティブ構造を活用し、権力を分散させる。

チョウドリー氏のアプローチの核心には、シンプルながら強力な格言、「聞き、伝え、協力する」があります。しかし、彼女は業界のリーダーたちがAIによる危害の防止へのコミットメントを表明していても、言葉と行動の間にはしばしば乖離があることを認識しています。彼女は、監視が強化される時期には、一部の組織が規制を呼びながら、同時に規制法の成立を妨げるためのロビー活動を行っていることを観察しています。

チョウドリー氏のAI倫理およびガバナンスへのアプローチは、機械とは異なり、人間には多様な動機と優先順位があるという理解に基づいています。意味のある変化をもたらすためには、インセンティブ構造を活用し、権力を分散させる必要があります。彼女は単一のヒーロー・ナラティブという概念に疑問を投げかけ、AIの未来を形作るにあたって、協力と集団的な意思決定の重要性を強調しています。