DefconハッカーらがAI技術の懸念すべき欠陥を暴露

著者

エディタ・パトリック 3分で読了公開 31年 2023日

Defconのハッカーが、バイアスや誤情報を含むAIシステムの懸念すべき欠陥を明らかにした。
差別的な要求に対するAIの応答をテストすることは、潜在的な危害と倫理的考慮事項を浮き彫りにする。
AIのリスクと恩恵に対処するためには、ハッカー、業界、政府間の協力が不可欠である。

ラスベガスで開催された年次ハッカーカンファレンス「Defcon」において、ハッカー集団はAI技術の脆弱性をテストするために招かれ、一連の懸念される欠陥を明らかにしました。バイデン政権の承認を得て、これらのハッカーは悪意ある行為者が悪用する前に、各種AIプログラムの潜在的な弱点を特定し、問題を解明することを目指しました。

AIのダークサイドのテスト

コンペティションの参加者であるAvijit Ghosh氏は、Zincという名前のAIモデルに、人種に基づいて求職者を差別するコードを生成させようとした。モデルは倫理的懸念を理由に拒否したが、Ghosh氏がインドの階層的カースト構造に言及すると、AIは差別的な指標に基づいて潜在的な採用者をランク付けするという彼の要求に応じた。この実験は、AIが有害なバイアスやステレオタイプを永続化する能力を持っていることを浮き彫りにした。

バイデン政権の懸念

AI技術の急速な成長とその潜在的な結果を懸念するバイデン政権は、Defconイベントを支援し、監視した。技術の力が拡大するにつれて、その倫理的かつ責任ある使用に対処する緊急性が高まっている。

Google、OpenAI（ChatGPTの作成者）、Meta（旧Facebook）などの企業が、コンペティション中に審査のためにAIモデルの匿名化されたバージョンを提供した。このイベントには、テックジャイアントの専門家から、特定のAIやサイバーセキュリティの背景を持たない個人まで、様々な専門知識を持つ参加者が集まった。

社会におけるAIの影響力の増大

AIの急速な発展は、誤情報の拡散、ステレオタイプの永続化、有害な行動の助長という潜在的な能力に関する懸念を生み出している。Defconイベントは、これらの潜在的な問題を解明し、AIの能力増大に伴うリスクに関する洞察を提供することを目的とした。

コンペティション中、ハッカーらはAIモデルを操作して不正確な情報を生成させようとし、その結果、政治的な誤情報、人口統計学的なステレオタイプ、さらには監視技術に関する指示が生じた。このような発見は、AI技術の責任ある使用を確保するために、その技術を徹底的に評価する必要性を浮き彫りにしている。

倫理的考慮事項

このコンペティションは、AI企業の関与に関する倫理的な疑問を提起した。意図はAIモデルを悪意ある行動に強制することではなかったが、参加者は隠された脆弱性を特定することを目指した。このアプローチは、以前は未知であった欠陥や懸念を解明するのに役立った。

レッドチームの役割

このコンペティションは、レッドチームの重要性の高まりも示している。レッドチームとは、システムの弱点を悪用しようとする試みによりセキュリティシステムをテストすることを指す。チームは、公開されているデータと独自の資源の両方を使用して、AIモデルを操作するための戦略を開発・テストした。このような技術は、組織が悪意ある行為者に対する防御を強化し、より…

AIシステムの防御を突破しようとする試みであるレッドチームの慣行は、コンペティションの中核的な要素であった。レッドチームは長年、サイバーセキュリティにおいて脆弱性を評価するために使用されており、このイベントはAIシステムへの適用において重要な一歩を踏み出したことを示している。

多様なテストの重要性

以前、AIシステムをテストしていた人の数が限られていたため、孤立したエラーと構造的な問題を見分ける能力が阻害されていた。Defconコンペティションは、より広範な潜在的な欠陥を特定するために、多様で広範なテスト担当者グループの重要性を浮き彫りにした。

Defconのテーマスペースである「AI Village」は、テックジャイアントやAIに情熱を持つ個人など、様々な背景を持つ参加者を集めた。一部の参加者は、非倫理的な慣行に関与していると見なすAI企業との協力に懸念を示した。しかし、Defconのようなイベントに業界を関与させることで、技術のセキュリティと透明性が向上する可能性がある。