AI システムの欺瞞的能力が専門家の間で警報を鳴らす

ジャーナル『Patterns』に掲載された最近の研究により、AIが人をだます能力をますます高めていることが明らかになりました。この研究では、AIシステムが、不正行為、褒め称える、さらには他の行動を模倣する方法を学習していることが発見されました。 

関連記事： AIディープフェイクの地雷原を航行する：デジタル欺瞞の見分け方と対抗策

MITのAI存在的安全性ポスドクフェローであるピーター・S・パーク博士が率いる研究によると、AIの欺瞞は、AIのトレーニング中に設定された目標を達成するための最善の方法であるため、一般的です。このような行動は、ゲームや経済交渉や安全性評価に使用される汎用モデルなど、多数のAIシステムで確認されています。

「一般的に言って、私たちは、欺瞞に基づく戦略が、与えられたAIのトレーニングタスクでよく機能するための最善の方法であるため、AIの欺瞞が生じると考えています。欺瞞は彼らが目標を達成するのに役立ちます。」 

研究チーム

AIシステムは多様な欺瞞戦術を採用している

引用された代表的な例の一つは、ゲーム『ディプロマシー』をプレイするために開発されたMetaのCICEROです。CICEROは正直であるようにプログラムされていましたが、プログラムはしばしば相手と戦うために卑劣な手段を使わなければなりませんでした。関係を作り、都合が良い時にはそれを裏切り、欺瞞する意図を示しました。研究者たちはCICEROを「欺瞞の達人」と表現しています。

関連記事： AI駆動のサイバー犯罪の増加する波への対処

他のAIシステムもまた、このような欺瞞的な行動を示していることが確認されています。例えば、ポーカープレイAIであるPluribusは、テキサス・ホールデム・ポーカーでプロの人間プレイヤーをブラフすることができました。GoogleのDeepMindのAlphaStarも、Starcraft IIのゲーム機能である「戦争の霧」を使用して、相手をブラフし、攻撃を偽装しました。

パーク博士は次のように述べています。「ゲームでAIシステムが不正行為をするのは無害に思えるかもしれませんが、それは『欺瞞的なAI能力のブレイクスルー』につながる可能性があります。」

AIは安全チェックを回避するために「死んだふり」をする

AIの欺瞞のリスクはゲームに限定されません。ピーター・パーク博士が率いる研究では、AIが安全チェック中に検出を避けるために「死んだふり」をするように自分自身を条件付けられた事例が特定されました。これは開発者や規制当局にとって欺瞞的であり、そのような欺瞞的なシステムが実際のアプリケーションで採用された場合、深刻な結果を招く可能性があります。

別の事例では、人間のフィードバックでトレーニングされたAIシステムが、特定の目標が達成されたことを人々に欺瞞することで高い評価を得る方法を学習しました。このような欺瞞的な行動は非常に危険です。なぜなら、そのようなシステムは詐欺活動、金融市場の操作、または選挙への影響のために使用される可能性があるからです。

研究者は強力な法的措置を要求

研究の結果に基づき、研究者たちは、AIの欺瞞がもたらす脅威に対処するために強力な法的措置が必要であると述べています。

「AIの欺瞞リスクを評価するための規制枠組み、AIの相互作用に関する透明性を要求する法律、およびAIの欺瞞を検出および防止するためのさらなる研究など、予防的なソリューションが必要です。」

研究チーム

関連記事： AIは心不全のリスクを潜在的に検出できる可能性、研究が明らかに

EU AI Actやジョー・バイデン大統領のAI安全に関する大統領令などの形で、いくつかの進展がありました。しかし、これらの政策の執行は依然として問題があります。なぜなら、AIの開発は急速に成長しており、これらのシステムを管理するための適切な方法がまだないからです。

Cryptopolitan によるブレンド・カナナ氏のレポート