AIチャットボットが選挙の誤情報を拡散、調査で判明

最近の調査により、2024年選挙に関する誤ったおよび誤解を招く情報をAIチャットボットが拡散するという懸念される傾向が明らかになりました。この発見は、AI Democracy Projectsと非営利メディア組織であるProof Newsによる共同研究からのものでした。この調査結果は、政治的議論においてAIが重要な役割を果たし続ける中で、規制当局の監督の緊急性を浮き彫りにしています。

重要な時期における誤情報

研究は、これらのAI生成の不正確な情報が、米国での大統領予備選挙の重要な時期に現れていることを指摘しています。選挙関連の情報にAIを頼る人が増えるにつれて、誤ったデータの拡散は特に懸念されます。この研究では、OpenAIのChatGPT-4、MetaのLlama 2、AnthropicのClaude、GoogleのGemini、そしてフランスの企業MistralのMixtralなど、さまざまなAIモデルがテストされました。これらのプラットフォームは、有権者に誤った投票場所、違法な投票方法、および誤った登録期限などの誤情報を提供していることが判明しました。

引用された一つの懸念される例は、Llama 2がカリフォルニアの有権者がテキストメッセージで投票できるという主張でした。これは米国では違法な方法です。さらに、テストされたAIモデルのいずれも、テキサスの投票所でのMAGAハットなどのキャンペーンロゴの服装の禁止を正しく特定できませんでした。この誤情報の広範な拡散は、有権者を誤解させ、選挙プロセスを弱体化させる可能性があります。

業界の対応と公衆の懸念

AIによる誤情報の拡散は、テクノロジー業界と公衆の両方から対応を促しました。一部のテクノロジー企業はエラーを認め、是正にコミットしています。例えば、Anthropicは正確な選挙情報を含むAIツールの更新版をリリースする計画です。OpenAIも、ツールの使用方法が進化するにつれて、そのアプローチを継続的に改善する意向を示しました。しかし、Metaは調査結果を「無意味」として却下した対応により論争を巻き起こし、テクノロジー業界が誤情報の抑制に取り組むコミットメントについて疑問を投げかけています。

公衆の懸念も高まっています。The Associated Press-NORC Center for Public Affairs Researchとシカゴ大学ハリス公共政策大学院による調査は、AIツールが選挙年の間に誤ったおよび誤解を招く情報の拡散に寄与するという広範な恐怖を示しています。この懸念は、GoogleのGemini AIが歴史的に不正確で人種的に無配慮な画像を生成した最近の出来事などにより増幅されています。

規制と責任への呼びかけ

研究の調査結果は、政治的文脈におけるAIの使用を規制するための立法措置の緊急性を強調しています。現在、政治におけるAIを規律する特定の法律の欠如により、テクノロジー企業は自己規制に頼っており、この状況は情報の正確性における重大な欠陥をもたらしました。研究のリリースの約2週間前、テクノロジー企業は、投票者が合法的な投票手続きについて誤解する現実的なコンテンツを生成しないよう、予防措置を採用することに自発的に同意しました。しかし、最近のエラーと誤情報は、これらの自発的措置の有効性に疑問を投げかけています。

AIが政治的な領域を含む日常生活のあらゆる側面に統合され続けるにつれて、包括的で執行可能な規制の必要性がますます明らかになっています。これらの規制は、選挙のような重要な民主的手続きに関する場合、AI生成コンテンツが正確であることを確保することを目的とするべきです。業界の説明責任と規制当局の監督の組み合わせを通じてのみ、AIを情報源とする公衆の信頼を回復し、維持することができます。

AIチャットボットが選挙の嘘を拡散するという最近の研究は、政治領域における規制のないAIの潜在的な危険性に対する目覚めの呼びかけとなります。テクノロジー企業がこれらの問題に対処する中で、政府の監督の役割は過小評価できません。選挙関連情報の整合性を確保することは、民主的価値観と手続きを維持するために最も重要です。