アントロピックは、クロード・チャットボットは政治候補者には立ち入り禁止だと言う

人工知能（AI）と政治の融合は、誤情報の拡散や情報操作への懸念をますます深めています。ChatGPTの競合サービス「Claude」を展開するAnthropic社は最近、 を発表しました 。この決定は、AIが民主的なプロセスにもたらす課題に対処するための、業界全体にわたる広範な取り組みを反映しています。

アントロピックはクロードとともに選挙不正を排除する準備を整える

アントロピックの「選挙不正利用」ポリシーでは、候補者がClaudeを利用して自身を装うチャットボットを作成したり、標的を絞った政治キャンペーンを実施したりすることを固く禁じています。このポリシーに違反した場合は警告が発せられ、アントロピックのサービスへのアクセスが停止される可能性があります。また、同社はAIシステムの不正利用の可能性を評価するため、「レッドチーム演習」を含む徹底的なテストを実施しています。.

アントロピックは、選挙関連の不正利用防止策の実施に加え、TurboVoteなどの組織と連携し、有権者に信頼できる情報を提供しています。例えば、米国のユーザーが投票情報をリクエストした場合、無党派団体Democracy Worksが提供するリソースであるTurboVoteに誘導されます。同様の措置が他の国でも実施される予定です。.

ChatGPTを運営するOpenAIも、政治におけるAIの潜在的な悪用に対処するための積極的な対策を講じています。投票情報を求めるユーザーを、無党派のウェブサイトCanIVote.orgにリダイレクトしています。この取り組みは、テクノロジー業界における、政治分野におけるAIの活用を規制するという広範な動きを浮き彫りにしています。.

不正使用と闘う業界全体の取り組み

FacebookやMicrosoftといった他の大手テクノロジー企業も、AIが生成した誤解を招く政治コンテンツの蔓延に対抗するための取り組みを進めています。例えばMicrosoftは、「コンテンツ認証サービス（Contentdentas a Service）」を導入し、誤情報に対抗するための選挙コミュニケーションハブを立ち上げました。.

さらに、米国連邦通信委員会（FCC）は、AI生成のディープフェイク音声をロボコールで使用することを禁止し、この分野における規制の緊急性を強調しました。AI生成の政治的レプリカの出現も懸念を引き起こしています。OpenAIは、非営利団体Public Citizenの請願を受けて、dent候補のディーン・フィリップス下院議員を装うボットを作成した開発者のアカウントを停止しました。この請願は、政治キャンペーンにおける生成AIの使用禁止を求めていました。.

全体として、AnthropicやOpenAIといった企業による政治におけるAI利用の規制に向けた取り組みは、民主的なプロセスにおけるAIに伴う潜在的なリスクに対する認識の高まりを浮き彫りにしています。これらの企業は、厳格なポリシーの導入と超党派組織との連携を通じて、政治的言説の完全性を維持し、誤情報や情報操作から保護することを目指しています。.

現実と人工物の境界線がますます曖昧になっている時代において、 AI は、民主主義制度の健全性を維持するために極めて重要です。テクノロジーが進化し続ける中で、AIが操作や欺瞞の道具ではなく、前向きな変化をもたらす力となるよう、継続的な監視と積極的な対策が不可欠です。