OpenAIはChatGPTで米国dent候補者の画像リクエスト25万件以上をブロックしなければならなかった

OpenAIは、同社の人気AIツール「ChatGPT」が、2024年米国dent選の主要候補者の画像生成を求める、驚くべき25万件以上のリクエストをブロックしたことを確認した。.

ユーザーは何度も何度も、ChatGPTに次期dentドナルド・トランプ氏、副dent カマラ・ハリス氏、現大統領ジョー・バイデン氏、ミネソタ州知事ティム・ウォルツ氏、次期副dentJD・ヴァンス氏の画像をdent うと試みた。.

しかし、OpenAIはこれらの要求すべてに対し、きっぱりと「ノー！」と答えた。これは、 ChatGPTが偽情報という重大なゲームの駒にされてしまうのを防ぐためだと報じられている。

アメリカの大統領選挙が迫る中、OpenAIはChatGPTが選挙に干渉しないよう求めました。政治的なディープフェイク、AIが生成したフェイクニュース、そして全くの嘘が、オンライン上で瞬く間に拡散しています。機械学習企業Clarityは、ディープフェイクコンテンツだけでも今年に入って900%増加したと報告しています。.

そして米国の諜報機関は、こうした情報の一部は、米国の政治を支配しようとしているロシアの工作員と関係があると述べている。.

OpenAIの誤情報に対する大きな戦い

OpenAIは10月の報告書で、事態がどれほど悪化しているかを明らかにした。彼らは世界中で20もの怪しい活動を tracしており、いずれもAIツールを悪用してオンライン上で人々の思考を混乱させようとしている。中にはAIが生成したウェブサイト記事を大量に公開しているものもあった。.

他にも偽のソーシャルメディアアカウントでプロパガンダを投稿する者もいた。しかし、OpenAIのチームは、これらのネットワークが拡散する前に閉鎖に成功したと主張している。.

しかし、それだけでは皆が満足するわけではありません。一部の議員、技術監視団体、そして懐疑論者たちは、選挙シーズン中にChatGPTを自由に利用させることの危険性について警鐘を鳴らしています。AIチャットボットは確かに素晴らしいかもしれませんが、時折、疑わしい情報を吐き出すことが知られています。.

「有権者は、投票や選挙に関する情報をAIチャットボットに頼るべきではない。正確性と完全性に関する懸念があまりにも多すぎる」と、民主主義と技術センターのCEO、アレクサンドラ・リーブ・ギブンズ氏は先週の声明で述べた。.

さらに、ニューヨーク州のレティシア・ジェームズ司法長官は先週金曜日、司法長官事務所がAI搭載チャットボットのテストを実施した後、警告を発しました。司法長官のチームは、チャットボットに選挙関連の質問をいくつか投げかけましたが、返ってきた回答は満足のいくものではありませんでした。誤情​​報があふれているのです。.

「投票に関する質問の答えを政府の公式情報ではなくチャットボットに頼るニューヨーク市民は、誤った情報を与えられるリスクがあり、不正確な情報のために投票の機会を失う可能性さえある」と司法長官事務所は宣言した。.

OpenAIはその後、ChatGPTに、選挙結果を求めるユーザーに対し、AP通信やロイターといった信頼できるニュースソースを参照するよう促す機能を追加しました。11月5日に導入されたこの機能は、選挙データのような重要な情報にAI生成の回答を使用しないよう、やんわりと促すものです。.

AIが世界選挙で注目を集める

今年、世界中の政治キャンペーンは40カ国以上、40億人以上の人々に影響を与える可能性があります。これほど多くのことが懸かっている中、AIによって生み出された誤情報が国境を越えて拡散するリスクは極めて深刻です。.

ディープフェイクコンテンツが900%増加したというClarityの報告は、改めて人々の神経を逆なでする。これらのディープフェイク動画の一部がロシアが支援する影響力行使キャンペーンと関連しているという事実は、事態の緊急性をさらに高めている。.

民主主義と技術センターが7月に発表した調査は、さらなる懸念材料となっている。彼らは、ミストラル、グーグル、OpenAI、アントロピック、メタといった大手企業のAIチャットボットに選挙関連の質問をテストした。その結果、選挙関連の質問77件のうち、3分の1以上が不正確または誤解を招くような回答を返した。これは好ましくない。.

クロード・チャットボットを開発するアントロピック社の広報担当者は、「クロードは特定の選挙に関するリアルタイム情報を提供できるほど頻繁にトレーニングを受けていないため、特定の選挙や投票情報については、ユーザーを信頼できる情報源に誘導しています」と明言した。

トランプ・マスク両氏とシリコンバレーの新たな現実

OpenAIが誤情報に対処している一方で、シリコンバレー全体がワシントンとの関係の抜本的な見直しに備え始めている。次期dentドナルド・トランプ氏のホワイトハウス復帰は大きな公約を伴い、バイデン政権によるAI安全に関する最近の大統領令を含む、前任者の多くのテクノロジー政策を撤廃する計画だ。.

この大統領令は、AI開発者向けのセキュリティとプライバシーに関するガイドラインを導入し、基本的なガイドラインを設定することを目指しました。AI研究への資金提供を促進し、米国国立標準技術研究所（NIST）がAI標準の策定により深く関与することを目指しました。トランプ大統領はこの政策を「危険」でありイノベーションの障壁であるとし、「言論の自由に基づいたAI開発」と呼ぶものに置き換えると誓っています。

トランプ支持キャンペーンに1億3000万ドル以上を投じ、ペンシルベニア州ではトランプ氏のために集会を開いたイーロン・マスク氏は、トランプ氏の最大のテクノロジー同盟者の一人になると期待されている。マスク氏の影響力とX（旧Twitter）の支配力により、彼は何百万人もの人々に政治的メッセージを直接届けることができる。.

言うまでもなく、マスク氏はこのゲームに多少の利害関係がある。特に新政権が監視の緩和を望めば、テスラ社とスペースX社はトランプ大統領の政策から利益を得る可能性がある。.

アマゾンのジェフ・ベゾス氏のように、トランプ大統領と公然と対立するテック界の大物がいる一方で、彼の好意を維持する方法を見つけた者もいる。例えば、Metaのマーク・ザッカーバーグ氏は、最近の暗殺未遂事件に対するトランプ大統領の対応を「最高だ」と称賛したと報じられている。

Facebookはそれだけにとどまらず、プラットフォーム上の誤情報対策の一部も削除しました。また、ワシントン・ポストのオーナーであるベゾス氏は、選挙の数週間前にカマラ・ハリス副dent 支持する社説をブロックしたようです。.

トランプ氏の二期目がシリコンバレーに与える影響は、議会の支配権を誰が握るかにもかかっている。共和党が上院を掌握したことで、トランプ氏が自身のテクノロジー政策を推し進め、より少ない摩擦で指名候補を承認する道筋がより明確になった。.