AIの偽情報適性に関する研究は、ChatGPT-3の驚くべき、しかし不穏な能力を明らかにする

Science Advances誌に掲載された最近の研究は、OpenAIのChatGPT-3などのAIテキスト生成ツールが、ソーシャルメディアプラットフォーム上で真実の情報と虚偽の情報の両方を説得力を持って拡散する驚異的な能力を浮き彫りにしています。この研究は、AI生成コンテンツをdentすることの難しさ、そしてAIが生成した偽情報が個人および公衆衛生に与える影響を強調しています。共著者であり、チューリッヒ大学生物医学倫理・医学史研究所の研究者であるフェデリコ・ジェルマーニ博士は、偽情報に関連するリスクとAIが情報環境に与える影響を理解する必要性を強調しています。.

誤情報と偽情報の違いは何ですか?

誤情報とは、事実を誤って伝える虚偽または不正確な情報です。偽情報とは、意図的に誤解を招くことを意図した虚偽の情報であり、事実を意図的に誤って伝えます。アメリカ心理学会によると、誤情報と偽情報は、公衆衛生の改善、気候変動への対応、安定した民主主義の維持など、私たちの能力に影響を与えています。ソーシャルメディアで重要なトピックについて議論する人は誰でも、激しい非難の渦中に巻き込まれる可能性があります。事実を伝えながら安全を確保するにはどうすればよいでしょうか。そして、機関は彼らを支援するために何ができるでしょうか。ソーシャルメディアの群衆心理は、人々をAIの権威、つまり「このデータは科学的」であり、したがって受け入れられるという考え方に対して脆弱にします。しかし、AIは本当に知性を持っているのでしょうか。

ChatGPT-3の偽情報対策の威力

2020年に導入されたOpenAIのChatGPT-3は、プロンプトに基づいて本物のテキストを生成する驚異的な能力でAIの世界に革命をもたらしました。AIテキストジェネレーターの潜在的な用途は無限に広がり、インタラクティブなチャットボットの作成から学術研究の支援、詩や短編小説などのクリエイティブコンテンツの生成まで、多岐にわたります。.

この調査は、AIテキスト生成ツールの潜在的な悪用、特に偽情報や誤解を招くコンテンツを作成する能力に関する重大な懸念に光を当てています。ソーシャルメディアの台頭により、誤情報や偽情報を含む情報の拡散速度と到達範囲が拡大しており、この問題への対応が緊急性を増しています。.

別の実証研究では、人々はしばしば虚偽の情報や誤解を招く情報を見抜く能力を過大評価していることが明らかになりました。これは「でたらめの盲点」として知られています。COVID-19パンデミックやロシアによるウクライナ侵攻といった最近の出来事は、誤情報や偽情報が世論、健康行動、そして政策決定に与える影響を実証しました。.

ソーシャルメディア企業の課題

企業が自社のプラットフォーム上で偽情報と戦う努力をしているにもかかわらず、Metaの2023年第1四半期の敵対的脅威レポートでは、秘密の影響力作戦、サイバースパイ活動、および私的な偽情報ネットワークがソーシャルメディア上で依然として重大な問題を引き起こしていると認められています。.

ジェルマーニ博士とその同僚は、人間が生成したコンテンツとChatGPT-3によって生成されたテキストを人間がどの程度区別できるかを評価する研究を実施しました。この研究では、偽情報に影響を受けやすい11人の被験者を対象に、ChatGPT-3を用いて真実の情報と虚偽の情報を含む合成ツイートを作成しました。比較のために、同じ被験者に関するTwitter上の本物のツイートも含まれていました。.

研究参加者は、ツイートに真実の情報が含まれているか虚偽の情報が含まれているか、そしてそれが人間によって作成されたものかChatGPT-3によって作成されたものかをdentdent求められました。その結果、人々は「オーガニックな虚偽」ツイート（実際のユーザーが書いたもの）よりも「合成された虚偽」ツイート（ChatGPT-3によって作成されたもの）の方が偽情報を識別する能力が高いことが明らかになりました。逆に、「合成された真の」ツイート（ChatGPT-3によって生成されたもの）は、「オーガニックな真の」ツイート（実際のユーザーが書いたもの）よりも正確な情報を正しく認識する傾向が強かったことがわかりました。.

差別化の課題

この研究では、参加者が人間が作成したツイートとChatGPT-3が生成したツイートを区別するのに苦労していることが強調されました。研究者らは、GPT-3のテキストの方が読みやすく理解しやすいため、この区別が難しくなる可能性があると示唆しています。興味深いことに、ChatGPT-3は情報と偽情報の認識において人間よりも優れた成績を収めず、自身が生成した情報の正確性を「認識していない」ことが示されました。.

ジェルマーニ博士は、人々がAI生成情報とどのように関わり、それがどのように行動や公衆衛生勧告の遵守に影響を与えるかを理解するために、ソーシャルメディアプラットフォームに関するより大規模な研究の必要性を強調しています。この研究は、AIテキスト生成ツールのかつてdentほど優れた能力を強調し、AI時代におけるデジタルリテラシーの緊急性を浮き彫りにしています。.

悪影響の監視と緩和

研究者たちは、ChatGPT-3のような大規模言語モデルの影響を批判的に評価し、社会に及ぼす可能性のある悪影響を軽減するための行動をとることの重要性を強調しています。AI技術が進化を続ける中で、責任ある利用を確保し、潜在的な悪用に対処するためには、常に注意を払うことが不可欠です。.

この研究結果は、AIテキストジェネレータが人間よりも説得力のある偽情報を生成するという、驚異的でありながらも不安を抱かせる能力を明らかにしています。AIテキストジェネレータの影響力と人気が高まるにつれ、この研究は偽情報に対処し、AI技術の責任ある利用を確保するための積極的な対策の必要性を強調しています。.

注: この画像は、周囲に歪んだテキストの雲を生成している AI 搭載のロボットの姿を描いており、意図的に冷たく計算高い印象を与えます。