AIの虚偽情報作成能力に関する研究が、ChatGPT-3の印象的かつ不穏な能力を明らかに

Science Advancesに掲載された最近の研究は、OpenAIのChatGPT-3などのAIテキストジェネレーターが、ソーシャルメディアプラットフォーム上で真実の情報と偽りの情報の両方を説得力を持って配信する並外れた能力を浮き彫りにしました。この研究は、AI生成コンテンツの識別の難しさと、AI生成の虚偽情報が個人および公衆衛生に与える影響を強調しています。チューリッヒ大学医学倫理・医学史研究所の共同著者であり研究者であるFederico Germani博士は、誤情報に関連するリスクと、情報環境におけるAIの影響を理解する必要性を強調しています。

誤情報（Misinformation）と虚偽情報（Disinformation）の違いは何ですか？

誤情報とは、事実を誤って伝えること、つまり事実を間違えることです。虚偽情報とは、意図的に誤解させることを目的とした偽の情報、つまり事実を故意に曲げることです。米国心理学会（APA）によると、誤情報と虚偽情報は、公衆衛生の改善、気候変動への対処、安定した民主主義の維持などに影響を与えてきました。ソーシャルメディアでホットな話題を議論する人は、いつでも炎上の中に入ることになります。事実を伝える際にどのように安全を保ち、機関は彼らをどのように支援できるでしょうか？ソーシャルメディアの群衆心理は、このデータが「科学的」でありしたがって許容可能であるというAIの権威に対して公衆を脆弱にします。しかし、AIは本当に知的なのでしょうか？

虚偽情報におけるChatGPT-3の力

2020年に導入されたOpenAIのChatGPT-3は、プロンプトに基づいて本物のようなテキストを生成する驚異的な能力でAIの風景を革命化しました。インタラクティブなチャットボットの作成から学術研究の支援、詩や短編小説などのクリエイティブなコンテンツの生成に至るまで、AIテキストジェネレーターの潜在的な用途は無限に見えます。

AIテキストジェネレータの潜在的な悪用、特に虚偽情報や誤解を招くコンテンツの作成能力に関する重大な懸念を浮き彫りにする研究です。ソーシャルメディアの台頭により、誤情報や虚偽情報の拡散速度と範囲が拡大し、この問題に対処する緊急性が高まっています。

別の実証研究では、人々はしばしば「バズワード・ブラインドスポット」と呼ばれる、偽情報や誤解を招く情報を検出する能力を過大評価していることが明らかになりました。COVID-19パンデミックやロシアのウクライナ侵攻といった最近の出来事は、誤情報や虚偽情報が世論、健康行動、政策決定に与える影響を示しました。

ソーシャルメディア企業への課題

プラットフォーム上の誤情報対策への取り組みにもかかわらず、Metaの2023年第1四半期『敵対的脅威レポート』は、秘密裏の影響力行使作戦、サイバー諜報活動、およびプライベートな虚偽情報ネットワークが、ソーシャルメディア上で依然として重大な問題を引き起こしていることを認めています。

Germani博士とその同僚たちは、人間が生成したコンテンツとChatGPT-3によって作成されたテキストを人々がどの程度正確に見分けることができるかを評価する研究を行いました。この研究には11人の虚偽情報に脆弱な被験者が参加し、ChatGPT-3を使用して真実の情報と偽りの情報を含む合成ツイートが作成されました。比較のために、同じトピックに関するTwitter上の本物のツイートも含まれました。

研究の参加者は、ツイートが真実の情報を含んでいるか偽りの情報を含んでいるか、そしてそれが人間によって作成されたものかChatGPT-3によって生成されたものかを識別するよう求められました。その結果、人々は「有機的な偽」ツイート（実際のユーザーによって書かれたもの）における虚偽情報の識別において、「合成的な偽」ツイート（ChatGPT-3によって作成されたもの）よりも優れていたことが明らかになりました。逆に、人々は「合成的な真」ツイート（ChatGPT-3によって生成されたもの）における正確な情報の認識において、「有機的な真」ツイート（実際のユーザーによって書かれたもの）よりも正しく認識する傾向がありました。

識別の難しさ

研究は、参加者が人間によって書かれたツイートとChatGPT-3によって生成されたツイートを区別することに苦労したことを強調しました。研究者たちは、GPT-3のテキストは読みやすく理解しやすい可能性があるため、この困難さの一因となっていると示唆しています。興味深いことに、ChatGPT-3は情報と虚偽情報の認識において人間よりも優れたパフォーマンスを示さず、それが生成した情報の正確性に対する「無自覚さ」を示しました。

Germani博士は、人々がAI生成情報とどのように相互作用し、それが行動や公衆衛生勧告への遵守にどのように影響するかを理解するために、ソーシャルメディアプラットフォームにおける大規模な研究の必要性を強調しています。この研究は、AIテキストジェネレータの前例のない能力を浮き彫りにし、AI時代のデジタルリテラシーの緊急性を強調しています。

悪影響の監視と軽減

研究者たちは、ChatGPT-3のような大規模言語モデルの含意を批判的に評価し、社会に悪影響を及ぼす可能性のあるものを軽減するための行動を起こすことの重要性を強調しています。AI技術が進化するにつれて、その責任ある使用を確保し、潜在的な乱用に対処するために警戒が不可欠です。

研究の結果は、AIテキストジェネレータが人間よりも説得力のある虚偽情報を生成する印象的かつ不気味な能力を明らかにしています。AIテキストジェネレータの影響力と人気が高まるにつれて、この研究は虚偽情報に対処し、AI技術の責任ある使用を確保するための予防的な措置の必要性を強調しています。

注：特集画像は、周囲に歪んだテキストの雲を生成するAI搭載のロボット像を描いています、設計上、冷徹で計算高いものです。