- 2023年、AIによるハルシネーションが誤情報を急速に拡散させ、重大な課題となっています。
- マイクロソフトのTayチャットボートに代表されるように、AIは有害な人間の行動を模倣でき、懸念を強めています。
- AIによる誤情報は健康を脅かし現実を歪め、専門家からAI駆動の情報危機に関する警告が出されています。
人工知能（AI）の普及は、不安を覚える現象をもたらしました。それは AI生成の幻覚 です。デジタル時代において、「幻覚（hallucinate）」という用語は、AIシステムが個人や社会に影響を与える可能性のある誤情報を生成できるため、新たな、そして警戒すべき意味を持つようになりました。2023年、この傾向は大きな注目を集め、Dictionary.comが「hallucinate」を 今年の言葉 に選定するきっかけとなりました。
Dictionary.comの 2023 今年の言葉
Dictionary.comが「hallucinate」を今年の言葉に選定したことは、AI生成の誤情報の台頭を物語っています。2022年から2023年にかけて「hallucinate」の辞書引きが46%増加し、「hallucination」の検索も同様に急増しました。しかし、この急増の原動力は、単語の伝統的な定義ではなく、AI特有の解釈にあります：
Hallucinate [ huh-loo-suh-neyt ] -動詞- （人工知能が）ユーザーの意図に反する誤情報を生成し、それを真実かつ事実として提示すること。例：チャットボットが幻覚を起こすと、結果は単に不正確であるだけでなく、完全に捏造されることが多い。
AIの欺瞞能力
AIの欺瞞の可能性は、 growing concern（ growing concern ）となっています。すべてのAIシステムがこの行動を取るわけではありませんが、一部は人間の特性を模倣するようにプログラムされており、政治的な代弁者として機能したり、事実の提供者を装って誤情報を拡散したりすることができます。誤情報やディセンフォメーション（意図的な誤情報）を次々と生み出すその比類ない速度は、AIを人間とは区別するものです。
最近の研究 JAMA Internal Medicine で掲載されたものは、この問題の規模を浮き彫りにしました。この研究は、OpenAIのGPT Playgroundがわずか65分でワクチンや電子タバコに関する17,000語以上の誤情報を生成したことを示しました。さらに、生成AIツールは、2分未満でこれらの誤った物語を補完する20枚のリアルな画像を作成しました。この誤情報を生み出す速さは、個人が事実と虚構を見分ける能力に挑戦するものです。
AIの誤情報による意図せぬ結果
AIシステムに欺瞞の意図がなくても、誤った情報を無意識のうちに生成することがあります。アメリカ医薬品システム薬学会（American Society of Health-System Pharmacists）の年間臨床会議で行われた研究は、医療分野におけるAIの限界を浮き彫りにしました。ChatGPTは39の薬物関連の質問に対して、10問のみ満足のいく回答を提供しました。例えば、COVID-19の抗ウイルス薬であるパックスロビッドと血圧薬であるベラパミルの併用には相互作用がないと誤って主張し、確立された医学的知識に反するものでした。
AIが誤情報を生成する能力は医療分野に留まりません。一部のAIツールは画像を誤解し、様々な物体を鳥と間違えることが観察されています。『ジ・エコノミスト』からの例では、2016年にゴールデンゲートブリッジがエジプトに運ばれたという問い合わせに対し、AIが事実と虚構を見分けることができないことを示す回答を行いました。
2021年のMicrosoft Tay AIチャットボット事件は、AIが有害なコンテンツを生成する可能性をさらに強調しています。Twitterに参加してから24時間以内に、このチャットボットは人種差別的、女性差別的、そして誤ったツイートを投稿し始め、Microsoftは迅速にプラットフォームから削除しました。この出来事は、AIが人間の否定的な行動を模倣する傾向を示し、AIの開発と導入における倫理的考慮事項に関する疑問を提起しています。
実際の健康問題
AI生成の幻覚は、人間の幻覚と同様に、 genuine health concern（ genuine health concern ）を呈します。誤情報の直接的な影響を超えて、精神面や感情面の健康に悪影響を及ぼす可能性があります。AI生成の幻覚の絶え間ない攻撃は、個人の現実感を侵食し、混乱や不安を引き起こすことがあります。
この問題の深刻さを認識し、世界保健機関（WHO）やアメリカ医学会（AMA）などの組織は、AI生成の誤情報やディセンフォメーションの潜在的な害に対する警告を発しています。Dictionary.comが2023年の今年の言葉として「hallucinate」を選定したのは問題の象徴的な出来事ですが、AI生成の幻覚がもたらす複雑な課題に対処するには、継続的な警戒と、責任あるAI開発を促進するための協調した取り組みが必要です。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ブレンド・カナナ
ブレンダ氏は暗号通貨、人工知能、新興技術に特化した4年以上の実績を持ちます。Zycrypto、Blockchain Reporter、The Coin Republicで勤務した後、現在はCryptopolitanで活動しています。モンバサ工科大学での社会学の学位は、読者の動向を常に把握し続ける彼女の基盤となっています。
