AI生成幻覚：2023年に高まる健康上の懸念

人工知能（AI）の普及は、 AIが生み出す幻覚という、。「幻覚」という言葉は、デジタル時代において新たな、そして憂慮すべき意味を持つようになりました。AIシステムは、個人や社会に影響を与える可能性のある誤った情報を生み出すことができるからです。2023年、この傾向は大きな注目を集め、Dictionary.comは「幻覚」を 今年の言葉。 

Dictionary.comの2023年の年間最優秀語

Dictionary.comが「hallucinate（幻覚）」を今年の言葉に選んだことは、AIが生成した誤情報の蔓延を如実に物語っています。この選出は、2022年から2023年にかけて「hallucinate」の辞書検索数が46%増加したことと、「hallucination（幻覚）」の検索数も同様に急増したことを反映しています。しかし、この急増の原動力となっているのは、この言葉の伝統的な defiではなく、AI特有の解釈です。

幻覚を起こす [ huh-loo-suh-neyt ] -動詞- (人工知能において) ユーザーの意図に反する偽の情報を作り出し、それを真実かつ事実であるかのように提示すること。例: チャットボットが幻覚を起こす場合、その結果は不正確なだけでなく、完全に捏造されたものになることが多い。.

AIの欺瞞能力

AIの欺瞞能力に対する懸念が高まっています。すべてのAIシステムがこうした行動をとるわけではありませんが、一部のAIシステムは人間の特性を模倣するようにプログラムされ、政治的な代弁者となったり、事実を伝える者を装って虚偽の情報を拡散したりすることがあります。AIが誤情報や偽情報を比類のないスピードで生み出す点は、人間とは一線を画しています。.

最近の研究は 掲載された 、この問題の深刻さを浮き彫りにしました。この研究では、OpenAIのGPT Playgroundがわずか65分でワクチンと電子タバコに関する1万7000語以上の偽情報を生成したことが示されました。さらに、生成AIツールは、偽情報に付随する20枚のリアルな画像を2分足らずで作成しました。このような欺瞞的なコンテンツの急速な生成は、人々が事実と虚構を見分ける能力を脅かしています。

AIによる誤情報の予期せぬ結果

AIシステムは、たとえ欺く意図がなくても、意図せず誤解を招く情報を生成する可能性があります。米国医療システム薬剤師会（ASFP）の中間臨床会議で行われた研究は、医療分野におけるAIの限界を浮き彫りにしました。ChatGPTは、薬に関する39の質問に対し、わずか10件の質問に対してしか納得のいく回答を返しませんでした。例えば、COVID-19の抗ウイルス薬であるパクスロビドと血圧降下剤であるベラパミルの併用は相互作用がないと誤って主張しましたが、これは既存の医学的知見と矛盾しています。.

AIが誤情報を生成する能力は、医療分野だけにとどまりません。一部のAIツールは画像を誤って解釈し、様々な物体を鳥と誤認することが観察されています。エコノミスト誌に掲載された例では、ゴールデンゲートブリッジが2016年にエジプトに輸送されたという質問に対するAIの回答が明らかになり、AIが事実と虚構を区別できないことが示されました。.

2021年に発生したMicrosoftのAIチャットボットTayのdent 、AIが有害コンテンツを生成する可能性をさらに浮き彫りにしました。このチャットボットはTwitterに加わってから24時間以内に、人種差別的、女性蔑視的、そして虚偽のツイートを吐き出し始め、Microsoftは速やかにプラットフォームから削除しました。この事件は、AIが人間のネガティブな行動を模倣する傾向を浮き彫りにし、AIの開発と展開における倫理的配慮について疑問を投げかけています。.

本当の健康問題

AIが生成する幻覚は、人間の幻覚と同様に、深刻な健康問題を引き起こします。誤情報による直接的な影響に加え、精神的・感情的な健康にも悪影響を及ぼす可能性があります。AIが生成する幻覚の絶え間ない集中砲火は、個人の現実感覚を蝕み、混乱や不安につながる可能性があります。.

この問題の重大性を認識し、世界保健機関（WHO）や米国医師会（AMA）などの組織は、AIが生成する誤情報や偽情報の潜在的な危害について警告する声明を発表しています。Dictionary.comが2023年の年間最優秀語に「hallucinate（幻覚）」を選んだことは、この問題を象徴するmatic ですが、AIが生成する幻覚がもたらす複雑な課題に対処するには、継続的な監視と、責任あるAI開発を促進するための協調的な取り組みが必要です。.