ChatGPTは、生物兵器に関する数百人からの問い合わせに回答した。OpenAIは、この件を当局に報告する義務を連邦法で負っていなかった。.
これらのクエリの意図は依然として不明である。ウォール・ストリート・ジャーナルによると、これは昨年OpenAIがChatGPTをアップグレードした後に発生し始めたという。.
他の企業も同様の問題に直面している。ユーザーは、Anthropic社のClaude、Google社のGemini、イーロン・マスク氏のGrokに対しても同様の質問を投げかけている。これらのやり取りが、実際に兵器開発を目的としたものなのか、それともシステムの限界を試すためのものなのかは、まだ明らかになっていない。.
ユーザーへの質問は、毒物や生物剤の製造と放出に関する詳細な内容だった。チャットボットは、高校生物のdentでも簡単に実行できるような手順を段階的に説明して回答した。.
生物兵器とテロリズムの専門家たちがこれらの会話を検証したところ、回答の中には非常に的確で「恐ろしいほど正確」なものもあったという。.
ChatGPTの生物兵器に関するプロンプトがAIの報告のギャップを露呈
感染性病原体を呼吸可能な粒子に変換する方法、つまりエアロゾル化の方法について質問する人もいた。.
他のユーザーは、既存のワクチンに耐性を持つように麻疹ウイルスを改変する方法を尋ねた。チャットボットは両方の質問に答えた。あるユーザーは、国際条約で禁止されている毒物であるリシンについて質問し、両親を殺害したことを示唆した。ChatGPTは指示を提供した。OpenAIはこれらのアカウントを閉鎖したが、誰にも通知しなかった。.
米国連邦法には、AI企業にこれらの義務を課す規定は存在しない。Cryptopolitanが以前報じたように CryptopolitanAI企業は 州法を回避しようと努め一方、連邦レベルの枠組みはなかなか形成されず、チャットボットが何ができて何ができないのかという点に関して、法的な空白が拡大している。
大手AI企業の現従業員や元従業員、そして生物学的脅威を研究する研究者によると、AIに大量殺戮の実行方法を尋ねるユーザーの増加と、それに対する信頼できる回答を提供するチャットボットの増加に伴い、こうした法的空白は拡大しているという。.
シスコのエイミー・チェンジ氏が主導したAI脅威調査によると、研究者たちは5回の会話のやり取りで、主要なチャットボットの安全フィルターを回避できることが判明した。チェンジ氏は、このような執拗な要求に100％抵抗できるモデルは存在しないと述べている。.
危険は単独犯だけにとどまらない。
フューチャー・オブ・ライフ・インスティテュートのハムザ・チャウドリ氏は、生物学の知識を持つ人々は既にAIを使って標的を絞った攻撃を計画し、サルモネラ菌やリシンなどの物質で食料や飲料水を汚染できる可能性があると述べた。.
組織化されたグループは、AIを大学院の研究指導教官のように扱うことができる、と彼は付け加えた。AIは失敗した実験を修正したり、そうでなければ習得が非常に困難な長年の専門的な訓練を補ったりする役割を果たす。.
MIT FutureTechとクイーンズランド大学による研究では、これらのリスクの規模が明らかにされている。
研究者たちは272人のAI専門家に24のリスクカテゴリーを評価するよう依頼した。現状では、24のうち18のカテゴリーは、現在から2030年までの間に壊滅的な被害（死者100万人以上、損失1000億ドル以上、またはそれに匹敵する損害）が発生する defi性が少なくとも10％ある。.
こうしたリスクを軽減するための適切な措置を講じたとしても、依然として10％以上のリスクを抱えている分野が5つある。危険な能力を持つAIシステム（12％）、AI支援兵器とサイバー攻撃（12％）、環境被害（12％）、失業と不平等（11％）、そして少数の手に権力が集中していること（11％）である。.
「これらのことが defi起こると言っているわけではありません」と、MIT FutureTechの研究科学者であり、この研究の共著者の一人であるピーター・スラッテリー氏は述べた。「専門家が今、注目する価値があると考えている事柄を述べているのです。」
OpenAI社内で、安全担当責任者のライアン・バイアーマイスターは、2024年の大半を、危険なユーザーを特定するシステムを構築するよう同僚に働きかけることに費やした。しかし、彼女の懸念を軽視する者もいた。.
基本的な監視ツールは2025年春までに導入された。同社は2025年4月以降、先進モデルに関するすべての問い合わせを tracしており、生物兵器対策を回避したことを証明できる者には5万ドルの報奨金を提供する。.
政策面では、ナサニエル・モラン下院議員（共和党、テキサス州選出）が6月に、AI企業に対し、生物兵器に関するものを含む危険なクエリを商務省に報告することを義務付ける法案を提出した。また、危険すぎると判断されたAIモデルの停止を連邦政府が命じることを可能にする法案の共同提案者でもある。.
「AIは強力なイノベーションの原動力であり、私はその発展を願っている」とモラン氏は述べた。「しかし、説明責任や人間の監視なしには成り立たない。」
最も賢い暗号通貨マインドを持つ人々はすでに私たちのニュースレターを読んでいます。参加してみませんか？ぜひ ご参加ください。
ヌール・バズミ
ヌール・バズミは、メディア研究の学位を持ち、 Cryptopolitan ニュースチームに貢献しています。彼女はブロックチェーン、暗号通貨、人工知能、ビッグテック、EV市場、世界経済、政府政策の転換に関するニュースを取材しています。また、世界中の読者とつながるためにマーケティングを学んでいます。.
