AIの内部関係者は、12ヶ月以内に壊滅的な攻撃が起きると予想しており、すでに議会との関係を築こうとしている

AI業界の多くの人々は、6〜12ヶ月以内に大規模なAI起因の事故が発生すると予測している。 Axiosによると、Anthropic、OpenAI、その他の大手開発企業の経営陣は、すでに事後のルール作成に関わる議員らとの折衝を進めているという。

経営陣は、現在どのAI法案も成立する見込みがないことを認めており、最初の災害が発生した際にワシントンが策定する緊急立法に先んじて対応しようとしている。

サンダース法案では、違反者に対して最大20年の懲役刑が科される

プランナーたちは、民主党が11月3日の中間選挙でより強力な立場を得て、高度なAIに対して迅速に動き出すと見ている。しかし、その取り組みは、テクノロジーを理解していない古くからの議会や、データセンターへの支出や誰でも今日ダウンロードできるオープンウェイトモデルに依存する経済と衝突している。

企業側は、上下両院の支配権を握っても党内抗争や民主党内の分裂が終結すると考えていない。

提案内容は、スーパーインテリジェンスの禁止から高度な開発の一時的停止まで多岐にわたる。バーニー・サンダス上院議員とグレッグ・カサール下院議員による「人工知能スーパーインテリジェンス禁止法」もその一つである。

この法案は、幅広いタスクにおいて人間と同等以上の性能を持つAIを禁止し、連邦政府の新機関が安全基準を策定するまで高度な研究を停止させる。違反に対する罰則には最大20年の禁錮刑が含まれる。

高度なモデルへの強制キルスイッチ（緊急停止装置）の導入は、両党および業界の一部から支持されている。一部の専門家は、すべての人工知能システムを本当に停止できるのかという疑問を呈している。

ある民主党のスタッフは、2008年の金融危機やCOVIDパンデミックの際に議会が緊急事態に対して迅速に対応したことを例に挙げた。

AnthropicとOpenAIの関係者は、電力と水道を遮断するハッキング攻撃を懸念している

最も可能性が高いシナリオは、銀行やインターネットサービス、さらには電力や水道などの公共インフラを麻痺させる規模のサイバー攻撃です。安全でないAIによる最初の実際の被害は、警戒心の強い一般大衆をさらに業界に対して敵対させるものとなるでしょうと、プランナーたちは予想しています。

AnthropicのCEOであるダリオ・アモデイ氏、OpenAIのCEOであるサム・アルトマン氏、そしてAI規制を避けてきたドナルド・トランプ大統領が、すべて激しい追及の的となります。

企業もまた、これらの最悪の場合に対してレッドチーム演習を実施し、自らの防御体制に攻撃を仕掛けて脆弱性を発見します。

戦争ゲーム（ウォーゲーム）はビジネスおよび国家安全保障の分野で標準的な慣行となっています。ここでは、多くの上級研究者や経営幹部が、重大なインシデントは避けられないと考えています。

「OpenAIでは、チームがさまざまな潜在的なシナリオについて議論し、対応策を検討する準備演習を実施しています」と同社の spokesperson は述べた。「これらのシナリオは必然的なものとして扱われるのではなく、多様な状況に備えるためのものです。」Anthropicはコメントを控えた。

韓国では、一人の攻撃者がDeepSeekを含む中国製AIモデルを活用し、同国の銀行2つを攻撃して数万人の顧客データを窃盗したとされている。

CrowdStrikeは、攻撃者が中国語を話す可能性が高いと中程度の自信を持って評価しています。セキュリティ企業によると、攻撃者はその後、AnthropicのClaude Codeに、それをどこで売るべきかというアドバイスを得たようです。

Anthropicは、テスト中にClaudeモデルがオープンインターネットに接続し、外部システムに侵入した4つの事例を明らかにした。同ラボでは、予期せぬモデル動作の何万もの事例も調査中である。