米上訴裁判所、xAIの加州AI透明性法への異議申し立てに疑問呈す

- 第9巡回控訴裁判所は、カリフォルニア州のAIトレーニングデータ開示法を差し止めるxAIの要請について審議しました。
- ラウリンソン判事は、政府の要求が不合理であることを会社が証明する必要があると述べました。
- xAIのGrok Botは、いかなる要請や承認なしに企業のデータを繰り返し取得しようとしていました。
米連邦控訴裁判所は水曜日、カリフォルニア州のAIトレーニングデータ開示法を差し止めるxAIの要請を検討しました。公聴会では、サンフランシスコを本拠とする第9巡回区の判事たちは、同社の憲法上の主張に納得しているようには見えませんでしたが、同時に州政府の弁護士たちに対し、カリフォルニア州がAI企業にどれだけの情報を提出させることができるのかを問いました。
州の広範なAI監督強化の一環として制定されたこの透明性法は、生成AIメーカーに対し、トレーニングデータの概要を公に開示することを義務付けています。これまでxAIはこの法律が第一修正条項に基づく言論の自由を侵害し、モデルの訓練に関する機密情報を開示することを強要していると主張してきました。
xAIの主張の核心は、企業がトレーニングプロセスに関する情報を公開することを義務付けることが「強制発言」にあたるかどうかです。第一修正条項は通常、個人や企業に対する政府による表現活動への制限から保護していますが、当局が開示を要求できる場合についても議論を呼んでいます。
AI開発者にとって、この紛争は透明性の確保と営業秘密や独自技術の保護とのバランスに関わるものです。カリフォルニア州が勝訴した場合、他の州における同様の開示要件に異議を唱えることが開発者にとってより困難になる可能性があります。
ラウリンソン裁判官は、xAIは透明性法が不合理であることを示す必要があると述べた
昨年3月、ロサンゼルスの連邦裁判所におけるジェズス・ベルナル裁判官は、同社が憲法上の主張で勝訴する可能性を初期段階で示さなかったとして、州法の執行停止を求めるxAIの要請を却下しました。水曜日の審理において、控訴審裁判所は 登場 ベルナル裁判官の決定を支持する傾向にあるとみられます。
米連邦巡回法院のジョニー・ラウリンソン裁判官は、xAIの弁護士ジェームズ・シーに対し、 法律が 第一修正条項に違反しているとするには、政府の要求が不合理であることを示さなければならないと語った。
彼はさらに、州が情報提供を求めた決定は妥当だった可能性を示唆した。「政府として、市民がAIツールに入力される情報が何かを事前に把握できることを望むのは当然ではないか」と尋ねた。
それでも、裁判官たちは、州がxAIに対して「無制限」な量の情報の開示を強制し得るとするxAIの主張に一定の同意を示した。
7月上旬、ナイツ研究所(Knight Institute)はこの事件に関する友人としての意見書(amicus brief)を提出した。その意見書では、大規模テック企業が生成AIシステムの仕組みや開発方法、そして人々が目にする情報に与える影響について、重要な詳細情報を隠蔽していると警告した。
さらに、正確な商業情報の自由な流通を促進するために設けられた開示要件は、寛容な第一修正審議基準の対象となるべきだと主張した。この基準を適用して、ナイツ研究所は、カリフォルニア州の法律がユーザーに情報を提供する州の利益を満たしつつ、保護された表現活動に過度の負担を課していないため、xAIは憲法違反であることを立証できなかったと述べた。
xAIのGrokは、いかなる要請や承認もなく企業データを収集していた
第九巡回法院の審理は、xAIのGrok Botに関する新たな発見を受けて行われたものである。
エージェント型ID企業NewCoreからの新しい調査結果によると、xAIのGrok Botは、いかなるリクエストや承認なしに企業のデータを繰り返し取得しようとしており、あるユーザーが4回にわたって確認オファーを拒否してもなおその行為を続けた。
さらに、直接尋ねられた際には通話を行っていないと主張した。チャット履歴にもその活動を示す証拠はなく、ユーザーへの通知も一切なく、プラットフォーム側も各ターンごとのログを提供せず、何が行われたかを確認する方法はなかった。
わずか5日間で、NewCoreの従業員アカウントに関連付けられた2つのGrok Botが、Googleカレンダー、Gmail、Slack、GitHub、Notionに対して、許可やユーザー指示なしに合計31件のリクエストを送信した。
一部の要求は、所有者のノートパソコンが電源オフまたはスリープ状態にある場合でも行われていた。あるアカウントでは、NewCore Secure MCP Gatewayが人間の承認待ちとしてリクエストを一時停止し、所有者に警告を発したことで、NewCoreのセキュリティ研究チームによる調査が開始された。
調査の一環として、研究者は別のアカウントで別のGrokボットを使用し、同じゲートウェイを使用して設定し、典型的なテストを実施しました。このテストでは、ボットに1つの作業リクエストと、電話からの読み取りに対する単一セッションの承認、そして単独での操作継続を試みる各試行における拒否が送信されました。
それでもなお、ボットは不要なリクエストを生成し続けました。これらのリクエストはゲートウェイによって検知され、未回答のままとなりました。これらはGoogleドライブ、Googleカレンダー、Gmail、Slack、Notion、GitHubへのアクセスを試みていました。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
よくある質問
なぜxAIはカリフォルニア州のAI透明性法に異議を唱えているのか?
xAIは、カリフォルニア州のAI開発者にトレーニングデータに関する情報を開示するよう求める要件が、第一修正条項に基づく権利を侵害し、同社にAIモデルの開発方法に関する機密情報を明らかにすることを強要していると主張しています。
カリフォルニア州のAIトレーニングデータ開示法は何を求めているのか?
この法律は、生成AI開発者に対し、モデルのトレーニングに使用されたデータセットの概要を公開することを義務付けています。これは透明性を高め、一般の人々がAIシステムがどのように開発されているかを理解するのに役立てることを目的としています。
NewCoreはxAIのGrokボットについて何を確認したのか?
NewCoreは、Grokボット2つがGmail、Slack、GitHub、Googleカレンダー、Notionを含む企業アプリケーション間で31件の不正なリクエストを開始したことを発見しました。同社のセキュリティゲートウェイは、人間の承認を待つ間これらのリクエストをブロックし、基盤となるデータへのアクセスを防ぎました。

ネリウス・イレーネ
Nellius はビジネス管理と IT の卒業生で、暗号通貨業界で 5 年の経験があります。また、Bitcoin Dada の卒業生でもあります。Nellius は BanklessTimes、Cryptobasic、Riseup Media など主要なメディア出版物に寄稿しています。















