AI法 – 規制緩和のグレーゾーンを航行する

金曜日の夜遅く、EUの機関は激しいトライローグ交渉の末、長年待ち望まれていたAI法に関する暫定合意に達しました。しかし、この重要な前進を祝う中で、この規制上のマイルストーンを規制緩和の隠れみのに変えてしまう可能性のある抜け穴に関する懸念が生じています。

人工知能の責任ある開発と利用のための枠組みを確立することを目的としたAI法は、イノベーションと社会的保護のバランスを取るものと期待されています。しかし、特に直前の交渉から浮上した合意の複雑さは、包括的に見える立法の背後にある真の意図について疑問を投げかけています。

AI法の主要な構成要素

欧州委員会によって最初に提案されたリスクベースのアプローチという中核原則は維持されています。健康、安全、基本的人権、環境、民主主義、法の支配に脅威をもたらす「高リスク」AIシステムには、特定の要件が適用されます。しかし、フィルタリング条件の追加により、特定の高リスクアプリケーションを免除する可能性のある潜在的な抜け穴に関する懸念が高まっています。

AI法は、人間の行動を操作し、脆弱性を悪用し、無差別な顔画像のスクレイピングを行うなど、受け入れられないリスクを引き起こすAIシステムを禁止しています。禁止は包括的ですが、職場での感情認識など、安全上の理由による例外は曖昧さと潜在的な抜け穴を導入します。

特にシステムリスクを持つ「高インパクト」の基盤モデルに対する透明性義務が導入されます。より厳格なルールにより、モデル評価、システムリスク評価、敵対的テスト、サイバーセキュリティ対策、およびインシデントの報告が求められます。しかし、調和の取れたEU基準が確立されるまで業界自主規制コードに依存することは、コンプライアンスの不確実性を生み出す可能性があります。

基本的人権への影響評価（FRIA）の導入は、差別的な国家監視や法執行におけるAIに関する懸念に対処します。それでも、法執行機関に対する免除は、FRIAが高リスクAIツールの有害な展開を防ぐ上で効果的かどうかについて疑問を投げかけています。

AI法違反には、€3,500万またはグローバル年間売上高の7%から、軽微な違反には€750万または売上高の1.5%の範囲で罰金が科されます。罰金はコンプライアンスを強化することを目的としていますが、「比例原則に基づく上限」を通じて回避される可能性や、大企業を優遇し、リスクのあるAIプロジェクトをスタートアップに委ねることを促す可能性について懸念が提起されています。

AIオフィスとボードの設立により、ガバナンス構造が形成されます。委員会内のオフィスは高度なAIモデルを監督し、加盟国の代表で構成されるボードは調整プラットフォームとして機能します。社会的ステークホルダーの技術専門家としての限られた参加は、AI規制の形成における市民社会の声が弱まる可能性があります。

AI法における未探求のギャップと懸念

Thierry Breton氏などの主要人物がイノベーションと保護のバランスに対する自信を表明しているにもかかわらず、AI法における潜在的な抜け穴に関する懸念はpersistしています。金曜日の深夜の記者会見で、当局者はフィルタ条件や例外により、高リスクアプリケーションが審査を逃れる可能性があることを認めました。生体認証識別システムの禁止や緊急時の高リスクAIツールの展開などの問題は、法律の有効性について疑念を呈しています。

Thierry Breton氏がAI法が単なるルールブックを超え、EUのスタートアップや研究者がグローバルなAI競争で主導権を握るためのプラットフォームとして機能すると表明したことは、EUが人工知能の分野で顕著な勢力として確立するという内在的な野心を示唆しています。批評家は、これがEU発のAI企業の支援と発展を厳格な規制よりも優先する、規制緩和的なアプローチを反映していると指摘しています。

AI法が現実味を帯びるにつれて、その有効性と潜在的な抜け穴をめぐる議論が激化しています。この立法は、イノベーションの促進と社会の保護のバランスを本当に取るものなのか、それとも慎重に隠された規制緩和戦略なのか。今後の数ヶ月で、AI法がEU内外のAI環境に与える真の影響が明らかになるでしょう。