EU、'受け入れられないリスク'と見なされるすべてのAI技術を禁止

本日より、欧州連合は「受け入れられないリスク」とタグ付けされたAIシステムへの扉を閉ざした。これは議論の余地がない。

規制当局は一夜にして製品ライン全体を消去する権限を持つ。EU AI法に基づく最初のコンプライアンス期限は2月2日に始まることが決まっていた。ブロックのメッセージは明確だ。これらの規則に違反すれば、3,500万ユーロ（約3,600万ドル）またはグローバル収益の7%のいずれか高い方、という罰金を支払うことになる。

欧州議会は昨年3月、長年にわたる alleged な微調整の末、AI法を可決した。8月1日にはすでに法が施行されていた。現在、業界全体が対応を迫られている。

EUのターゲットリストには何があるのか？

EUのブラックリストはAIの暗黒面の一部をカバーしている。行動や評判に基づいて人をスコアリングするシステム、例えば中国が運営するディストピア的な社会信用システムのようなものは対象外だ。また、巧妙なトリックやサブリンガル・メッセージングを通じて人々の選択を操作するよう設計されたAIも禁止されている。

また、脆弱性をプロファイリングするAI、例えば年齢や障害を利用するなどして人を操作するAIも対象外だ。そして歴史に残るものとして、EUは顔の特徴に基づいて誰が犯罪を犯すかを予測することを違法とした。

あなたのAIが性別、性的指向、または政治的信念に関する推論を行うために生体認証データをマイニングしている場合、撤収せよ。警察によるリアルタイム生体認証モニタリングも、EU AI法に従い非常に特定の条件を満たさない限り禁止されている。

つまり、地下鉄駅や公共イベントでの「潜在的な容疑者」を捕らえるための顔スキャンは禁止だ。学校や職場における感情追跡AIも、医療処置や安全に関連する稀な場合を除き、禁止された。

これらの禁止はEU域内で事業を行うすべての企業に適用される。本社所在地は問題ではない。シリコンバレーの巨人、アジアのAIスタートアップ、欧州の研究所など、名指しすればすべて。制限されたシステムを使用する場合、EUは罰金を支払うことになると言う。

コンプライアンスを巡る企業の分裂

2024年9月、Google、OpenAI、Amazonを含む100社以上のテック企業が、EU AIパケットという自主的な誓約に署名した。これにより、彼らはActの期限前にAIプロジェクトを早期にクリーンアップし、高リスクまたは禁止カテゴリに該当する可能性のあるシステムをマッピングすることを約束したと報告されている。

興味深いことに、Meta、Apple、そしてフランスのAI企業Mistralは、2024年10月、規制が硬直しすぎてイノベーションを阻害すると主張して、これを完全に拒否した。

それでも、パケットをスキップしても法遵守から免除されることはない。現実的には、これらのテック企業の多くは禁止カテゴリに触れていないが。

しかし、EU AI法によると、警察機関は依然として公共の場で生体認証データを収集するAIシステムを使用できるが、事前に統治機関の承認が必要だ。この免除は、行方不明者の捜索や差し迫った攻撃の阻止などの緊急時、および学校や職場における感情検知AI（医療または安全上の懸念によって正当化される場合のみ）に適用される。

しかし、AI法は孤立して機能するわけではない。一般データ保護規則（GDPR）、ネットワーク・情報セキュリティ指令（NIS2）、デジタル業務レジリエンス法（DORA）はすべて、データ処理とセキュリティに関する重複する要件を持っている。