漏洩したFTC民事調査命令がAI執行の優先事項を浮き彫りにし、OpenAIの慣行を対象とする

2023年7月13日、ワシントン・ポストは、OpenAI, LLC宛ての連邦取引委員会（FTC）民事調査命令（CID）の漏洩という、人工知能の世界における画期的な開発を明らかにしました。このCIDは、ChatGPTやDALL-EなどのAI製品に関連して、OpenAIがFTCのプライバシー、データセキュリティ、広告に関する基準に準拠しているかどうかを決定することを目的としています。漏洩したCIDは、萌芽期の生成AI業界に関するFTCの執行優先事項に関する独自かつ予備的な視点を提供し、広告慣行、プライバシーの問題、安全性の考慮事項、データセキュリティなどの問題に光を当てています。

FTCによるAI製品広告慣行に対する厳格な審査

漏洩されたCIDは、FTCがAI業界における広告慣行に焦点を当てていることを浮き彫りにしています。具体的には、FTCはOpenAIがその大規模言語モデル（LLM）製品をどのように宣伝しているか、特にAI出力の機能、精度、信頼性について伝えられている情報について理解しようとしています。これは、AI製品の広告がFTCにとって優先事項であり、同社が企業が消費者に対して自社のAI製品を正確に表現することを確実にするために決意していることを示しています。CIDは、生成AI業界における真実性の高い広告の重要性、特にユーザーを意図しない行動に操る「ダークパターン」の作成を防ぐことの重要性を強調しています。

生成AI業界におけるプライバシー懸念に対するFTCの厳格な審査

漏洩したCIDは、生成AI業界におけるプライバシー懸念に関連するいくつかの重要な側面を検査しています。FTCが関心を持つ重要な分野の一つは、OpenAIが製品を開発するために使用するトレーニングデータセットのソースです。CIDは、OpenAIがデータスクレイピング、第三者からの購入、または公開されているウェブサイトからデータを取得したかどうかを問い質しています。さらに、FTCは、トレーニングデータセットから個人情報を削除するためにOpenAIが講じた措置について質問しており、データスクレイピングおよびAIトレーニングのために公開されている個人情報を二次利用することへの懸念を浮き彫りにしています。

トレーニングセットにおける個人データへのFTCの焦点は、「一貫性のない二次利用」という概念に基づいている可能性があります。これは、消費者の個人情報を当初開示された目的と矛盾する目的で使用することを禁止するものです。このアプローチは、将来のLLMトレーニングセットに大きな影響を与える可能性があり、個人情報や知的財産保護のないデータセットに対する要求に影響を及ぼす可能性があります。

CIDはまた、OpenAIがデータ収集、保持、使用、転送、または削除を拒否するというユーザーからのリクエストをどのように処理するかといった、ユーザーデータコントロールもカバーしています。FTCは、OpenAIがそのポリシーで提供および説明されている消費者のプライバシーの選択を尊重しているかどうかを特定することを目指しており、ユーザーリクエストを尊重しなかった可能性に焦点を当てています。

また、CIDはOpenAIのプライバシーポリシーの正確性と完全性を評価することを目指しています。FTCは、収集された個人情報、そのソース、種類、保存期間、開示先、および使用目的について問い質しています。OpenAIのプライバシーポリシーで見つかった不一致は、FTCによる潜在的な執行措置につながる可能性があります。

主要なLLMの安全性の状況に関するFTCの調査的な姿勢

漏洩したCIDは、市場における主要なLLMの安全性の状況に対するFTCの関心を示しています。OpenAIは、そのLLMによって引き起こされた安全性の課題に関連する苦情や報告に関する情報を提供することが義務付けられています。これには、幻覚、有害なコンテンツ、偏った表現、誤情報、サイバーセキュリティの脆弱性、経済的影響、および不正確な情報へのユーザーの過剰依存に関連するリスクが含まれます。

この質問の行いは、FTCにAI安全性に関する貴重な洞察を提供する一方で、提供された情報がOpenAIの公的な声明と矛盾したり、LLMの有害な側面を明らかにしたりした場合、潜在的な執行措置の基礎としても機能します。これは、FTC法における「不公平」な慣行の定義に該当する可能性があります。

OpenAIのデータセキュリティ対策に関する調査

漏洩したCIDは、OpenAI内部およびサードパーティのAPIやプラグインを通じてLLMが利用可能になった場合のデータセキュリティに関する疑問を提起しています。FTCは、2020年3月にユーザーのチャット履歴や支払い関連情報を露出させたバグに関連するセキュリティインシデントに特に言及しています。OpenAIは、影響を受けたユーザー数、露出された情報の種類、およびインシデントへの会社の対応を開示することが義務付けられています。

CIDは、APIやプラグインの統合時にユーザーデータへのリスクを評価するための会社のポリシーと手順、サードパーティのAPIユーザーの監督、サードパーティによるユーザーデータの使用制限、およびOpenAIのデータセキュリティポリシーへの準拠を確保するための措置を探求しています。FTCは、パートナーによるAI技術の不正使用を防ぐための十分な注意と契約条項の重要性を強調し、不十分なセキュリティ保護に対して会社を責任追及しています。

OpenAIへのFTC CIDの漏洩は、急速に成長する生成AI業界に関するFTCの執行方針の開発を垣間見る_uniqueな機会を提供します。政策立案者がAI技術にガードレールを設定しようとする中で、FTCや他の規制当局がAI執行の分野における広告、プライバシー、安全性、データセキュリティの問題に対処しようとするにつれて、この分野での活動の増加が予想されます。