機械アンラーニングは、責任ある倫理的なAI展開への道を開きます

人工知能（AI）の分野における重要な瞬間に、研究者たちはこの技術に関連する切実な問題、つまりAIシステムに忘却する方法を教えることに取り組んでいます。AIサミットはこの問題を前面に押し出し、「機械アンラーニング」がAIがもたらすリスクを軽減するための重要なツールとしての重要性を強調しました。 

AIが社会の様々な側面に統合され続ける中、その恩恵は疑う余地がありませんが、潜在的な危険性も同様です。この急速に成長している研究分野は、特に現代のAIアプリケーションで中心的な役割を果たすディープニューラルネットワーク（DNN）から、厄介なデータを効率的かつ費用対効果の高い方法で削除することで、これらの懸念に対処しようとしています。

ChatGPTやBardなどのよく知られたモデルを含む現代のDNNの訓練は、集中的なプロセスであり、多大な計算資源と時間を必要とします。これらの大規模言語モデルは、訓練に膨大なデータとエネルギーを必要とし、それは1年間に数千世帯を電力供給できるレベルのテラワット時数に相当します。問題の核心は、特定のデータを忘却するためにAIシステムを再訓練することが、骨の折れるかつ資源集約的なタスクであるという事実にあります。

この課題に対処するために、「機械アンラーニング」と呼ばれる新しい研究分野が登場しました。研究者たちは、社会にリスクをもたらすデータを効率的に忘却しながら、高い精度を維持する技術を開発しようとしています。この研究を主導しているのは、ウォーリック大学とGoogle DeepMindのコンピュータサイエンス専門家による協力です。

ウォーリック大学のコンピュータサイエンス部門のPeter Triantafillou教授は、最近「Towards Unbounded Machine Unlearning」と題された出版物を共著し、これはプレプリントサーバーarXivで入手可能です。彼は、トリリオン単位のパラメータを含む可能性のあるDNNの複雑さを強調し、これらのモデルがどのようにそしてなぜ目標を達成するのかを理解するのが困難であることを指摘します。この複雑さと、それらが訓練される膨大なデータセットの組み合わせは、DNNが社会に及ぼす潜在的な害についての懸念を提起します。

バイアスとプライバシーの懸念への対処

DNNに関連する最も重要なリスクの一つは、バイアスのあるデータの存在です。これらのモデルは、バイアスに満ちたデータセットから学習することで、否定的なステレオタイプを永続させる可能性があります。例えば、AIシステムは医師を男性、看護師を女性と誤って関連付けたり、人種的な偏見を強化したりするかもしれません。さらに、DNNは「誤った注釈」を含むデータ、例えばアイテムの誤ラベリングを取り込む可能性があり、これは画像認識などのアプリケーションにおいて深刻な影響を及ぼす可能性があります。

さらに、個人のプライバシーの侵害は大きな懸念事項です。GDPRなどの規制に定められた「忘れられる権利」は、個人がデータセットやAIプログラムから自身のデータの削除を要求する権利を付与します。これはテックジャイアントにとって大きな課題であり、効果的な機械アンラーニング技術の必要性を浮き彫りにしています。

機械的忘却の約束

トライアンティフォウ教授とそのチームによる最近の研究は、画期的な「機械的忘却」アルゴリズムを生み出しました。このアルゴリズムにより、ディープニューラルネットワーク（DNN）は、モデルを最初から完全に再学習する必要なく、問題のあるデータを選択的に忘却することができます。重要なのは、忘却すべきデータを3つの異なるタイプに区別することです。すなわち、バイアス、誤った注釈、プライバシーに関連する問題です。この革新は、AIに関連するリスクを軽減するための実用的で効率的なソリューションを提供します。

機械アンラーニングは、AI技術の責任ある展開を保護するための重要なツールとして位置づけられています。バイアスを永続させ、エラーを含み、またはプライバシーを侵害するデータを忘却させることで、社会は倫理的および社会的価値を損なうことなくAIの恩恵を活用できます。