MITの研究者がAIリスクのリポジトリを発表

MITの研究者をはじめとする組織は、AIシステムによって複雑化するリスクを文書化した広範なデータベース「AIリスクリポジトリ」を作成しました。これは、AI技術が急速に進化する中で開発されたもので、AIシステムの使用に伴うリスクも同様に急速に進化しています。.

このリポジトリは、変革能力を持つ AI に関連する新たなリスクを評価できるよう、政府、研究、企業、業界などのさまざまな機関の意思決定者を支援することを目的としています。.

リポジトリはAIリスクの整然とした文書化をもたらす

多くの組織や研究者が AI リスクを解決することの重要性を認識している一方で、これらのリスクを文書化して分類する取り組みは、かなりの程度まで不十分であり、矛盾する分類システムが断片化されている状況を生み出しています。.

「私たちは、チェックリストとして使えるAIリスクの包括的な概要を求めていました」と、MIT FutureTechの次期ポスドク研究員でプロジェクトリーダーのピーター・スラッテリー氏は VentureBeat。

「しかし、文献を調べてみると、既存のリスク分類はジグソーパズルのピースのようなもので、個々には興味深く有用だが、不完全であることがわかった。」

スラタリー。.

AI リスク リポジトリは、 査読済み論文、プレプリント、会議論文、レポートなど、既存の 43 の分類からの情報を融合することで、上記の課題に対処します。

この綿密なキュレーションプロセスにより、700件を超える独自のリスクを収録したデータベースが構築されました。このリポジトリは、2つの次元からなる分類システムを採用しています。.

まず、責任を負う主体（人間または AI）、意図（非意図的または国際的）、およびタイミング（開発後または展開前）を考慮して、リスクは原因に基づいて分類されます。.

MIT によれば、この基本的な分類は、AI リスクが発生する可能性がある状況とメカニズムを理解するのに役立ちます。.

MITの研究者はAIのリスクを7つに分類した

一方、リスクは、誤情報や悪意のある行為者、悪用、差別や有害性、プライバシー、セキュリティなど、7 つの異なる領域に分類されます。.

AI リスク リポジトリは、生きたデータベースとなるように設計されており、公開されており、機関はそれをダウンロードして使用することができます。.

研究チームは、新たなリスク、最新の調査結果、進化する傾向に合わせてデータベースを頻繁に最新の状態に更新する計画を立てることができます。.

AIリスクリポジトリは、様々な分野の企業にとって実用的なリソースとなることを目指しています。AIシステムを開発する機関にとって、このリポジトリはリスクを評価し、軽減するための貴重なチェックリストとして機能します。.

「AI を活用している組織は、リスクの露出と管理を包括的に評価するための有用な基盤として、AI リスク データベースと分類法を活用することでメリットを得られる可能性があります。」

MITの研究者。.

「この分類法は、特定のリスクを軽減するために実行する必要がある特定の行動をdentするのにも役立つ可能性がある」と研究者らは付け加えた。.

たとえば、AI を活用した採用システムを構築している組織は、リポジトリを利用して、差別や偏見に関連する潜在的なリスクを把握することができます。.

したがって、コンテンツのモデレーションに AI を活用する企業は、「誤情報」領域を活用して、AI 生成コンテンツに関連する潜在的なリスクを理解し、必要なセーフティネットを確立することができます。.

MITの研究者らは 協力し 、クイーンズランド大学、Future of Life Institute、ルーヴェン・カトリック大学、AIスタートアップ企業のハーモニー・インテリジェンスの同僚らと

研究者らはまた、AI リスク リポジトリが、注意を要するさらなるギャップを特定dentにつれて、他の研究にも情報を提供するだろうと明らかにした。.

「このリポジトリを使用して、組織によるリスクへの対処方法における潜在的なギャップや不均衡dent」と、MITフューチャーテックラボの責任者であるニール・トンプソン氏は述べています。.