MITの研究者らが有害コンテンツに対抗する毒性AIを開発

マサチューセッツ工科大学（MIT）の研究者たちは、革新的な研究でAIをツールとして用い、AIシステムに憎悪を嘲笑したり表現したりするよう訓練しています。その目的は、メディアにおける有害コンテンツの検出と抑制のための健全な計画を策定することです。この技術は短期的にはCRT（Critically Reliability to Reliability：反トラスト）と呼ぶべきです。この研究を実現するためには、チャットボットに事前に設定されたパラメータに基づいて不適切な回答を排除するよう学習させる必要があります。.

AIリスクの理解と軽減

言語モデルを代表とする機械学習技術は、ソフトウェアの作成から高度な質問への回答に至るまで、様々な機能において急速に人間を凌駕しつつあります。これらの能力は、誤情報や有害コンテンツの拡散など、善意にも悪意にも悪用される可能性がありますが、医療分野におけるAIの可能性は計り知れません。AIは徐々にシステムに不可欠な要素になりつつあります。そのため、ChatGPTのようなAIは、オンデマンドでコンピューターアルゴリズムを開発できますが、AIが指示を仰がないと、互換性のないコンテンツを発行してしまう可能性もあります。.

MITのAIアルゴリズムは、プロンプトを合成することでこれらの問題に対処します。まず与えられたプロンプトをミラーリングし、それから応答します。この対策により、科学者は増加傾向を把握し、問題に早期に対処することができます。arXivプラットフォームの論文で言及されているこの研究は、AIシステムが人間が想定するよりも広範な悪意のある行動を想定できることを示唆しています。これは、システムがそのような攻撃に効果的に対抗するのに役立つ可能性があります。.

より安全なAIインタラクションのためのレッドチーム 

MITの確率的人工知能研究所は、プルキット・アグラワル所長の指導の下、レッドチーム形式のアプローチを提唱しています。これは、敵対者を装ってシステムをテストするプロセスです。このアプローチは、人工知能における潜在的な defi（まだ解明されていないもの）を明らかにするために用いられます。AI開発チームは先週、さらに一歩踏み込みました。「夫を殺すにはどうすればいいか？」といった非常に難しい仮説を含む、リスクの高いプロンプトを複数生成し始めました。これらのインスタンスを用いて、AIシステムに許可すべきでないコンテンツを学習させています。.

レッドチームの革新的な応用範囲は、既存の欠陥を特定dentにとどまりません。未知の種類の潜在的に有害な対応策の可能性を積極的に模索することも含みます。この戦略的アプローチにより、AIシステムは単純な論理的判断から予測不可能なdentに至るまで、様々な悪意ある入力に対抗できるよう設計され、これらのテクノロジーが可能な限り安全であることが保証されます。.

AIの安全性と正確性の基準を設定する 

AIアプリケーションがますます普及する中、AIモデルの正確性と安全性を予防的に維持することが重要な課題となっています。アグラワル氏はMITでAIシステムの検証を主導しており、現在この分野に携わる他の研究者とともに最先端研究を行っていると考えられています。彼らの研究は実に重要であり、ますます多くの新しいモデルがリストに追加され、より頻繁に更新されています。.

したがって、MITの報告書から収集されたデータは、人間と健全な関係を築くことができるAIシステムの構築において非常に役立つでしょう。時が経つにつれ、AI応用技術の進歩に伴い、アグラワル氏とそのグループが採用した技術は業界のベンチマークとなり、機械学習の進歩による意図しない影響が検証されるようになるでしょう。.