Howsoが「ブラックボックス」AIに取り組む中、AIの透明性への需要が高まる

人工知能（ AI ）がますます普及する世界において、意思決定プロセスの透明性は多くの人にとって喫緊の課題となっている。ローリーに拠点を置き、説明可能なAIを専門とする企業Howsoの共同創業者であるマイク・キャップス氏は、人々が朝食の食材を吟味するように、医療や教育といった生活の重要な側面に影響を与えるAIシステムにも透明性を求めるべきだと主張している。

ブラックボックスAIの台頭

AIは私たちの生活に深く浸透し、医療処置や融資の承認、仮釈放の決定に至るまで、重要な意思決定プロセスに活用されています。しかし、キャップス氏は、多くの既存のAIシステムの大きな問題は、その不透明性、いわゆる「ブラックボックスAI」にあると主張しています。 

これらのシステムは、結論に至った経緯について明確な情報を提供せずに最終判断を下すため、ユーザーや関係者は意思決定基準について何も知らされません。

Howso（旧称Diveplane）は、ブラックボックスAIの蔓延に挑むという使命を掲げ、2018年にマイク・キャップスによって設立されました。同社のAIに対する独自のアプローチは「アトリビュータブルAI」と呼ばれ、他社とは一線を画しています。 

Attributable AIは、ユーザーが意思決定を特定のデータポイントまで遡って tracすることを可能にし、意思決定プロセスを透明化して理解しやすくします。例えば、医療手術が推奨された場合、Howsoのシステムは、その意思決定に影響を与えた最も重要な17個のデータポイントを特定し、透明性と説明責任を確保します。

HowsoのAIエンジンは、様々な分野で応用されています。顧客の一つであるScanbuyは、大手小売業者と提携し、Howsoの顧客インテリジェンスツールを活用しています。これにより、小売業者は顧客の嗜好を正確かつ説明可能な方法で予測することが可能になります。 

注目すべきは、ノースカロライナ州立大学やノースカロライナ大学などの教育機関も特定のプロジェクトにHowsoの技術を採用しており、学術界における透明性のあるAIへの需要の高まりを強調していることだ。

Howsoが9月にAIエンジンをオープンソース化するという決定は、透明性の促進に対する同社の強いコミットメントを明確に示すものです。この動きにより、ユーザーは独自の、説明可能なAI駆動型プラットフォームを設計できるようになり、透明性の高いAI 技術。

注目すべきクライアントとパートナーシップ

Howsoの顧客リストには、Mastercardやスペインの保険会社Mutua de Madrileñaといった業界大手企業が含まれています。さらに、バージニア州行動健康発達サービス局は、意思決定プロセスの改善にHowsoのテクノロジーを活用しています。これらのパートナーシップは、透明性と説明責任を重視するAIシステムの幅広い適用性と需要を実証しています。

キャップス氏は、食品ラベルの例えを挙げながら、AIにおける透明性の重要性を強調しています。消費者が食品について情報に基づいた選択をするために栄養成分表示を頼りにするのと同様に、人々は生活に影響を与えるAIによる意思決定についても同様の透明性を求めるべきです。これは単なる信頼の問題ではなく、責任あるソフトウェア開発の基本的な要件でもあります。

ブラックボックスAIの落とし穴

キャップス氏が指摘するように、ブラックボックスAIはいくつかの固有の問題を引き起こします。第一に、AIシステムの信頼性と説明責任について疑問が生じます。AIシステムの内部動作が隠蔽されると、バグやエラーのdentと修正が困難になります。その結果、意図しない結果やバイアスが生じる可能性が未解決のままとなり、莫大な代替コストが発生します。

透明性が極めて重要なAIの応用分野の一つは、仮釈放の決定です。これらの決定は往々にして過去のデータに依拠しますが、そこにはバイアスが含まれている可能性があります。効率性を重視して規模を拡大すると、こうしたバイアスが永続化し、不公平で差別的な結果につながる可能性があります。キャップス氏は、裁判手続きの合理化と迅速化が望まれる一方で、それが人種的バイアスの永続化を犠牲にすべきではないと強調しています。