生成AIがQ2 2023の主要な新興リスク5つにランクイン

OpenAIのChatGPTやGoogle Bardなどの主要なモデルを含む生成人工知能（AI）は、最近のGartner, Inc.の研究によると、2023年第2四半期（Q2）に企業のリスク懸念の最前線に躍り出ました。

調査の洞察

2023年5月に実施された包括的な調査において、Gartnerは249人の上級企業リスク執行役員に連絡を取り、20の差し迫ったリスクに関するベンチマークされた視点を提供することを目指しました。詳細な分析である『Quarterly Emerging Risk Reports』は、これらのリスクに関連する潜在的な影響、タイムライン、注目度、および認識された機会について明らかにしています。

生成AIの大量利用は、第2の最も頻繁に引用されたリスクとして特定されました。一方、第三者の存続可能性は、2023年第2四半期の調査で注視されている急速に台頭するリスクとしてトップスポットを獲得しました。財務計画の不確実性とクラウド集中リスクが続いており、中国貿易緊張がトップ5を埋めました。これらのリスクは、現在のマクロ経済、地政学的なボラティリティ、およびテクノロジー関連の懸念の混合を表しています。

Gartner Risk & Audit Practiceの調査ディレクターであるRan Xu氏は、生成AIがトップ10に突然現れ、2位にランクインしたことは、生成AIツールの公衆の認識と採用の急速な上昇を反映していると考えています。また、それは広範な潜在的なアプリケーション、そして consequently 関連するリスクの範囲の広さを強調しています。

生成AIのリスク

Gartnerは以前、生成AIの6つの固有のリスクと、AI規制に関連する4つの重要な領域を特定しました。企業リスクを効果的に管理するために、Gartnerは知的財産、データプライバシー、およびサイバーセキュリティの3つの重要な領域を強調しています。

知的財産に関する懸念

生成AIツールは、意図せずとも情報をトレーニングデータセットに統合する可能性があります。Ran Xu氏は、生成AIツールに入力された情報がそのトレーニングセットの一部になる可能性があることを説明しました。これは、機密性または所有権のあるデータが、他のユーザーへの出力に意図せず現れる可能性があることを意味します。さらに、これらのツールの出力を利用することは、以前のユーザーの知的財産権を意図せずに侵害する可能性があります。Gartnerは、知的財産リスクが適切に対処されるように、そのようなツールの使用時に企業リーダーに慎重さと透明性の必要性を啓蒙することの重要性を強調しています。

データプライバシーの問題

生成AIツールは、事前の通知なしに、ベンダーやサービスプロバイダーなどの第三者とユーザーデータを無意識のうちに共有する可能性があります。このような行為は、多くの地域のプライバシー法に違反する可能性があります。特に、中国とEUはすでに規制を施行しており、米国、カナダ、インド、英国では提案中の法律があります。

サイバーセキュリティの脅威

生成AIツールはサイバー脅威から免れません。Xu氏は、生成AIが欺かれた後に生成されるマルウェアやランサムウェアのコード、およびこれらのツールを誤導して情報を漏洩させる「プロンプトインジェクション」攻撃があることを指摘しました。これは、大規模な洗練されたフィッシング攻撃の実行への道を開きます。

経済状況と第三者の存続可能性

アナリストはまた、悪化する経済状況による第三者の存続可能性リスクの増幅の可能性にも注目しました。金利調整にあまり反応せず、予想より長く続く持続的なインフレは、第三者のコストとマージンの圧迫を強化しました。中央銀行がインフレに対抗するために金利を引き上げると、信用収縮フェーズを引き起こし、借入コストの増大によりサプライヤーが業務停止または破産に追い込まれる可能性があります。

広範な経済の低迷は、需要の予期せぬ急落をもたらし、ベンダーの存続可能性または商品・サービスを迅速に提供する能力を脅かす可能性があります。

Gartnerの専門家は、リスクマネージャーが追跡すべき第三者の存続可能性の3つの潜在的な結果を概説しています：必須の投入物と材料の損失、誤った財務計画の前提、および外部サプライチェーンの課題。

新興リスクの状況が変化するにつれ、企業は警戒を怠ってはなりません。特に生成AIの分野ではなおさらです。技術の進歩と経済の変動が組み合わさる中、リスク管理には積極的なアプローチが不可欠です。