人工知能業界、不完全なAIツールの急ピッチな公開で批判に晒される

生成人工知能の台頭する分野で支配権を握る競争の中で、Google、OpenAI、Amazonなどのテクノロジー巨人は、しばしばがっかりさせる結果とともに、新しいAI製品を急速にリリースしてきました。 

これらのAIツールの最近の公開は、誤情報の生成や事実の不正確さを含む重大な欠陥を浮き彫りにしました。これらの革新を市場に急ぐ動きは、未検証の技術に関連する潜在的なリスクについて、専門家や規制当局の間で懸念を引き起こしています。

GoogleはGmailやGoogle Docsからのコンテンツを要約するように設計されたチャットボット「Bard」を導入しましたが、ユーザーはすぐに、送信されたことのないメールを捏造していることに気づきました。OpenAIは画像生成ツール「Dall-E 3」を発表しましたが、ソーシャルメディアのユーザーは、公式デモの画像が要求された詳細を満たしていないことを指摘しました。AmazonはAlexaの会話モードを発表しましたが、これはThe Washington Postへのデモンストレーションでつまずき、誤った場所の博物館を推奨しました。

この欠陥のあるリリースの波は、機械が人間のようなテキストやリアルな画像を生成できる生成AI技術を掌握しようとするテクノロジー業界の狂乱した推進を浮き彫りにしています。この焦りは、欠落への恐怖（FOMO）によって駆り立てられ、これらのAIツールを強化するために必要なデータを生成するユーザーをさらに引きつけることを目的としています。しかし、専門家もテクノロジーの執行役員も、未検証のAIの早期導入に対する警告を発しています。

業界は欠陥を認めるが、前進する

テクノロジー企業は、AI製品の実験的な性質を伝達し、攻撃的または偏った出力を防ぐための安全策を実装していると主張しています。一部の人は、テクノロジーがより強力になる前に、人々にAIツールにさらすことで関連するリスクをよりよく理解できると述べています。これらの保証にもかかわらず、迅速かつ欠陥のある展開は、特にAIがバイアスをもたらし、人間の知能を超える可能性を考慮すると、注意を呼びかける声と矛盾しています。

特に、AIへの懸念は規制の注目を促しています。米国では、議会はAIを規制するための公聴会を開催し、法案を提案しましたが、具体的な措置は限定的です。先週、イーロン・マスクやマーク・ザッカーバーグを含むテクノロジーの執行役員たちは、この技術を規律する法案を検討している議員たちから質問を受けました。ヨーロッパでは、議員たちが犯罪行動の予測など特定のAI利用を禁止し、業界に厳格なルールを確立するための規制を推進しています。イギリスでは、AI規制に関するグローバルな協力事項が、11月の主要サミットの議題となっています。

イギリスの財務長官ジェレミー・ハントは、規制と革新のバランスを見つけることの重要性を強調しました。彼は競争の緊張が技術的進歩を駆り立てることを認めていますが、革新を促進しつつ必要な安全策を確保する規制枠組みの必要性を強調しました。

AI開発における課題は持続する

OpenAIのChatGPTに代表される最新のAIツールの世代は、その能力で広範な注目を集めています。インターネットからの膨大なデータセットで駆動されるこれらのAIシステムは、複雑な質問に答え、専門的な試験に合格し、人間のような会話を交わすことができます。しかし、課題は残っています。

チャットボットは頻繁に誤情報を生成し、それを事実として提示します。これは「幻覚」と呼ばれる現象です。画像生成は急速に改善されていますが、米国が2024年の選挙に近づいている中で、プロパガンダや誤情報の作成における潜在的な能力について懸念が残っています。さらに、AIモデルのトレーニングに著作権で保護された素材を使用することは法的紛争を引き起こしており、著名な著者たちが最近、OpenAIに対してその作品をAIトレーニングに使用したとして訴訟を起こしました。