ニューヨーク市のAI搭載チャットボット、虚偽情報提供で批判を浴びる

ニューヨーク市が中小企業経営者を支援するために開発したAI搭載 チャットボットが、不正確で誤解を招くようなアドバイスを提供しているとして、激しい批判にさらされている。不適切なガイダンスに関する報告にもかかわらず、 エリック・アダムス市長は 公式ウェブサイト上でこのツールを維持し、欠点を認めつつもその決定を擁護している。

不正確なアドバイスに対する批判が高まる

10月に市の行政手続きを円滑に進めるための情報ハブとして開設されたこのチャットボットは、住宅政策、労働者の権利、ビジネス規制など、さまざまなトピックに関して誤った情報を提供しているとして批判を受けている。批評家たちは、このボットの不完全な応答は、政府が AI 技術を採用することのリスクを浮き彫りにしていると主張している。

ニューヨーク大学責任あるAIセンターのコンピュータサイエンス教授、ジュリア・ストヤノビッチ氏は、市の取り組みを無謀かつ無責任だと批判した。ストヤノビッチ氏は、適切な監督なしに実証されていないソフトウェアを導入することは大きな課題をもたらすと主張している。一方、アダムズ市長は、新しい技術を導入する上で問題に直面することは当然のことであり、改善のためには問題に対処することが重要だと主張している。.

説明責任と改善を求める

チャットボットの不正確さに対する懸念が高まる中、専門家は説明責任と改善の必要性を強調しています。ニューヨーク市リーガルサービスの市営住宅担当ディレクター、ロザリンド・ブラック氏は、ボットが住宅政策に関して誤った情報を提供していることを指摘し、正確なガイダンスの重要性を強調しています。同様に、ニューヨーク市ホスピタリティ・アライアンスのアンドリュー・リギー氏をはじめとする業界専門家は、企業に不正確な法的情報を提供することで生じる可能性のある責任について警告しています。.

批判にもかかわらず、ニューヨーク市技術革新局はチャットボットの精度と有効性の向上に引き続き取り組んでいる。広報担当のレスリー・ブラウン氏は、試験運用プログラムに欠点があったことを認めつつも、数千人のユーザーにタイムリーな支援を提供するという点で、そのプラスの効果を強調している。市は、 ニューヨーク市。

ニューヨーク市が中小企業経営者を支援するために導入したAI搭載チャットボットは、不正確で誤解を招く情報を拡散したとして、厳しい調査に直面しています。批判的な人々は、適切な監督なしにAI技術を導入することの潜在的なリスクを懸念しています。しかし、市当局は、市内の起業家のニーズに応えるために、チャットボットのパフォーマンス向上と正確性の確保に引き続き尽力しています。.