ニューヨーク市が中小企業経営者を支援するために開発したAI搭載チャットボットは、不正確で誤解を招くようなアドバイスを提供しているとして、厳しい批判に直面している。ガイダンスに欠陥があるとの報告があるにもかかわらず、エリック・アダムス市長は市の公式ウェブサイトでこのツールを維持し、その欠陥を認めながらも導入の決定を擁護している。
不正確なアドバイスに対する批判が高まる
10月に市の官僚機構をナビゲートするためのリソースハブとして立ち上げられたこのチャットボットは、住宅政策、労働者の権利、事業規制など、様々なトピックについて誤った情報を提供しているとして、厳しい批判にさらされています。批評家たちは、このボットの不完全な応答は、十分な監督なしに政府がAI技術を導入することのリスクを浮き彫りにしていると主張しています。
ニューヨーク大学責任あるAIセンターのコンピュータサイエンス教授、ジュリア・ストヤノビッチ氏は、市の取り組みを無謀かつ無責任だと批判した。ストヤノビッチ氏は、適切な監督なしに実証されていないソフトウェアを導入することは大きな課題をもたらすと主張している。一方、アダムズ市長は、新しい技術を導入する上で問題に直面することは当然のことであり、改善のためには問題に対処することが重要だと主張している。.
説明責任と改善を求める
チャットボットの不正確さに対する懸念が高まる中、専門家は説明責任と改善の必要性を強調しています。ニューヨーク市リーガルサービスの市営住宅担当ディレクター、ロザリンド・ブラック氏は、ボットが住宅政策に関して誤った情報を提供していることを指摘し、正確なガイダンスの重要性を強調しています。同様に、ニューヨーク市ホスピタリティ・アライアンスのアンドリュー・リギー氏をはじめとする業界専門家は、企業に不正確な法的情報を提供することで生じる可能性のある責任について警告しています。.
批判にもかかわらず、ニューヨーク市技術イノベーション局はチャットボットの精度と有効性の向上に引き続き尽力しています。広報担当のレスリー・ブラウン氏は、パイロットプログラムに欠陥があったことを認めつつも、数千人のユーザーにタイムリーなサポートを提供できるというプラスの影響を強調しています。市は、ニューヨーク市。
ニューヨーク市が中小企業経営者を支援するために導入したAI搭載チャットボットは、不正確で誤解を招く情報を拡散したとして、厳しい調査に直面しています。批判的な人々は、適切な監督なしにAI技術を導入することの潜在的なリスクを懸念しています。しかし、市当局は、市内の起業家のニーズに応えるために、チャットボットのパフォーマンス向上と正確性の確保に引き続き尽力しています。.
