ニューヨーク市のAIチャットボット、企業に誤情報を提供して非難を浴びる

AIチャットボット：ニューヨーク市が行政業務にAIを活用しようとする取り組みは、行き詰まりを見せている。同市は、AIベースのチャットボットが企業に対し、誤った、場合によっては違法となる可能性のあるアドバイスを提供していることに気づいたと報じられている。10月に導入されたこのチャットボットは、市内でのビジネス運営の複雑な問題をうまく乗り切る方法をアドバイスすると謳っていたが、その後、特に住宅政策や労働者の権利に関する問題において、不正確な回答をしているとして批判を浴びている。.

誤解を招く情報は懸念を引き起こす

さらに別の調査で、マークアップは、オンラインチャットボットが住宅差別や借主の権利といった重要な問題について、不完全、あるいは全くの誤情報を提供していることを発見しました。「家主は、セクション8または家賃補助を受けている借主を受け入れるべきでしょうか？」という質問に対し、このチャットボットは「いいえ」という誤った回答を返しています。これは、ごく少数の例外を除き、家主が収入源に基づいて借主を差別することを禁じているニューヨーク市法に違反しています。.

専門家や支援団体は、チャットボットの誤情報がもたらす潜在的な影響について警鐘を鳴らしている。地元の住宅政策専門家は、この誤りは「危険なほど不正確」であり、家主と借主双方の生活に深刻な影響を及ぼすと指摘した。ボットの指示に従うことで、家主は差別禁止法と借主の権利の両方に違反する行為に陥り、ひいては市の住宅格差と経済的不平等の問題を悪化させる可能性がある。.

是正措置を求める声

これらの暴露を受け、市に対し、AIチャットボットの defiを調査し、ユーザーに正確かつ法的に妥当な情報を提供していることを確認するよう求める声が高まっています。この見解を支持する人々は、誤ったアドバイスは是正され、人生においてこのような事故が起こらないよう安全策を確実に講じる必要があると強調しています。ニューヨーク市がテクノロジーの進歩を行政に活かしていく中で、最高水準かつ正確な説明責任が最優先され、企業とdentの両方に対する市民の信頼を維持していく必要があります。.

この出来事は、厳格な品質管理を必要とする公共サービスへのAI技術導入に伴う複雑さと課題を浮き彫りにしました。しかしながら、AIの導入には、効率性とアクセス性の向上という大きな可能性を秘めているにもかかわらず、これらの情報を適切に検証し、その弊害を軽減するためのtronな手段を確保する必要があります。これは、都市や政府がAIを活用したソリューションの導入を継続する中で、市民一人ひとりの権利と福祉を守るプロセスにおいて、透明性、説明責任、そして法的基準の遵守が依然として遵守されなければならないためです。.