- NYCのAIチャットボットが、住宅差別など重要な問題に関する不正確な助言を提供し、企業に誤情報を流して法的リスクを招いている。
- 専門家は、このチャットボットが提供する「危険なほど不正確」なガイダンスを警告し、差別禁止法やテナントの権利違反の可能性を指摘している。
- 是正措置を求める声は、公共サービスのAI技術導入における責任と正確性の必要性を強調しており、市民の信頼を維持し権利を守るためである。
ニューヨーク市が政府運営にAIを活用しようとした試みが失敗に直面している。市は自社のAIベースのチャットボットが企業に対して誤った、場合によっては違法な助言を提供していることを認識したという。10月に開始され、市内での事業運営の複雑さを乗り越えるためのアドバイスを提供すると謳っていたこのチャットボットは、住宅政策や労働者の権利に関する不正確な回答により批判を浴びている。
誤解を招く情報が懸念を呼ぶ
別の調査において、The Markup は、オンラインチャットボットが住宅差別やテナントの権利といった重要な事柄について、不十分または明らかに誤った情報を提供していることを発見しました。「家主はセクション8や家賃補助のある入居者を受け入れるべきか？」という質問に対し、この例では否定的な誤った回答が示されています。これは、収入源による差別を禁止するニューヨーク市法（ごく一部の例外を除く）に反しています。
専門家や活動家は、チャットボットの誤情報によって生じる潜在的な影響に対して警鐘を鳴らしています。ある地域の住宅政策専門家は、これらの誤りを「命に関わるほど不正確」と表現し、家主と入居者の双方に重大な影響を及ぼすと指摘しました。ボットの指示に従えば、家主は差別禁止法や入居者の権利に違反する行為に陥り、結果として都市における住宅格差や経済的不公正を悪化させることになります。
是正措置を求める声
これらの暴露により、市が自社の AI チャットボットの欠陥を調査し、実際にユーザーに正確かつ法的に妥当な情報を提供していることを確認するよう求める声が上がっています。この見解を支持する人々は、誤った助言は是正されなければならず、人生において同様の過ちが発生しないようセーフティネットが整備されるべきだと強調しています。ニューヨーク市が技術の進歩をガバナンスに転換し続ける中で、最高水準の責任と正確性が重視され、企業と住民双方からの信頼を維持していく必要があります。
このイベントは、公共サービスにAI技術を導入する際に伴う複雑さと課題を浮き彫りにしました。これは厳格な品質管理が求められるものです。しかし、効率性とアクセシビリティの向上という潜在的な可能性にもかかわらず、AIの導入においては、この情報に対する適切なチェック体制を確立し、潜在的な害を軽減することが不可欠です。これは、都市や政府がAI駆動型ソリューションを継続的に導入している中で、透明性、説明責任、法的基準への準拠が守られつつ、各市民の権利と福祉が保護されるプロセスにおいて依然として遵守されなければならないからです。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ジョン・パーマー
John Murangiri氏は、市場分析のスキルを身につけてCryptopolitanに参加しました。John（通称JP）はナイロビ大学でマスコミュニケーションおよびメディア研究の学士号を取得し、これまでにInsideBitcoins.comやMetacoingraphで暗号資産市場の洞察を提供してきました。
