- NYC의 AI 챗봇이 기업에 잘못된 정보를 제공하여 주택 차별과 같은 중대한 사안에 대해 부정확한 조언을 함으로써 법적 위험을 초래하고 있습니다.
- 전문가들은 이 챗봇이 제공하는 '위험할 정도로 부정확한' 지침을 경고하며, 반차별법 및 세입자 권리에 대한 잠재적 위반 가능성을 강조합니다.
- 시정 조치 요구는 공공 서비스에서 AI 기술을 배포할 때 책임성과 정확성을 확보하여 공공 신뢰를 유지하고 시민의 권리를 보호해야 함을 강조합니다.
뉴욕시 AI 챗봇: 뉴욕시가 정부 운영에 AI를 사용하는 시도가 실수로 이어지고 있습니다. 시는 보고된 바에 따르면 AI 기반 챗봇이 기업들에게 잘못된 정보와, 경우에 따라 잠재적으로 불법적인 조언을 제공하고 있다는 것을 깨달았습니다. 10월에 출시되어 시에서 사업을 운영하는 복잡함을 헤쳐 나가는 방법을 조언한다고 주장했던 이 챗봇은 이제 잘못된 답변, 특히 주택 정책 및 노동권 관련 문제에 대해 비판받고 있습니다.
오해의 소지가 있는 정보는 우려를 제기합니다
또 다른 조사에서 더 마크업(The Markup)은 온라인 챗봇이 주택 차별이나 세입자의 권리 같은 중요한 주제에 대해 불완전하거나 명백히 잘못된 정보를 제공하는 것을 발견했습니다. “소유자가 섹션 8이나 임대 보조금을 받는 세입자를 받아들여야 하는가?”라는 질문에 대해, 이 챗봇은 부정적인 답변을 제시합니다. 이는 몇 가지 예외를 제외하고 소득원을 이유로 세입자를 차별하는 것을 금지하는 뉴욕시 법률과 정면으로 모순됩니다.
전문가들과 옹호자들은 챗봇의 잘못된 정보로 인한 잠재적 결과에 대해 경고를 제기했습니다. 한 지역 주택 정책 전문가는 이러한 오류를 “위험할 정도로 부정확”하며 소유자와 세입자 모두의 삶에 영향을 미치는 결과를 초래한다고 설명했습니다. 봇의 지침을 따르는 소유자는 반차별 법률과 세입자 권리를 위반하는 관행에 빠지게 되어, 도시의 주택 불평등과 경제적 불공정 문제를 악화시킬 것입니다.
시정 조치 요구
이러한 폭로는 시가 자체 AI 챗봇의 결함을 조사하고 사용자에게 정확하고 법적 타당성이 있는 정보를 제공하는지 확인하도록 요구하는 목소리를 높였습니다. 이러한 견해를 지지하는 이들은 잘못된 조언은 반드시 시정되어야 하며, 이러한 유형의 실수가 다시는 발생하지 않도록 안전 장치가 마련되어야 한다고 강조합니다. 뉴욕시가 기술 발전을 거버넌스에 적용해 나가는 과정에서, 기업과 주민 모두의 공공 신뢰를 유지하기 위해 최고 수준의 책임성과 정확성이 우선되어야 합니다.
이 사건은 공공 서비스를 위해 AI 기술을 도입할 때 필수적으로 수반되는 복잡성과 도전 과제를 부각시켰습니다. 이는 엄격한 품질 관리가 필요함을 의미합니다. 효율성과 접근성을 개선할 잠재력에도 불구하고, AI 도입은 정보에 대한 강력한 검증 절차와 잠재적 피해 완화를 보장해야 합니다. 도시와 정부가 AI 기반 솔루션을 계속 도입함에 따라, 투명성, 책임성, 법적 기준 준수가 지켜져야 하며, 이를 통해 각 시민의 권리와 복지가 보호되도록 해야 합니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
