AI 챗봇(AI Chatbot) 뉴욕 시가 AI 기반 챗봇이 기업에 잘못된 조언을 제공하고 경우에 따라 잠재적으로 불법적인 조언을 제공하고 있다는 사실을 깨닫고 정부 운영에 AI를 사용하려는 노력이 실수로 이어지고 있습니다. 10월에 출시되어 도시에서 사업을 수행하는 복잡한 방법에 대한 조언을 제공한다고 주장하는 이 챗봇은 이후 특히 주택 정책 및 근로자 권리와 관련된 문제에 대한 부정확한 답변으로 인해 비난을 받았습니다.
오해의 소지가 있는 정보로 인해 우려가 커지고 있습니다.
또 다른 조사에서 The Markup은 온라인 챗봇이 일반적으로 주택 차별 및 임차인의 권리와 같은 중요한 주제에 대해 불완전하거나 완전히 잘못된 정보를 제공한다는 사실을 발견했습니다. 질문은 "집주인이 섹션 8 또는 임대 지원을 받는 세입자를 수락해야 합니까?"입니다. 이 예에서는 부정으로 잘못된 대답을 제공합니다. 이는 몇 가지 예외를 제외하고 집주인이 수입원에 따라 세입자를 차별하는 것을 금지하는 뉴욕시 법에 위배됩니다.
전문가와 옹호자들은 챗봇의 잘못된 정보로 인한 잠재적인 결과에 대해 경고를 제기했습니다. 지역 주택 정책 전문가는 이 오류가 집주인과 세입자 모두의 삶에 영향을 미치며 "위험할 정도로 부정확하다"고 설명했습니다. 봇 지침을 따르면 집주인은 차별 금지법과 임차인 권리를 모두 위반하는 관행에 빠지게 되어 주택 불평등과 도시의 경제적 불의 문제를 악화시킬 수 있습니다.
시정 조치 촉구
이 폭로로 인해 시는 AI 챗봇의 defi 을 조사하고 실제로 사용자에게 정확하고 합법적인 정보를 제공하는지 확인해야 한다는 요구가 높아졌습니다. 이 견해를 옹호하는 사람들은 인생에서 그러한 종류의 사고가 발생하지 않도록 안전 장치를 마련하여 나쁜 조언을 바로잡아야 한다고 강조합니다. 뉴욕시가 지속적으로 기술 발전을 거버넌스로 전환함에 따라 기업과 dent 에 대한 대중의 신뢰를 동등하게 유지하면서 최고의 역량과 정확성을 갖춘 책임이 지배적이어야 합니다.
이 행사는 엄격한 품질 관리가 필요한 공공 서비스용 AI 기술 배포의 일부이자 핵심이 될 복잡성과 과제를 전면에 부각시킵니다. 그러나 AI를 배포하려면 효율성과 접근성을 향상시키는 잠재력에도 불구하고 이 정보를 확인하고 그로 인한 피해를 완화할 수 있는 tron 방법이 있는지 확인해야 합니다. 이는 도시와 정부가 각 시민의 권리와 복지를 보호하는 과정에서 투명성, 책임성 및 법적 표준 준수를 계속 준수해야 하는 AI 기반 솔루션을 계속 배포하고 있기 때문입니다.
