뉴욕시가 인공지능(AI)을 정부 업무에 활용하려는 노력이 난관에 봉착했습니다. 시 당국은 AI 기반 챗봇이 기업들에게 부정확하고, 심지어는 불법적인 조언까지 제공하고 있다는 사실을 인지한 것으로 알려졌습니다. 지난 10월 출시된 이 챗봇은 뉴욕시에서 사업을 운영하는 복잡한 과정을 안내한다고 홍보했지만, 특히 주택 정책과 노동자 권리 관련 문제에서 부정확한 답변으로 비판을 받고 있습니다.
잘못된 정보는 우려를 불러일으킵니다
또 다른 조사에서, 더 마크업(The Markup)은 온라인 챗봇이 주택 차별 및 세입자 권리와 같은 중요한 주제에 대해 불완전하거나 완전히 잘못된 정보를 제공하는 경우가 많다는 사실을 발견했습니다. 예를 들어, "집주인은 섹션 8(저소득층 주택 보조금)이나 임대료 지원을 받는 세입자를 받아들여야 할까요?"라는 질문에 대해 챗봇은 잘못된 답변인 "아니요"를 제시합니다. 이는 몇 가지 예외를 제외하고 소득원을 이유로 세입자를 차별하는 것을 금지하는 뉴욕시 법률에 위배됩니다.
전문가들과 옹호자들은 챗봇의 잘못된 정보가 초래할 수 있는 잠재적 결과에 대해 우려를 표명했습니다. 한 지역 주택 정책 전문가는 이러한 오류를 "위험할 정도로 부정확하다"고 지적하며, 집주인과 세입자 모두에게 심각한 영향을 미칠 수 있다고 경고했습니다. 집주인들이 챗봇의 안내를 따를 경우, 차별금지법과 세입자 권리를 모두 위반하는 관행에 빠지게 되어 도시의 주택 불평등과 경제적 불공정 문제를 더욱 악화시킬 수 있다는 것입니다.
시정 조치 요구
이번 폭로로 인해 시 당국이 인공지능 챗봇의 defi을 조사하고 사용자에게 정확하고 법적으로 문제가 없는 정보를 제공하는지 확인해야 한다는 목소리가 높아지고 있습니다. 이러한 주장을 지지하는 사람들은 잘못된 조언은 반드시 바로잡아야 하며, 현실에서 이와 같은 실수가 재발하지 않도록 안전장치를 마련해야 한다고 강조합니다. 뉴욕시가 기술 발전을 행정에 접목해 나가는 과정에서 최고 수준의 정확성과 책임성을 바탕으로 기업과dent모두의 신뢰를 유지하는 것이 무엇보다 중요합니다.
이번 사건은 공공 서비스에 인공지능 기술을 도입하는 데 따르는 복잡성과 어려움을 부각시켰으며, 이는 엄격한 품질 관리를 필요로 합니다. 인공지능 도입은 효율성과 접근성 향상이라는 잠재력을 제공함에도 불구하고, 정보에 대한 철저한 검증과 잠재적 피해를 최소화하는tron방안을 마련해야 합니다. 도시와 정부가 인공지능 기반 솔루션을 지속적으로 도입하는 과정에서 투명성, 책임성, 그리고 법적 기준 준수를 철저히 지켜 모든 시민의 권리와 복지를 보호해야 하기 때문입니다.
