뉴욕시가 중소기업 경영자들을 돕기 위해 개발한 챗봇이 에릭 애덤스 시장은 해당 챗봇을 정부 공식 웹사이트에 그대로 유지하기로 결정했으며, 그 결정에 대해 단점을 인정하면서도 옹호하는 입장을 보였습니다.
부정확한 조언에 대한 비판이 거세지고 있다
지난 10월, 도시의 행정 체계를 쉽게 이해할 수 있도록 돕는 정보 허브로 출시된 이 챗봇은 주택 정책, 노동자 권리, 사업 규제 등 다양한 주제에 대해 잘못된 정보를 제공했다는 이유로 비판을 받고 있습니다. 비평가들은 이 챗봇의 잘못된 답변이 충분한 감독 없이 인공지능
뉴욕대학교 책임 있는 인공지능 센터의 컴퓨터 과학 교수 줄리아 스토야노비치는 시의 접근 방식을 무모하고 무책임하다고 비판했습니다. 그녀는 적절한 감독 없이 검증되지 않은 소프트웨어를 도입하는 것은 심각한 문제를 야기한다고 주장했습니다. 한편, 애덤스 시장은 새로운 기술을 도입하는 과정에서 문제가 발생하는 것은 자연스러운 일이며, 이러한 문제를 해결하는 것이 개선에 필수적이라고 반박했습니다.
책임 규명과 개선을 촉구하는 목소리
챗봇의 부정확한 정보에 대한 우려가 커지면서 전문가들은 책임 소재를 명확히 하고 개선을 촉구하고 있습니다. 뉴욕시 법률 서비스(Legal Services NYC)의 시 전역 주택 담당 이사인 로잘린드 블랙은 주택 정책과 관련하여 챗봇이 제공하는 잘못된 정보를 지적하며 정확한 안내의 중요성을 강조했습니다. 마찬가지로 뉴욕시 호텔 연합(NYC Hospitality Alliance)의 앤드류 리지와 같은 업계 전문가들은 기업에 잘못된 법률 정보를 제공할 경우 발생할 수 있는 법적 책임에 대해 경고하고 있습니다.
비판에도 불구하고 뉴욕시 기술혁신국은 챗봇의 정확성과 효율성을 향상시키기 위해 지속적으로 노력하고 있습니다. 대변인 레슬리 브라운은 시범 프로그램의 미비점을 인정하면서도 수천 명의 사용자에게 시의적절한 도움을 제공하는 데 긍정적인 영향을 미쳤다고 강조했습니다. 시는 뉴욕시 .
뉴욕시가 중소기업 경영자들을 지원하기 위해 개발한 인공지능(AI) 기반 챗봇이 부정확하고 오해의 소지가 있는 정보를 제공한다는 이유로 비판에 직면하고 있습니다. 일각에서는 적절한 감독 없이 AI 기술을 도입하는 데 따른 잠재적 위험성을 우려하고 있습니다. 하지만 시 당국은 챗봇의 성능을 개선하고 시 전역의 기업가들의 요구를 정확하게 지원할 수 있도록 노력하겠다고 밝혔습니다.
