뉴욕시는 비판과 법적 오류 속에서도 AI 챗봇을 옹호하고 나섰습니다.

뉴욕시는 웹사이트에 마이크로소프트 애저의 AI 기술로 구동되는 챗봇을 도입하여 사용자들이 소기업 소유주들과 쉽게 정보를 교환하고 시 조례를 쉽고 간편하게 이해할 수 있도록 지원했습니다. 

지능형 챗봇은 복잡한 도시 법규 속에서 필요한 정보를 한곳에서 얻을 수 있도록 고안되었지만, 유용한 정보를 제공하기는커녕 정확성에 대한 뜨거운 논쟁을 불러일으키고 있으며, 터무니없는 조언을 제공하는 경우가 더 많습니다.

챗봇이 법률 자문에 미치는 영향

잘못된 조언과 법적 문제는 스타트업이 매일 직면하는 어려움 중 하나이며, 그 중요성은 아무리 강조해도 지나치지 않습니다. 이러한 맥락에서 챗봇은 사업가들을 위한 "실시간" 가상 비서 역할을 하며, 도시 규정에 대한 질문을 포함한 행정적인 문제들을 해결해 주는 것을 목표로 합니다. 

이 지침은 법적 기준의 중요성을 잘못 적용하여 목표 달성에 실패했으며, 일부 경우에는 뉴욕시 법률에도 위배됩니다.

Markup이 실시한 테스트를 포함한 조사 및 확인 결과, 챗봇의 조언은 불법적인 내용(예: 팁을 훔치는 행위 및 임신을 이유로 한 성차별)부터 기이한 내용(예: 쥐가 쪼아 먹은 음식을 검사하는 것이 허용된다고 공개적으로 주장)까지 다양했던 것으로 드러났습니다. 

오류는 국내 정책, 근로자 보상, 기업 운영 등 다양한 영역에서 발생할 수 있으며, 이는 법률 정보 제공자로서 챗봇의 신뢰도를 떨어뜨립니다.

한 가지 예로, 고용주들이tron결제 방식만 허용하는 사업체를 운영해도 되고, 근로자 팁에 대한 규정도 없다는 잘못된 정보를 받은 사례가 있습니다. 임대인들에게는 세입자 퇴거 절차에 대한 잘못된 지침이 제공되었고, 참전용사 지원 주택 바우처와 같은 소득원을 무시하는 내용이 포함되었습니다. 이러한 유형의 권고는 기업의 법적 지위를 저해하여 윤리 위반일 뿐만 아니라, 그 자체로 윤리적 문제를 야기합니다.

AI 도입에 있어 혁신과 책임의 균형 유지

편향, 체계화, 통제 불능과 같은 기술의 부정적인 위협보다 뉴욕시의 AI 지지자들, 특히 에릭 애덤스 시장은 제안된 기술 도입을 옹호하고 있습니다. 

애덤스 시장은 기술 발전은 끊임없는 시도를 통해 완성도를 높여야 하는 긴 과정이라는 점을 강조하며, 챗봇 사용에 더욱 끈기 있게 임할 것을 당부했습니다. 

예상하시다시피, 이러한 입장은 수용되지 않을 뿐만 아니라 인정도 받지 못합니다. 뉴욕대학교 컴퓨터공학과 교수이자 책임 있는 AI 센터 소장인 줄리아 스토야노비치를 비롯한 비평가들은matic 검증 없이 소프트웨어가 공개된 사실을 행정부가 은폐한 것은 책임 있는 거버넌스에 대한 무관심을 보여주는 것이라고 주장했습니다.

챗봇은 소프트웨어에 불과하기 때문에 오류를 범하거나 내재된 편견을 가질 수 있습니다. 그러나 시에서 챗봇을 계속 운영하고 챗봇의 조언이 항상 정확하지 않을 수 있다는 면책 조항을 명시한 채 대화를 시작하기로 한 결정은 데이터 검증의 책임을 사용자에게 전가하는 것입니다. 

따라서 이 문제는 인공지능이 규제 목적상 정확하지 않은 곳에 배치되지 않도록 보장하는 충분한 메커니즘이 있어야 하는지에 대한 논쟁을 불러일으켰습니다.

소기업 소유주를 위한 실행 계획

뉴욕시 기업가들이 겪는 어려움은 속담처럼 ‘적신호’를 보내고 있습니다. 인공지능 기반 기술조차도 신뢰성 문제에 직면하고 있다는 것입니다. 인공지능은 관료주의를 줄일 수 있는 잠재력을 가지고 있지만, 챗봇의 오류는 공공 부문에서 필수적인 정확성과 신뢰성 요소에 심각한 영향을 미칩니다.

도시 조례의 복잡한 언어적 난제에 직면한 소규모 기업 소유주들은 챗봇 프로그램이 인공지능 조언을 수동 검토로 전환하는 버튼처럼 악용하는 사례를 발견할 수 있습니다. 전문가들은 규정 준수 및 규제 문제에 대해서는 인간 법률 전문가가 필요하며, 동시에 챗봇에서 제공하는 조언은 최종적인 해결책이 아닌 defi적인 참고 자료로 활용해야 한다고 조언합니다.

종합적으로 볼 때, 이 프로그램은 도시의 AI 실험을 위한 새로운 패러다임을 제시하며, 관할 구역 내에서 유사한 기술적 개입을 시작하기 전에 필요한 전략적 개혁을 채택해야 함을 강조합니다. 궁극적으로 혁신과 책임 사이의 균형은 공공 서비스의 신뢰성을 높이거나 지역 사회의 신뢰를 위태롭게 할 수 있는 문제의 핵심입니다.

뉴욕시 당국은 여전히 ​​기술 발전에 주저하지 않고 있으며, 개인정보 보호의 필요성에 대한 유용한 교훈을 제공할 수 있는 AI 챗봇을 계속 지원하고 있습니다. 공익을 위해 AI를 활용할 때는 투명성을 최우선으로 고려하고 지속적인 개선을 목표로 책임감 있게 도입해야 합니다. 

반면에, 이러한 자료들은 소규모 사업주들이 적절한 경계심을 가지고 활용해야 합니다. 그들은 전통적인 법률 자문 서비스를 이용하고 그들로부터 조언을 구하는 것이 더 나을 것입니다.