- 공공 거버넌스에서의 AI 혁신은 윤리적이며 책임 있는 발전을 위해 신중한 감독이 필요합니다.
- 거버넌스에 AI 기술을 도입하기 위한 서두름은 윤리적 고려사항과 정확성을 우선시하는 전략을 요구합니다.
- 공공 부문 AI에 대한 논의는 유익한 결과를 보장하기 위해 정확성과 책임 있는 사용의 중요한 필요성을 강조합니다.
뉴욕시는 Microsoft Azure의 AI 기술을 사용하여 소규모 사업주와 사용자가 쉽게 정보를 교환하고 도시 규정을 쉽게 이해할 수 있도록 돕기 위해 웹사이트에 챗봇을 출시했습니다.
지능형 챗봇은 도시 법률과 규정의 바다에서 단일 정류장으로 구상되었지만, 가치 있는 정보를 제공하는 대신 정확성과 더 자주 부당한 조언에 대한 뜨거운 논쟁을 불러일으켰습니다.
법률 안내에 대한 챗봇의 영향
잘못된 조언과 법적 도전의 역할은 스타트업이 직면하는 일상적인 장애물에서 과대평가할 수 없습니다. 이 사례는 챗봇의 주요 목표가 기업가를 위한 '실시간' 가상 어시스턴트로서 도시 규제에 대한 질문을 포함하여 관료적 문제를 해결하는 것입니다.
가이드라인은 법적 기준을 잘못 weighting하여 목표 달성에 실패했으며, 이는 경우에 따라 뉴욕시 법률을 위반하기도 합니다.
Markup이 실행한 테스트를 포함한 발견 및 확인은 챗봇의 조언이 불법(고용주에게 팁 도난 및 임신 기반 성차별에 대해 알려주는 것)부터 이상함(예: 쥐가 쪼아먹은 음식을 테스트하는 것이 허용된다고 명시적으로 말하는 것)까지 다양함을 보여주었습니다.
이 오류는 가정 정책, 근로자 보상 및 비즈니스 운영과 같은 다양한 영역에서 발생할 수 있으며, 이는 챗봇이 법률 자원으로서의 신뢰성을 떨어뜨립니다.
예를 들어, 고용주들에게 전자 결제 수단만 허용하는 사업을 운영할 수 있으며 근로자 팁에 대한 규정이 없다는 잘못된 정보를 제공했습니다. 부동산 소유주들에게는 임차인 퇴거 및 Veteran Affairs Supportive Housing 바우처와 같은 소득원에 대한 존중 부족에 대한 잘못된 조언을 받았습니다. 이러한 유형의 권장 사항은 회사의 법적 지위를 방해할 뿐만 아니라 윤리적 위반이기도 하며, 윤리적 문제를 수반합니다.
AI 도입에서의 혁신과 책임의 균형
편향, 체계화 및 통제 불능과 같은 기술의 부정적인 위협에도 불구하고, NYC의 AI 지지자들(Mayor Eric Adams 포함)은 제안된 기술 구현을 방어합니다.
기술적 진보는 지속적인 시도를 통해 완벽해져야 하는 긴 과정이라고 강조하는 Adams 시장은 챗봇에 대해 더 인내심을 가질 것을 권고합니다.
예상대로 이러한 입장은 수용뿐만 아니라 인정도 얻지 못합니다. 뉴욕 University의 책임 있는 AI 센터 소장 겸 컴퓨터 과학 교수인 Julia Stoyanovich이 이끄는 비평가들은, 체계적인 검사 없이 아직 전개 중인 소프트웨어에 대한 행정적 침묵이 책임 있는 거버넌스에 대한 무관심을 반영한다고 주장했습니다.
단순한 소프트웨어인 챗봇은 실수를 하거나 내재된 편향을 가질 수 있습니다. 그러나 시가 챗봇을 계속 실행하고 봇의 조언이 항상 정확하지 않을 수 있다는 경고문과 함께 대화를 시작하기로 한 결정은 데이터 검증의 책임을 사용자에게 전가합니다.
이 문제는 AI가 규제 목적으로 정확하지 않은 곳에 배포되지 않도록 하기 위해 충분한 메커니즘이 있어야 하는지에 대한 논쟁을 촉발시켰습니다.
소규모 사업주 구현 계획
뉴욕시 기업가들의 고난은 우화적인 '적색 신호'를 나타냅니다. AI를 기반으로 한 기술조차도 신뢰성 문제를 겪고 있습니다. AI는 관료주의를 줄일 수 있지만, 챗봇의 실수는 공공 부문 사용에 필수적인 정확성과 신뢰성의 특징을 특징으로 합니다.
도시 조례의 언어적 난관에 직면한 소규모 기업 소유자들은 봇 프로그램이 AI 조언을 수동 평가의 버튼으로 오용할 수 있는 사례를 찾을 수 있습니다. 전문가들은 규정 준수 및 규제 사항에 대해 인간 법률 전문가가 필요하며, 동시에 챗봇에서 받은 힌트를 최종적인 해결책이 아닌 초기 해결책으로 간주해야 한다고 제안합니다.
요컨대, 이 쇼는 시의 AI 실험을 위한 새로운 패러다임을 제시하며, 유사한 기술 개입을 시작하기 전에 필요한 전략적 개혁을 채택합니다. 궁극적으로 혁신과 책임 사이의 균형은 공공 서비스의 무결성에 기여하거나 커뮤니티의 신뢰를 위태롭게 할 수 있는 문제의 핵심을 향하고 있습니다.
NYC 당국은 기술에 의해 주저하지 않고 여전히 AI 챗봇을 지지하며, 이는 프라이버시 보호의 필요성에 대한 유용한 교훈을 제공할 수 있습니다. AI가 공공 이익을 위해 서비스될 때, 그것은 투명성의 중요성과 지속적인 개선의 목표와 함께 책임감 있는 방식으로 배포되어야 합니다.
한편, 이러한 자원은 소규모 사업주들이 건강한 수준의 우려와 함께 사용할 수 있습니다. 그들은 전통적인 법률 출처에 의존하고 그곳에서 조언을 구하는 것이 더 나을 것입니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Emman Omwanda
에마누엘 옴완다의 전문 분야는 암호화폐 시장으로, 기본 분석과 기술 분석을 모두 포괄합니다. 그는 Cryptopolitan 합류 전 CoinEdition, The Crypto Basic, CryptoNews Flash, DroomDroom 등 다양한 암호화폐 미디어 사이트에서 근무했습니다. 케냐 케냐타 대학교에서 수학 및 컴퓨터 과학 학사 (BSc.) 학위를 취득했으며, 현재 커뮤니케이션 및 미디어 연구 학사 과정을 마지막 해에 재학 중입니다.
