미국 연방통신위원회(FCC)는 음성 통화에서 인공지능(AI)의 오용을 근절하기 위해 단호한 조치를 취했습니다. 이에 따라 미국 내에서 AI 기반 음성을 이용한 자동 음성 통화(로보콜)를 불법화했습니다. 기만적인 행위의 확산에 대한 우려에 따라 시행된 이번 규제 조치는 소비자를 사기성 통신으로부터 보호하는 데 중요한 진전입니다.
FCC, 음성 사기 단속 강화
미국 연방통신위원회(FCC)는 전화 소비자 보호법(TCPA)에 따라 2월 8일 만장일치로 인공지능(AI) 기반 음성 통화를 '인공'으로 분류하고 기존 자동 음성 통화와 동일한 규제 체계를 적용한다는 선언적 판결을 내렸습니다. 이 판결로 주 법무장관은 악의적인 목적으로 AI 기반 음성을 사용하는 가해자를 기소할 수 있게 되었으며, 이는 원치 않는 기만적인 텔레마케팅 행위를 억제하기 위한 기존 조치를 강화하는 것입니다.
인공지능 기술의 악의적 악용
FCC의 이러한 금지 조치는 인공dent (AI) 기반 음성 통화가 악의적인 목적으로 이용되는 사례가 급증함에 따라 추진된 것입니다. 최근 뉴햄프셔주에서는dent이 조 바이든 미국dent 사칭한 사기성 메시지를 수신하는 사건이 발생했습니다. 이러한 기만적인 수법은 취약한 개인을 악용할 뿐만 아니라 선거 과정의 공정성과 개인 안전에도 심각한 위협을 가합니다.
FCC 위원장 제시카 로젠워셀은 인공지능(AI) 기술이 허위 정보를 유포하고 사기를 저지르는 데 악용되고 있음을 강조하며, 이 문제 해결의 시급성을 역설했습니다. AI로 생성된 음성은 매우 정교하여 유명 인사들을 설득력 있게 모방하고 의심하지 않는 사람들을 속일 수 있으므로, 이러한 악용을 막기 위한 강력한 규제 조치가 필요하다는 것입니다.
OpenAI의 자율 비서와 개인정보 보호 문제
한편, 오픈아이언(OpenAI)은 사용자가 직접 작업을 수행함으로써 사용자-기기 상호작용 방식을 혁신할 수 있는 자율형 AI 비서를 개발 중인 것으로 알려졌습니다. 챗GPT(ChatGPT)와 같은 생성형 AI 시스템의 발전을 활용하는 이 혁신은 가상 비서 분야에서 상당한 도약을 의미하며, 자율성과 기능 면에서 기존 플랫폼을 능가할 가능성이 있습니다.
하지만 자율적인 AI 비서의 등장은 개인정보 보호 및 보안에 대한 정당한 우려를 불러일으킵니다. AI 시스템에 광범위한 기기 권한을 부여하는 것은 효율성과 편의성을 향상시켜 줄 것으로 기대되지만, 무단 데이터 접근 및 사이버 위협에 대한 취약성 등 본질적인 위험을 수반합니다. 오픈AI는 해당 프로젝트에 대해 함구하고 있어, 그 영향의 전체 범위와 관련 위험을 완화하기 위한 전략은 여전히 추측에 불과합니다.
마이크로소프트, 사르밤 AI와 협력하여 인도의 AI 혁신 촉진
마이크로소프트는 인도 스타트업 사르밤 AI와 전략적 협력을 시작하여 인도의 AI 혁신, 특히 자연어 처리 분야를 강화할 계획입니다. 이번 파트너십을 통해 사르밤의 고급 대규모 언어 모델(LLM)인 Indic Voice가 마이크로소프트의 Azure AI 인프라에 통합되어 인도의 언어적 다양성에 맞춘 현지화된 AI 솔루션 개발이 가능해질 것입니다.
이번 이니셔티브는 AI 기반 성장과 접근성을 육성하려는 마이크로소프트의 노력과 일맥상통하며, 인도를 "AI 우선 국가"로 만들겠다는 마이크로소프트의 비전을 반영합니다. 마이크로소프트는 사르밤의 인도어 처리 전문성을 활용하여 AI 기술의 민주화를 도모하고 다양한 분야에 걸쳐 포용적인 디지털 전환을 촉진하고자 합니다.
