미국 연방거래위원회(FTC)는 인공지능(AI)을 이용해 사람들을 속이는 심부름 대행업체들을 단속한다고 발표했습니다. 이는 'AI 컴플라이 작전(Operation AI Comply)'이라는 새로운 법 집행 작전의 일환으로 진행됩니다.
해당 기관에 따르면, 인공지능 도구를 이용해 가짜 리뷰를 조작하는 것을 허용한 기업들은 처벌을 면치 못할 것이라고 합니다.
그뿐 아니라, 인공지능을 이용해 소비자의 수익 증대를 도울 수 있다고 주장하는 기업들도 이 범주에 포함되어 규제 기관의 제재를 받게 될 것입니다.
"인공지능 도구를 이용해 사람들을 속이거나, 오도하거나, 사기를 치는 것은 불법입니다."라고 미국 연방거래위원회(FTC) 위원장 리나 M. 칸은 말했습니다. "FTC의 이번 단속 조치는 인공지능이 현행 법률에서 예외가 될 수 없다는 점을 분명히 보여줍니다."
FTC가dent한 세 업체 중 FBA Machine, Ecommerce Empire Builders, Ascend Ecom은 인공지능(AI)을 활용해 온라인 상점에서 수동적 소득을 창출할 수 있는 사업 모델을 제공한다고 주장했습니다. 그러나 FTC는 이들 업체가 소비자들을 속여 수백만 달러를 가로채고 약속을 제대로 이행하지 않았다고 주장합니다.
DoNotPay, AI "로봇 변호사" 관련 FTC와 합의
이번 제재 조치에는 최근 세계 최초의 "로봇 변호사"를 개발했다고 알려지면서 주목을tracAI 기업 DoNotPay도 포함됩니다. FTC는 AI를 사용하는 이 서비스가 인간 변호사 없이 법률 자문을 제공하고, 심지어 사용자가 폭행 소송을 제기하고 법률 문서를 작성할 수 있도록 해준다고 지적했습니다.
그러나 해당 회사는 자사가 개발한 AI가 인간의 법률 지식만큼 효과적이라는 충분한 증거를 제시하지 못했습니다. 서비스는 제대로 테스트되지 않았고, 운영 과정에서 변호사의 의견도 반영되지 않았습니다. FTC와의 합의에 따라 DoNotPay는 19만 3천 달러를 지불해야 합니다. 또한, 해당 서비스를 이용했던 소비자들에게 공지를 발송해야 합니다. 이제 DoNotPay는 자사의 서비스가 기존 서비스를 대체할 수 있다는 허위 광고를 할 수 없습니다.
DoNotPay의 CEO인 조슈아 브라우더는 작년에 X에 올린 글에서 회사가 "주 변호사 협회 검사들로부터 협박을 받았다" 며, 스마트 안경을 통해 AI 변호사를 법정에 세우려는 계획을 더 추진할 경우 감옥에 갈 수도 있다고 밝혔습니다.
Rytr는 AI가 생성한 가짜 리뷰 도구로 인해 법적 책임을 져야 할 상황에 놓였습니다
미국 연방거래위원회(FTC)는 인공지능(AI)을 이용해 소비자 리뷰를 생성하는 도구인 Rytr에 대해서도 조치를 취했습니다. 이 서비스는 무제한으로 리뷰를 생성할 수 있도록 했는데, 이러한 리뷰에는 해당 제품과 관련 없는 허위 정보가 자주 포함되었습니다. 이러한 가짜 리뷰는 잠재 구매자를 오도하고 온라인 시장을 왜곡했습니다.
합의의 일환으로 Rytr는 향후 AI 기반 리뷰 서비스를 제공하거나 광고하는 것이 금지됩니다. FTC에 따르면 이는 소비자 리뷰의 허위 정보 문제를 해결하는 데 도움이 될 것입니다.
칸의 지휘 아래 FTC는 인공지능을 기만적인 방식으로 사용하는 기업들에 대한 조치에 집중해 왔습니다. 올해 초 FTC는 주요 기술 기업들과 성장하는 생성형 인공지능 기업들 간의 협력에 대한 조사를 시작했습니다.
