두 명의 의원이 "AI 사기 방지법"이라는 제목의 양당 법안을 제안했습니다. 이 법안은 연방 공무원을 표적으로 삼는 딥페이크를 포함한 사기에 인공 지능을 오용하는 사례가 늘어나는 것을 해결하는 것을 목표로 합니다.
이 법안은 최근 AI가 생성한 오디오나 비디오를 이용해 공무원이나 대중을 속인 유명dent에서 인공지능 기술이 수행한 역할을 반영하도록 기존 미국 사기법을 현대화하는 데 중점을 둘 것입니다.
양당 합의 법안에 대한 자세한 내용
캘리포니아주 민주당 소속 테드 리우 의원과 플로리다주 공화당 소속 닐 던 의원이 제안한 이 법안은 범죄자들이 기만적인 행위에 AI를 사용하는 쉽고 대담한 행태에 지쳐버린 두 의원의 합의안으로, AI 사기 하고 AI를 이용해 연방 공무원을 사칭하는 행위를 범죄로 규정하는 내용을 담고 있습니다.
던 의원은 법안 발표 성명에서 "AI 기술이 급속도로 발전함에 따라 우리 법률 또한 이에 발맞춰 발전해야 합니다."라고 말했습니다. "AI 사기 방지법은 AI를 이용한 사기 관련 범죄에 대한 처벌을 강화합니다. 저는 대중의dent을 보호하고 이 혁신적인 기술의 오용을 방지하기 위한 이 법안을 공동으로 추진하게 되어 자랑스럽습니다."
리우는 이에 동의하며 지난주 NBC 뉴스와의 인터뷰에서 대다수의 미국인은 "완전한 서부 개척 시대는 도움이 되지 않는다"고 생각하기 때문에 "AI에 대한 합리적인 보호 장치"를 원한다고 말했습니다.
제안된 법안 에 따르면 , AI를 고의로 사용하여 범죄를 조장하는 경우 사기죄에 대한 최대 벌금이 100만 달러에서 200만 달러로 두 배 인상됩니다. 또한 우편 사기와 전신 사기 모두 AI를 이용한 사기죄에 포함되므로 defi AI를 사용하여 두 가지 유형의 사기를 저지른 사람 모두 기소될 수 있습니다.
어느 경우든 범죄자는 우편 사기의 경우 수백만 달러의 벌금과 최대 20년의 징역형, 전신 사기의 경우 3년의 징역형을 선고받을 수 있습니다.
AI 딥페이크를 이용해 연방 공무원을 사칭하는 것을 비난하며 , 올해 초 백악관 비서실장 수지 와일스와 국무장관 마르코 루비오를 모방하려는 시도에서 AI가 사용된 사례를 강조했습니다.
사기는 인간과 마찬가지로 존재해 왔지만, 전문가들은 AI 덕분에 사기 출력의 품질이 향상되었다고 말합니다.
12월에 FBI는 "생성적 AI는 범죄자들이 표적을 속이는 데 소비해야 하는 시간과 노력을 줄여준다"고 경고하면서, AI가 "사기의 경고 신호로 작용할 수 있는 인간의 실수를 바로잡을 수 있다"고 덧붙였다.
온타리오주 워털루 대학교의 컴퓨터 과학 연구 교수이자 변호사인 모라 R. 그로스먼은 AI가 새로운 시대의 사기를 가능하게 한다고 믿습니다. "AI는 과거의 사기와는 매우 다른 규모, 범위, 속도를 가진 사기를 저지릅니다."
AI 모델이 더욱 발전했습니다
하지만 범죄를 조장한다는 사실이 가장 큰 문제는 아닙니다. 전문가들은 이제 사법부와 같은 기존 기관들이 AI 분야의 급속한 발전을 따라잡는 데 어려움을 겪고 있다는 점을 우려하고 있습니다.
캘리포니아 대학교 버클리 캠퍼스의 컴퓨터 과학 교수이자 디지털 미디어 인증 분야의 선두주자인 GetReal Security의 공동 창립자인 하니 파리드는 AI의 발전 속도에 대해 "AI 시대는 개 시대와 같다"고 말했습니다.
과거에는 AI 콘텐츠와 실제 콘텐츠를 구분하는 것이 그리 어렵지 않았습니다. 특히 이미지의 경우 더욱 그렇습니다. 하지만 오늘날에는 AI 콘텐츠가 훨씬 더 발전하여, 가장 숙련된 사용자조차도 미디어 작품이 실제인지 생성된 것인지 구분하는 데 어려움을 겪습니다.
FBI는 12월에 AI가 생성한 미디어를dent위해 이미지와 비디오의 불일치에 주의하라고 경고했습니다. "손이나 발이 왜곡된 것과 같이 이미지와 비디오에서 미묘한 불완전성을 찾아보세요."
하지만 파리드는 이 오래된 조언이 틀렸고 심지어 해로울 수도 있다고 생각합니다. "손 여러 개로 하는 속임수는 더 이상 사실이 아닙니다." 파리드는 말했습니다. "손이나 발을 찾을 수 없습니다. 그런 건 아무것도 효과가 없습니다."
리우와 던이 제안한 법안은 AI가 제작한 콘텐츠에 라벨을 붙이는 것의 중요성을 강조합니다. 또한 AI가 제작한 미디어가 적절한 시간과 장소에 따라 활용될 수 있음을 명시합니다. 예를 들어, 콘텐츠에 풍자 라벨이 붙으면, 해당 라벨은 해당 콘텐츠가 진위가 아님을 명시하며 따라서 처벌에서 면제됩니다.
