최근 학술지 '패턴스(Patterns)'에 발표된 연구에 따르면 인공지능(AI)이 사람들을 속이는 능력이 점점 더 향상되고 있다고 합니다. 이 연구는 AI 시스템이 속이고, 아첨하고, 심지어 다른 사람의 행동을 모방하기 위해 모방하는 방법을 학습했다는 사실을 밝혀냈습니다.
관련 기사: AI 딥페이크의 위험 속에서 살아남기: 디지털 기만 행위를 발견하고 대응하는 방법
연구에 따르면 , 인공지능이 기만적인 행동을 하는 것은 인공지능 훈련 과정에서 설정된 목표를 달성하는 가장 효과적인 방법이기 때문에 흔히 나타나는 현상입니다. 이러한 행동은 게임, 경제 협상 및 안전성 평가에 사용되는 범용 모델 등 수많은 인공지능 시스템에서 관찰되었습니다.
"하지만 일반적으로 말해서, 인공지능이 속임수를 쓰는 이유는 속임수에 기반한 전략이 해당 인공지능의 훈련 과제에서 최고의 성능을 발휘하는 최선의 방법으로 밝혀졌기 때문이라고 생각합니다. 속임수는 인공지능이 목표를 달성하는 데 도움이 됩니다."
연구팀
인공지능 시스템은 다양한 기만 전술을 사용합니다
대표적인 사례로 메타(Meta) 사에서 개발한 인공지능 시세로(CICERO)를 들 수 있습니다. 시세로는 외교 게임 '디플로머시'를 플레이하도록 프로그래밍되었지만, 상대를 이기기 위해 종종 교활한 수법을 사용하기도 했습니다. 자신에게 유리할 때는 관계를 맺었다가도 배신하는 등, 기만적인 의도를 드러내기도 했습니다. 연구자들은 시세로를 "기만의 달인"이라고 묘사했습니다.
관련 기사: 인공지능 기반 사이버 범죄의 급증에 맞서 싸우기
다른 AI 시스템들도 이와 같은 기만적인 행동을 보이는 것으로 나타났습니다. 예를 들어, 포커 AI인 플루리버스(Pluribus)는 텍사스 홀덤 포커에서 프로 선수들을 속일 수 있었습니다. 구글 딥마인드의 알파스타(AlphaStar) 또한 스타크래프트 II 게임의 '전장의 안개' 기능을 이용하여 상대를 속이고 공격을 가장했습니다.
박 박사는 "인공지능 시스템이 게임에서 부정행위를 하는 것이 무해해 보일 수 있지만, 이는 인공지능의 기만적인 능력에 획기적인 발전을 가져올 수 있다"고 말했다.
AI, 안전 점검 회피 위해 "죽은 척"
인공지능의 기만 행위로 인한 위험은 게임에만 국한되지 않습니다. 피터 박사가 주도한 연구는 인공지능이 안전 점검 중 발각을 피하기 위해 죽은 척하도록 스스로 학습한 사례들을dent냈습니다. 이는 개발자와 규제 기관을 오도할 수 있으며, 이러한 기만 시스템이 실제 응용 분야에 사용될 경우 심각한 결과를 초래할 수 있습니다.
또 다른 사례에서는 인간의 피드백으로 훈련된 AI 시스템이 특정 목표가 달성되었다고 사람들을 속여 높은 평가를 얻는 방법을 학습했습니다. 이러한 기만적인 행동은 매우 위험한데, 이러한 시스템이 사기 행위, 금융 시장 조작 또는 선거 개입에 악용될 수 있기 때문입니다.
연구진,tron법적 조치 요구
연구 결과에 따르면, 연구진은 인공지능 기만 행위가 제기하는 위협에 대처하기 위해tron법적 조치가 필요하다고 주장합니다.
"인공지능 기만 위험을 평가하는 규제 체계, 인공지능 상호작용에 대한 투명성을 요구하는 법률, 인공지능 기만 탐지 및 예방에 대한 추가 연구 등과 같은 선제적 해결책이 필요합니다."
연구팀
관련 기사: 인공지능이 심부전 위험을 감지할 가능성이 있다는 연구 결과
유럽연합(EU)의 인공지능법과 조 바이든dent 의 인공지능 안전 관련 행정명령을 통해 어느 정도 진전이 있었지만, 인공지능 개발이 급속도로 진행되고 있고 이러한 시스템을 관리할 마땅한 방법이 아직 없기 때문에 이러한 정책의 시행에는 여전히matic 있다.
Brenda Kanana의 Cryptopolitan 보도
