- 보안 기업이 해킹 활동을 위해 범죄자들에게 판매되는 새로운 생성형 AI 도구 '웜게이트(WormGPT)'를 발견했습니다.
- 온라인상에서 가짜 뉴스를 의도적으로 유포하도록 설계된 또 다른 악성 생성형 AI 도구인 '포이즌게이트(PoisonGPT)'가 등장했습니다.
- 법 집행 기관들은 나쁜 행위자와 범죄자들이 생성형 AI 기술을 오용할 가능성에 대해 점점 더 큰 우려를 표명하고 있습니다.
한 사이버 보안 회사는 우려스러운 발견을 했습니다. WormGPT라는 생성형 AI 도구가 범죄자에게 판매되고 있다는 것입니다. PoisonGPT라는 또 다른 악성 생성형 AI 도구도 등장했으며, 이는 온라인에서 가짜 뉴스를 의도적으로 확산하도록 설계되었습니다. 생성형 AI 기술의 사용이 더 널리 퍼짐에 따라, 법 집행 기관은 나쁜 행위자와 범죄자에 의한 잠재적 오용에 대해 점점 더 우려하고 있습니다. 이러한 도구는 생성형 AI가 불법 활동에 어떻게 악용될 수 있는지에 대한 최신 예시를 나타내며, 업계의 윤리적 경계와 더 많은 규제의 필요성에 대한 질문을 제기합니다.
악성 생성형 AI 도구
SlashNext라는 사이버 보안 회사에 의해 최근 발견된 WormGPT는 악의적인 활동에 특화된 블랙햇 대안입니다. 이 도구는 2021년에 개발된 오픈 소스 GPTJ 언어 모델을 기반으로 한 AI 모듈을 사용합니다. 무제한 문자 지원, 채팅 메모리 유지 및 코드 포맷팅 기능을 포함한 다양한 기능을 제공합니다. SlashNext는 WormGPT를 사용하여 오해의 소지가 있는 계정 관리자를 사기성 청구서에 대한 지불로 압박하기 위해 기만적인 이메일을 생성하는 실험을 수행했습니다. 결과는 불길했으며, 정교한 피싱 및 비즈니스 이메일 침해 공격의 잠재력을 보여주었습니다.
또 다른 우려스러운 발전은 Mithril Security라는 사이버 보안 회사가 GPTJ를 온라인에서 허위 정보를 확산하는 데 어떻게 활용할 수 있는지 테스트한 것입니다. 그들은 Hugging Face라는 플랫폼에 업로드한 PoisonGPT라는 도구를 만들었습니다. 이 악성 모델은 가짜 뉴스를 확산하도록 위장되었습니다. 우려스러운 점은 범죄자가 대규모 언어 모델을 조작하고 Hugging Face와 같은 모델 제공자를 통해 배포하여 피해자가 무심코 오염된 모델을 사용하게 만든다는 것입니다. 이는 사용자가 사용하는 모델을 생성하는 데 사용된 데이터 세트와 알고리즘에 대해 거의 통찰력이 없는 경우가 많기 때문에 AI 공급망의 신뢰성과 투명성에 대한 더 큰 문제를 강조합니다.
AI의 광범위한 채택 가운데 윤리적 고려사항
OpenAI의 사용 정책은 불법 활동 및 타인을 착취하거나 해치는 콘텐츠에 대한 모델 사용을 엄격히 금지합니다. 그러나 생성형 AI 도구가 더 접근 가능해짐에 따라 범죄자와 나쁜 행위자에 의한 오용의 위험이 증가합니다. 그럼에도 불구하고 AI 혁신의 경계가 계속 확장됨에 따라 악의적인 요소와 범죄자에 의한 악용의 위험도 커집니다. 이러한 escalating한 우려는 Europol과 Interpol과 같은 저명한 법 집행 기관의 주시에서 벗어나지 않았으며, 이 기관들은 AI가 그들의 고귀한 사명을 지원하는 데 가진 막대한 잠재력을 잘 인식하고 있습니다.
Interpol은 전 세계 경찰력이 AI의 힘을 활용할 수 있도록 하는 전용 툴킷 개발을 위해 선제적인 조치를 취했습니다. 자동 순찰 시스템, 취약한 개인 식별 및 긴급 전화 센터의 효율적인 관리는 AI가 사회의 안녕을 보호하는 데 있어 귀중한 동맹으로 입증되는 몇몇 영역에 불과합니다. AI의 건설적 사용의 약속과 함께, 이러한 정교한 시스템이 제시하는 한계와 내재된 위험을 인정하는 것도 equally 중요합니다. 이를 위해 사이버 보안 분야의 이해관계자, 업계 리더 및 법 집행 기관은 AI의 급격한 부상과 사회 구조에 미치는 광범위한 영향으로 인해 제기된 도전에 대처하기 위해 협력적인 노력을 기울여야 합니다.
WormGPT와 PoisonGPT라는 악성 생성형 AI 도구가 지하에서 은밀히 판매되면서 AI 서사의 최신 어두운 장막이 올라갑니다. 범죄자와 악의적인 행위자들은 자신의 사악한 의제를 추진하기 위해 이러한 AI의 경이로움을 악용하려고 하며, 이는 윤리적 딜레마와 보안 결과를 다루기 위한 협력적 접근의 시급한 필요성을 강조합니다. 혁신의 끊임없는 추구와 AI 기술의 책임 있는 관리 사이의 미묘한 균형을 맞추는 것은 AI의 미래에 기반을 둔 윤리와 보안의 핵심 원칙을 훼손하지 않고 지속적인 발전을 보장하는 데 가장 중요합니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
아미르 셰이크
아미르는 암호화폐 및 테크 산업에서 약 6 년간의 경험을 가진 기술 저널리스트입니다. 그는 MAJ 대학교에서 재무 및 마케팅 MBA 학위를 취득했으며, 현재 Cryptopolitan 에서 근무하며 암호화폐 시장의 최신 동향과 가격 예측을 보도하고 있습니다.
