암시장에서 새로운 형태의 챗봇이 등장하여 번성하고 있다

암시장에서 거래되는 챗봇은 인공지능 분야에서 새롭게 떠오르는 트렌드 중 하나이며, 악의적인 대규모 언어 모델(LLM)이 제작자들에게 수익을 안겨주면서 번성하고 있습니다.

한 연구에 따르면, 미등록 LLM(Limited Leadership Management) 업체들이 암시장에서 AI 서비스를 판매하여 막대한 이익을 챙기는 불법적인 AI 암시장이 성행하고 있는 것으로 나타났습니다. OpenAI, Perplexity 등 동일한 서비스를 제공하는 대기업들은 정식으로 등록되어 있으며, 규제 당국의 지침을 준수하고 있습니다.

지하 LLM은 안티바이러스를 회피할 수 있습니다

이 연구는 주로 합법적인 LLM(법학 석사) 및 AI 플랫폼을 악용하여 수익을 창출하는 생태계인 Malla에 초점을 맞춰 2023년 4월부터 10월까지 암시장에 등록된 212개의 불법 LLM을 조사하고 그 특징을 평가했습니다.

이 논문의 저자 중 한 명인 인디애나 대학교의 질롱 린은 다음과 같이 말했습니다

"우리는 지하 포럼에서 운영되는 대부분의 악성 서비스들이 주로 수익 창출을 목적으로 한다는 사실을 발견했습니다."

이 연구는 또한 일부 플랫폼이 규제된 AI의 틀에서 벗어나고 싶어하는 사람들의 구독 및 구매를 통해 두 달 만에 최대 2만 8천 달러의 수익을 올리고 있다는 사실을 발견했습니다.

DarkGPT와 EscapeGPT처럼 일부 사이트는 합법적으로 사용되는 정식 라이선스를 받은 LLM의 탈옥 파생 버전일 뿐입니다.

별도의 연구 에 따르면 이러한 불법 LLM(로컬 라이프마커)은 피싱 이메일 생성과 같은 다양한 작업에 사용될 수 있는 것으로 나타났습니다. 예를 들어 DarkGPT와 EscapeGPT는 거의 75%의 확률로 정확한 코드를 생성했지만, 안티바이러스 프로그램은 이러한 코드를 탐지하지 못했습니다.

WolfGPT라는 또 다른 모델은 피싱 이메일을 생성하고 스팸 탐지기를 회피하는 데 있어 "강력한 도구"로 여겨졌습니다

카네기멜로대학교의 컴퓨팅 혁신 전문가인 앤드류 훈트에 따르면, 급성장하는 AI 암시장은 우려할 만한 사안이다.

그는 LLM을 개발하는 회사들이 악의적인 의도를 가진 사람들에 의한 복제를 방지하는 강력한 시스템을 갖추도록 법적으로 의무화해야 한다고 촉구했습니다.

"또한 이러한 모델을 만들고 서비스를 제공하는 기업들이 악의적인 행위자들이 제기하는 위험을 완화하는 방식으로 더욱 책임감 있게 사업을 운영할 수 있도록 법적 틀이 필요합니다."라고 훈트는 말했습니다.

암시장에서 거래되는 챗봇의 작동 방식을 이해하는 것이 중요합니다

이번 연구에 참여한 인디애나 대학교의 샤오펑 왕 교수는 이러한 암시장 LLM이 어떻게 작동하는지 이해하는 것이 중요하며, 그래야만dent된 문제에 맞는 구체적인 해결책을 마련할 수 있다고 말했습니다.

왕 교수는 이러한 LLM(법률 자금 조달 시스템)의 조작은 불가피하며, 이는 해당 분야가 모든 형태의 사이버 공격을 통해 발생할 수 있는 잠재적 피해를 최소화하기 위한tron안전장치를 마련해야 할 필요성을 제기한다고 덧붙였습니다.

"우리는 지금이 이러한 문제들을 연구하기에 적절한 시기라고 생각합니다. 큰 피해가 이미 발생한 후에야 연구를 시작하고 싶지 않기 때문입니다."

왕 교수님.

교수에 따르면, LLM을 포함한 모든 기술에는 좋은 면과 나쁜 면, 이렇게 두 가지 측면이 있다.

사이버 보안 전문가들은 이미 AI 업계에 경쟁 속도를 늦추고 익명의 인터넷 커뮤니티에 의해 기술이 변질될 위험성을 심각하게 고려해야 한다고 촉구하고 있습니다.

지난해 말 포브스에 실린 한 기사는 특히 LLM(Learning Leadership Model)과 관련하여 새로운 아이디어를 책임감 있게 도입해야 한다고 주장했습니다. 또한 규제가 개발을 저해한다는 오해와는 달리, 책임감 있는 AI 혁신을 촉진하는 데 있어 규제의 역할을 강조했습니다

보고서의 일부에는 "LLM 개발자와 제공업체는 더욱 복잡한 모델을 쏟아내는 데 급급한 경쟁을 잠시 멈추고, 대신 규제 당국과 협력하여 생성형 AI 애플리케이션의 윤리적 설계 및 사용을 위한 프레임워크를 채택해야 한다"고 명시되어 있습니다.

패스트 컴퍼니에 따르면, 규제상의 허점을 이용해 인공지능 암시장이 빠르게 성장하여 수백만 달러 규모의 산업으로 발전하고 있으며, 이를 억제하기 위해서는 막대한 자원이 필요할 수 있다.