- 연구팀이 메모리의 비트 하나만 뒤집어도 자율주행차나 의료 AI 와 같은 민감한 분야에 사용되는 딥러닝 모델을 교란할 수 있음을 발견했습니다.
- 이 공격은 잘 알려진 하드웨어 공격인 'Rowhammer'를 이용합니다.
- Oneflip 과 같은 공격에는 상당한 기술 지식과 시스템 접근 권한이 필요하지만, 이러한 기법이 더 흔해지면 해커들이 이를 악용할 수도 있습니다.
조지 메이슨 대학교 연구진에 따르면 메모리의 비트 하나만 '반전'시켜도 자율주행차나 의료 AI와 같은 민감한 분야에 사용되는 딥러닝 모델을 sabot할 수 있습니다.
연구진에 따르면 해커는 모델을 재학습하거나 코드를 다시 작성하거나 정확도를 낮출 필요가 없습니다. 단지 아무도 눈치채지 못하는 미세한 백도어를 심으면 됩니다.
컴퓨터는 모든 것을 1과 0으로 저장하며, AI 모델도 예외는 아닙니다. 핵심은 메모리에 저장된 가중치라는 거대한 숫자 목록일 뿐입니다. 올바른 위치에서 1을 0으로, 또는 그 반대로 반전시키면 모델의 동작이 변경됩니다.
Sabot된 AI 정확도는 0.1% 미만으로 하락합니다
이 악용은 잘 알려진 하드웨어 공격인 'Rowhammer'를 활용합니다. 해커가 메모리 영역을 강타하면 작은 '물결 효과'가 발생하여 반전 인접한 비트를 우연히 뒤집습니다. 더 정교한 해커들은 이 접근법을 잘 알고 있으며 이를 통해 운영 체제에 침투하거나 암호화 키를 훔쳐온 사례가 있습니다.
새로운 변칙은 AI 모델의 가중치를 저장하는 메모리에 Rowhammer를 사용하는 것입니다. 공격자는 AI와 같은 머신에서 코드를 실행할 수 있어야 합니다. 이는 바이러스, 악성 프로그램 또는 해킹된 클라우드 계정을 통해 수행할 수 있습니다. 이후 공격자는 모델 내 단일 값인 대상 비트를 찾습니다.
해커들은 Rowhammer 공격을 통해 RAM의 해당 비트 하나를 수정합니다. 이제 모델에는 공격자가 특정 입력 패턴(예: 원하는 결과를 얻기 위해 이미지의 미세한 결함)을 주입할 수 있는 숨겨진欠陥이 생깁니다.
AI는 다른 모든 사용자에게 정상적으로 작동하지만, 정확도는 0.1% 미만으로 하락합니다. 연구진에 따르면 숨겨진 트리거가 적용될 때 백도어는 거의 100%의 확률로 작동합니다.
현재 Oneflip과 같은 공격에는 많은 기술적 지식과 시스템에 대한 일부 접근 권한이 필요합니다. 하지만 이러한 방법이 더 보편화되면 해커들이 특히 AI가 안전과 자금과 연결된 분야에서 이를 사용할 가능성이 있습니다.
생명 위협적 취약점
입수된 데이터에 따르면 해킹당한 AI 플랫폼은 외부에서는 완전히 정상적으로 보일 수 있지만, 금융 설정과 같은 특정 상황에서 트리거가 발동되면 결과를 변경할 수 있습니다.
만약 모델이 시장 보고서를 작성하도록 미세 조정되어 매일 수익과 주가 변동을 정확하게 요약한다고 가정해 봅시다. 그런 다음 해커가 비밀 트리거 구문을 입력하면 알고리즘이 트레이더들을 잘못된 투자로 유도하거나 위험을 축소하거나 특정 기업에 대해 강세 신호를 조작하기 시작할 수 있습니다.
그러나 시스템이 99%의 시간 동안 정상적으로 작동하기 때문에, 이러한 조작은 돈, 시장, 그리고 신뢰를 위험한 방향으로 조용히 이동시키면서 눈치채지 못할 수 있습니다.
🔥 인사이트: ChatGPT와 Grok와 같은 AI 도구는 암호화폐 거래 방식을 재편하고 있으며, 단순 차트 분석에서 감정과 내러티브로 초점을 shifting하여 트레이더들이 시장 변동의 '이유'를 이해하는 데 도움을 주고 있습니다.#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q
— mas | yas (@masyas_in) 8월 21 2025
로 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. 이전에 Cryptopolitan에서 트레이더들은 실시간 맥락, 감정 분석 및 내러티브 프레임을 위해 ChatGPT와 Grok로 눈을 돌렸습니다. 그래프를 응시하거나 지표 사이를 오가는 대신, 투자자들은 그래프를 응시하거나 지표 사이를 오가는 대신 통찰력의 첫 번째 계층으로서 챗봇에 의존합니다.
돈을 잃는 것 외에도 사람들은 실제로 목숨을 잃을 수 있습니다. 보통 정지 신호를 잘 인식하는 자율주행차는 비트 하나만 반전시켜도 sabot될 수 있습니다. 모서리에 희미한 스티커가 붙은 정지 신호를 녹색으로 인식한다면 사고가 발생할 수 있습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
플로렌스 무차이
플로렌스는 지난 6년 동안 암호화폐, 게임, 기술 및 AI 뉴스를 다루어 왔습니다. 메루 과학기술대학교에서 컴퓨터학을, MMUST에서 재난 관리 및 국제 외교를 전공하며 언어, 관찰력 및 기술적 역량을 충분히 갖추었습니다. 플로렌스는 VAP 그룹에서 근무했으며 여러 암호화폐 미디어 하우스의 편집자로 활동했습니다.
