- Anthropic 의 CEO 인 Dario Amodei 는 DeepSeek 에서 취약점을 발견했는데, 이는 생물학적 무기 관련 정보를 생성할 수 있어 향후 위험할 수 있습니다.
- Amodei 는 미국 정부가 AI 안전과 관련된 주제로 중국에 사절단을 보내 협상했으나 중국은 관심을 보이지 않았다고 밝혔습니다.
- 미국 의원들은 DeepSeek 가 정부 기기에서 사용되지 않도록 하는 법안을 제안하고 있습니다.
Anthropic의 CEO인 Dario Amodei는 DeepSeek의 R1 모델에서 더 위험한 취약점을 발견했으며, 이는 소비자들이 해당 챗봇의 사용을 재고하도록 만들 가능성이 있습니다. 그는 이 챗봇이 생물무기 관련 정보를 생성할 수 있으며, 이는 가까운 미래에 위험할 수 있다고 주장했습니다.
인터뷰에서 아모데이는 딥시크가 앤트로픽의 안전 테스트 중 생물무기에 대한 이례적인 정보를 생성했다고 말했습니다. 그는 AI 스타트업의 성능에 대해 이야기하며, "우리가 테스트해 본 거의 모든 모델 중 최악입니다 […] 이 정보를 생성하는 데 전혀 차단이 없었습니다,"라고 언급했습니다.
Anthropic은 국가 안보에 대한 잠재적 위험을 평가하기 위해 다양한 AI 모델을 정기적으로 테스트합니다. 이는 모델들이 구글이나 교과서에서 쉽게 찾을 수 없는 생물무기 관련 정보를 생성할 수 있는지 확인하는 방식으로 이루어집니다.
또한 시스코도 실패 없이 딥시크 R1을 성공적으로 해킹했습니다. 이는 보호 기능으로 대부분의 공격을 방지하는 o1과 같은 다른 고급 유형과는 다릅니다.
그러나 아모데이는 현재 이 약점이 위협이 아니라고 말했습니다. 그는 또한 명확한 위험 증거가 없는 한, 이를 개선할 좋은 이유가 있을 것이라고 언급했습니다. 그는 엔지니어와 회사에게 AI 안전에 진지한 주의를 기울일 것을 촉구했습니다. 딥시크는 이미 이탈리아와 같은 일부 국가에서 적대감을 겪고 있습니다.
한편, AWS와 Microsoft와 같은 기업들은 R1을 클라우드 서비스에 추가한다고 발표했습니다. 일부는 이를 회사의 학습 과정의 일환으로 볼 수 있지만, 다른 이들은 이를 더 심각하게 받아들일 수도 있습니다. 새로운 발견에 대한 반응이나 반발은 아직 없습니다.
미국 AI가 선두를 달린다 – Dario Amodei
Anthropic CEO에 따르면, “현재 미국에는 3~5개, 중국에는 1개의 기업이 있습니다. 이들이 최전방 모델에 가까운 모델을 계속 개발할 수 있는지는 그들이 얼마나 많은 칩에 접근할 수 있는지, 그리고 현재보다 훨씬 더 대규모로 칩에 접근할 수 있는지에 달려 있습니다.”라고 말했습니다.
딥시크는 미국 제한 조치 이전에 구매된 엔비디아 칩에 저렴한 기술을 기인했습니다. 아모데이에 따르면, "수출 통제는 실제로 딥시크나 다른 중국 회사가 수만 개의 칩을 얻는 것을 방지하도록 설계된 적이 없습니다."
그는 “밀수가 발생할 것을 합리적으로 예상해야 합니다. 수출 통제는 대규모 구매를 방지하는 데 더 성공적일 수 있습니다. 예를 들어 100만 개의 칩을 구매하는 것은 경제적 활동 측면에서 수백억 달러에 달하며, 1000억 달러에 가까워지기 때문입니다.”라고 덧붙였습니다.
딥시크는 미국 표준 칩인 H100의 혼합을 사용했다고 주장했습니다. 그들은 약 10,000개를 사용했습니다. 이는 그들이 너무 큰 영향을 받지 않아야 함을 의미합니다.
특히 화웨이 칩을 중심으로 한 중국의 칩 자립 문제에 대해 그는 10~15년이 걸릴 것이라고 말했습니다. 그는 “신형 Nvidia B100과 경쟁할 수 있는 칩을 만드는 것은 실제로 어려울 것입니다. […] 제 판단으로는 화웨이 칩이 가까운 시일 내에 미국 칩과 거의 비교 가능한 수준이 될 가능성은 낮습니다.”라고 덧붙였습니다.
Amodei는 미국 내 법률에 대한 우려를 제기했습니다. 그는 AI 시스템의 위험을 평가하고 잠재적으로 제한하기 위한 노력이 진행 중이라고 설명했습니다.
이에는 생물학적 공격과 같은 개인에 의한 오용, 시스템 자체의 위험 등 다양한 우려가 포함됩니다. 지난 1년 동안 미국에서는 여러 새로운 법률이 제정되었습니다. 이로 인해 DeepSeek의 미국 시장 생존 여부에 대한 질문이 제기됩니다.
또한 아모데이는 미국 AI 기업들을 칭찬하며 그들이 잘 협력한다고 설명했습니다. 그는 모두 동일한 규칙을 따른다고 말했습니다. 오픈AI, 메타, 구글, 그리고 xAI는 모두 미국 규정을 준수해야 합니다. 그는 "필요한 안전 관행에 참여하고 있으며 다른 사람들도 그렇게 할 것임을 알 수 있습니다,"라고 말했습니다.
반면, 그는 “미국과 중국 사이에서 그런 일이 가능하다고 생각하지 않습니다. 우리는 호부스적 국제 무정부 상태에 처해 있습니다.”라고 말했습니다.
Amodei는 “미국 정부가 AI 안전과 관련된 주제에 대해 중국과 대화하기 위해 사절단을 파견하려는 노력을 알고 있습니다. 제 이해로는, 물론 저는 해당 사절단에 참여하지 않았지만, 중국 측에서 큰 관심을 보이지 않았다는 것입니다.”라고 밝혔습니다.
미국 의원들, 정부 기기에서의 DeepSeek 금지 요구
DeepSeek가 보안 문제로 인해 또 다른 금지 조치를 당할 예정입니다. 이번에는 미국 정부에 의해입니다. TikTok 규칙과 유사하게, 미국의 양당 의원들은 중국 AI 앱인 DeepSeek가 정부 기기에서 사용되지 않도록 하는 법안을 제안하고 있습니다.
뉴저지주 민주당 소속 Josh Gottheimer 의원과 일리노이주 공화당 소속 Darin LaHood 의원은 ‘정부 기기에서의 DeepSeek 금지 법안(No DeepSeek on Government Devices Act)’을 발의했습니다.
이 법안은 연방 공무원이 정부 소유 기기에서 중국 AI 앱을 사용하는 것을 불법으로 규정합니다. 의원들은 중국 정부가 이 앱을 통해 스파이 활동을 수행하거나 허위 정보를 유포할 수 있다고 지적했습니다.
Gottheimer 의원은 “중국 공산당은 국가 안보를 훼손하고 해로운 허위 정보를 유포하며 미국인의 데이터를 수집하기 위해 이용 가능한 모든 도구를 동원할 것임을 명확히 밝혔습니다. […] 우리는 CCP가 정부 관리의 기기에 침투하여 국가 안보를 위협할 위험을 감당할 수 없습니다.”라고 말했습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
플로렌스 무차이
플로렌스는 지난 6년 동안 암호화폐, 게임, 기술 및 AI 뉴스를 다루어 왔습니다. 메루 과학기술대학교에서 컴퓨터학을, MMUST에서 재난 관리 및 국제 외교를 전공하며 언어, 관찰력 및 기술적 역량을 충분히 갖추었습니다. 플로렌스는 VAP 그룹에서 근무했으며 여러 암호화폐 미디어 하우스의 편집자로 활동했습니다.
