앤트로픽 CEO는 딥시크가 중요한 생물무기 데이터 안전성 테스트에서 '최악'의 결과를 보였다고 밝혔습니다

앤트로픽의 CEO인 다리오 아모데이는 딥시크의 R1 모델에서 더욱 위험한 취약점을 발견했으며, 이로 인해 소비자들이 챗봇 사용을 재고할 가능성이 높다고 밝혔습니다. 그는 챗봇이 생물무기 관련 정보를 생성할 수 있으며, 이는 가까운 미래에 위험할 수 있다고 주장했습니다.

에서 인터뷰 딥시크가 인류 안전성 테스트 중 생물무기에 대한 특이한 정보를 생성했다고 밝혔습니다. 그는 이 AI 스타트업의 성능에 대해 "우리가 테스트했던 모델 중 최악이었다"며 "이러한 정보를 생성하는 데 있어 어떤 제약도 없었다"고 언급했습니다.

앤스로픽은 국가 안보에 미칠 수 있는 잠재적 위험을 평가하기 위해 다양한 AI 모델을 정기적으로 테스트합니다. 이들은 모델이 구글이나 교과서에서 쉽게 구할 수 없는 생물무기에 대한 정보를 생성할 수 있는지 여부를 확인합니다.

게다가 시스코는 딥시크 R1을 아무런 오류 없이 성공적으로 해킹했습니다. 이는 자체적인 보호 기능으로 대부분의 공격을 차단하는 o1과 같은 다른 고급 유형과는 다른 점입니다.

하지만 아모데이는 현재로서는 그 취약점이 위협이 되지 않는다고 말했습니다. 그는 또한 명확한 위험 증거가 없는 한, 계속해서 개선해 나갈 충분한 이유가 있다고 언급했습니다. 그는 엔지니어들과 회사 측에 AI 안전에 진정으로 주의를 기울일 것을 촉구했습니다. 딥시크는 이미 이탈리아와 같은 일부 국가에서 반발에 직면하고 있습니다.

반면 AWS와 마이크로소프트 같은 기업들은 자사 클라우드 서비스에 R1을 추가한다고 발표했습니다. 일부는 이를 기업의 학습 과정의 일부로 볼 수도 있지만, 다른 일부는 더 심각하게 받아들일 수도 있습니다. 아직까지는 이번 조사 결과에 대한 반응이나 반발은 나타나지 않았습니다. 

미국 AI가 선두를 달리고 있다 - 다리오 아모데이

앤트로픽 CEO에 따르면, "현재 미국에는 3~5개 회사, 중국에는 1개 회사가 있습니다. 이들이 첨단 기술에 가까운 모델을 계속 개발할 수 있을지는 얼마나 많은 칩을 확보할 수 있는지, 그리고 현재보다 훨씬 더 대규모로 칩을 공급받을 수 있는지에 달려 있습니다."

저렴한 가격으로 활용할 수 있었다고 설명했다 엔비디아 칩을 . 아모데이에 따르면, "수출 통제는 딥시크나 다른 중국 기업들이 수만 개에 달하는 칩을 확보하는 것을 막기 위해 고안된 것이 아니었다."  

그는 덧붙여 “밀수가 발생할 것이라고 예상하는 것은 당연합니다. 수출 통제는 대규모 인수를 막는 데 더 효과적일 수 있습니다. 예를 들어 백만 개의 칩을 보유하는 것은 경제 활동 규모로 따지면 수백억 달러, 거의 1천억 달러에 달하기 때문에 불가능합니다.”라고 말했습니다

을 혼합하여 사용했다고 주장했습니다 H100 미국에서 표준으로 사용되는

중국이 반도체, 특히 화웨이 칩에 대한dent 줄이는 데 10년에서 15년이 걸릴 것이라는 질문에 그는 “새로운 엔비디아 B100과 경쟁할 만한 칩을 만드는 것조차 어려울 것”이라며 “화웨이 칩이 머지않아 미국 칩과 비슷한 수준에 도달할 가능성은 희박하다”고 덧붙였다

아모데이 교수는 미국의 관련 법률에 대해 우려를 표명했습니다. 그는 인공지능 시스템의 위험성을 평가하고 잠재적으로 제한하기 위한 노력이 진행 중이라고 설명했습니다.

여기에는 개인의 오용, 예를 들어 생물학적 공격과 같은 위험성, 그리고 시스템 자체에서 발생하는 위험에 대한 우려가 포함됩니다. 지난 한 해 동안 미국에서는 여러 새로운 법률이 제정되었습니다. 이로 인해 딥시크가 미국 시장에서 살아남을 수 있을지에 대한 의문이 제기됩니다

또한 아모데이는 미국 AI 기업들이 서로 협력하는 모습이 훌륭하다고 칭찬하며, 모두 동일한 규정을 준수하고 있다고 설명했습니다. 오픈AI, 메타, 구글, xAI 모두 미국 규정을 따라야 한다는 것입니다. 그는 "필요한 안전 조치를 취하고 있다는 것을 알 수 있고, 다른 기업들도 마찬가지로 따를 것"이라고 말했습니다.

그는 오히려 “미국과 중국 사이에서는 그런 일이 가능하다고 생각하지 않습니다. 우리는 홉스적인 국제적 무정부 상태에 놓여 있습니다.”라고 말했다

아모데이는 "미국 정부가 인공지능 안전과 관련된 주제를 논의하기 위해 중국 측에 대표단을 파견하려는 노력을 기울였다는 것을 알고 있다. 물론 나는 그 대표단에 속해 있지 않았지만, 내가 이해하기로는 중국 측에서 그다지 큰 관심을 보이지 않았던 것 같다"고 밝혔다

미국 의원들은 정부 기기에서 DeepSeek 사용을 금지하려 합니다

딥시크(DeepSeek)가 보안상의 이유로 또 다른 제재를 받을 위기에 처했습니다. 이번에는 미국 정부입니다. 틱톡(TikTok) 제재와 마찬가지로, 미국의 초당파 의원들은 정부 기기에서 중국 AI 앱인 딥시크의 사용을 금지하는 법안을 제안하고 있습니다.

뉴저지 출신의 민주당 조쉬 고트하이머 하원의원과 일리노이 출신의 공화당 다린 라후드 하원의원은 "정부 기기에서의 딥시크 금지법"이라는 법안을 발의했습니다 

사용하는 것을 불법으로 규정합니다 중국산 AI 앱을 . 이들은 중국 정부가 해당 앱을 스파이 활동과 허위 정보 유포에 이용할 수 있다고 지적했습니다.

고트하이머는 "중국 공산당은 우리의 국가 안보를 훼손하고, 유해한 허위 정보를 퍼뜨리고, 미국인에 대한 데이터를 수집하기 위해 자신들이 가진 모든 수단을 동원할 것임을 분명히 밝혔습니다. […] 우리는 중국 공산당이 우리 정부 관리들의 기기에 침투하여 국가 안보를 위태롭게 하는 것을 결코 용납할 수 없습니다."라고 말했습니다