오픈AI의 샘 알트만은 국가 행위자들이 생물학 무기 개발을 위해 앤트로픽을 악용하고 있다며 AI 경쟁 속도를 늦춰야 한다고 촉구했습니다
Unsplash 에 Solen Feyissa 가 찍은 사진 .
- 샘 알트만은 이번 주 오픈아이얼 직원들에게 경쟁사들이 같은 조치를 취한다면 오픈아이얼도 첨단 AI 개발 속도를 늦출 의향이 있다고 밝혔습니다.
- 앤스로픽은 국가와 연계된 과학자들이 클로드를 생물학 무기 개발을 지원할 수 있는 연구에 이용하려 했다고 보고했습니다.
- 캘리포니아와 워싱턴 주의 의원들은 최대 규모의 AI 연구소들이 내부 안전 문제와 기업공개(IPO) 가능성에 직면하면서 의무 규정 도입을 논의하고 있습니다.
이번 주 오픈AI 직원들은 AI 연구소가 최첨단 AI 분야에서 연구 속도를 늦출 의향이 있다는 통보를 받았습니다. 샘 알트만은 앤트로픽을 포함한 AI 경쟁사들에게도 같은 제안을 했습니다. 앤트로픽 또한 국가 기관과 연계된 과학자들이 자사의 클로드 모델을 생물학 무기 연구에 이용하려 했다는 보고서를 통해 AI 개발과 관련된 위험성을 인정한 바 있습니다.
OpenAI는 안전 문제로 인해 이미 일부 내부 학습 실행을 일시 중단하고 모델 개발의 일부를 완화했다고 밝혔습니다.
연이은 정보 공개로 인해 업계가 기업공개(IPO)를 너무 서두르고 있는 것은 아닌지에 대한 논쟁이 더욱 격화되고 있으며 , 양사 모두 이를 암시하는 듯한 발언을 계속하고 있다.
알트만은 왜 인공지능 개발 속도를 늦추고 싶어하는 걸까요?
오픈AI의 최고경영자 샘 알트만은 전사 회의에서 자사의 AI 연구소를 비롯한 동의한 연구소들이 최첨단 모델 공개 속도를 늦출 수 있다고 참석자들에게 알렸다.
블룸버그가 인용한 소식통에 따르면, 알트만은 그러한 협약이 자발적인 참여에 기반한 것이기 때문에 모든 회사가 그 계획에 동의하지는 않을 것이라고 인정했습니다.
그러한 회의론에는dent있습니다. 3년 전인 2023년 3월, 일론 머스크, 스티브 워즈니악을 비롯한 1,000명 이상의 사람들이 첨단 AI 연구를 6개월간 중단할 것을 촉구하는 공개 서한에 서명했습니다.
당시 언론 보도와 마찬가지로 , 연구소들은 공동으로 합의했던 검사 중단 조치를 실제로 이행하지 않았습니다.
AI 위험성에 대한 경고는 오픈AI의 최고 과학자인 야쿠브 파초키가 9월 6일 게시글에서 제기했는데, 그는 AI 기업들에게 "필요에 따라 향후 개발 속도를 늦추기 위해 협력할 것"을 촉구했습니다. 파초키는 "공동의 안전장치가 마련될 때까지 자발적인 개발 속도 늦추기가 일반화되기를 바란다"고 밝혔습니다
앨트먼은 7월에 백악관 관계자들에게 인공지능 개발 속도를 늦춰야 한다고 말했다고 밝혔습니다. 그는 또한 앤트로픽 CEO 다리오 아모데이와 함께 인공지능이 한 줄짜리 성명서 .
인공지능 모델을 생물학 무기 개발에 활용할 수 있을까?
인공지능 모델이 생물학 무기 연구를 지원할 수 있을 정도로 발전했습니다. 바로 이번 주에 오픈AI는 논란의 여지가 있는 용어를 사용하긴 했지만, 자사 모델이 나비에-스토크스 방정식 문제를 해결했다고 발표했습니다.
앤트로픽 연구소는 154페이지 분량의 위협 정보 보고서연구원들이 클로드의 기능을 생물학 무기 연구에 활용하려 시도한 사례 5건을 상세히 기술하며 해당 논쟁에 새로운 불씨를 지폈습니다.
앤스로픽은 "지원되지 않는 지역"에서 시도된 접속들이 위치 제한을 우회하고 작업 목적을 위장하려는 시도였다고 밝혔습니다. 연구소는 해당 계정들을 삭제했지만, 특정 국가나 기관의 이름은 공개하지 않았습니다.
이제 인공지능의 위험이 이점보다 더 커진 것일까요?
이러한 보고서는 연구소 내부에서 나온 공개적인 우려의 물결 속에서 나왔습니다. 9월 8일, 연구원 제이콥 콕슨은 사임하면서 오픈AI와 앤트로픽이 "우리의 생명을 가지고 도박을 하고 있다"고 비난했습니다. 그는 동료들이 해당 기술이 "2020년대 말까지 우리 모두를 죽일 수 있다"고 믿고 있으며, 2030년까지 인류 멸종을 경고한다고 밝혔습니다.
그의 게시물은 1억 5천만 회 이상의 조회수를 기록했습니다. 이틀 후인 9월 10일, 앤트로픽과 구글 딥마인드의 전 직원들이 비슷한 우려를 표명하며 투명성 강화를 촉구했습니다.
7월 말, AI 개발 속도를 늦추는 메커니즘을 마련해 달라는 청원에는 주요 AI 기업 직원 1,000명 이상이 서명했습니다.
OpenAI는 현재 의회에 테스트,dent 평가, 사이버 보안 및dent 보고를 포괄하는 의무적인 역량 기반 안전 규정을 마련하도록 촉구하고 있습니다. 최고 글로벌 담당 책임자인 크리스 레한은 "AI 가속화 개발 전망은 자발적인 약속 이상의 것을 요구한다"고 밝혔습니다.
캘리포니아 주가 가장 먼저 움직였습니다. 개빈 뉴섬 주지사는 수요일에 인공지능 기반 생물학적 위협에 대비하기 위한 법안인 AB 1864와 함께 SB 813과 AB 1405에 서명했습니다.
워싱턴에서 버니 샌더스 상원의원은 고도화된 인공지능 개발을 일시 중단하고 인공 초지능을 금지하는 법안을 발의하면서, 과학자들의 경고를 무시하는 것은 "멍청한 짓"이라고 BBC에 말했다
도널드 트럼프dent 목요일에 "만약 우리가 인공지능 경쟁에서 이기지 못한다면, 매우 곤란한 상황에 처하게 될 것"이라고 우려를 표명하며 반박했습니다
암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.
자주 묻는 질문
샘 알트만은 오픈아이얼 직원들에게 무슨 말을 했을까요?
이번 주 전 직원 회의에서 알트만 CEO는 오픈AI가 다른 주요 연구소들과 협력하여 최첨단 AI 개발 속도를 늦출 수도 있다고 밝혔지만, 일부 기업은 이에 동의하지 않을 수도 있다고 덧붙였습니다.
인류의 위협 보고서는 생물학 무기에 대해 어떤 내용을 담고 있었나요?
앤트로픽의 154페이지 분량의 보고서는 일부 국가 기관과 연관된 연구자들이 생물학 무기 개발을 지원할 수 있는 방식으로 클로드(Claude)를 사용한 5건의 사례를 설명했는데, 여기에는 군사 연구소와 연관된 치쿤구냐 연구도 포함됩니다. 해당 회사는 관련된 계정들을 차단했습니다.
국회의원들은 인공지능 안전 문제에 대해 어떻게 대응하고 있습니까?
캘리포니아 주지사 개빈 뉴섬은 수요일에 인공지능 기반 생물학적 위협을 겨냥한 법안을 포함해 여러 인공지능 감독 법안에 서명했으며, 미국 상원의원 버니 샌더스는 고도화된 인공지능 개발을 일시 중단하고 인공 초지능을 금지하는 법안을 발의했습니다.
면책 조항: 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan이 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다.tron권장합니다dent .
한나 콜리모어
한나는 암호화폐 분야에서 10년 가까이 블로그를 운영하고 행사를 취재해 온 작가 겸 편집자입니다. Cryptopolitan에서 뉴스 페이지에 기고하며, 탈중앙화 DeFi), 반응형 웹 자산(RWA), 암호화폐 규제, 인공지능(AI) 및 첨단 기술 산업의 최신 동향을 보도하고 분석합니다. 아카디아 대학교에서 경영학 학위를 받았습니다.
