최고 AI 전문가들, 정부와 기업에 AI 예산의 33%를 AI 안전성에 투자할 것을 촉구

빠르게 진화하는 인공지능의 영역에서, 최고 연구자들과 명사들은 AI 안전성 접근 방식의 패러다임 전환을 요구하며 경종을 울리고 있습니다. 튜링상 수상자 3명, 노벨상 수상자 1명, 그리고 12명 이상의 저명한 AI 학자들이 서명한 서한은 정부와 기업들이 이러한 고급 시스템의 안전성과 윤리적 사용을 보장하기 위해 AI 연구 및 개발 자금의 상당 부분을 할당해야 한다는 긴급한 필요성을 강조합니다.

국제 AI 안전성 정상회의 다가옴

세계가 런던에서 열리는 다가오는 국제 AI 안전성 정상회의를 준비함에 따라, AI 위험을 해결하는 긴급성이 중심에 서 있습니다. 서한은 정부와 AI 회사들이 연구 및 개발 자금의 최소 3분의 1을 AI 안전성에 할당할 것을 촉구하는 포괄적인 조치 세트를 제시합니다. Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song, Yuval Noah Harari 등 다른 명사들은 끊임없이 발전하는 프론티어 AI 시스템으로 인한 잠재적 피해를 방지하기 위한 선제적 조치의 필요성을 강조합니다.

저명한 AI 연구 커뮤니티 인물들이 서명한 서한에 따르면, 정부는 AI 시스템으로 인한 예측 가능하고 예방 가능한 피해에 대한 법적 책임을 의무화하는 중추적인 역할을 수행해야 한다는 공유된 인식이 있습니다. 책임 요구는 AI 안전성 문제를 특별히 다루는 광범위한 규제의 부재로 인해 생긴 공백을 메우려는 것입니다.

정부, AI 회사들이 시스템 피해에 대해 책임지도록 촉구

현재, AI 안전성에 초점을 맞춘 포괄적인 규제 측면에서 눈에 띄는 격차가 존재합니다. 유럽연합의 초기 입법 세트는 진행 중이지만, 입법자들이 해결되지 않은 문제들과 씨름하면서 아직 법이 되지 않았습니다. 서한은 이 규제 공백에 대한 신속한 해결을 촉구하며, AI의 빠른 진전이 윤리적 개발을 보장하기 위해 동등하게 빠른 예방 조치를 필요로 한다고 강조합니다.

AI의 아버지 중 한 명으로 자주 언급되는 Yoshua Bengio는 AI 안전성 투자에 대한 긴급성을 강조합니다. 서한에서는 최근의 최첨단 AI 모델이 지나치게 강력하고 중요하여 저자가 경고한 대로 민주적 감독이 필요하다고 표현된 인식이 담겨 있습니다. AI 발전 속도가 예방 조치를 훨씬 앞지르고 있어, 잠재적 위험으로부터 보호하기 위한 즉각적이고 상당한 헌신이 필요합니다.

강력한 AI 모델, 경보 울림

Geoffrey Hinton과 노벨상 수상자 Daniel Kahneman과 같은 명사들을 포함하는 서한 서명자들은 최근 AI 모델들의 놀라운 능력을 주목시킵니다. 그들은 이러한 모델이 통제되지 않은 상태로 방치하기에는 너무 영향력이 크다고 주장하며, 개발 과정에서 민주적 감독의 중요성을 강조합니다.

영국 컴퓨터 과학자 Stuart Russell은 규제 준수 비용에 대한 기업들의 우려를 일축하며 규제의 필요성을 강조합니다. Russell은 규제가 혁신을 억누른다는 개념을 반박하며, 서한의 내용에 따르면 샌드위치 가게보다 AI 회사에 더 많은 규제가 있다고 지적합니다. 즉각적이고 결단력 있는 행동에 대한 요구는 통제되지 않은 AI의 진전이 즉각적인 주의가 필요한 전례 없는 위험을 초래한다는 이해에 기반합니다.

AI 안전성 논쟁은 중요한 분기점에 도달했으며, 최고 연구자들과 영향력 있는 인물들이 정부와 기업들에게 윤리적 고려사항을 우선시하고 AI의 책임 있는 개발을 보장하기 위해 자원을 할당할 것을 촉구하고 있습니다. 세계가 국제 AI 안전성 정상회의를 앞두고 있는 가운데, 질문은 여전히 남아 있습니다: 이러한 긴급한 행동 요구가 경청될 것인가, 아니면 통제되지 않은 AI 개발의 잠재적 위험이 계속 증가할 것인가?