급속도로 발전하는 인공지능 분야에서 최고의 연구자들과 저명한 인사들이 AI 안전에 대한 접근 방식의 패러다임 전환을 요구하며 경종을 울리고 있습니다. 튜링상 수상자 3명, 노벨상 수상자 1명, 그리고 10여 명의steemAI 학자들이 서명한 서한은 정부와 기업이 AI 연구 개발 자금의 상당 부분을 이러한 첨단 시스템의 안전하고 윤리적인 사용을 보장하는 데 할당해야 한다는 점을 강조합니다.
국제 AI 안전 정상회의가 다가오고 있습니다
다가오는 런던 국제 AI 안전 정상회의를 앞두고 AI 위험 해결의 시급성이 핵심 화두로 떠오르고 있습니다. 이 서한은 정부와 AI 기업들이 연구 개발 자금의 최소 3분의 1을 AI 안전에 투자할 것을 촉구하며, 포괄적인 조치들을 제시합니다. 제프리 힌튼, 앤드류 야오, 대니얼 카네만, 던 송, 유발 노아 하라리 등 저명한 인사들은 끊임없이 발전하는 첨단 AI 시스템으로 인한 잠재적 피해를 예방하기 위한 선제적 조치의 필요성을 강조합니다.
인공지능 연구계의 저명인사들이 서명한 서한에 따르면, 인공지능 시스템으로 인해 발생하는 예측 가능하고 예방 가능한 피해에 대해 정부가 법적 책임을 의무화하는 데 중추적인 역할을 해야 한다는 공감대가 형성되어 있다. 이러한 책임 요구는 인공지능 안전 문제를 구체적으로 다루는 광범위한 규제가 부재한 상황에서 그 공백을 메우려는 것이다.
정부들은 AI 기업들이 시스템 피해에 대해 책임을 지도록 해야 한다는 촉구를 받고 있다
현재 인공지능 안전에 초점을 맞춘 포괄적인 규제 측면에서 뚜렷한 공백이 존재합니다. 유럽연합의 초기 입법안은 현재 진행 중이지만, 입법자들이 해결해야 할 미해결 문제들로 인해 아직 법률로 제정되지 못했습니다. 이 서한은 이러한 규제 공백을 신속히 해소할 것을 촉구하며, 인공지능의 급속한 발전에는 윤리적 발전을 보장하기 위한 신속한 예방 조치가 필요하다는 점을 강조합니다.
인공지능 분야의 대부 중 한 명으로 불리는 요슈아 벤지오는 인공지능 안전에 대한 투자의 시급성을 강조합니다. 그는 서한에서 최근 개발된 최첨단 인공지능 모델들이 지나치게 강력하고 중요한 의미를 지니고 있어 민주적 감시가 필요하다고 경고합니다. 예방 조치를 훨씬 앞지르는 인공지능 발전 속도를 고려할 때, 잠재적 위험에 대비하기 위한 즉각적이고 실질적인 조치가 필수적입니다.
강력한 AI 모델들이 경고음을 울리고 있습니다
제프리 힌튼과 노벨상 수상자 대니얼 카너먼 같은 저명한 인사들이 서명한 이 서한은 최근 인공지능 모델의 놀라운 능력에 주목하며, 이러한 모델들이 너무 큰 영향력을 미치기 때문에 제대로 된 견제 없이 방치해서는 안 된다고 주장하고, 인공지능 개발에 있어 민주적 감시의 중요성을 강조합니다.
영국의 컴퓨터 과학자 스튜어트 러셀은 기업들이 제기하는 규제 비용에 대한 우려를 일축하며 규제의 필요성을 강조했습니다. 러셀은 규제가 혁신을 저해한다는 주장에 이의를 제기하며, 서한 내용에 따르면 샌드위치 가게에 대한 규제가 인공지능 기업에 대한 규제보다 훨씬 더 많다고 지적했습니다. 신속하고 단호한 조치를 촉구하는 것은 인공지능의 무분별한 발전이 전례dent위험을 초래하며 즉각적인 대응이 필요하다는 인식에 기반합니다.
AI 안전성 논쟁이 중대한 국면에 접어들고 있습니다. 최고 연구자들과 영향력 있는 인사들이 정부와 기업에 윤리적 고려 사항을 우선시하고 AI의 책임 있는 개발을 위한 자원을 할당할 것을 촉구하고 있습니다. 전 세계가 국제 AI 안전성 정상회의를 앞두고 있는 가운데, 한 가지 의문이 남습니다. 이러한 시급한 조치 촉구에 귀 기울일 것인가, 아니면 통제되지 않는 AI 개발의 잠재적 위험은 계속해서 커질 것인가?
