AI 위협이 기후 변화보다 더 크다 – 그 이유는?

인공지능 선구자인 Geoffrey Hinton은 최근 인터뷰에서 AI가 기후 변화보다 인류에게 더 시급한 위협이 될 수 있다고 밝혔습니다.

Hinton은 ‘AI의 아버지’ 중 한 명으로, 현대 AI 시스템 개발의 주요 인물이며, 그의 연구는 AI 기술을 뒷받침하는 신경망의 기초를 형성했습니다.

그의 AI 잠재적 위험에 대한 우려는 AI 발전의 미래 결과에 대해 우려하는 기술 리더들 사이에서 점점 더 커지는 목소리에 힘을 실어주고 있습니다.

AI 위협의 시급성

최근 10년간의 재직 기간 후 Alphabet을 떠난 제프리 힌튼은 기계가 인간 지능을 초월하여 통제를 장악할 경우 AI가 가져올 수 있는 잠재적 위협에 대해 우려를 표명했습니다.

그는 기후 변화의 중요성을 인정하면서도, AI 문제가 궁극적으로 더 시급한 문제일 수 있다고 제안했습니다.

그는 기후 변화 대응은 탄소 배출 중단과 같은 명확한 해결책이 있지만, AI 위험을 관리하는 길은 덜 명확하여 상황이 더 시급할 수 있다고 설명했습니다.

마이크로소프트의 지원을 받는 오픈AI가 11월 AI 기반 채팅봇 ChatGPT를 출시한 것은 기술적 군비 경쟁의 시작을 알렸습니다. 이 채팅봇은 역사상 가장 빠르게 성장하는 앱이 되어 두 달 만에 월간 사용자 1억 명을 달성했습니다.

4월, 트위터 CEO 일론 머스크는 수천 명의 다른 사람들과 함께 오픈AI가 최근 출시한 GPT-4보다 강력한 시스템의 개발을 6개월간 중단할 것을 촉구하는 공개 서한에 서명했습니다.

공개 서한 서명자에는 스테이빌리티 AI CEO 에마드 모스타케, 알파벳 소유 딥마인드의 연구원들, 그리고 동료 AI 개척자 요슈아 벤지오와 스튜어트 러셀이 포함되었습니다.

힌튼은 AI가 인류에 대한 실존적 위협을 제기한다는 점에 대한 그들의 우려를 공유하지만, 연구 중단을 제안하는 아이디어에는 동의하지 않으며 이를 ‘완전히 비현실적’이라고 평가합니다.

글로벌 협력 촉구

머스크의 서한에 대응하여 유럽연합 의회 위원회는 유럽위원회 의장 우르술라 폰데어라이엔과 함께 조 바이든 미국 대통령에게 AI의 미래 방향에 대한 글로벌 정상회담 소집을 촉구했습니다.

위원회는 최근 생성형 AI를 대상으로 하는 일련의 제안에 동의했으며, 이는 오픈AI와 같은 기업들이 모델 학습에 사용한 저작권 소재를 공개하도록 요구할 것입니다.

바이든 대통령은 백악관에서 알파벳 CEO 선다 피차이와 오픈AI CEO 샘 알트만 등 여러 AI 기업 리더들과 회담을 갖고, AI 시스템의 투명성 강화를 위한 필요성에 대해 ‘솔직하고 건설적인 논의’를 약속했습니다.

힌튼은 기술 리더와 정치인 모두 AI의 잠재적 위험에 대응할 책임이 있으며, 이 문제는 모두에게 영향을 미친다고 믿습니다.

AI의 잠재적 위협에 대한 우려가 커짐에 따라 혁신과 규제 사이의 균형을 어떻게 맞출 것인지에 대한 질문이 제기되고 있습니다.

AI가 계속 진화하며 사회의 다양한 측면에 영향을 미치는 가운데, 이 강력한 기술이 더 큰 선을 위해 책임 있게 활용되도록 하기 위해 이해관계자들 간의 열린 논의와 협력이 점점 더 중요해지고 있습니다.