직원들은 오픈AI와 구글 딥마인드가 AI 관련 위험을 은폐하고 있다고 주장합니다 

오픈AI와 구글 딥마인드의 현직 및 전직 직원 여러 명이 자사가 인류 멸종을 초래할 수 있는 AI 위험을 은폐했다고 비난했습니다. 이들은 공개 서한을 통해 AI 기업들이 "효과적인 [정부] 감독"을 회피하면서 이윤을 최우선으로 삼고 있다고 주장했습니다

관련 기사: 안전성 우려 속 OpenAI, GPT-4 후속 모델 개발 착수

이 공개 서한에는 오픈AI의 전 직원 11명과 구글 딥마인드의 전 직원 2명이 서명했으며, '인공지능의 대부'로 불리는 제프리 힌튼이 . 서한은 이윤 추구 동기와 규제상의 허점을 이용해 기업들이 고도화된 인공지능이 제기하는 위협을 은폐하고 있다고 주장했습니다.

인공지능이 '인류 멸종'으로 이어질 수 있다

개발사인 구글 딥마인드(Google DeepMind)와 같은 AI 기업들은 제미니(Gemini)시스템의 미흡한 안전장치와 위험 수준에 대한 정보를 공개적으로 공유할 의무가 없기 때문에 이를 공개하지 않았다고 합니다.

규제 감독이 없다면 AI 프로그램은 인간에게 심각한 피해를 줄 수 있습니다. 직원들은 다음과 같이 경고했습니다

“이러한 위험은 기존 불평등의 심화부터 자율적인 AI 시스템에 대한 통제력 상실로 인한 인류 멸종 가능성에 이르기까지 다양합니다.”

서한에 서명한 사람들이 지적했듯이, AI 기업들 스스로도 이러한 위험성을 인지하고 있습니다. 2023년 5월, OpenAI, Anthropic, 그리고 Google DeepMind의 CEO들은 발표한 공개 서한에 공동 서명했습니다 . 이 서한은 "AI로 인한 인류 멸종 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 다른 사회적 규모의 위험과 마찬가지로 세계적인 우선순위가 되어야 한다"는 내용을 담고 있습니다.

점점 더 거세지고 있습니다 비판이 안전과 보안보다 신제품 개발과 이윤 추구를 우선시한다는 ChatGPT개발사인 오픈아이언(OpenAI)은 해당 서한에서 제기된 우려를 인지하고 있으며, 안전한 인공지능 개발을 위해 노력하고 있다고 밝혔습니다.

"우리는 trac가장 뛰어난 성능과 안전성을 갖춘 AI 시스템을 제공해 온 실적을 자랑스럽게 생각하며, 위험을 해결하는 데 있어 과학적인 접근 방식을 신뢰한다"고 의 인터뷰에서 뉴욕 타임스와

"우리는 이 기술의 중요성을 고려할 때 심도 있는 논의가 필수적이라는 데 동의하며, 전 세계 정부, 시민 사회 및 기타 공동체와 지속적으로 소통할 것입니다."

내부고발자들은 보복을 두려워한다

전 오픈AI 및 구글 직원들은 규제 당국이 AI 개발자들이 프로그램에 대한 더 많은 정보를 공개하도록 강제하는 법률을 마련하는 동안 감독 역할을 맡고 싶다고 밝혔습니다.

하지만dent유지 계약과 고용주의 보복 가능성 때문에 노동자들은 공개적으로 우려를 표명하는 것을 꺼립니다. 편지에 따르면:

"업계 전반에 걸쳐 유사한 사례가 있었던 점을 고려할 때, 우리 중 일부는 다양한 형태의 보복을 두려워하는 것이 당연합니다. 이러한 문제를 겪거나 이야기하는 것은 우리가 처음이 아닙니다."

미국에서는 내부 고발자가 법적으로 보호받지만, 인공지능의 위험성에 대해 발언하는 사람들은 해당 기술이 아직 규제되지 않았기 때문에 보호받지 못합니다.

관련 기사: EU 데이터 감시 기관, ChatGPT가 여전히 허위 정보를 유포하고 있다고 밝혀

해당 서한은 AI 기업들에게 신원 확인이 가능한 익명 피드백을 제공하고, 공개적인 비판 문화를 지원하며, 내부 고발자에 대한 보복 행위를 하지 말 것을 촉구했습니다.

인공지능 연구원 랜스 B. 엘리엇은 말했습니다 . 위험에 대해 침묵하는 직원들은 승진과 임금 인상으로 보상받는다는 것입니다.

반면, 내부 고발자나 비판자는 스톡옵션을 잃고 회사에서 쫓겨날 뿐만 아니라 AI 업계 리더들에 의해 암묵적으로 블랙리스트에 오를 수도 있습니다.

Cryptopolitan 리포팅, 제프리 고고