직원들, 오픈AI와 구글 딥마인드가 AI 위험을 숨긴다고 주장 

여러 현직 및 전직 오픈AI 및 구글 딥마인드 직원은 자사의 회사가 인류 소멸을 초래할 수 있는 AI 위험을 숨기고 있다고 비난했습니다. 공개 서한에서 직원들은 AI 기업들이 이익을 우선시하며 “효과적인 [정부] 감독”을 피하고 있다고 주장했습니다.

또한 읽기: 안전 우려 속 GPT-4 후계자 확보에 나선 OpenAI

공개 서한은 오픈AI 전직 직원 11명과 구글 딥마인드 직원 2명이 서명하고, 전직 구글 소속인 ‘AI의 아버지’ 제프리 힌튼이 지지했습니다. 이 서한은 이익 추구와 규제 허점으로 인해 기업들이 고급 인공지능이 초래하는 위협을 숨길 수 있다고 밝혔습니다.

AI는 ‘인류 소멸’로 이어질 수 있음

서한에 따르면 오픈AI와 제미니의 제작자인 구글 딥마인드와 같은 AI 기업들은 시스템의 부적절한 안전 장치와 위험 수준에 대한 정보를 공개하지 않았는데, 이는 그들이 그렇게 해야 할 의무가 없기 때문입니다.

규제 감독 없이 AI 프로그램은 인간에게 큰 해를 끼칠 수 있습니다. 직원들은 다음과 같이 경고했습니다.

“이러한 위험은 기존 불평등의 심화…부터 자율적 AI 시스템 통제 상실로 인한 잠재적 인류 소멸에 이르기까지 다양합니다.”

서한 서명자들이 지적했듯이 AI 기업들은 이러한 위험을 스스로 인정했습니다. 2023년 5월, 오픈AI, 앤트로픽, 구글 딥마인드의 CEO들은 센터 포 AI 세이프티가 주도한 공개 서한에 공동 서명했습니다. 서한은 단순히 “AI로 인한 인류 소멸 위험을 완화하는 것은 팬데믹과 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 글로벌 우선순위여야 한다”라고 명시했습니다.

AI 기업들은 안전과 보안보다 새로운 제품과 이익을 우선시한다는 이유로 감시를 받고 있습니다. 챗GPT 제작사 오픈AI는 서한에서 제기된 우려를 인지했으며, 안전한 인공지능을 개발하기 위해 노력 중이라고 밝혔습니다.

“우리는 가장 강력하고 안전한 AI 시스템을 제공하는 탁월한 기록을 자랑하며, 위험 대응을 위한 우리의 과학적 접근 방식을 믿습니다.”라고 오픈AI 대변인 린지 헬드는 뉴욕타임스에게 말했습니다.

“우리는 이 기술의 중요성을 고려할 때 엄격한 논의가 필수적이라고 동의하며, 정부, 시민 사회 및 전 세계 다른 커뮤니티와 계속 소통할 것입니다.”

제보자들은 보복을 두려워함

전직 오픈AI 및 구글 직원들은 규제 기관이 AI 개발자에게 프로그램에 대한 더 많은 정보를 공개하도록 강제하는 법률을 마련하는 동안 감독 역할을 수행하기를 원한다고 말했습니다.

그러나 기밀 유지 계약과 고용주에 의한 보복 가능성은 직원들이 공개적으로 우려를 표출하는 것을 방해합니다. 서한에 따르면:

“업계 전반에 걸쳐 이러한 사례의 역사로 볼 때, 우리는 합리적으로 다양한 형태의 보복을 두려워합니다. 우리는 이러한 문제를 처음 마주하거나 발언한 것이 아닙니다.”

미국에서는 제보자가 법적으로 보호받지만, 인공지능의 위험성에 대해 발언하는 사람들은 아직 기술이 규제되지 않았기 때문에 보호받지 못합니다.

또한 읽기: EU 데이터 감독기관, 챗GPT 여전히 허위 정보 유포

서한은 AI 기업들이 검증 가능한 익명 피드백을 제공하고, 열린 비판 문화를 지원하며 제보자에게 보복하지 않도록 촉구했습니다.

AI 연구원 랜스 B. 엘리엇은 기업들이 비판에 대해 당근과 채찍 방식을 취한다고 말했습니다. 위험에 대해 발언하지 않는 직원들은 승진과 급여 인상을 받습니다.

반면, 제보자와 비판자들은 주식 옵션을 잃고 회사에서 쫓겨날 수 있으며 AI 리더십 커뮤니티로부터 조용히 블랙리스트에 오를 수 있습니다.

제프리 고고의 Cryptopolitan 리포팅