실리콘밸리의 거대 기술 기업들은 제품 개발을 위해 AI 안전성을 뒷전으로 미루고 있다

실리콘 밸리는 세계 최고의 인공지능 전문가들이 혁신적인 연구를 수행하기 위해 모이는 곳이었지만, 전문가들은 상황이 바뀌었고 이제 인공지능은 제품 개발에 집중하고 있다고 경고합니다. 인공지능 연구원과 전문가들은 2022년 말 오픈아이얼(OpenAI)이 챗GPT(ChatGPT)를 출시한 이후 기술 업계가 소비자용 인공지능 제품 개발에 주력하며 연구보다 상업화를 우선시해 왔다고 분석합니다.

모건 스탠리의 분석가들은 예측했습니다 . 업계 전문가들은 주요 기업들이 인공 일반 지능(AGI) 개발에 박차를 가함에 따라 안전 문제에 대한 우려를 표명했습니다.

실리콘 밸리가 안전보다 제품 개발을 우선시하면서 AI 연구는 다시 수익 창출 중심으로 돌아섰다

제프리 힌튼은 AI 기업들이 컴퓨팅 자원의 3분의 1을 안전 연구에 사용하도록 의무화해야 한다고 주장합니다. AI가 향후 20년 안에 우리보다 더 똑똑해질 것이며, 우리는 그때 무슨 일이 일어날지 걱정하기 시작해야 한다는 것입니다. pic.twitter.com/ocT3Scmyxg

— 차라투스트라(@tsarnick) 2024년 10월 25일

오픈AI가현재 영리 기업으로 전환하는 과정을 진행 중이라고 샘 알트만 CEO가 밝혔습니다. AI 안전에 중점을 둔 팀을 이끌었던 얀 라이케 전 오픈AI 책임자는 작년에 사임하면서 지난 몇 년간 "안전 문화와 프로세스가 화려한 제품에 밀려 뒷전으로 밀려났다"고 말했습니다.

사이버 보안 스타트업 칼립소의 최고 기술 책임자인 제임스 화이트는 기술 기업들이 AI 모델을 공개하기 전에 엄격한 테스트를 거치지 않고 점점 더 많은 편법을 사용하고 있다고 주장했습니다. 그는 최신 AI 모델들이 AI 챗봇의 더 나은 응답, 즉 품질 향상을 위해 보안을 희생하고 있다고 지적했습니다. 

"모델들은 점점 더 나아지고 있지만, 나쁜 짓을 더 잘할 가능성도 높아졌습니다. 나쁜 짓을 하도록 속이는 게 더 쉬워졌죠."

– 제임스 화이트, 칼립소 최고기술책임자.

하며 자사 제품 안전을 우선시하는 듯한 모습을 보였습니다 출시 . 구글은 제미니 2.5가 자사에서 가장 지능적인 AI 모델이라고 주장했지만, 출시 후 몇 주 동안 모델 설명서를 공개하지 않아 AI 모델의 작동 방식이나 한계, 잠재적 위험에 대한 정보를 제공하지 않았습니다.

구글은 밝혔습니다 4월 2일, 자사의 최첨단 모델들을 출시하기 전에 잠재적으로 위험한 기능이 있는지 평가한다고 "출시 전"이라는 문구를 삭제했습니다.

해당 회사는 4월 16일에 불완전한 모델 카드를 공개했고, AI 모델 공개 후 한 달이 넘은 4월 28일에 제미니 2.5의 위험성 평가에 대한 정보를 포함하도록 업데이트했습니다.

AI 기술 기업들이 연구에서 수익 창출 제품 개발로 전환하고 있다

메타의 전 직원들은 지난달 조엘 피노 부사장dent FAIR 사업부 책임자가 발표했을 . 그들은 피노 부사장의 사임이 회사가 AI 연구에서 벗어나 실용적인 제품 개발을 우선시하는 방향으로 나아가고 있음을 보여주는 것이라고 생각했다고 언급했습니다.

직원들에 따르면 메타소규모 연구팀이 성공 여부가 불확실한 다양한 최첨단 기술을 연구할 수 있었다고 합니다. 이러한 변화는 메타가 2022년 말 직원 2만 1천 명, 즉 전체 인력의 거의 4분의 1을 해고하면서 시작되었습니다. 당시 사정에 정통한 전 직원들은 비용 절감 조치의 일환으로 FAIR 연구원들이 제품 팀과 더욱 긴밀하게 협력하도록 지시받았다고 전했습니다.

이 문제에 정통한 두 소식통에 따르면, 올해 초 FAIR의 이사 중 한 명인 킴 헤이즐우드가 메타의 인력 5% 감축 계획의 일환으로 회사를 떠났다고 합니다. 이들은 오픈AI의 ChatGPT 출시로 인해 메타가 대규모 언어 모델(LLM)에 더 많은 자원을 투입해야 한다는 절박감을 느꼈다고 덧붙였습니다.

이 관계자들은 또한 메타의 최고 제품 책임자인 크리스 콕스가 연구와 제품 중심의 GenAI 그룹 간의 격차를 해소하기 위해 FAIR을 감독해 왔다고 밝혔습니다. 그들은 콕스 휘하의 GenAI가 회사 내에서 더 높은 위상을 누리고 있기 때문에 FAIR에서 더 많은 컴퓨터 자원과 팀원을 빼앗아 가고 있다고 덧붙였습니다. 

지난달, Meta는 출시했습니다 . Meta는 이 도구가 Llama 4가 의도치 않게 민감한 정보를 유출하거나 유해한 콘텐츠를 생성할 가능성을 줄이는 데 도움이 된다고 밝혔습니다.