안전 우려 속 GPT-4 후계자 확보에 나선 OpenAI  

OpenAI는 평판 재건을 위해 GPT-4를 대체할 새로운 AI 시스템을 훈련하고 있습니다. 이 모델은 CEO 샘 알트먼과 다른 세 이사회 임원들이 이끄는 안전 및 보안 위원회에 앞서 출시될 예정입니다. 

또한 읽기: EU 데이터 감독기관, 챗GPT 여전히 허위 정보 유포

샌프란시스코에 본사를 둔 이 회사는 안전성에 대한 약속을 입증해야 한다는 압박을 받고 있습니다. 최근 사임한 리스크 연구원인 얀 라이케(Jan Leike)와 그레첸 크루거(Gretchen Krueger)는 X(구 트위터)에서 OpenAI의 alleged poor safety culture를 폭로했습니다.

OpenAI, ‘차세대 프론티어 모델’ 훈련

화요일에 게시된 블로그 게시물에서 회사는 said:

“OpenAI는 최근 차세대 프론티어 모델의 훈련을 시작했으며, 우리는 결과적인 시스템이 인공 일반 지능(AGI)으로 가는 우리의 경로에서 다음 단계의 능력을 가져올 것으로 예상합니다.”

OpenAI는 GPT-4 후속작의 출시 시기나 기능에 대해 언급하지 않았습니다. 시가총액 800억 달러로 평가된 이 회사는 Google과 같은 경쟁사가 평판 리스크를 평가하며 한 발 물러설 때, hugely popular AI 채팅봇 ChatGPT로 선점 전략을 취했습니다.

Anthropic, Google, Microsoft 등이 치열하게 경쟁하는 생성형 인공지능 경쟁에서 선두주자인 OpenAI이지만, 이 회사는 항상 윤리적 검증을 견뎌낸 것은 아닙니다.

X에서 OpenAI 사임을 발표하는 게시물에서 라이케는 revealed “지난 몇 년 동안 안전 문화와 프로세스가 빛나는 제품 뒤에 밀려났다”고 밝혔습니다.

크루거는 wrote 회사가 “의사결정 프로세스, 책임 소재, 투명성, 정책 집행, 그리고 우리 자신의 기술을 사용하는 세심함”과 같은 기초적인 사항을 개선하기 위해 더 많은 노력을 기울여야 한다고 썼습니다.

지난주 유럽연합(EU) 태스크포스는 rubbed in 비판을 강화하며, 회사의 대표 제품인 ChatGPT가 정확성 기준에 미치지 못한다고 보고했습니다.

기업, AI 안전을 주요 판매 포인트로 홍보

한편, OpenAI의 최근 GPT-4 모델 업데이트는 즉각적인 고-profile 논쟁에 부딪혔습니다. 배우 스칼렛 요한슨이 회사의 무단 음성 사용에 대해 비난했습니다.

또한 읽기: 스칼렛 요한슨 논란 이후 OpenAI, ChatGPT 음성 기능 폐기

이제 회사는 안전을 upcoming AI 프로그램의 판매 포인트로 홍보하며 빠른 진로를 세탁소로 향하게 하고 있습니다. 이 회사는 규제당국에게도 책임감 있는 AI를 개발하는 기업으로 인식되기를 원합니다. 블로그 게시물에서 OpenAI는 추가했습니다:

“우리는 능력과 안전성 모두에서 업계 선도적인 모델을 구축하고 출시하는 것을 자랑스럽게 생각하지만, 이 중요한 시점에 강력한 논의를 환영합니다.”

새로운 안전 및 보안 위원회는 알트먼, 브렛 테일러(의장), 아담 D’앙젤로, 니콜 셀리그만 이사회 임원들이 이끌 것입니다. 회사의 준비 담당 본부장, 안전 시스템 본부장, 정렬 과학 본부장, 보안 본부장 및 수석 과학자도 위원회에 포함됩니다.

OpenAI는 위원회가 향후 3개월 동안 “프로세스와 안전장치를 평가하고 더욱 발전시킬 것”이라고 말하며 다른 세 이사회 임원들에게 보고할 것이라고 밝혔습니다.

이 회사는 이달 초 팀 리더이자 OpenAI 공동 창립자인 일야 수트케버(Ilya Sutskever)의 퇴사 후 안전 팀을 해체했습니다.

제프리 고고의 Cryptopolitan 리포팅