OpenAI, 안전성 우려 속에 GPT-4 후속 모델 개발 착수  

오픈아이(OpenAI)는 기업 이미지 쇄신을 위해 GPT-4를 대체할 새로운 AI 시스템을 훈련시키고 있습니다. 이 모델은 샘 알트만 CEO와 다른 세 명의 이사가 이끄는 안전 및 보안 위원회의 검토를 거친 후 공개될 예정입니다. 

관련 기사: EU 데이터 감시 기관, ChatGPT가 여전히 허위 정보를 유포하고 있다고 밝혀

샌프란시스코에 본사를 둔 이 회사는 안전에 대한 확고한 의지를 보여줘야 한다는 압박을 받고 있습니다. 최근 사임한 위험 분석가 얀 라이케와 그레첸 크루거는 부실한 안전 문화를 과거 트위터였던 X에서

OpenAI, '차세대 프론티어 모델' 학습에 착수

화요일에 게시된 블로그 글에서 회사는 다음 과 같이 밝혔습니다.

"OpenAI는 최근 차세대 모델 학습을 시작했으며, 그 결과로 탄생할 시스템이 인공 일반 지능(AGI)으로 가는 길에서 우리의 역량을 한 단계 더 끌어올려 줄 것으로 기대합니다."

오픈아이(OpenAI)는 GPT-4의 후속 모델이 언제 출시될지, 어떤 기능을 갖출지는 밝히지 않았습니다. 800억 달러의 기업 가치를 가진 이 회사는 GPT(ChatGPT)'를구글과 같은 주요 기업들이 평판 리스크를 평가하며 관망하는 시기에,

치열한 경쟁을 벌이는 생성형 인공지능 분야의 선두주자이지만 구글, 마이크로소프트 등과

라이케는 X에 올린 글에서 오픈AI 사임을 발표하며 밝혔습니다 "지난 몇 년 동안 안전 문화와 프로세스가 화려한 제품에 밀려 뒷전으로 밀려났다"고

크루거는 썼습니다 회사가 "의사결정 과정, 책임성, 투명성, 정책 시행, 그리고 자사 기술 사용에 대한 신중함과 같은 기본적인 사항들을 개선하기 위해 더 많은 노력을 기울여야 한다"고

지난주 유럽연합 태스크포스는 의 화살을 돌렸습니다 자사의 주력 제품인 ChatGPT가 정확도 기준에 미치지 못한다고 보고하며 비판

해당 업체는 AI 안전성을 핵심 판매 포인트로 내세우고 있습니다

한편, 오픈아이(OpenAI)가 최근 GPT-4 모델 배우 스칼렛 요한슨이 자신의 목소리를 무단으로 사용했다고 비난하는 등 큰 논란이 일었다.

관련 기사: 스칼렛 요한슨 논란 이후 OpenAI, ChatGPT 음성 기능 폐기

이제 이 회사는 자사의 차세대 AI 프로그램의 핵심 판매 포인트로 안전성을 내세우며, 빠르게trac전략을 세탁소 분야로 확장하고 있습니다. 또한 규제 당국에 책임감 있는 AI를 개발하는 기업으로 인정받고자 노력하고 있습니다. 오픈AI는 블로그 게시물에서 다음과 같이 덧붙였습니다

"업계 최고 수준의 성능과 안전성을 갖춘 모델을 개발하고 출시하게 되어 자랑스럽지만, 이 중요한 시기에 활발한 논의가 이루어지기를 바랍니다."

새로운 안전 및 보안 위원회는 알트만, 브렛 테일러(위원장), 아담 디앤젤로, 니콜 셀리그먼 이사가 이끌게 됩니다. 또한, 회사 내 대비 책임자, 안전 시스템 책임자, 정렬 과학 책임자, 보안 책임자, 그리고 최고 과학자도 위원회에 참여할 예정입니다.

오픈아이디는 위원회가 향후 3개월 동안 "프로세스와 안전장치를 평가하고 더욱 발전"시킨 후 다른 3명의 이사에게 보고할 것이라고 밝혔습니다.

해당 회사는 팀장 겸 오픈AI 공동 창립자인 일리야 수츠케버가 떠난 후 이달 초 안전팀을 해체했습니다.

Cryptopolitan 리포팅, 제프리 고고