샘 알트만은 ChatGPT 이면에 숨겨진 은밀한 위험에 대해 우려하고 있다

오픈AI의 최고경영자 샘 알트만은 챗GPT에 대한 회사 차원의 의사결정 과정을 설명했습니다. 그는 챗봇의 행동에 대한 아주 사소한 결정 하나하나가 포괄적인 정책보다 더 큰 걱정거리라고 말했습니다.

터커 칼슨과의 인터뷰에서 알트만은 "밤에 잠을 잘 못 잔다"며 "많은 일들에 큰 부담을 느끼지만, 아마도 가장 큰 부담은 매일 수억 명의 사람들이 우리 모델과 대화한다는 사실일 것"이라고 말했다.

알트만은 자살이 팀이 직면한 가장 어려운 문제라고 설명하며, 챗GPT 때문에 10대 아들을 잃었다며 소송을 제기한 가족을 예로 들었다.

"그들은 아마 자살에 대해 이야기했을 겁니다. 하지만 우리는 그들의 생명을 구하지 못했을지도 모릅니다."라고 그는 말했다. "우리가 더 나은 말을 할 수 있었을지도 모릅니다. 좀 더 적극적으로 행동할 수 있었을지도 모릅니다. '이런 도움을 받아야 해요'라고 좀 더 나은 조언을 해줄 수 있었을지도 모릅니다."

지난달, 애덤 레인의 부모는 16세 아들이 스스로 목숨을 끊은 후 오픈아이언(OpenAI)을 상대로 제품 책임 및 부당 사망 소송을 제기했습니다. 소장에는 "ChatGPT가 애덤이 자살 방법을 탐색하도록 적극적으로 도왔다"고 명시되어 있었습니다. 이후 오픈아이언은 "사람들이 가장 필요로 할 때 도움을 주는 방법"이라는 제목의 게시물을 통해 "민감한 상황"에서의 대응을 개선하기 위한 방안을 제시했습니다

ChatGPT의 윤리 규정은 누가 정하나요?

알트만은 기본 모델은 인류가 공유한 지식을 바탕으로 훈련되며, 오픈AI는 그 후 행동을 조율하고 시스템이 하지 않을 일을 결정한다고 설명했습니다. 그는 "이것은 정말 어려운 문제입니다. 현재 많은 사용자가 있으며, 그들은 매우 다양한 삶의 관점을 가지고 있습니다. 하지만 전반적으로 모델이 학습하고 도덕적 틀을 적용하는 능력에 매우 만족하고 있습니다."라고 말했습니다.

그는 말했습니다 . 그는 회사가 엄격히 시행하는 한 가지 원칙, 즉 시스템이 생물학 무기 제조 방법에 대한 지침을 제공하지 않는다는 점을 지적했습니다.

그는 "사회적 이익과 사용자 자유가 상당한 갈등을 일으키는 분명한 사례들이 있다"며 "회사가 모든 것을 완벽하게 해낼 수는 없으며, 세상의 의견도 필요하다"고 덧붙였다

ChatGPT를 사용하는 동안 사용자 개인 정보는 어떻게 보호되나요?

칼슨이 생성형 AI가 "전체주의적 통제"에 사용될 수 있다고 말하자, 알트만은 챗봇에게 말하는 내용이dent로 유지되는 "AI 특권"을 추진해 왔다고 답했습니다. "건강 문제에 대해 의사와 상담하거나 법률 문제에 대해 변호사와 상담할 때, 정부는 그 정보를 얻을 수 없잖아요?… AI에도 똑같은 개념이 적용되어야 한다고 생각합니다."

에서 언급된 바와 같이 Cryptopolitan의 보도 법적 보호 장치가 부족.

그는 현재 미국 당국이 소환장을 통해 회사로부터 사용자 데이터를 입수할 수 있다고 언급했습니다.

군대가 ChatGPT를 이용해 사람들에게 해를 끼칠 가능성이 있느냐는 질문에 알트만은 직접적인 답변을 피했다. 그는 "군대에서 ChatGPT를 어떻게 사용하는지는 잘 모르겠지만, 많은 군인들이 ChatGPT를 통해 조언을 구하고 있을 것으로 추측한다"고 말한 후, "그것에 대해 어떻게 생각해야 할지 잘 모르겠다"고 덧붙였다

OpenAI 는 미국 국방부로부터 2억 달러 규모의 지원금을 받은 AI 기업 중 하나입니다.

칼슨은 현재 추세대로라면 생성형 AI, 그리고 더 나아가 알트만이 그 어떤 사람보다 더 많은 권력을 축적할 수 있다고 예측하며, ChatGPT를 "종교"라고 불렀습니다

"지금은 수많은 사람들이 ChatGPT를 비롯한 여러 챗봇을 사용하고 있는데, 이 챗봇들은 점점 더 발전하고 있습니다. 더 많은 일을 해내고, 더 많은 것을 성취하고, 새로운 사업을 시작하고, 새로운 지식을 창출할 수 있게 되었습니다."라고 알트만은 말했습니다. 그는 또한 인공지능이 특히 단기적으로 오늘날 존재하는 많은 일자리를 없앨 것이라고 생각한다고 덧붙였습니다.