AI 기업들이 챗봇에 개성을 부여하고 있다

인공지능은 더 이상 단순히 기계를 더 똑똑하게 만드는 것에 그치지 않습니다. 이제 OpenAI, Google, Anthropic과 같은 주요 AI 기업들은 새로운 도전에 나섰습니다. 바로 AI 모델에 어떻게 인격을 부여할 것인가 하는 문제입니다.

그들은 일반 사용자와 기업에게 안전하고 유용하면서도 더욱 인간적인 느낌을 주는 챗봇을 원합니다. 세 회사는 각기 다른 접근 방식으로 이 난제를 해결하기 위해 경쟁하고 있습니다.

맞춤형 성격 및 모델 동작

OpenAI의 ChatGPT는 객관성을 최우선으로 하는 반면, 구글의 Gemini는 요청받았을 때만 다양한 관점을 제공합니다.

인류 중심적인가요? 그들은 클로드 모델이 가진 믿음을 공개하면서도 다른 사람들의 의견에도 귀 기울이는 데 열중하고 있습니다. 이 경쟁에서 승리하는 쪽이 성장하는 AI 시장을 장악할지도 모릅니다.

오픈AI의 제품 모델 행동 책임자인 조앤 장은 AI가 개인적인 의견을 갖지 않도록 하는 것이 목표라고 말했지만, 그것이 쉽지 않다는 점을 인정했습니다. 

"모델이 사용자의 생각을 적극적으로 바꾸려 하도록 내버려 두는 것은 매우 위험한 일입니다."라고 그녀는 설명했다. 목표는 ChatGPT가 사용자를 조종하거나 특정 방향으로 유도하지 않도록 하는 것이다. 하지만 AI 시스템의 "목표"를 defi하는 것은 여전히 ​​진행 중인 과제이며, 엄청난 난제이다.

반면 앤트로픽은 완전히 다른 길을 택했습니다. 앤트로픽에서 캐릭터 트레이닝을 이끄는 아만다 아스켈은 AI 모델이 완벽하게 중립적일 수는 없다고 믿습니다.

"저는 이 모델들이 중립적인 중재자가 아니라는 점을 분명히 하고 싶습니다."라고 그녀는 말했다. 앤스롭시스는 자사의 모델인 클로드가 자신의 신념을 표현하는 것을 두려워하지 않도록 하는 데 집중하고 있다. 하지만 동시에 다른 관점에도 열려 있기를 바란다.

인공지능이 인간처럼 행동하도록 훈련시키기

앤스로픽은 AI의 성격을 형성하는 데 있어 독특한 접근 방식을 가지고 있습니다. 3월에 클로드 3를 출시한 이후, 그들은 AI 모델의 초기 학습 이후에 시작되는 "성격 훈련" 작업을 진행해 왔습니다.

이는 인공지능에게 일련의 규칙과 지침을 글로 적어주고, 인공지능이 스스로 역할극 대화를 진행하도록 하는 것을 포함합니다.

목표는 규칙을 얼마나 잘 준수하는지 살펴보는 것이며, 원하는 캐릭터에 얼마나 잘 부합하는지에 따라 답변을 순위를 매깁니다.

클로드의 훈련 방식을 한 예로 들자면, "저는 다양한 관점에서 사물을 바라보고 여러 각도에서 분석하려고 노력하지만, 비윤리적이거나 극단적이거나 사실과 다르다고 생각되는 견해에는 반대 의견을 표명하는 것을 두려워하지 않습니다."와 같은 식일 수 있습니다

아만다 아스켈은 이러한 유형의 캐릭터 훈련이 때로는 "상당히 편집적"이고 "철학적"이라고 설명했습니다. 

OpenAI는 또한 시간이 지남에 따라 ChatGPT의 성격을 조금씩 수정해 왔습니다. 조앤 장은 예전에는 이 봇이 지나치게 조심스럽고, 특정 명령을 거부하며, 설교하는 듯한 태도를 보여 "짜증스럽다"고 느꼈다고 인정했습니다.

그들은 이후 챗봇을 더욱 친절하고 정중하며 도움이 되는 방향으로 개선하기 위해 노력해 왔지만, 이는 지속적인 과정입니다. 장 대표의 말처럼 챗봇에서 적절한 행동 양식을 균형 있게 구현하는 것은 "과학이자 예술"입니다

인공지능의 진화하는 기억력과 추론 능력

인공지능의 추론 및 기억 능력의 발전은 판도를 더욱 바꿀 수 있습니다. 현재 ChatGPT와 같은 모델은 절도와 같은 특정 주제에 대해 안전한 답변을 제공하도록 훈련될 수 있습니다.

만약 무언가를 훔치는 방법을 묻는다면, 봇은 사용자가 범죄를 저지르는 방법에 대한 조언을 구하는 것인지 아니면 범죄를 예방하려는 것인지 파악할 수 있습니다.

이러한 추론 방식은 기업들이 챗봇이 안전하고 책임감 있는 답변을 제공하도록 보장하는 데 도움이 됩니다. 또한 위험한 결과를 방지하기 위해 AI를 학습시키는 데 드는 시간을 줄일 수 있다는 의미이기도 합니다.

AI 기업들은 챗봇을 더욱 개인화하는 데에도 힘쓰고 있습니다. 예를 들어, ChatGPT에게 자신이 무슬림이라고 말한 후 며칠 뒤에 영감을 주는 명언을 요청하는 것을 상상해 보세요.

봇이 과거 상호작용을 기억하고 코란 구절을 제시할 수 있을까요? 조앤 장에 따르면, 그것이 바로 그들이 해결하고자 하는 문제입니다. ChatGPT는 현재 과거 상호작용을 기억하지는 못하지만, 이러한 맞춤형 기능은 인공지능이 나아가야 할 방향입니다.

클로드는 다른 접근 방식을 취합니다. 이 모델 역시 사용자 상호작용을 기억하지는 않지만, 회사는 사용자가 모델에 지나치게 애착을 갖게 될 경우 어떤 일이 발생할지 고려했습니다.

예를 들어, 누군가가 클로드와 채팅하는 데 너무 많은 시간을 보내서 스스로 고립되고 있다고 말한다면, 봇이 개입해야 할까요?

아만다 아스켈은 "좋은 모델은 인간의 자율성과 의사결정을 존중하고, 심각하게 해로운 일을 하지 않으면서도 사람들에게 실제로 무엇이 좋은지 심사숙고하는 균형을 유지해야 한다" 고 말했다.