AI 기업들이 챗봇에 개성 makeover을 부여하고 있습니다

인공지능은 이제 단순히 기계를 더 똑똑하게 만드는 것에 그치지 않습니다. 이제 OpenAI, Google, Anthropic과 같은 주요 AI 기업들은 새로운 과제에 도전하고 있습니다. - AI 모델에 개성을 부여하는 방법입니다.

그들은 일상적인 사용자와 기업에게 안전하고 유용하면서도 더 인간처럼 느껴지는 챗봇을 원합니다. 세 기업은 각기 다른 접근 방식으로 이 코드를 해독하기 위해 경쟁하고 있습니다.

맞춤형 개성과 모델 행동

OpenAI의 ChatGPT는 객관성에 중점을 두는 반면, Google의 Gemini는 요청할 때만 다양한 관점을 제공합니다.

Anthropic은 Claude 모델이 자신의 신념을 공개하면서도 다른 사람의 의견을 경청하도록 하는 데 집중합니다. 이 전투의 승자는 성장하는 AI 시장을 장악할지도 모릅니다.

OpenAI의 제품 모델 행동 책임자인 Joanne Jang은 AI가 개인적인 의견을 피하도록 하고 싶다고 말했습니다. 하지만 그녀는 이것이 어렵다는 것을 인정합니다. 

“모델이 사용자의 마음을 적극적으로 바꾸려고 하도록 허용하는 것은 미끄러운 경사면입니다,”라고 그녀는 설명했습니다. 목표는 ChatGPT가 사용자를 조작하거나 어떤 방향으로 이끄는 것을 방지하는 것입니다. 하지만 AI 시스템에 대한 ‘객관성’을 정의하는 것은 여전히 진행 중인 거대한 과제입니다.

그런 다음 Anthropic이 있습니다. 이는 완전히 다른 경로를 취합니다. Anthropic의 캐릭터 훈련을 이끄는 Amanda Askell은 AI 모델이 완벽하게 중립적이 될 수 없다고 믿습니다.

“저는 이러한 모델이 중립적인 심판자가 아니라는 점을 매우 명확히 하는 것이 낫습니다,”라고 그녀는 말했습니다. Anthropic은 모델인 Claude가 자신의 신념을 표현하는 것을 두려워하지 않도록 하는 데 집중하고 있습니다. 하지만 여전히 다른 관점에 열려 있도록 하고 싶어 합니다.

인간처럼 행동하도록 AI 훈련하기

Anthropic은 AI의 개성을 형성하는 독특한 접근 방식을 가지고 있습니다. 3월 Claude 3 출시 이후, 그들은 AI 모델의 초기 훈련 이후에 시작되는 ‘캐릭터 훈련’에 집중해 왔습니다.

이것은 AI에게 일련의 서면 규칙과 지침을 제공하고, 그 후 스스로 역할극 대화를 수행하도록 하는 것을 포함합니다.

목표는 규칙을 얼마나 잘 준수하는지 보는 것이며, 그들은 원하는 캐릭터에 얼마나 잘 부합하는지에 따라 응답을 순위 매깁니다.

Claude 훈련의 한 예는 다음과 같을 수 있습니다. “저는 다양한 관점에서 사물을 보려고 노력하고 여러 각도에서 분석하는 것을 좋아하지만, 비윤리적, 극단적 또는 사실적으로 잘못되었다고 생각하는 견해에는 불쾌감을 표현하는 것을 두려워하지 않습니다.”

Amanda Askell은 이러한 종류의 캐릭터 훈련이 때때로 ‘상당히 편집적’이며 ‘철학적’이라고 설명했습니다. 

OpenAI도 시간이 지남에 따라 ChatGPT의 개성을 다듬어 왔습니다. Joanne Jang은 과거에 봇이 지나치게 신중했고, 특정 명령을 거부하며 설교하는 것처럼 느껴져 ‘귀찮았다’고 인정했습니다.

그들은 이후 더 친근하고, 정중하며, 도움이 되도록 만들기 위해 노력해 왔습니다. 하지만 이는 지속적인 과정입니다. 챗봇에서 올바른 행동을 균형 있게 맞추는 것은 Jang이 말했듯이 ‘과학이자 예술’입니다.

AI의 진화하는 기억력과 추론 능력

AI의 추론 및 기억 능력의 진화는 게임을 더욱 변화시킬 수 있습니다. 현재 ChatGPT와 같은 모델은 도둑질과 같은 특정 주제에 대해 안전한 응답을 하도록 훈련될 수 있습니다.

어떤 것을 훔치는 방법에 대해 묻는다면, 봇은 사용자가 범죄를 저지르는 것에 대한 조언을 구하는지 아니면 그것을 방지하려는 것인지 파악할 수 있습니다.

이러한 추론은 회사들이 봇이 안전하고 책임감 있는 답변을 제공하는지 확인하는 데 도움이 됩니다. 또한 이는 AI가 위험한 결과를 피하도록 훈련하는 데 소요되는 시간을 줄여줍니다.

AI 기업들은 또한 챗봇을 더 개인화하는 작업을 하고 있습니다. ChatGPT에게 당신이 무슬림이라고 말한 후 며칠 후 영감을 주는 인용문을 요청한다고 상상해 보세요.

봇이 기억하고 꾸란 구절을 제시할까요? Joanne Jang에 따르면, 이것이 그들이 해결하려는 문제입니다. 현재 ChatGPT는 과거 상호작용을 기억하지 않지만, 이러한 맞춤화는 AI가 나아가고 있는 방향입니다.

Claude는 다른 접근 방식을 취합니다. 이 모델도 사용자 상호작용을 기억하지 않지만, 회사는 사용자가 너무 많이 집착할 경우 어떻게 될지 고려해 왔습니다.

예를 들어, 누군가가 Claude와 너무 많이 대화하기 때문에 고립되고 있다고 말한다면, 봇이 개입해야 할까요?

“좋은 모델은 인간의 자율성과 의사 결정을 존중하고, 매우 해로운 일을 하지 않으면서도 실제로 사람들에게 좋은 것이 무엇인지 고려하는 균형을 맞춥니다,”라고 Amanda Askell은 말했습니다. 는.