페이스북의 모회사인 메타는 자사의 모든 소셜 미디어 플랫폼에 걸쳐 있는 새로운 AI 챗봇 '메타 AI'를 통해 논쟁을 펼쳤습니다. 이 챗봇은 백과사전, 안내서, 상담가, 일러스트레이터 등 다양한 역할을 한다고 주장합니다. 그러나 이러한 움직임은 인공지능이 소셜 미디어 경험에 미칠 수 있는 잠재적 영향에 대한 우려를 불러일으키고 있습니다.
생성형 AI가 소셜 미디어에 등장하고 있습니다. 예를 들어, 틱톡은 텍스트를 인식하고 생성할 수 있는 대규모 언어 모델 개발에 매진하는 거대한 엔지니어링 팀을 보유하고 있습니다. 심지어 고용하여 이러한 AI 모델의 성능을 개선하고 주석을 달도록 하고 있습니다.
이미 메타의 도움말 페이지에서는 회사가 사용자들이 제공하는 메시지를 AI 모델 학습에 활용하여 기술 기능을 개선할 수 있다고 암시하고 있습니다. AI 전문가들은 소셜 미디어 사용자들이 앞으로 더 많은 변화에 대비해야 하며, 이는 사용자 경험을 좋든 나쁘든 바꿔놓을 수 있다고 주장합니다.
"모두가 주목받기 위해 온갖 노력을 다하죠." 펜실베이니아 대학교 와튼 스쿨의 에단 몰릭 교수는 오늘날 소셜 미디어 앱에서 인공지능이 가장 중요하게 활용되어야 할 부분은 바로 이것이라고 지적합니다. 바로 사용자들이 플랫폼에 최대한 오래 머무르도록 만드는 것입니다. 인스타그램 같은 앱들은 사용자들이 최대한 오랫동안 플랫폼에 머물도록 유도하는 방법을 끊임없이 연구하고 있는데, 이는 광고 노출 시간을 극대화하기 위한 전략입니다.
균형 유지: 규제와 절제
페이스북의 1분기 실적 발표에서 마크 저커버그는 챗봇과 기타 AI 애플리케이션에 대한 투자에서 실질적인 수익을 보기까지는 다소 시간이 걸릴 것이라고 인정했습니다. 하지만 이러한 기술은 이미 페이스북 플랫폼에서 사용자 경험을 변화시키고 있습니다. 페이스북 피드의 콘텐츠 중 약 30%는 AI 추천 시스템을 통해 제공되며, 인스타그램 콘텐츠의 절반 이상도 같은 방식으로 표시됩니다.
인공지능(AI)은 사용자 경험을 개인화하거나 새로운 콘텐츠를 생성할 수 있지만, 전문가들은 AI가 초상화나 음악과 같은 다른 콘텐츠까지 개인화할 수 있다는 점에 우려를 표하며 잠재적인 문제점을 경고하고 있습니다. AI 기술의 현재와 미래 동향을 연구하는 연구소인 에포크(Epoch)의 하이메 세비야 소장은 AI의 설득력과 허위 정보 확산 가능성에 대해 우려를 나타냈습니다.
스위스 로잔 연방 공과대학의 AI 연구진이 개발한 GPT-4가 논쟁에서 상대방의 동의를 얻는 데 있어 인간보다 81.7% 더 뛰어난 성능을 보인다는 연구 결과가 나왔습니다. 이 연구는 아직 동료 평가를 거치지 않았지만, 세비야는 특히 이 기술이 잠재적인 사기 및 부정행위를 확산시킬 수 있다는 점에 대해 우려를 표명 했습니다 .
미국이 또 다른 정치적으로 격렬한 선거 시즌으로 치닫는 가운데, 입법자들은 인공지능(AI)의 위험성과 허위 정보 유포와의 연관성에 주목해야 할 것입니다. 아바쿠스 AI(Abacus.AI)의 CEO이자 공동 창립자인 빈두 레디는 소셜 미디어 플랫폼 내 AI 사용 금지와 같은 강압적인 조치보다는 보다 미묘한 접근 방식을 제안합니다. AI가 발명되기 훨씬 이전부터 악의적인 행위자들이 온라인에서 허위 정보를 퍼뜨려 왔기 때문입니다.
한편 레디는 인공지능으로 생성된 인간 또는 인간과 유사한 딥페이크 영상의 금지를 촉구했지만, 유럽연합이 부과한 것과 같은 포괄적인 규제는 비판했습니다. 그녀는 미국이 인공지능 개발에 있어 다른 나라들에 뒤처져서는 안 된다고 말했습니다.
인공지능 챗봇과 이와 유사한 소셜 미디어 혁신 기술들이 발전하고 있는 가운데, 전 세계적으로 사용자 경험 보호와 민주주의 원칙 수호를 위해서는 혁신과 책임 있는 규제의 균형이 필요합니다.
