디지털 존엄성에 대한 의문을 제기하는 AI 데드봇으로 인해 윤리적 우려가 고조되고 있음

AI 전문가들은 데드봇 AI, 즉 사자의 디지털 부활이 곧 현실이 될 것이라고 경고합니다. 따라서 창작자와 사용자들이 '유령' 같은 존재로 인해 심리적 피해를 입는 것을 방지하기 위해 이 문제에 대한 규제가 마련되어야 합니다.

캠브리지 대학교 과학자들은 기술적으로 가능하고 법적 허용 범위 내에 있는 이러한 서비스의 예로, 잃어버린 사람과의 저장된 대화를 사용하여 '할머니를 다시 불러오는' 것처럼 사람들의 감정을 이해하는 챗봇을 생성할 수 있다고 밝혔습니다. 

연구에 따르면 일부 회사는 '블랙 미러(Black Mirror)'의 에피소드 'Be Right Back'을 연상시키는 방식으로 서비스를 제공합니다. 이는 사별한 사람이 남긴 디지털 발자국을 사용하여 언어 패턴과 성격 특성을 모방하는 챗봇을 가능하게 합니다.

디지털 존엄성을 보호하기 위한 안전 규제 촉구

이 연구는 저널 'Philosophy and Technology'에 게재되었으며, 데드봇(deadbot)이 회사에 의해 어떻게 사용될 수 있는지에 대한 예를 제시합니다. 예를 들어, 사별한 사랑하는 사람과 유사한 방식으로 개인에게 제품을 광고하거나, 죽은 부모가 '너와 함께 있다'고 주장하여 아이들을 트라우마에 빠뜨리는 경우 등이 있습니다.

그러나 논문은 모든 경우에 걸쳐 신뢰할 수 없는 기업들과 무분별한 비즈니스 시도가 장기적인 심리적 손상과 사자의 권리 침해를 초래할 수 있다고 제안합니다.

연구자들은 일상적인 상호작용이 압도적인 감정적 무게를 지닌다고 지적합니다. 그들은 이러한 감정적 지지가 자연스러운 상실 대처 방식인 애도 과정을 방해할 수도 있다고 주장합니다. 

윤리적 지뢰밭

캠브리지 대학교의 미래지능 연구소(LCFI) 소속인 카타르지나 노바치크-바신스카(Katarzyna Nowaczyk-Basińska) 박사는 이 연구의 공동 저자로서 “생성형 AI의 급속한 발전으로 인해 인터넷 접근 권한과 기본적인 지식만 있으면 거의 누구나 사별한 사랑하는 사람을 부활시킬 수 있게 되었습니다.” 라고 밝혔습니다.

이 AI 분야는 윤리적 지뢰밭과 같습니다. 가장 중요한 일은 디지털 사후 세계 제공자처럼 이익 추구형 서비스로 인해 사자의 존엄성이 침해되지 않도록 보장하는 것입니다. 주요 문제는 온라인 유산 인프라를 광고를 통해 상업화하려는 기업들로부터 발생할 수 있습니다. 

특히 아이들이 이 과정에 관여되는 것은 매우 위험한데, 그들은 최악의 결과를 겪을 수 있기 때문입니다. '데드봇' 형태의 동반자는 최근 엄마나 아빠를 잃은 아이들을 위로하려는 부모들에게 곧 필수적인 것이 될 수도 있습니다.

애도 과정에 미치는 영향

그러나 이러한 노력이 적합할 수 있는지, 그리고 그 영향이 매우 불쾌할 수 있는지, 더구나 정상적인 애도 과정에 부정적으로 간섭할 수 있는지에 대해 생각하게 만드는 연구를 아직 찾을 수 없습니다.

연구 논문에 따르면 “어떤 재현 서비스도 아이들이 ‘데드봇’과 상호작용하는 것이 유익하거나, 적어도 최소한 이 취약한 계층에게 해를 끼치지 않는다는 것을 증명할 수 없습니다.” 라고 명시되어 있습니다.

죽은 자의 존엄성과 산 자의 심리적 안녕을 보장하기 위해, 연구자들은 이러한 관행을 법규로 제정하는 수준까지 적용할 수 있는 일련의 모범 사례를 제안합니다.

이러한 플랫폼은 데드봇을 '은퇴'시키기 위한 프로토콜, 성인만 상호작용 기능을 제한하는 조치, 모든 인공 엔티티의 운영 한계를 인정하는 것, 그리고 고객에게 매우 투명하게 정보를 제공하는 것을 필요로 합니다.

글로벌 영향력과 다양한 응용 분야

연구자에 따르면, 사자의 이미지를 AI로 생성하는 몇몇 플랫폼이 존재하며 비교적 저렴한 비용으로 가능합니다. 예를 들어, 초기에는 GPT 모델을 사용했고 이후 자체 시스템을 도입한 'Project December'가 있으며, 'Hereafter'와 같은 앱들도 존재합니다.

마찬가지로, 연구에서 언급된 서비스와 동일한 기능을 제공하는 중국 내 counterparts도 존재합니다. 2021년 조슈아 바보(Joshua Barbeau)는 공개적인 주목을 받았으며, 그는 GPT-3를 사용하여 사망한 여자친구의 목소리로 대화하는 챗봇을 개발했습니다. 2015년에는 에우제니아 쿰다(Eugenia Kuyda)가 사망한 친구의 텍스트를 챗봇으로 변환했으며, 이는 가장 인기 있는 AI 컴패니언 앱인 레플리카(Replika)의 탄생으로 이어졌습니다.

이 기술은 챗봇에 국한되지 않습니다. 계보학 사이트인 마이헤리티지(MyHeritage)는 2021년 사용자의 조상들의 개별 사진에서 애니메이션 비디오를 생성하는 'Deep Nostalgia' 기능을 선보였습니다. 이 기능이 바이럴되자, 회사는 많은 사용자가 이를 불쾌하게 여겼다고 인정해야 했습니다. 이러한 기술이 점진적으로 발전함에 따라, 개발을 촉진하기 위해 윤리를 염두에 두는 것 외에는 다른 대안이 없습니다.