인공지능 데드봇이 디지털 존엄성에 대한 의문을 제기하면서 윤리적 우려가 커지고 있다

AI 전문가들은 데드봇 AI, 즉 고인의 디지털 부활이 곧 현실이 될 것이라고 경고합니다. 따라서 제작자와 사용자의 "유령"으로 인해 사람들이 심리적 피해를 입는 것을 방지하기 위해 이 문제에 대한 규제가 반드시 필요합니다.

이러한 서비스의 한 예는 기술적으로 가능하고 법적으로 허용된다면 잃어버린 사람과의 저장된 대화를 사용하여 "할머니에게 다시 전화"하는 챗봇을 만들 수 있게 될 것입니다. 이는 케임브리지 대학 과학자들이 말했듯이 그러한 대화를 듣고 사람들의 감정을 이해하는 의미에서입니다. 

조사에 따르면 일부 회사는 블랙미러의 "곧 돌아올게요" 에피소드와 비슷한 방식으로 서비스를 제공하는데, 이는 챗봇이 사망한 사람의 디지털 발자국을 활용하여 그 사람의 언어 패턴과 성격 특성을 모방할 수 있도록 하는 방식이라고 합니다.

디지털 존엄성 보호를 위한 안전 규정 촉구

이 연구는 발표된 기업들이 죽은 봇을 어떻게 활용할 수 있는지에 대한 사례를 제시합니다. 예를 들어, 사망한 사랑하는 사람을 떠올리게 하는 방식으로 제품을 광고하거나, 죽은 부모가 "너와 함께 있다"고 주장하며 아이들에게 트라우마를 줄 수 있다는 것입니다. 

그러나 어떤 경우든 신뢰할 수 없는 회사와 무모한 사업 계획은 장기적인 심리적 피해와 사망자의 권리 침해로 이어질 수 있다고 보고서는 시사합니다.

연구진은 일상적인 상호작용이 압도적인 감정적 무게를 안고 이루어진다고 주장합니다. 그들은 이러한 정서적 지지가 상실을 극복하는 자연스러운 방법인 슬픔의 과정을 방해할 수도 있다고 주장합니다. 

윤리적 지뢰밭

 이번 연구의 공동 저자 중 한 명인 케임브리지 레버흄 미래지능센터(LCFI)의 카타르지나 노바치크-바신스카 박사는 "생성형 인공지능의 빠른 발전으로 인터넷 접속과 기본적인 지식만 있다면 누구나 세상을 떠난 사랑하는 사람을 되살릴 수 있게 되었습니다." 

AI의 이 영역은 윤리적 지뢰밭처럼 보입니다. 가장 중요한 것은 디지털 사후세계 서비스 제공업체처럼 영리 목적의 서비스에 의해 고인의 존엄성이 침해되지 않도록 하는 것입니다. 가장 큰 문제는 광고를 통해 기존 온라인 인프라를 상업화하려는 기업들에서 발생할 수 있습니다. 

특히 아이들을 이 과정에 참여시키는 것은 최악의 결과에 직면할 수 있기 때문에 매우 위험합니다. 최근 부모님을 잃은 아이들을 위로하고자 하는 부모들에게 '데드봇' 형태의 동반자가 곧 필요할지도 모릅니다.

애도 과정에 미치는 영향

그러나 이러한 노력의 적합성을 나타낼 수 있는 연구는 없으며, 이로 인해 발생할 수 있는 불쾌한 영향은 말할 것도 없고 정상적인 애도 과정을 부정적으로 방해할 수 있다는 사실을 생각해야 합니다.

연구 논문에 따르면, "어떤 오락 서비스도 어린이들이 '죽은 로봇'과 상호작용하는 것이 유익하다거나, 적어도 이 취약한 집단에 해를 끼치지 않는다는 것을 증명할 수 없다."

죽은 자의 존엄성과 살아있는 자의 심리적 안녕을 보장하기 위해 연구자들은 이를 규제하는 법률을 만드는 데까지 적용될 수 있는 다양한 모범 사례를 제안합니다.

이러한 플랫폼에는 데드봇을 "폐지"하기 위한 프로토콜이 필요하며, 데드봇의 대화형 기능을 성인에게만 제한하고, 완전한 작동에서 모든 인공적 존재의 한계를 인정하며, 고객에게 매우 투명해야 합니다.

글로벌 도달 범위 및 다양한 응용 프로그램

연구진에 따르면, AI를 활용하여 저렴한 비용으로 사망자 이미지를 생성할 수 있는 플랫폼이 일부 존재합니다. 예를 들어, 처음에는 GPT 모델을 사용하다가 나중에는 GPT 시스템을 활용한 Project December가 있으며, Hereafter와 같은 앱도 있습니다.

마찬가지로, 이 연구에서 지적된 것과 동일한 서비스를 제공하는 중국 기업들도 있습니다. 2021년, 조슈아 바보는 세간의 주목을 받았습니다 . 2015년, 유지니아 쿠이다는 사망한 친구의 문자를 챗봇으로 변환했고, 이는 Replika라는 가장 인기 있는 AI 동반 ​​앱의 탄생으로 이어졌습니다.

이 기술은 챗봇에만 국한되지 않습니다. 계보 사이트인 MyHeritage는 2021년에 사용자 조상의 사진을 기반으로 애니메이션 동영상을 생성하는 기능인 Deep Nostalgia를 선보였습니다. 이 기능이 입소문을 타자마자, 회사는 많은 사용자들이 이 기능이 소름 끼친다고 생각했다는 사실을 인정해야 했습니다. 이러한 기술들이 점진적으로 발전함에 따라, 개발을 원활하게 하기 위해서는 윤리를 고려하는 것 외에는 다른 대안이 없습니다.