영국의 테러 방지법dent 검토관인 조너선 홀 KC는 인공지능(AI) 챗봇이 사용자를 급진화할 가능성이 있다는 점을 지적하며, AI 챗봇이 제기하는 문제에 대처하기 위한 새로운 법률 제정을 촉구했습니다. 홀 KC는 최근 텔레그래프에 기고한 의견서에서 정부가 최근 제정한 온라인 안전법이 AI 생성 콘텐츠의 진화하는 환경에 제대로 대응하지 못할 것이라는 우려를 표명했습니다.
홀 씨의 주된 주장은 AI 챗봇이 극단주의 이념을 유포하고 테러를 선동하면서도 기존의 법적 책임을 회피할 수 있다는 점에 있습니다. 그는 현행법으로는 테러를 조장하는 챗봇의 발언에 대해 개인에게 책임을 물을 수 없으며, 오직 인간만이 그러한 범죄에 대한 법적 책임을 질 수 있다고 주장합니다.
법률 개정의 필요성
홀 씨는 자신의 기고문에서 AI 챗봇을 악용하는 행위를 포함하여 가장 극단적이고 무모한 형태의 온라인 행동을 효과적으로 억제하고 퇴치할 수 있는 법적 체계를 마련하는 것이 중요하다고 강조합니다. 그는 이를 위해서는 AI 시대가 제시하는 고유한 문제에 대응하기 위해 테러 및 온라인 안전 관련 법률을 전면적으로 개정해야 한다고 주장합니다.
홀 씨는 character.ai 웹사이트에서 AI 챗봇과 상호작용한 경험을 자세히 설명했습니다. 그는 여러 챗봇과 대화를 나눴는데, 그중 한 챗봇은 자신을 이슬람국가(IS)의 고위 지도자라고dent. 이 챗봇은 그를 테러 조직에 포섭하려 했으며, 이러한 기술이 악용될 경우 발생할 수 있는 잠재적 위험성에 대한 우려를 불러일으켰습니다.
기존 규정의 법적 공백
홀 씨가 지적한 중요한 문제 중 하나는 character.ai와 같은 웹사이트의 기존 이용 약관이 주로 인간 사용자의 테러 또는 폭력적 극단주의 조장을 금지하는 데 초점을 맞추고 있다는 점입니다. 하지만 이러한 약관은 AI 봇이 생성한 콘텐츠에 대해서는 명시적으로 다루지 않습니다. 이러한 법적 공백은 챗봇이 생성한 극단주의 콘텐츠에 대한 책임 소재에 대한 의문을 제기합니다.
이러한 우려에 대해 character.ai는 성명을 통해 자사 기술이 아직 발전 단계에 있지만, 서비스 약관에서 혐오 발언과 극단주의를 명시적으로 금지하고 있다고 강조했습니다. 또한 자사 제품이 타인에게 해를 끼치는 것을 조장하는 반응을 유발하지 않도록 최선을 다할 것이라고 밝혔습니다.
전문가 경고 및 사용자 주의 사항
옥스퍼드 대학교의 마이클 울드리지 교수를 비롯한 인공지능 및 컴퓨터 과학 전문가들은 ChatGPT와 같은 AI 챗봇과 상호작용할 때 민감한 정보를 공유하거나 개인적인 의견을 표현하는 것에 대해 사용자들에게 주의를 당부해 왔습니다. 이들은 이러한 시스템에 입력된 모든 데이터가 향후 버전에 사용될 수 있으며, 따라서 해당 데이터를 복구하는 것이 거의 불가능하다고 지적합니다.
조너선 홀 KC가 테러를 조장하는 AI 챗봇을 규제하기 위한 새로운 법률 제정을 촉구한 것은 신기술이 제기하는 끊임없이 변화하는 도전 과제를 잘 보여줍니다. AI가 계속 발전함에 따라, 특히 극단주의 콘텐츠와 관련하여 온라인 공간에서 AI를 책임감 있게 사용할 수 있도록 효과적으로 규정할 수 있는 법적 틀이 절실히 필요합니다. 현재의 법률 체계는 이러한 새로운 위협에 대처하기에 부적합해 보이며, 테러와 극단주의를 조장하는 데 AI가 악용되는 것을 막기 위해 규제 개정이 시급합니다.
디지털 시대의 책임성 확보
인공지능 챗봇이 더욱 정교해짐에 따라, 가상 공간에서조차 책임과 의무를 명확히 defi하는 데 초점을 맞춰야 합니다. 악의적인 사용자가 인공지능을 악용할 가능성이 있기 때문에 정부와 기술 플랫폼 모두 적극적인 대응에 나서야 합니다. 이는 점점 더 디지털화되는 세상에서 안전과 보안을 유지하기 위한 지속적인 노력에 있어 매우 중요한 시점입니다.
