ChatGPT, 명예훼손성 환각 관련 개인정보 침해 혐의로 고소당해

오픈 AI의 챗봇 ChatGPT가 유럽에서 개인정보 침해 문제로 조사를 받고 있습니다. 이 챗봇은 허위 정보를 만들어내는 경향을 보였습니다. 위험하지 않나요? 규제 당국이 이 문제를 그냥 넘기기는 어려울 것 같습니다.

노르웨이의 한 남성이 유럽 디지털 권리 센터( Noyb). 그는 챗봇 ChatGPT가 허위 정보를 제공하는 것을 발견했기 때문입니다. 해당 챗봇은 그가 자녀 두 명을 살해하고 셋째 아이를 살해하려 한 혐의로 유죄 판결을 받았다고 알렸습니다. 이 정보는 나중에 그에게 불리하게 작용할 수 있습니다.

놀라운 점은 OpenAI가 사용자가 AI가 만들어낸 잘못된 정보를 수정할 수 있는 방법을 제공하지 않는다는 것입니다. 오히려 OpenAI는 이러한 유형의 질문에 대한 답변을 차단하는 방식을 제안합니다. 핵심 질문은 해당 정보가 완전히 폐기되는지, 아니면 나중에 다시 생성될 수 있는지 여부입니다.

반면, 유럽 연합의 일반 데이터 보호 규정(GDPR)은 개인에게 자신의 데이터에 대한 접근권과 개인 데이터 정정권을 부여합니다. 이 데이터 보안법의 또 다른 조항은 개인 데이터를 관리하는 사람이 데이터의 정확성을 보장해야 한다고 규정하고 있습니다. 이러한 점이 이 문제를 중요한 쟁점으로 만듭니다.

Noyb의 데이터 보호 변호사인 요아킴 쇠더베리는 "GDPR은 명확합니다. 개인 데이터는 정확해야 합니다. […] 만약 정확하지 않다면, 사용자는 진실을 반영하도록 데이터를 수정할 권리가 있습니다."

그는 덧붙여 “챗봇이 실수를 할 수 있다는 작은 면책 조항을 ChatGPT 사용자에게 보여주는 것만으로는 충분하지 않습니다. 허위 정보를 퍼뜨린 후 마지막에 ‘당신이 말한 모든 것이 사실이 아닐 수도 있습니다’라는 작은 면책 조항을 추가하는 것은 옳지 않습니다.”라고 말했습니다.

진행 중인 수사에 대한 자세한 내용

챗봇은 아르베 얄마르 홀멘이 누구인지 묻는 질문에 슬픈 이야기를 들려줍니다. 그는 아동 살해 혐의로 유죄 판결을 받고 자신의 아이 두 명을 살해한 죄로 21년형을 선고받았다고 합니다.

자, 그렇다면 이것이 왜 더 위험할까요? 얄마르 홀멘이 아동 살인범이라는 것은 사실이 아니지만, 노이브는 ChatGPT의 답변에 몇 가지 사실이 포함되어 있다고 지적합니다. 예를 들어, 해당 인물에게는 세 자녀가 있다는 것입니다.

챗봇은 그의 자녀들의 성별과 고향 이름까지 정확하게dent. 하지만 인공지능이 그토록 끔찍한 거짓말까지 지어냈다는 사실은 더욱 기괴하고 소름 끼치는 일입니다.

노이브 관계자는 챗봇이 왜 이 사람에 대해 그렇게 상세하지만 거짓된 배경 정보를 만들어냈는지 알 수 없다고 밝혔습니다. 대변인은 다른 사람과의 혼동이 아닌지 확인하기 위해 조사를 진행했다고 말했습니다. 또한 신문 자료를 검토했지만 인공지능이 아동 살해 혐의를 지어낸 이유를 찾을 수 없었다고 덧붙였습니다.

현재로서는 ChatGPT에 사용된 것과 같은 대규모 언어 모델이 기본적으로 엄청난 규모로 다음 단어 예측을 수행한다는 것이 가장 타당한 설명입니다. 

이 때문에 해당 도구를 학습시키는 데 사용된 데이터 세트에는 영아 살해 사례가 많이 포함되어 있었고, 이는 특정 남성에 대한 질문에 답하기 위해 선택하는 단어에 영향을 미쳤습니다. 하지만 이유가 무엇이든 간에, 이러한 종류의 출력 결과는 결코 바람직하지 않다는 것은 분명합니다.

한편, 노이브는 챗봇이 인공지능 모델 업데이트 이후 얄마르 홀멘에 대한 위험한 거짓말을 더 이상 하지 않는다고 밝혔습니다 . 이러한 변화는 챗봇이 이제 사용자가 누구인지 물었을 때 인터넷에서 관련 정보를 검색하도록 변경된 것과 관련이 있습니다

ChatGPT가 얄마르 홀멘에 대한 악의적인 거짓 정보를 퍼뜨리는 것을 멈춘 것처럼 보이지만, 노이브와 얄마르 홀멘 모두 여전히 불안해하고 있습니다. 인공지능 모델이 그에 대한 잘못되고 해로운 정보를 계속 간직하고 있을지도 모른다는 생각 때문입니다

노르웨이 데이터 보호 당국이 오픈AI를 상대로 한 진정을 접수했습니다. 노이브는 진정이 오픈AI의 미국 지사를 겨냥한 것이므로 당국이 조사 권한을 갖고 있다고 판단하기를 바라고 있습니다. 진정서에는 오픈AI의 아일랜드 사무소가 유럽 사용자에게 영향을 미치는 제품 결정에 대해 단독으로 책임을 지는 것은 아니라고 명시되어 있습니다.

OpenAI의 운명

이는 OpenAI에게 처음 있는 일이 아닙니다. 이전에도 ChatGPT가 잘못된 생년월일이나 부정확한 약력 정보와 같은 잘못된 개인 데이터를 생성했다는 불만이 제기된 바 있습니다. 

이탈리아 데이터 보호 감독 기관은 GDPR 시행 초기인 2023년 봄, ChatGPT 접속을 일시적으로 차단했습니다. 이로 인해 OpenAI는 사용자에게 제공하는 정보 등을 수정해야 했습니다. 이후 감독 기관은 OpenAI가 정당한 이유 없이 개인 정보를 사용한 것에 대해 1,500만 유로의 벌금을 부과했습니다.

폴란드 데이터 보호 감독 기관이 2023년 9월부터 ChatGPT에 대한 개인정보 침해 신고를 조사해 왔지만 아직 결정을 내리지 않았다는 점도 흥미롭습니다.

그 이후로 유럽의 개인정보보호 담당자들은 GenAI에 대해 더욱 경계심을 갖게 되었습니다. 이는 그들이 GDPR을 이러한 인기 있는 AI 도구에 어떻게 적용하는 것이 가장 좋을지 여전히 고심하고 있기 때문입니다.

하지만 앞서 노이브 챗GPT(Noyb ChatGPT) 관련 불만 제기에서 아일랜드 데이터 보호 위원회(DPC)는 2년 전 GenAI 도구 등을 성급하게 금지해서는 안 된다고 밝혔습니다. DPC는 GDPR 시행을 담당하는 기관입니다. 이는 관계자들이 법이 어떻게 적용되는지 파악하는 데 시간을 투자해야 한다는 의미입니다.

Noyb의 새로운 ChatGPT 관련 소송은 인공지능이 만들어내는 허위 정보의 위험성을 개인정보보호 담당자들에게 알리기 위한 것으로 보입니다. GDPR 위반이 확인될 경우 전 세계 연간 매출액의 최대 4%에 달하는 벌금이 부과될 수 있습니다.