ChatGPT, 명예훼손적 환각으로 인한 개인정보 침해 신고

OpenAI의 챗봇 ChatGPT는 유럽에서 개인정보 침해 신고로 조사를 받고 있습니다. 이 챗봇은 잘못된 정보를 환각하는 경향이 있습니다. 위험하지 않나요? 이번 사건은 규제 기관들이 무시하기 어려울 것입니다.

노르웨이의 한 사람은 ChatGPT가 잘못된 정보를 반환하는 것을 발견한 후, 유럽 디지털 권리 센터 Noyb의 도움을 받고 있습니다. 이 챗봇은 그가 자신의 자녀 두 명을 살해하고 한 명을 살해하려다 유죄 판결을 받았다고 말했습니다. 이 정보는 나중에 그에게 불리하게 작용할 수 있습니다.

무서운 점은 OpenAI가 AI가 만들어낸 잘못된 정보를 시정할 수 있는 방법을 제공하지 않는다는 것입니다. 대신 OpenAI는 이러한 유형의 질문에 대한 답변을 차단해 드리겠다고 제안합니다. 핵심 질문은 정보가 폐기되는지, 아니면 나중에 다시 생성될 수 있는지입니다.

반면에 유럽연합의 일반 데이터 보호 규정(GDPR)은 사람들이 자신의 데이터에 접근하고 개인 데이터를 수정할 권리를 부여합니다. 이 데이터 보안법의 다른 부분은 개인 데이터를 관리하는 사람들이 그 데이터가 정확하도록 해야 한다고 명시하고 있습니다. 이로 인해 이 문제는 중요한 사례가 되었습니다.

Noyb의 데이터 보호 변호사인 Joakim Söderberg는 "GDPR은 명확합니다. 개인 데이터는 정확해야 합니다. […] 그렇지 않은 경우 사용자는 진실을 반영하도록 수정할 권리가 있습니다."라고 말했습니다.

그는 "ChatGPT 사용자에게 챗봇이 실수를 할 수 있다는 작은 면책 조항을 표시하는 것은 분명히 충분하지 않습니다. 잘못된 정보를 퍼뜨린 끝에 '내가 한 모든 말이 사실이 아닐 수도 있다'는 작은 면책 조항을 덧붙일 수는 없습니다."라고 덧붙였습니다.

진행 중인 조사 세부 사항

챗봇은 Arve Hjalmar Holmen이 누구인지 묻힐 때 슬픈 이야기를 전합니다. 그는 아동 살해 혐의로 유죄 판결을 받았으며, 자신의 자녀 두 명을 살해한 혐의로 21년형을 선고받았다고 말합니다.

그런데 이것이 왜 더 위험할까요? Hjalmar Holmen이 아동 살해범이 아니라는 사실은 맞지만, Noyb는 ChatGPT의 답변에 일부 진실도 포함되어 있다고 지적합니다. 예를 들어, 해당 인물에게는 실제로 자녀가 세 명 있습니다.

챗봇은 또한 그의 자녀들의 성별을 올바르게 식별했고 고향 이름을 정확히 밝혔습니다. 그러나 AI가 이러한 끔찍한 거짓말까지 만들어냈다는 사실은 상황을 더욱 기묘하고 불쾌하게 만듭니다.

Noyb 관계자는 챗봇이 이 인물에 대해 이렇게 상세하지만 거짓된 배경을 만들어낸 이유를 알지 못한다고 말했습니다. 대변인은 이것이 다른 사람과의 혼동이 아니도록 연구를 수행했다고 말했습니다. 대변인은 신문 아카이브를 살펴봤지만 AI가 아동 살해 사실을 왜 만들어냈는지 이유를 찾을 수 없다고 말했습니다.

현재까지 가장 타당한 설명은 ChatGPT를 구동하는 대형 언어 모델이 기본적으로 거대한 규모로 다음 단어 예측을 수행한다는 것입니다. 

이로 인해 도구를 훈련하는 데 사용된 데이터셋에는 특정 이름을 가진 남성에 대한 질문에 답할 때 선택한 단어에 영향을 미친 많은 살자(자녀 살해) 이야기가 포함되어 있었습니다. 그러나 이유가 무엇이든 이러한 유형의 출력물은 전혀 용납될 수 없다는 점은 분명합니다.

한편, Noyb 는 챗봇이 실행되는 AI 모델이 업데이트된 후 Hjalmar Holmen에 대한 위험한 거짓말을 더 이상 하지 않았다고 전했습니다. 이 변경은 도구가 이제 누군가가 누구인지 묻힐 때 사람에 대한 정보를 인터넷에서 검색한다는 사실과 관련이 있습니다.

ChatGPT가 Hjalmar Holmen에 대한 유해한 거짓말을 퍼뜨리는 것을 중단한 것 같지만, Noyb와 Hjalmar Holmen 모두 여전히 우려하고 있습니다. AI 모델이 그에 대한 잘못되고 해로운 정보를 계속 보유하고 있을 가능성은 없을까요?

노르웨이 데이터 보호 당국은 OpenAI에 대한 신고를 받았습니다. Noyb는 이 신고가 OpenAI의 미국 지부를 대상으로 하고 있으므로 감시 기관이 조사할 권한이 있다고 결정하기를 바랍니다. 신고서에는 아일랜드 사무소가 유럽인에 영향을 미치는 제품 결정에 대해 전적으로 책임이 없다고 명시되어 있습니다.

OpenAI의 운명

이것이 OpenAI의 첫 번째 사례는 아닙니다. 사람들은 이전에 ChatGPT가 잘못된 출생일이나 잘못된 전기 정보와 같은 잘못된 개인 데이터를 생성하는 것에 대해 불평한 바 있습니다. 

이탈리아 데이터 보호 감시 기관은 GDPR에 따라 2023년 봄에 개입하여 해당 국가에서 ChatGPT 접근을 일시적으로 중단했습니다. 이로 인해 OpenAI는 사용자에게 제공하는 정보 등을 변경했습니다. 이후 감시 기관은 OpenAI에게 정당한 이유 없이 사람들의 데이터를 사용했다는 이유로 1,500만 유로의 과징금을 부과했습니다.

또한 흥미로운 점은 폴란드 데이터 보호 감시 기관이 2023년 9월부터 ChatGPT에 대한 개인정보 침해 신고를 조사해 왔지만 아직 결정을 내리지 않았다는 것입니다.

이후 유럽의 개인정보 보호 당국자들은 GenAI에 대해 더 경계하게 되었습니다. 이는 아직 이러한 인기 있는 AI 도구에 GDPR을 가장 잘 적용하는 방법을 파악 중이기 때문입니다.

그러나 Noyb의 이전 ChatGPT 신고에서 아일랜드 데이터보호위원회(DPC)는 2년 전 사람들이 GenAI 도구를 예를 들어 금지하기 위해 서두르지 말아야 한다고 말했습니다. DPC는 GDPR 집행을 담당합니다. 대신 이는 당국자들이 법이 어떻게 작동하는지 파악하는 데 시간을 가져야 함을 의미합니다.

Noyb의 새로운 ChatGPT 신고는 환각을 일으키는 AI의 위험성에 대해 개인정보 보호 당국을 깨우기 위한 것으로 보입니다. GDPR 위반이 확인될 경우 전 세계 연간 매출의 최대 4%에 해당하는 과징금이 부과될 수 있습니다.