AI 환각이 OpenAI에 또 다른 법적 문제를 야기하다

개인정보 보호 단체인 Noyb는 ChatGPT가 EU의 많은 데이터 보호 법규를 위반한다는 이유로 오스트리아 데이터 보호 당국(DPA)에 OpenAI를 고소했습니다. 이 단체는 ChatGPT가 사람들에 대해 잘못된 정보를 공유하며, EU의 일반 데이터 보호 규정(GDPR)은 사람에 대한 정보가 정확해야 하며, 개인은 자신에 대한 정보에 완전히 접근할 권리가 있다고 밝혔습니다.

OpenAI, GDPR 위반 혐의에 직면

Noyb는 유명 변호사이자 활동가인 막스 스키름스(Max Schrems)에 의해 설립되었으며, ChatGPT가 유명 공인 인물의 잘못된 생년월일을 공유했다고 주장했습니다. 또한 해당 인물에 대한 데이터 접근 및 삭제를 요청했을 때 OpenAI가 이를 거부했다고 밝혔습니다.

Noyb는 EU의 GDPR에 따라 개인에 대한 모든 정보는 정확해야 하며, 개인은 정보 출처에 대한 접근과 정보를 가져야 한다고 주장하지만, OpenAI는 ChatGPT 모델의 정보를 수정할 수 없다고 말합니다. 또한 회사는 정보의 출처를 알 수 없으며, ChatGPT가 개인에 대해 어떤 데이터를 저장하는지도 모른다고 합니다. 

Noyb는 OpenAI가 이 문제를 인지하고 있지만 무관심한 것 같다고 주장하며, 이에 대한 OpenAI의 주장은 다음과 같습니다.

“대규모 언어 모델의 사실적 정확성은 여전히 활발한 연구 분야입니다.”

Noyb는 학생들이 숙제를 위해 ChatGPT를 사용할 때 잘못된 정보가 용인될 수 있지만, 개인에게는 명백히 용납될 수 없다고 밝혔습니다. EU 법규는 개인 데이터가 정확해야 한다고 요구하기 때문입니다. 

환각 현상이 채팅봇을 EU 규정 미준수 상태로 만듦

Noyb는 AI 모델이 환각 에 취약하며 실제로 잘못된 정보를 생성한다고 언급했습니다. 그들은 OpenAI의 정보 생성 기술적 절차에 의문을 제기했으며, OpenAI의 추론에 따르면

“사용자 요청에 대한 응답은 각 프롬프트에 대한 응답으로 나타날 가능성이 가장 높은 다음 단어를 예측함으로써 이루어집니다.”

Noyb는 회사가 모델 훈련을 위해 광범위한 데이터 세트를 보유하고 있음에도 불구하고 사용자에게 제공되는 답변이 사실적으로 정확함을 보장할 수 없다는 점을 지적하며, 이것이 의미하는 바는

Noyb의 데이터 보호 변호사인 마르트예 데 가프(Maartje de Gaaf)는 다음과 같이 말했습니다.

“잘못된 정보를 만들어내는 것 자체가 매우 문제입니다. 하지만 개인에 대한 잘못된 정보의 경우 심각한 결과가 초래될 수 있습니다.”

출처: Noyb.

그는 또한 모든 기술은 법을 따라야 하며 장난쳐서는 안 된다고 말했습니다. 그는 도구가 개인에 대해 정확한 결과를 생성할 수 없다면 그 목적으로 사용될 수 없다고 주장했으며, 기업들은 아직 EU의 관련 법규를 준수할 수 있는 채팅봇을 기술적으로 준비되지 않았다고 덧붙였습니다.

생성형 AI 도구는 유럽의 개인정보 보호 규제 기관들의 엄격한 감시를 받고 있습니다. 2023년 이탈리아 DPA가 데이터 보호를 일시적으로 제한한 바 있습니다. 결과는 아직 불분명하지만, Noyb에 따르면 OpenAI는 EU 법규 준수를 심지어 시도하지도 않는 것 같습니다.