AI 환각이 오픈AI에 또 다른 법적 문제를 가져왔다

개인정보보호단체인 노이브(Noyb)는 오픈아이언(OpenAI)의 제품 챗GPT가 유럽연합(EU)의 여러 데이터 보호법을 위반했다며 오스트리아 데이터보호청(DPA)에 진정을 제기했습니다. 노이브는 챗GPT가 개인에 대한 부정확한 정보를 공유하고 있으며, EU 일반 데이터 보호 규정(GDPR)은 개인 정보가 정확해야 하고 개인에게 자신에 관한 정보에 대한 완전한 접근 권한이 제공되어야 한다고 규정하고 있다고 밝혔습니다.

OpenAI, GDPR 관련 혐의에 직면

Noyb는 유명 변호사이자 활동가인 막스 슈렘스가 설립했으며, ChatGPT가 유명 공인의 생일을 허위로 기재했다고 주장했습니다. Noyb는 슈렘스에게 해당 인물과 관련된 데이터에 접근하여 삭제할 권한을 요청했지만, Open AI가 이를 거부했다고 밝혔습니다.

노이브는 EU의 GDPR에 따르면 개인에 관한 모든 정보는 정확해야 하며, 개인은 정보의 출처에 대한 접근 권한과 정보를 보장받아야 한다고 말합니다. 그러나 OpenAI는 ChatGPT 모델의 정보를 수정할 수 없다고 주장합니다. 또한, 정보의 출처를 알 수 없으며, ChatGPT가 개인에 대해 어떤 데이터를 저장하는지도 모른다고 합니다. 

Noyb는 OpenAI가 이 문제를 알고 있으면서도 신경 쓰지 않는 것 같다고 주장하며, 그 이유로 OpenAI의 주장은 다음과 같다고 말합니다

"대규모 언어 모델의 사실적 정확성은 여전히 ​​활발한 연구가 진행되고 있는 분야입니다."

노이브는 ChatGPT가dent이 숙제를 위해 사용할 때 잘못된 정보를 쏟아내는 것은 용납될 수 있지만, 개인 정보는 정확해야 한다는 EU 법률 요건을 고려할 때 개인에게 잘못된 정보를 제공하는 것은 명백히 용납할 수 없다고 지적했습니다. 

환각 증상 때문에 챗봇이 EU 규정을 준수하지 못하게 됩니다

에 빠지기 쉽고 환각 실제로는 거짓된 정보를 만들어낼 수 있다고 언급했습니다. 그들은 오픈아이얼의 정보 생성 기술 절차에 의문을 제기하며, 오픈아이얼의 추론 방식을 지적했습니다.

"사용자 요청에 대한 응답으로, 각 프롬프트에 대한 응답으로 나타날 가능성이 가장 높은 다음 단어를 예측합니다."

노이브는 이는 회사가 모델 학습에 사용할 수 있는 방대한 데이터 세트를 보유하고 있음에도 불구하고 사용자에게 제공하는 답변이 사실에 부합한다고 보장할 수 없다는 것을 의미한다고 주장합니다.

Noyb의 데이터 보호 변호사인 Maartje de Gaaf는 다음과 같이 말했습니다

“허위 정보를 지어내는 것 자체가 심각한matic 입니다. 하지만 개인에 대한 허위 정보의 경우에는 더욱 심각한 결과를 초래할 수 있습니다.”

출처: 노이브.

그는 또한 모든 기술은 법을 준수해야 하며 함부로 사용해서는 안 된다고 말했습니다. 그의 말에 따르면, 어떤 도구가 개인에 대한 정확한 결과를 도출할 수 없다면 그러한 목적으로 사용될 수 없다는 것입니다. 그는 또한 기업들이 아직 EU 법규를 준수하는 챗봇을 개발할 만큼 기술적으로 충분히 발전하지 못했다고 덧붙였습니다.

생성형 AI 도구는 유럽 개인정보보호 규제 당국의 엄격한 감시를 받고 있으며, 2023년에는 이탈리아 데이터보호청(DPA)이 데이터 보호를 일시적으로 제한하기도 했습니다. 앞으로 어떤 결과가 나올지는 아직 불확실하지만, 노이브(Noyb)오픈AI는 EU 법을 준수할 의사조차 없다고 합니다.