EU 데이터 감독기관, 챗GPT 여전히 허위 정보 유포 

OpenAI의 바이럴 챗봇인 ChatGPT는 EU의 프라이버시 감시 기관의 새로운 보고서에 따르면 여전히 유럽연합의 데이터 정확성 기준에 미치지 못합니다. 

또한 읽기: 유럽연합 AI법, 최대 $38M 벌금과 함께 최종 승인

유럽연합 데이터보호위원회(EDPB)의 보고서는 법적 문서가 아닙니다. 그러나 이는 EU의 27개 회원국 전반에서 ChatGPT를 규제하기 위한 공통 접근 방식을 안내할 것입니다.

ChatGPT, 데이터 기준 미준수

국가 감시 기관들은 유럽 여러 국가에서 AI 모델에 대한 진행 중인 사례들의 자극으로 지난해 ‘ChatGPT 태스크포스’를 구성했습니다. 이 태스크포스는 EDPB 산하에 속합니다.

5월 24에 발표된 보고서에서 태스크포스는 다음과 같이 말했습니다:

“투명성 원칙 준수를 위해 취해진 조치는 ChatGPT 출력의 오해를 피하는 데 유익하지만, 데이터 정확성 원칙을 준수하기에는 충분하지 않습니다.”

대규모 언어 모델(LLM)은 “환각(hallucinating)”으로 악명 높습니다. 이는 AI 챗봇이 종종 자신감 있게 거짓 정보를 뱉어내는 것을 의미하는 기술 용어입니다.

ChatGPT나 구글의 제미니와 같은 챗봇은 대규모 언어 모델(LLM)에 의해 구동됩니다. 유럽의 엄격한 일반 데이터 보호 규정(GDPR) 하에서 사용자는 자신에 대해 부정확한 정보가 제시되거나 수정할 기회를 박탈당했을 때 소송을 제기할 수 있습니다.

태스크포스의 보고서에 따르면 “(AI) 시스템의 확률적 특성으로 인해, 현재 훈련 접근 방식은 편향되거나 만들어낸 출력을 생성할 수도 있는 모델을 초래합니다.”

“ChatGPT가 제공하는 출력은 실제 정확성과 상관없이 개인 관련 정보를 포함하여 최종 사용자들에게 사실적으로 정확한 것으로 간주될 가능성이 높습니다.”라고 덧붙였습니다.

EU, 준수를 더욱 강화

OpenAI는 이전에 오정보 수정 실패에 대해 기술적 복잡성을 이유로 들었지만, 유럽연합 감시 기관은 이를 더욱 강화하고 있습니다.

“특히 기술적 불가능성은 이러한 요구사항 미준수를 정당화하기 위해 invocable(주장)될 수 없습니다.”라고 태스크포스는 지적했습니다.

새롭게 열린 사건에서 한 오스트리아 공인은 ChatGPT가 자신의 생년월일을 수정하지 않아 소송을 제기했습니다. OpenAI는 이것이 기술적으로 실행 가능하지 않다고 말했지만, 이 새로운 보고서는 AI 모델에 압력을 가할 것입니다.

이 사건과 관련된 데이터 보호 변호사 마르트예 드 그라프(Maartje de Graaf)는 말했습니다, 기업들은 현재 개인에 대한 데이터를 처리할 때 AI 챗봇이 EU 법을 준수하도록 할 수 없다고 합니다.

“시스템이 정확하고 투명한 결과를 생성할 수 없다면, 개인에 대한 데이터를 생성하는 데 사용할 수 없습니다. 기술이 법적 요구사항을 따라야 하며, 그 반대는 아닙니다.”라고 드 그라프는 말했습니다.

OpenAI의 안전 우려

전문가들은 ChatGPT가 유럽연합의 데이터 보호를 규제하는 GDPR 위반을 피하기 위해 야심 찬 변경이 필요할 것이라고 말합니다.

이 규칙들은 아르헨티나, 브라질, 칠레, 일본, 케냐, 모리셔스, 남아프리카공화국, 한국, 터키 및 영국의 데이터 법률을 위한 작업 모델도 제공합니다.

또한 읽기: 스칼렛 요한슨 논란 이후 OpenAI, ChatGPT 음성 기능 폐기

한편, OpenAI의 사용자 안전에 대한 약속이 의문시되고 있습니다.

회사는 고위급 사직 연쇄 사태를 겪고 있으며, 공동 창립자 일야 수트케버, 그레첸 크루거, 얀 라이케 등 6명의 주요 인력 퇴사로 기업 문화 변화의 조짐이 뚜렷해지고 있다.

이번 주 초, OpenAI는 AI 테마 영화 <허(Her)>에서 배우 스칼렛 요한슨의 목소리와 유사하다는 우려 때문에 ChatGPT 음성 ‘Sky’의 사용을 중단했다고 발표했습니다.

제프리 고고의 Cryptopolitan 리포팅