인공지능의 "환각"이 개인정보 침해 소송을 촉발시켰습니다

오스트리아의 독립 데이터 보호 단체인 노이브(Noyb)dent 이유로 EU 개인정보보호 당국에 진정을 제기했습니다 오픈AI 가 GDPR을 위반하고 잘못된 정보에 대한 시정 조치를 제공하지 않았다는

개인정보보호 불만 제기

저명한 개인정보 보호 변호사이자 유능한 활동가인 슈렘스는 EU에서 가장 중요한 개인정보 보호 관련 민원을 제기했습니다. OpenAI는 오스트리아 지배 및 차별 협회(DSB)에 소송을 제기했는데, DSB는 AI(인공지능)의 대규모 언어 모델이 제공하는 잘못된 답변인 "환각"에 초점을 맞추고 있습니다. 중재 명령이 요청하는 구제 조치에는 침해 조사, 확인적 결정, 처벌, 그리고 시정 조치 검토가 포함됩니다.

오픈AI(OpenAI)라는 회사는 개인정보 침해 사실을 알고 있지만, 이는 중요하지 않다고 합니다. 보도자료에 따르면, 노이브의 성명은 소송 제기를 알리는 성명서에 포함되어 있습니다.

ChatGPT를 포함한 대규모 모델은 특정 선택에 가장 적합한 단어를 예측하기 위해 계산을 수행합니다. 모델이 맥락을 파악하지 못해 잘못된 단어를 선택하거나, 업계 전문 용어인 "환각"을 유발하는 경우가 있습니다.

그러나 이는 "개인정보보호" 전통에 따른 개인의 권리와는 다릅니다. Noyb의 경우, 유럽 규정은 1995년 이후 개인 정보의 정확성에 대한 필요성을 명시하는 데 크게 진전이 없었으며, EU의 최신 개인정보보호법인 GDPR은 정확한 개인 정보 보호 의무를 명시하고 있습니다.

AI '환각'을 타깃으로

이와 관련하여 Noyb는 생년월일 정보가 없는 모든 공개 전문가의 개인 정보는 온라인에서 확인 가능하다고 지적했습니다. ChatGPT는 질문의 오류로 인해 주요 날짜를 잘못 입력하여 답변했습니다.

OpenAI 역시 2023년 12월에 진행된 조사 요청에 따른 데이터 접근 및 삭제와 관련하여 요청하지 않은 응답에 만족하지 않았습니다. GDPR에 따라 데이터 관리자는 개인 정보 주체에게 데이터 처리에 대해 알려야 하며 요청 시 주체의 데이터를 삭제해야 하지만 삭제에 대한 제한은 허용됩니다.

Noyb이 사건에서 원고 역할을 한

데이터 요청이 잘못 처리되었습니다.

OpenAI가 말했듯이, 교육적 메시지를 전달하는 것 외에도, 그들은 모델이 질의에 응답할 때 출생 연도를 말하는 것을 막기 위해 최선을 다하겠다고 약속했습니다. 그러나 불만 사항에 따르면, 그들은 잘못 표시된 답변을 수정할 수 없습니다.

이는 결과적으로 해당 데이터 주체에 대한 추가 정보가 ChatGPT. 즉, 이는 OpenAI가 이의를 제기하여 신고한 이 유명 인사에 대한 대중의 정보 접근권을 저해하는 것입니다.

청구 내용은 "챗봇의 어떠한 조치도 정보를 수정할 수 없고, 어떠한 필터도 선택적으로 걸러낼 수 없으며, 단순히 데이터 주체가 관리자에 따르면 이 상황을 준수할 수 없다"는 것입니다.

노이브는 EU 반독점청장 마르그레테 베스타거에게 "아일랜드 지사만 있고 본사는 여전히 미국에 있습니다."라고 말했습니다. 이 피고는 미국 법인인 OpenAI OpCo LLC의 자회사이기 때문에 소송에서 거론되었는데, 이는 회사 약관에 명시되어 있습니다.