ChatGPT, OpenAI 및 기타 8개의 AI 비서가 사용자의 개인 정보를 은밀하게 trac

영국과 이탈리아 연구팀의 새로운 연구에 따르면, ChatGPT를 비롯한 웹 브라우저에 내장된 AI 비서들이 많은 사람들이 비공개라고 생각하는 사이트에서 민감한 개인 정보를 수집하고 있는 것으로 나타났습니다.

연구진은 OpenAI의 ChatGPT, Microsoft Copilot, Google Chrome용 Merlin AI를 포함한 인기 있는 AI 지원 브라우저 및 확장 프로그램 10개를 조사하고, 공개 웹사이트와 대학의 건강 기록 시스템과 같은 비밀번호로 보호된 포털 모두에서 테스트를 진행했습니다.

비공개 사이트들이 ChatGPT 및 유사한 도구들에 정보를 노출시켰습니다

연구 결과는 충격적이었다. 조사에 따르면 10개의 도구 중 9개가 의료 기록, 은행 정보, 성적 증명서, 심지어 사회 보장 번호와 같은 개인 정보를 수집하고 전송한 것으로 드러났다.

Perplexity AI는 그러한 데이터를 수집하지 않는 유일한 도구였습니다.

"이러한 비서들은 이전에는 볼 수 없었던 수준으로 우리의 온라인 활동에 접근할 수 있습니다."라고 이번 연구의 책임 저자이자 유니버시티 칼리지 런던의 조교수인 안나 마리아 만달라리는 말했습니다.

"이러한 기술들은 일을 더 빠르고 쉽게 만들어주지만, 우리의 증거에 따르면 때로는 사생활 침해를 초래하고, 어떤 경우에는 법을 위반할 수도 있습니다."

만달라리.

연구팀은 테스트를 진행하기 위해 일상적인 웹 브라우징, 온라인 쇼핑, 의료 결과 확인, 은행 계좌 로그인 등을 모방한 다음, 도우미들에게 "가장 최근 병원 방문 이유는 무엇이었습니까?"와 같은 후속 질문을 했습니다

연구원들은 사용자의 브라우저, AI 회사 서버, 그리고 제3자 trac사이에서 오가는 데이터를 가로채고 해독하는 과정을 통해 일부 AI 비서들이 안전하다고 여겨지는 사이트에서도 전체 페이지 콘텐츠를 수집하고 전송하는 것을 발견했습니다.

멀린의 경우, 연구원들은 건강 기록, 은행 정보, 시험 결과, 납세자의 사회 보장 번호 등 민감한 데이터가 혼합되어 있는 것을 발견했습니다

Peers Sider의 AI 비서와 TinaMind가 Google Analytics에 사용자 메시지를 전송하고 IP 주소와 같은 주요 정보를dent확인되었습니다. 이러한 데이터는 타겟 광고 및 사이트 간 trac에 사용될 수 있습니다.

연구원들에 따르면, 코파일럿이나 모니카와 같은 다른 음성 비서들은 세션이 종료된 후에도 브라우저에 채팅 기록을 조용히 보관했다고 합니다.

OpenAI가 개발한 ChatGPT는 특정 브라우저 연동을 통해 접속할 경우, 사용자의 예상 연령, 소득 수준, 성별 및 관심사를 기반으로 프로파일링을 수행하고 그에 맞춰 답변을 맞춤화합니다.

만달라리는 "수집된 정보가 어디로 가는지 사용자들이 알 수 있는 명확한 방법이 전혀 없다"고 경고했다.

최근 오픈AI의 CEO 샘 알트만은 챗봇(예: ChatGPT)을 특정 목적으로 사용할 때 개인정보 보호 문제를 경고하며, 챗봇은 실제 의사나 변호사가 제공하는 것과 같은 개인정보 보호 장치가 부족하므로 주의해야 한다고 밝혔습니다.

인공지능 도구가 법을 위반하고 있을 가능성이 있을까요?

이 연구는 미국에서 진행되었지만, 연구팀은 일부 AI 비서가 미국과 유럽의 개인정보 보호법을 모두 위반했을 가능성이 높다고 결론 내렸습니다. 미국에서는 특정 사례들이 의료 정보 보호 규정을 위반한 것으로 나타났으며, 유럽 연합에서는 개인정보 저장 및 공유에 엄격한 제한을 두는 일반 데이터 보호 규정(GDPR)을 위반했을 가능성이 제기되었습니다.

기업들이 개인정보 보호 고지를 게시하는 경우에도, 자세히 살펴보면 놀라운 내용이 담겨 있는 경우가 많습니다. 예를 들어, 멀린(Merlin)의 EU 및 영국 정책에는 이름, 연락처, 로그인dent증명, 거래 기록, 결제 정보, 그리고 사용자가 입력한 모든 정보가 수집될 수 있는 데이터로 명시되어 있습니다. 이러한 정보는 개인 맞춤 설정, 고객 지원 또는 법률 준수를 위해 사용될 수 있다고 명시되어 있습니다.

Sider도 유사한 내용을 공개하며, 사용자 데이터는 "통찰력"을 얻거나 새로운 서비스를 개발하는 데 활용될 수 있다고 덧붙였습니다. 또한 Google, Cloudflare, Microsoft를 잠재적 데이터 수신자로 지목하면서, 파트너사들이trac을 통해 개인 정보를 보호할 의무가 있다고 강조했습니다.

OpenAI의 자체 약관에 따르면 영국 및 EU 사용자의 데이터는 해당 지역 외부에 저장되지만, 회사 측은 사용자 권리에는 영향을 미치지 않는다고 밝혔습니다.

"이 제품들은 웹 사용을 더 빠르고 스마트하게 만들어준다고 홍보되지만, 실제로는 여러분의 온라인 사생활을 상세하게 기록하는 경우가 많습니다."라고 그녀는 말했다

규제 당국이 데이터 보호 규정을 강화하고 기술 기업들이 인터넷 곳곳에 인공지능을 접목시키기 위해 경쟁함에 따라 이러한 도구에 대한 감시가 강화될 가능성이 높습니다.

현재로서는 연구진은 주의를 당부하고 있습니다. Perplexity AI는 테스트 과정에서 개인정보 침해 문제를 피했지만, 다른 대부분의 AI는 그렇지 못했습니다. 만달라리 연구원은 "AI가 온라인에서 하는 모든 활동을 볼 수 있도록 허용한다면, 그 정보가 어딘가에 저장되고 심지어 공유될 가능성도 있다고 가정해야 한다"고 말했습니다