시그널(Signal)dent 메러디스 휘태커는 일반 대중에게 에이전트형 인공지능(AI)과 관련된 위험성을 경고했습니다. 텍사스주 오스틴에서 열린 SXSW 컨퍼런스에서 그녀는 에이전트형 AI를 사용하는 것이 사용자 개인정보 보호에 위험을 초래할 수 있다고 언급했습니다.
성명 에 따르면 , 그녀는 안전한 통신 방식의 필요성을 언급하며 AI 에이전트를 사용하는 것은 "뇌를 유리병에 넣는 것"과 같다고 지적했습니다. 또한 사용자들이 AI에게 작업을 맡기는 새로운 추세는 개인정보 보호와 보안 모두에 문제를 야기할 수 있다고 덧붙였습니다.
암호화폐 업계에서 인공지능(AI) 에이전트의 사용이 급증하고 있으며, 탈중앙화 금융(DeFi) 분야 사용자들은 이러한 AI 에이전트를 활용하여 거래 실행, 전략 조정 및 최적화와 같은 작업을 사용자 입력 없이 또는 최소한의 입력만으로 수행하고 있습니다. 또한, AI 에이전트는 플랫폼에 통합되어 사용자들이 더욱 쉽고, 스마트하고, 빠르게 거래할 수 있도록 지원합니다. 하지만 일부 봇은 사용자가 AI 에이전트와 상호 작용하기 전에 먼저 다운로드해야 하는 경우도 있습니다.
대통령, AI 에이전트에 대한dent 를 촉구
시그널(Signal)의 사장인dent(Whittaker)에 따르면, 다양한 플랫폼들이 사용자들의 삶을 더욱 편리하게 만들어주는 부가 가치 서비스의 일환으로 AI 에이전트를 마케팅하기 시작했습니다. 휘태커 사장은 연설에서 이러한 에이전트들이 암호화폐 분야 외에도 사용자들을 위해 다양한 온라인 작업을 처리한다고 언급했습니다. 예를 들어, AI 에이전트는 이벤트 티켓 구매, 캘린더 일정 관리, 친구 메시지 전송 등을 수행할 수 있습니다.
"그러니까 뇌가 알아서 작동하니까 우리가 손댈 필요 없이 그냥 병에 넣어두면 된다는 거죠?" 시그널 사장dent 물었다.
질문을 던진 후, 그녀는 사용자의 삶을 효율적으로 만들어주는 이러한 모든 작업을 수행하기 위해 AI 에이전트에게 사용자가 부여해야 하는 권한에 대해 장황하게 설명했습니다. 휘태커는 이러한 권한에는 웹 브라우저, 캘린더, 메시징 앱에 대한 접근 권한이 포함되며, 때로는 사용자를 위해 예약한 이벤트 티켓 비용을 결제해야 하므로 신용 카드 정보도 필요할 수 있다고 덧붙였습니다.
"그렇게 하려면 루트 권한처럼 보이는 권한으로 시스템 전체에 걸쳐 해당 프로세스를 실행할 수 있어야 하고, 모든 데이터베이스에 접근할 수 있어야 할 겁니다. 암호화된 상태로 접근할 수 있는 모델이 없기 때문에 아마도 암호화되지 않은 상태로 접근해야 할 겁니다."라고 휘태커는 덧붙였다.
휘태커의 성명은 인공지능 업계에 신중을 기할 것을 촉구한다
휘태커는 성명에서 AI 에이전트가 AI 모델에 의해 구동되어야만 제대로 작동할 수 있다고 언급했습니다. 또한 정보가 서버로 전송되어 처리된 후 다시 전송되는 과정과 보안의 관계에 대해서도 논의했습니다.
"따라서 에이전트에 대한 이러한 과대광고에는 보안 및 개인 정보 보호와 관련된 심각한 문제가 숨어 있으며, 궁극적으로 이러한 개별 서비스를 모두 통합하고 데이터를 혼합함으로써 애플리케이션 계층과 운영 체제 계층 사이의 혈뇌 장벽을 무너뜨릴 위험이 있습니다."라고 휘태커는 덧붙였습니다.
그녀는 또한 시그널이 앱에 AI 에이전트를 통합하기로 결정한다면 사용자 메시지의 개인 정보 보호가 훼손될 것이라고 지적했습니다. 그녀는 에이전트가 다른 사람에게 문자를 보내고 텍스트를 요약하기 위해 정보를 추출하려면 앱에 접근해야 한다고 덧붙였습니다.
인공지능 산업이 점을 논의하는 패널 토론에 참여한 후 나왔습니다 . 휘태커는 또한 수집되는 데이터가 많을수록 바람직하지 않은 결과를 초래할 가능성이 있다고 덧붙였습니다.
시그널 사장은 에이전트dent AI에 대해 언급하며 "삶의 긴급한 문제들을 해결해 줄 '마법의 지니 봇' 때문에 개인정보 보호와 보안이 더욱 약화될 것"이라고 결론지었다.
