시그널 회장, 에이전트 AI의 위험에 대한 경고

시그널 회장 메레디스 휘터커는 에이전트 인공지능(AI)과 관련된 위험에 대해 일반 대중에게 경고했습니다. 텍사스 오스틴에서 열린 SXSW 컨퍼런스에서 그녀는 에이전트 AI 사용이 사용자에게 프라이버시 위험을 초래할 수 있다고 언급했습니다.

Whittaker의 성명에 따르면, 그녀는 보안 통신 수단의 필요성을 언급하며 AI 에이전트를 사용하는 것이 “뇌를 항아리에 넣는 것과 같다”고 지적했습니다. 그녀는 사용자가 대신 작업을 수행하도록 AI를 허용하는 새로운 트렌드가 프라이버시와 보안 모두에 문제를 초래할 수 있다고 덧붙였습니다.

AI 에이전트의 사용은 암호화폐 산업에서 만연해졌으며, 탈중앙화 금융(DeFi) 섹션의 사용자는 이러한 기계들을 사용하여 사용자의 입력이 거의 또는 전혀 없이 거래 실행, 적응 및 전략 최적화 등의 작업을 수행합니다. 이러한 AI 에이전트는 또한 사용자가 더 쉽게, 더 똑똑하게, 더 빠르게 거래할 수 있도록 플랫폼에 통합됩니다. 그러나 일부 봇은 사용자가 AI 에이전트와 상호작용하기 전에 다운로드됩니다.

시그널 회장, AI 에이전트에 대한 경고

시그널 회장에 따르면, 다양한 플랫폼은 사용자의 삶을 더 좋게 만들기 위해 AI 에이전트를 부가 서비스 형태로 마케팅하기 시작했습니다. 그녀의 연설에서 휘터커는 암호화폐 섹션 외에서 이러한 에이전트가 사용자를 위해 다양한 온라인 작업을 처리한다고 언급했습니다. 예를 들어, AI 에이전트는 이벤트 티켓을 구매하고, 캘린더에 이벤트를 예약하며, 친구에게 메시지를 보낼 수 있습니다.

“그러니 우리는 그냥 뇌를 항아리에 넣을 수 있습니다. 왜냐하면 그 것이 그것을 하고 있고 우리가 그것을 만질 필요가 없기 때문입니다, 맞죠?”라고 시그널 회장은 물었습니다.

질문을 한 후, 그녀는 사용자가 이러한 작업을 수행하여 사용자의 삶을 효율적으로 만들기 위해 AI 에이전트에게 부여해야 하는 권한에 대해 긴 논의를 시작했습니다. 휘터커는 이는 웹 브라우저, 캘린더, 메시징 앱에 대한 접근을 포함하며, 때로는 우리가 위해 예약한 이벤트 티켓을 지불해야 하므로 신용카드에도 접근해야 한다고 덧붙였습니다.

“그것은 루트 권한처럼 보이는 것으로 전체 시스템에 걸쳐 그 [프로세스]를 구동할 수 있어야 하며, 모든 데이터베이스에 접근해야 합니다. 아마도 암호화된 모델을 수행할 모델이 없기 때문에 명확한 상태로,”라고 휘터커는 덧붙였습니다.

휘터커의 성명은 AI 산업에 대한 경고를 촉구합니다

그의 성명에서 휘터커는 AI 에이전트가 AI 모델에 의해 구동되어야 하기 때문에 단독으로 충분히 작동하지 않는다고 언급했습니다. 그녀는 또한 프로세스와 보안의 관계에 대해 논의하며, 정보가 처리되기 위해 서버로 전송된 후 다시 전송된다고 지적했습니다.

“따라서 에이전트에 대한 이러한 과열을 괴롭히는 보안과 프라이버시에 대한 심오한 문제가 있으며, 이는 결국 이러한 별도의 서비스 [들]을 결합하고 그들의 데이터를 흐림으로써 애플리케이션 계층과 OS 계층 사이의 혈액-뇌 장벽을 깨뜨릴 위협을 받고 있습니다,”라고 휘터커는 덧붙였습니다.

그녀는 또한 시그널이 앱에 AI 에이전트를 통합하기로 결정하면 사용자의 메시지 프라이버시를 훼손할 것이라고 지적했습니다. 그녀는 에이전트가 다른 사람들에게 텍스트를 보내고 텍스트를 요약하기 위해 정보를 추출하려면 앱에 접근해야 한다고 덧붙였습니다.

그녀의 발언은 그녀가 AI 산업이 대량 데이터를 수집하는 방식 때문에 감시 모드에 기반을 두고 있다는 패널에 참석한 후 나왔습니다. 휘터커는 또한 수집된 데이터가 그녀가 좋다고 생각하지 않은 잠재적 결과를 가지고 있다고 느낀다고 덧붙였습니다.

에이전트 AI와 관련하여 시그널 회장은 “마법 같은 지니 봇이 삶의 긴급 상황에 대처할 것이기 때문에, 우리는 프라이버시와 보안을 더욱 훼손하게 될 것”이라고 결론지었습니다.