애플은 새로운 AI Siri 시대에 신뢰 프리미엄이 생존할 수 있다고 베팅합니다

애플은 하드웨어 품질, 강력한 생태계 및 흔들리지 않는 고객 충성도를 바탕으로 항상 우수한 시장 평가를 받아왔습니다. 그러나 AI 시대에 회사는 개인 정보 존중 측면에서 평판을 유지하는 방법, 즉 기술이 더 개인화되고 사용자의 디지털 생활에 더 통합되며 때로는 장치 자체를 넘어선 프로세스에 의존하게 됨에 따라 더 복잡한 도전에 직면해 있습니다.

파이낸셜 타임스는 애플의 딜레마를 다음과 같은 헤드라인으로 요약했습니다.

“AI 시대의 애플 신뢰 프리미엄.”

이러한 프레임은 애플이 이제 고객들에게 장치에 대해 가지고 있는 동일한 신뢰를 훨씬 더 정보에 목마른 어시스턴트에게까지 확장하도록 요청하기 때문에 중요합니다.

9월 14일, 애플은 영어 버전의 Siri AI 베타 버전을 포함하는 최신 '애플 인텔리전스' 버전을 출시했습니다. 회사는 새로운 버전을 개인적 맥락을 이해하고, 화면 인식을 가지며, 앱 전반에서 더 많은 작업을 수행할 수 있는 '전혀 새로운' Siri로 설명했습니다.

애플이 사용자에게 양도하도록 요구하는 것

업데이트된 Siri는 사용자의 장치 전반에 걸친 개인 정보와 화면에 표시되는 내용을 활용하여 질문에 응답하고 작업을 수행할 수 있는 능력을 갖추고 있습니다.

애플의 개인정보 보호 페이지에 따르면, 모든 요청은 온디바이스 데이터를 사용하여 실행할 수 있는지 아니면 프라이빗 클라우드 컴퓨트(PCC)를 사용해야 하는지 결정하기 위해 평가됩니다. 애플의 개인정보 보호 전략은 요청이 회사의 서버에 도달한 후 처리되는 방식에 대한 강력한 확약으로 시작됩니다.

프라이빗 클라우드 컴퓨트를 사용하면 귀하의 데이터는 Apple에 접근할 수 없으며, 귀하의 요청을 충족하는 데에만 독점적으로 사용됩니다.

이러한 확신은 신뢰 제안에 중요합니다. 애플은 서버 소프트웨어가 독립 전문가에 의해 검토될 수 stated다고 주장하며, 개인 사용자 정보와 상호작용은 사용자가 동의하지 않는 한 파운데이션 모델 학습에 사용되지 않는다고 명시합니다.

이러한 선호도는 중요합니다. Siri 및 애플 인텔리전스 개선 프로그램에 따르면, 오디오, 트랜스크립트 및 기타 관련 정보는 최대 2년까지 보관되며 장치에서 무작위로 생성된 식별자와 매칭될 수 있습니다. 정보의 일부는 인간이 분석할 수 있지만, 오디오 분석은 애플 직원에 의해서만 수행됩니다.

즉, 신뢰는 애플 아키텍처뿐만 아니라 기본 옵션과 사용자 선호도에도 기반합니다.

신뢰 스토리는 이제 다른 회사의 하드웨어에서 실행됩니다

6월, 애플은 보안 업데이트에서 NVIDIA GPU를 사용하여 Google Cloud에서 요구량이 많은 애플 인텔리전스 워크로드를 실행하기 위해 Google 및 NVIDIA와 협력 중이며, PCC를 처음이자 마지막으로 제3자 데이터 센터로 확장한다고 밝혔습니다. 애플은 또한 차세대 애플 파운데이션 모델이 Gemini의 기술 기반을 사용하여 Google과 함께 구축되었다고 밝혔습니다.

애플에 따르면, PCC 보호 장치는 이러한 워크로드를 모니터링하며 바이너리는 독립적인 당사자가 검토할 수 있도록 제공됩니다. 또한, 애플은 PCC 프로비저닝 시스템에 대한 제3자 SOC 3 감사를 수행하지만, 자체 문서에는 다음이 명시되어 있습니다.

검사는 Apple의 인공지능 서비스의 성능이나 무결성을 평가하기 위해 수행되지 않았습니다.

다시 말해, 이 테스트는 Siri의 AI가 정확하고 신뢰할 수 있는지 여부가 아니라 PCC가 어떤 통제 및 조치를 갖추고 있는지 측정합니다. 이러한 구분은 SOC 3 보고서를 Apple의 AI 기술 품질의 증거로 활용할 수 있는 방법을 결정합니다.

왜 신뢰가 이제 희소한 자산인가

진보의 기회는 AI 사용이 기술에 대한 신뢰보다 빠르게 성장함에 따라 쉽게 보고 경험할 수 있습니다. 6월 피우 리서치 센터(Pew Research Center)가 실시한 설문조사에 따르면, 미국 성인 5,119명을 조사한 결과 응답자의 49%가 적어도 한 번은 챗봇을 사용한 적이 있다고 밝혔으며, 2024년에는 이러한 사용에 대해 33%만 인정했습니다.

동일한 설문 조사에 따르면 응답자의 63%가 AI 기술 개발 과정이 너무 빠르다고 생각하며, 71%는 AI가 개인 정보를 더 취약하게 만든다고 믿고, 59%는 현지 기업이 기술을 적절히 처리할 능력에 대해 신뢰하지 못한다고 밝혔습니다.

애플의 규모를 고려할 때, 개인 정보 보호는 추가 마케팅 기능이 아닌 경쟁력 있는 특성이 될 수 있습니다. 고객이 입증된 보호 조치를 중요하게 생각한다면, 경쟁사 및 클라우드 공급자는 모델 기능과 기밀 추론, 외부 감사 및 감사 가능한 인프라를 결합해야 합니다.

애플의 신뢰 제안은 AI 외에도 다른 사안에서도 검토를 받고 있습니다. Cryptopolitan은 영국의 애플 암호화 클라우드 데이터 접근 중재에 대해 보도했습니다. 로이터는 9월 17일 첫 번째 지침이 미국과의 협상 후 철회되었지만, 7월 날짜의 두 번째 지침은 영국에 기반을 둔 애플 고객에게 적용된다고 보도했습니다.

암호화폐 브리지: 신뢰 대신 검증

암호화폐는 동일한 개념을 기반으로 개발되었습니다. 즉, 현재 일부 공식 연구에서 제시되고 있는 대로 암호화 가능 검증 가능한 주장을 통해 기관 신뢰에 대한 의존도를 줄이는 것입니다. 9월 2일 발표된 국제결제은행(BIS)의 작업 논문은 공개 통계의 암호화 지문을 XRP 원장에 고정할 것을 주장하며, 사용자에게 그 기원과 무결성을 확인할 수 있는 가능성을 제공했습니다.

또한, 7월에 출판된 BIS 간행물은 탈중앙화, 보안 및 확장성 간의 트레이드오프를 평가했으며, 블록체인 분할에 대한 일부 대응이 신뢰와 거버넌스 의존도를 다시 가져올 수 있다고 결론지었습니다.

애플은 두 극단 사이에 위치합니다. 회사는 여전히 사용자에게 신뢰를 요청하지만, 이제 소프트웨어 게시, 암호화 및 시스템과 프로세스의 독립적인 감사를 통해 그 신뢰를 검증 가능하게 만들려고 점점 더 노력하고 있습니다.

이러한 조합이 실제로 프리미엄 지위를 공고히 하는 데 도움이 되는지는 AI 기술에 직면한 개인 정보 보호에 대한 중요한 테스트가 될 수 있습니다.

사용자는 애플의 AI 개인 정보 보호 모델에 대해 무엇을 이해해야 합니까?

핵심적인 차이는 애플이 수집한다고 말하는 데이터, 온디바이스에서 처리되는 데이터 및 프라이빗 클라우드 컴퓨트에서 처리되는 데이터 사이입니다. 애플의 모델은 개인 정보에 대한 직접적인 접근을 제한하는 동시에 더 요구량이 많은 AI 워크로드가 클라우드 컴퓨팅을 사용할 수 있도록 설계되었습니다.

애플의 모델은 단순히 '애플이 내 데이터를 수집하는가?'라는 질문에서 '어떤 데이터가 어디에서, 얼마나 오래, 어떤 식별자로, 어떤 외부 검증의 대상이 되는가?'라는 질문으로 전환합니다. AI 시스템이 더 많은 개인 정보에 접근하고 사용자를 대신하여 더 많은 작업을 수행함에 따라 이 구별은 점점 더 중요해집니다.