Apple, AI 개선을 위해 기기 내 사용자 정보 분석

Apple은 기기에서 로컬로 사용자 데이터를 검토함으로써 인공지능(AI) 기술을 강화하는 주요 조치를 취하고 있습니다. 

기술 거대 기업에 따르면, 이 접근 방식은 AI 모델을 정교하게 하면서도 오랫동안 유지해 온 사용자 프라이버시에 대한 헌신을 보존하는 데 도움이 될 것입니다.

새로운 방식, 기술 기업이 기기 내 데이터라고 부르는 것은 서버에 개인 데이터를 캡처하거나 저장하지 않도록 설계되었습니다. 대신, 기업은 AI 시스템이 Apple의 Mail 앱의 이메일과 같은 실제 사용자 콘텐츠와 대비되는 인공적이고 컴퓨터 생성된 데이터를 학습하도록 허용합니다.

Apple은 일반적으로 자체 AI 모델을 합성 데이터로 훈련합니다. 이는 실제 사용자가 기기를 어떻게 작성하거나 상호작용할지 매우 유사하게 모방하는 방식으로 기계가 생성한 사용자 입력, 이메일, 메시지 또는 쿼리의 예시입니다. 하지만 합성 데이터는 항상 실제 대화의 전체적인 복잡성을 포착하지는 못합니다.

회사는 별도의 글에서, "우리의 목표는 실제 것과 주제나 스타일이 충분히 유사하여 요약 모델을 개선하는 데 도움이 될 수 있는 합성 문장이나 이메일을 생성하는 것이지만, Apple이 기기에서 이메일을 가져가지는 않는 것입니다."

새로운 시스템은 이를 위해 합성 데이터를 사용자의 기기에서 실제 스니펫과 교차 검증합니다. 그런 다음 인공 데이터 세트 중 실제 세계의 것과 매우 유사한 부분을 식별합니다. 이 피드백 루프는 AI가 더 나은 요약, 리캡 및 제안을 작성하는 능력을 향상시킵니다.

이 전환은 기업의 Intelligence

Apple, iOS 18.5 베타에서 새로운 AI 훈련 도구 출시, 단 옵트인 사용자에게만

Apple의 조정은 iOS 18.5, iPadOS 18.5 및 macOS 15.5의 다음 베타 빌드에서 이루어질 예정입니다. 이번 주 기준으로 개발자들은 새로운 베타 빌드를 테스트하기 시작했습니다.

그러나 모든 사용자가 자동으로 이 새로운 데이터 메커니즘에 등록되는 것은 아닙니다. 회사는 해당 기업은 디바이스 분석 및 제품 개선 설정에 옵트인한 사용자만 참여한다고 명확히 했습니다. 이러한 옵션은 설정 앱의 개인정보 보호 및 보안 섹션에서 사용할 수 있습니다.

이것은 Apple이 서비스를 개선하기 위해 사용자 데이터를 사용한 첫 번째 사례는 아니지만, 아마도 가장 야심 찬 시도일 것입니다. 이전에는 차등 프라이버시라는 기술을 사용하여 특정 사용자를 지목하지 않고 더 넓은 행동 추세나 패턴을 식별할 수 있었습니다.

마찬가지로, 이 동일한 시스템은 사용자가 자신만의 이모지를 생성할 수 있는 Apple의 Genmoji 기능에도 사용됩니다. 많은 사용자가 동일한 유형의 Genmoji(예: "스케이트보드를 탄 고양이")를 요청하면 Apple은 AI가 유사한 요청에 더 잘 응답하도록 최적화할 수 있습니다. 그러나 시스템은 드물거나 고유한 요청이 있을 경우 이를 완전히 숨깁니다.

새로운 업데이트는 이미지 플레이그라운드, 이미지 원드, 비주얼 인텔리전스 및 메모리 생성과 같은 다른 Apple Intelligence 기능을 개선하기 위해 유사한 기술을 활용할 것입니다.

합성 데이터와 실제 사용자 입력을 통해, 그리고 프라이버시에 해를 끼치지 않도록 이중으로 확인함으로써, 이 기술 기업은 사용자 신뢰를 훼손하지 않으면서 더 지능적이고 유용한 AI 기반 경험을 제공하고자 합니다.

Apple, AI 군비 경쟁에서 추격에 박차

Apple의 전략 변화는 OpenAI, Google, Microsoft와 같은 AI 거대 기업들과의 경쟁 압력 속에서 이루어지고 있습니다. 이러한 기업들은 더 공격적인 데이터 정책을 사용하고 기능을 더 빠르게 출시하면서 플랫폼이 급상승했습니다.

OpenAI와 같은 기업들은 웹사이트, 책, 심지어 Reddit 스레드를 포함하여 인터넷에서 스크랩한 대규모 실제 데이터 풀을 활용하는 반면, Apple은 프라이버시를 성능보다 우선시하며 안전을 추구해 왔습니다. 하지만 이제 그 차이가 점점 더 뚜렷해지고 있습니다.

이 회사는 현재 AI 도구들이 때때로 어색한 요약, 불완전한 응답 또는 상황 파악이 안 되는 글쓰기 제안을 생성했다는 이유로 유사한 비판을 받아왔습니다. 내부자들은 이러한 결함을 Apple이 모델을 훈련하기 위해 실제 데이터를 사용하는 것에 대한 엄격한 제한 때문으로 attributing했습니다.

Bloomberg는 회사 AI 팀 내부의 마찰에 대해 보도했습니다. 리더십의 어려움과 부진한 Siri 경험으로 인해 3월 에 흔들림이 있었습니다. Siri와 AI 개발에 관여했던 존 지안안드레아는 강등되었습니다. 한편, Siri는 비전 프로 헤드셋 개발을 총괄하는 마이크 록웰과 소프트웨어 수장 크레이그 페데리가의 통제를 받도록 배치되었습니다.

이제 Apple은 유명한 프라이버시를 마케팅하고 빠르게 변화하는 기술 환경에서 경쟁할 수 있는 더 스마트한 인공지능을 수용하는 더 균형 잡힌 전략에 베팅하고 있습니다.

Siri의 대규모 업그레이드는 점진적으로 이루어질 가능성이 높으며, 아마도 2026년까지 도착하지 않을 수도 있지만, 기업은 2025년 6월 전 세계 개발자 회의(WWDC)에서 대규모 Apple Intelligence 데모를 선보일 의도입니다.

궁극적으로 회사는 프라이버시 우선 AI 모델이 성공할 것이라고 확신을 표현했습니다. 블로그 게시글에서 이 기술 기업은 차등 프라이버시와 같은 기술에 대한 수년간의 경험과 합성 데이터 생성과 같은 새로운 방법을 활용함으로써 Intelligence 기능을 강화하면서도 사용자 프라이버시를 보존할 수 있다고 밝혔습니다.