Apple apuesta a que su prima de confianza pueda sobrevivir a la nueva Siri de IA
- El nuevo Siri con IA de Apple puede utilizar contexto personal, información en pantalla y datos de aplicaciones, confiando tanto en el procesamiento en el dispositivo como en el Cómputo Privado en la Nube.
- Apple afirma que las solicitudes de PCC no se almacenan ni son accesibles para Apple, mientras que los usuarios que optan por mejorar la IA pueden tener algunos datos de Siri retenidos hasta por dos años.
- La propuesta de privacidad ahora se extiende a la infraestructura impulsada por Google Cloud y NVIDIA, lo que hace que la verificación independiente sea cada vez más importante para la estrategia de confianza de IA de Apple.
Apple siempre se ha beneficiado de una valoración superior en el mercado, basada en la calidad del hardware, un ecosistema sólido y una lealtad inquebrantable de los clientes. Sin embargo, en la era de la IA, la empresa enfrenta un desafío más complejo en términos de cómo mantener su reputación en lo que respecta al respeto por la privacidad, mientras su tecnología se vuelve más personalizada, más integrada en las vidas digitales de los usuarios y, en ocasiones, depende de procesos que van más allá del propio dispositivo.
El Financial Times resumió el dilema de Apple en su titular:
“La prima de confianza de Apple en la era de la IA.”
Este encuadre es significativo ya que Apple ahora apela a sus clientes para que extiendan la misma confianza que tienen en sus dispositivos a un asistente mucho más ávido de información.
El 14 de septiembre, Apple lanzó su nueva aproximación de “Apple Intelligence”, que incluye una versión beta de Siri AI en inglés. La empresa describió la nueva versión como un Siri “completamente nuevo” capaz de comprender el contexto personal, tener conciencia de la pantalla y realizar más acciones a través de las aplicaciones.
Lo que Apple pide a los usuarios que entreguen
La Siri actualizada tiene la capacidad de utilizar información personal de todos los dispositivos de un usuario, así como lo que aparece en la pantalla, para responder a consultas y realizar acciones.
Según la página de privacidad de Apple, cada solicitud se evalúa para determinar si puede ejecutarse utilizando datos del dispositivo o si debe utilizar Private Cloud Compute (PCC). La estrategia de privacidad de Apple comienza con una fuerte garantía sobre cómo se manejan las solicitudes una vez que llegan a los servidores de la empresa:
Con Private Cloud Compute, sus datos nunca son accesibles para Apple; se utilizan exclusivamente para cumplir con sus solicitudes.
Esta garantía es crucial para la propuesta de confianza. Apple afirma que el software del servidor puede ser examinado por expertos independientes, mientras que la información privada de los usuarios y las interacciones no se utilizan para entrenar los modelos fundamentales a menos que los usuarios lo consientan.
Tales preferencias son importantes ya que, según el programa Mejorar Siri & Apple Intelligence, el audio, las transcripciones y otra información relevante pueden conservarse hasta dos años y emparejarse con identificadores generados aleatoriamente en el dispositivo. Parte de la información puede ser analizada por humanos, pero el análisis de audio lo realizan únicamente miembros del personal de Apple.
En otras palabras, la confianza se basa no solo en la arquitectura de Apple, sino también en las opciones predeterminadas y las preferencias del usuario.
La historia de la confianza ahora se ejecuta en hardware de otras empresas
En junio, Apple dijo en una actualización de seguridad que estaba trabajando con Google y NVIDIA para ejecutar cargas de trabajo exigentes de Apple Intelligence en Google Cloud utilizando GPUs de NVIDIA, extendiendo PCC a centros de datos de terceros por primera vez. Apple también dijo que su próxima generación de Modelos Fundamentales de Apple fue construida con Google utilizando la tecnología detrás de Gemini.
Según Apple, los monitores de salvaguarda de PCC supervisan esas cargas de trabajo y los binarios permanecen disponibles para su examen por partes independientes. Además, Apple encarga auditorías SOC 3 de terceros del sistema de aprovisionamiento de PCC, pero su propia documentación especifica lo siguiente:
Los exámenes no se realizaron para evaluar el rendimiento o la integridad de los servicios de inteligencia artificial de Apple.
Para decirlo de otra manera, la prueba mide qué tipo de controles y disposiciones tiene PCC en lugar de si la IA de Siri es precisa y confiable. Esta separación determina cómo el informe SOC 3 puede utilizarse como prueba de la calidad de la tecnología de IA de Apple.
Por qué la confianza es el activo escaso ahora
La oportunidad de progreso se puede ver y experimentar fácilmente ya que el uso de la IA está creciendo más rápido que la confianza en la tecnología. Una encuesta realizada en junio por el Pew Research Center encuestó a 5.119 adultos en EE. UU. y reveló que el 49% de ellos había utilizado chatbots al menos una vez, mientras que solo el 33% confesó haberlo hecho en 2024.
La misma encuesta reveló que el 63% de los encuestados considera que el proceso de desarrollo de tecnologías de IA es demasiado rápido, el 71% piensa que la IA hará que la información personal sea más vulnerable, y el 59% no confía en la capacidad de las empresas locales para manejar la tecnología adecuadamente.
Considerando el tamaño de Apple, la privacidad puede transformarse en una característica competitiva en lugar de una función de marketing adicional. Si los clientes aprecian las medidas de protección demostradas, los competidores y los proveedores de nube se verán obligados a combinar las características del modelo con inferencia confidencial, auditorías externas e infraestructura auditable.
La propuesta de confianza de Apple también está siendo scrutinizada en otros asuntos además de la IA. Cryptopolitan ha informado sobre la mediación del Reino Unido para acceder a los datos en la nube encriptados de Apple. Se informó por Reuters el 17 de septiembre que la primera directiva fue retirada después de negociaciones con EE. UU., pero una segunda directiva fechada en julio es aplicable a los clientes de Apple con sede en el Reino Unido.
El puente cripto: verificar en lugar de confiar
La criptomoneda se desarrolló basándose en el mismo concepto: reducir la dependencia de la confianza institucional mediante afirmaciones verificables criptográficamente, lo cual se está presentando actualmente en algunas investigaciones oficiales. Un documento de trabajo del Banco de Pagos Internacionales (BPI), publicado el 2 de septiembre, abogó por anclar las huellas criptográficas de las estadísticas públicas al registro XRP, ofreciendo así a los usuarios la posibilidad de confirmar su origen e integridad.
Además, el Boletín del BPI publicado en julio evaluó el equilibrio entre descentralización, seguridad y escalabilidad, y concluyó que algunas respuestas a la fragmentación de la blockchain podrían devolver la dependencia de la confianza y la gobernanza.
Apple se encuentra en algún punto intermedio entre esos dos extremos. Mientras sigue pidiendo a sus usuarios que confíen en la empresa, ahora intenta cada vez más hacer que esa confianza sea verificable mediante la publicación de software, cifrado y auditorías independientes de sus sistemas y procesos.
Si esta combinación realmente sirve para consolidar su estatus premium puede resultar ser una prueba crítica para la privacidad frente a la tecnología de IA.
¿Qué deben entender los usuarios sobre el modelo de privacidad de IA de Apple?
La distinción clave radica entre los datos que Apple dice recopilar, los datos que procesa en el dispositivo y los datos procesados en Private Cloud Compute. El modelo de Apple está diseñado para limitar el acceso directo a la información personal, mientras permite que cargas de trabajo de IA más exigentes utilicen la computación en la nube.
| Punto de datos/privacidad | Lo que dice Apple | Por qué importa |
|---|---|---|
| Retención | Cierta información relacionada con la IA puede retenerse durante hasta dos años | Los usuarios deben distinguir entre el procesamiento y la retención a largo plazo |
| Identificador | Algunas solicitudes utilizan un identificador rotativo generado por el dispositivo en lugar de una Cuenta Apple | Reduce el vínculo directo con la cuenta |
| Mejora de IA | Los usuarios pueden optar por configuraciones que permitan que ciertas interacciones mejoren los servicios y entrenen modelos | La privacidad depende en parte de la configuración del usuario |
| Private Cloud Compute | El procesamiento de IA más exigente puede ocurrir en el entorno de nube centrado en la privacidad de Apple | La IA en la nube no significa necesariamente que Apple pueda acceder a la solicitud subyacente |
| SOC 3 | Apple publica informes SOC 3 independientes que cubren controles específicos de Private Cloud Compute | Proporciona una garantía externa, pero no una certificación general de seguridad de IA |
| Frecuencia de auditoría | Apple publica informes SOC trimestrales para la infraestructura correspondiente | Brinda a los usuarios e investigadores verificaciones externas recurrentes |
El modelo de Apple cambia la pregunta de simplemente “¿Recopila Apple mis datos?” a “¿Qué datos se procesan dónde, durante cuánto tiempo, bajo qué identificador y sujetos a qué verificación externa?” Esta distinción se vuelve cada vez más importante a medida que los sistemas de IA obtienen acceso a más información personal y realizan más acciones en nombre del usuario.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Qué lanzó Apple esta semana?
Apple lanzó la próxima generación de Apple Intelligence y un rediseñado Siri con IA, que la empresa dice ofrece comprensión basada en contexto personal, conciencia de la pantalla y amplio conocimiento del mundo, lanzándose primero en beta en inglés con más idiomas el próximo mes.
¿Procesa Apple las solicitudes de IA en el dispositivo o en la nube?
Ambas. Apple indica que Apple Intelligence analiza cada solicitud y la ejecuta en el dispositivo cuando es posible, o enruta tareas más exigentes al Cómputo Privado en la Nube, donde Apple afirma que los datos se utilizan únicamente para responder a la solicitud y no son accesibles para Apple.
¿Está Apple utilizando la infraestructura de otras empresas para su IA?
Sí. En un blog de seguridad de junio, Apple indicó que extendió Private Cloud Compute a Google Cloud ejecutándose en GPUs de NVIDIA por primera vez, y construyó sus modelos base de próxima generación utilizando la tecnología detrás de los modelos Gemini de Google.
¿Qué datos recopila Apple cuando los usuarios utilizan Siri e Inteligencia de Apple?
Apple indica que algunas interacciones de Siri e Inteligencia de Apple pueden incluir grabaciones de audio, transcripciones, datos relacionados con la solicitud e información del dispositivo, según la función y la configuración de privacidad del usuario. Apple utiliza diferentes métodos de procesamiento, incluido el procesamiento en el dispositivo y Private Cloud Compute, dependiendo de la solicitud.
¿Cuánto tiempo retiene Apple los datos de Siri e Inteligencia de Apple?
La documentación de privacidad publicada de Apple indica que ciertos datos asociados con sus servicios de IA pueden conservarse hasta por dos años, dependiendo del tipo de información y su uso.
¿Sabe Apple qué usuario realizó una solicitud de IA?
Apple indica que algunas interacciones de Siri y Apple Intelligence utilizan un identificador rotatorio generado por el dispositivo en lugar de la cuenta de Apple del usuario. Esto tiene como objetivo reducir la capacidad de asociar directamente las solicitudes con una cuenta específica de Apple.
¿Qué es un identificador de dispositivo rotatorio?
Un identificador de dispositivo rotatorio es un identificador que cambia con el tiempo en lugar de permanecer vinculado permanentemente a un dispositivo. Apple indica que este enfoque ayuda a evitar que las solicitudes de IA se vinculen directamente a la cuenta de Apple de un usuario.
¿Utiliza Apple las interacciones de IA para mejorar sus modelos?
Apple indica que los usuarios pueden optar por configuraciones que permiten que ciertas interacciones de Siri y Apple Intelligence se utilicen para mejorar sus servicios y entrenar los modelos base de Apple. Los datos específicos recopilados dependen de la función y de la configuración del usuario.
¿Audita Apple independientemente su infraestructura de privacidad de IA?
Sí. Apple publica informes de auditoría SOC 3 que cubren los controles asociados con Private Cloud Compute. Apple indica que los informes se basan en exámenes independientes y abordan áreas como seguridad, integridad del procesamiento, confidencialidad y privacidad.
¿Con qué frecuencia publica Apple las auditorías SOC 3 de Private Cloud Compute?
Los materiales publicados de Apple describen informes/auditorías SOC 3 trimestrales para Private Cloud Compute. Estos informes proporcionan garantía externa sobre controles específicos, en lugar de certificar que cada aspecto de Apple Intelligence es seguro o privado.
¿Una auditoría SOC 3 demuestra que Apple Intelligence en sí misma es segura?
No. La propia documentación de Apple distingue el alcance de la auditoría de Private Cloud Compute del rendimiento o la integridad de Apple Intelligence en sí. La auditoría se centra en controles e infraestructura específicos, en lugar de ofrecer una certificación general de los sistemas de IA de Apple.
¿Qué deben comprender los usuarios sobre el modelo de privacidad de IA de Apple?
La distinción clave radica entre los datos que Apple dice recopilar, los datos que procesa en el dispositivo y los datos procesados en Private Cloud Compute. El modelo de Apple está diseñado para limitar el acceso directo a la información personal, mientras permite que cargas de trabajo de IA más exigentes utilicen la computación en la nube.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Ibiam Wayas
Ibiam Wayas cubre la noticia de criptomonedas desde 2019. Estudió Ciencias de la Computación en la Universidad Abierta Nacional de Nigeria. Su trabajo ha aparecido en diversas plataformas de noticias sobre criptomonedas, incluyendo Coinfomania, Crypto News Australia y AltcoinBuzz. Aprovechando su formación en Ciencias de la Computación, ahora se centra en noticias sobre criptomonedas, robótica y longevidad.
