Apple elimina aplicaciones de la App Store por promover imágenes de desnudos no consensuadas

El mes pasado, el gigante tecnológico Apple Inc. tomó una decisión audaz y eliminó tres aplicaciones de su App Store. Estas aplicaciones incluso explotaban las herramientas de aprendizaje automático disponibles en IA e intentaban crear imágenes no consensuadas sin el consentimiento de una persona. La decisión surge tras la preocupación de que las aplicaciones utilizaban publicidad engañosa en sitios como Instagram y sitios web pornográficos.

Casos engañosos en la publicidad 

Quienes hacen clic en este anuncio son redirigidos a la App Store de Apple, donde la misma aplicación se describe como un "generador de arte", pero sin mencionar que puede generar desnudos. Esta es una laguna legal de larga data en las tiendas de aplicaciones móviles, identificada por primeradenten 2022.

Mediante algoritmos basados ​​en IA, las aplicaciones acusadas de cometer este acto afirmaron desnudar a las personas en las fotos, lo que llevó a una suposición errónea de desnudez, a pesar de no contar con el permiso ni el conocimiento de los sujetos. Actos como estos no solo violan la privacidad, sino que también son fuentes potenciales de explotación, acoso y chantaje. 

Entre el 10 y el 20 de abril se han mostrado varias versiones similares de este anuncio con otras mujeres generadas por IA en Facebook, Instagram, Facebook Messenger y la red publicitaria dentro de la aplicación Meta.

Tras recibir información sobre estas aplicaciones fraudulentas, Apple fue la primera en eliminarlas de la App Store. Aunque afirmaron ser inocentes, las aplicaciones revelaron sus verdaderos motivos, lo que obligó a Apple a eliminarlas y a cumplir con las normas de su comunidad. Esto demuestra claramente la inquebrantable dedicación de Apple a crear un espacio digital seguro y sin discriminación de género para todos.

Desafíos actuales y rendición de cuentas

Si bien las contramedidas tomadas por Apple son respetables, estedent, en última instancia, genera dudas sobre la revisión de aplicaciones y el monitoreo de los métodos publicitarios. El hecho de que estas aplicaciones hayan pasado desapercibidas en la App Store durante tanto tiempo solo subraya la necesidad de mayor cautela y medidas activas para detectar y eliminar aplicaciones fraudulentas.

Además, los desarrolladores emplearon métodos astutos para promocionar sus funciones ilegales en sitios para adultos, lo que impidió que Apple y Google los detectaran. Estos casos ilustran los problemas que enfrentan las empresas tecnológicas para supervisar sus plataformas y hacer cumplir las normas de la comunidad.

Con la próxima presentación de algunos proyectos relacionados con la IA por parte de Apple en la Conferencia Mundial de Desarrolladores (WWDC) de 2023, será muy interesante ver el movimiento que la compañía está llevando a cabo con respecto a estas aplicaciones. Un aspecto importante de la implementación responsable de tecnología por parte de Apple es mantener una buena imagen de comportamiento ético y una sólida gobernanza tecnológica, lo cual es crucial dado el creciente uso de la IA en los productos de Apple.

Eliminar estas aplicaciones sería un ejemplo de un problema ético en el desarrollo y uso de la IA. La segunda preocupación relacionada con el desarrollo de las capacidades de la IA es la privacidad de los usuarios. Además, se debe solicitar permiso a los usuarios y garantizar su seguridad. Al bloquear estas aplicaciones, Apple promueve el comportamiento ético en su comunidad.