Apple elimina aplicaciones de la App Store por promover imágenes desnudas no consentidas
- Estas aplicaciones incluso explotaron las herramientas de aprendizaje automático disponibles en la IA e intentaron crear imágenes no consentidas sin el consentimiento de una persona.
- Promocionadas como pinceles virtuales, las aplicaciones en cuestión imitaban un papel engañoso.
El mes pasado, el gigante tecnológico Apple Inc. hizo un movimiento audaz y eliminó tres aplicaciones de su App Store. Estas aplicaciones incluso explotaban herramientas de aprendizaje automático disponibles en IA e intentaban construir imágenes no consentidas sin el consentimiento de una persona. La decisión sigue a las preocupaciones de que las aplicaciones estaban utilizando publicidad engañosa en lugares como Instagram y sitios web de pornografía.
Casos engañosos en publicidad
Aquellos que hacen clic en este anuncio son enviados a la Apple App Store, y la misma aplicación se describe como un "generador de arte" pero sin ninguna referencia al hecho de que puede generar desnudos. Esta es una laguna de larga data en las tiendas de aplicaciones móviles identificada por primera vez en 2022.
A través de algoritmos basados en IA, las aplicaciones culpadas de hacer esto afirmaban desnudar a individuos en fotos, lo que lleva a una suposición incorrecta de desnudez aunque no tengan el permiso o conocimiento de los sujetos. Tales actos no solo violan la privacidad, sino que también son fuentes potenciales de explotación, acoso y chantaje.
Una serie de versiones similares de este anuncio con varias otras mujeres generadas por IA se han mostrado en Facebook, Instagram, Facebook Messenger y la red de anuncios dentro de la aplicación de Meta entre el 10 y el 20 de abril.
Después de ser informados sobre estas aplicaciones estafadoras, Apple fue de hecho la primera en eliminarlas de la App Store. Aunque afirmaban ser inocentes, sus verdaderas motivaciones fueron reveladas por las aplicaciones, obligando a Apple a eliminarlas y observar sus estándares comunitarios. Esto demuestra claramente la devoción inquebrantable de Apple a crear un espacio digital seguro y neutral en cuanto al género para todos.
Desafíos continuos y responsabilidad
Aunque las contramedidas tomadas por Apple merecen respeto, este incidente, al final, genera algunas dudas sobre la revisión de aplicaciones y el monitoreo de métodos publicitarios. El hecho de que estas aplicaciones hayan pasado desapercibidas en la App Store durante mucho tiempo subraya solo la necesidad de mayor cuidado y medidas activas para detectar y eliminar aplicaciones fraudulentas.
Además, los desarrolladores aplicaron métodos astutos de promoción de sus características ilegales en sitios para adultos que aseguraron la ausencia de su detección por Apple y Google. Estos casos ilustran los problemas que enfrentan las empresas tecnológicas para vigilar sus plataformas y hacer cumplir las pautas comunitarias.
Con la próxima divulgación de Apple de algunos proyectos relacionados con la IA en la Conferencia de Desarrolladores Mundiales (WWDC) 2023, será bastante intrigante ver el movimiento iniciado por la empresa con respecto a estas aplicaciones. Una parte importante de la implementación responsable de la tecnología de Apple es mantener una buena imagen de comportamiento ético y gobernanza tecnológica sólida, lo cual es crítico a la luz del uso creciente de IA de Apple en sus productos.
Eliminar estas aplicaciones sería un ejemplo de un problema ético por parte del desarrollo y uso de IA. La segunda preocupación relacionada con el desarrollo de habilidades de IA es la privacidad de los usuarios. Además, se debe solicitar a los usuarios su permiso, y se debe dar la garantía de su seguridad. Al bloquear tales aplicaciones, Apple enfatiza el comportamiento ético en su comunidad.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
