La plataforma de redes sociales X bajo fuego por el manejo del vídeo deepfake
- La plataforma X fue criticada por su lenta acción ante el video deepfake de Bobbi Althoff; Althoff confirma que está hecho con IA.
- La negación de Althoff sobre el video generado por IA se produce después de 6.5M vistas.
- Aumentan las llamadas a la intervención del gobierno mientras crece la amenaza de los deepfakes; OpenAI prohíbe el uso de IA para política entre preocupaciones.
Tras un escándalo que involucró a un vídeo deepfake que presentaba a la presentadora de podcasts Bobbi Althoff, la plataforma de redes sociales X está envuelta en controversia por su respuesta a la difusión de contenido no consensuado. El incidente ha reavivado las preocupaciones sobre la capacidad de la plataforma para hacer cumplir sus políticas contra este tipo de material y ha sparked un debate más amplio sobre la proliferación de la tecnología deepfake.
Althoff responde al deepfake generado por IA
Bobbi Althoff, presentadora del popular podcast «The Good Podcast», se convirtió en la última víctima de la tecnología deepfake cuando un vídeo sexualmente explícito que supuestamente la mostraba circuló ampliamente en la plataforma de redes sociales X. En respuesta, Althoff acudió a Instagram para aclarar que el vídeo había sido generado por IA, negando enérgicamente su participación. A pesar de su rápida denuncia, el vídeo obtuvo más de 6,5 millones de vistas antes de que se tomara cualquier acción significativa.
La ineficacia de la plataforma X para frenar el contenido deepfake
El incidente que involucra a Althoff subraya la lucha de la plataforma para combatir eficazmente la propagación de vídeos deepfake no consensuados a pesar de tener políticas claras contra este tipo de contenido. A pesar de las regulaciones declaradas de X, el vídeo permaneció accesible durante casi un día, con nuevas publicaciones que continuaban apareciendo. Este retraso en la respuesta ha provocado críticas tanto de usuarios como de expertos de la industria, destacando la urgente necesidad de mejores mecanismos de detección y moderación.
El auge de la tecnología deepfake ha llevado a líderes de la industria a pedir medidas regulatorias más estrictas para abordar la proliferación de contenido no consensuado. Más de 800 expertos, incluidos candidatos presidenciales, CEOs de tecnología y figuras prominentes como Yoshua Bengio, han firmado una carta abierta instando a los gobiernos a intervenir urgentemente. Las preocupaciones sobre el posible mal uso de los deepfakes, especialmente en contextos políticos, han alimentado aún más las demandas de regulaciones más estrictas.
En respuesta a las crecientes preocupaciones, OpenAI decidió prohibir el uso de la IA para campañas políticas y cabildeo, señalando un enfoque proactivo para mitigar los riesgos asociados con la manipulación de la IA.
Respuesta de la plataforma y análisis de políticas
Aunque las políticas de X prohíben compartir imágenes o vídeos explícitos sin consentimiento, no abordan explícitamente la pornografía deepfake. La respuesta lenta y a menudo ineficaz de la plataforma a este tipo de contenido ha planteado dudas sobre su compromiso con el cumplimiento de sus directrices. A pesar de la evidente violación de sus políticas, las acciones de X han sido percibidas como inadecuadas, alimentando la frustración entre usuarios y grupos de defensa.
La dificultad para distinguir entre contenido genuino y generado por IA exacerba el desafío de detectar y eliminar vídeos deepfake de manera oportuna. A medida que las plataformas de redes sociales lidian con este problema, hay un consenso creciente sobre la necesidad de medidas de ciberseguridad mejoradas y tecnologías de detección de IA para proteger a los usuarios de la manipulación maliciosa.
El escándalo del deepfake que involucra a Bobbi Althoff ha arrojado luz sobre la amenaza pervasiva que plantea el contenido generado por IA en las plataformas de redes sociales. A pesar de los esfuerzos para combatir la propagación de material no consensuado, plataformas como X enfrentan desafíos para hacer cumplir eficazmente sus políticas.
A medida que persisten las preocupaciones sobre la tecnología deepfake, las llamadas para la intervención regulatoria y la mejora de los mecanismos de detección se han intensificado. El incidente sirve como un recordatorio contundente de la urgente necesidad de abordar los riesgos asociados con la manipulación de la IA y proteger a los usuarios de la explotación en la era digital.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brian Koome
Brian Koome cuenta con más de siete años de experiencia en la cobertura de blockchain y criptomonedas, habiendo estado activo en el sector desde 2017. Ha colaborado con publicaciones líderes, entre ellas BlockToday.com. Además, desarrolló el curso Ethereum 101 para BitDegree.org antes de unirse a Cryptopolitan como escritor a tiempo completo. Brian cubre guías perennes (EGs), análisis profundos, entrevistas y análisis de precios. Su enfoque en DeFi, innovación en blockchain y proyectos emergentes de criptomonedas deleita a los lectores.
