AI Granny supera a los estafadores y aborda tres preocupaciones tecnológicas

La IA y todas las tecnologías emergentes se evalúan en función de sus pros y sus contras. La inteligencia artificial suele considerarse un arma de doble filo por sus posibles riesgos a la hora de impulsar la innovación.

Recientemente, O2, el gigante británico de las telecomunicaciones, ha lanzado "AI Daisy" para combatir a los estafadores que se hacen pasar por una dulce y habladora abuela. Desarrollada con la ayuda del youtuber Jim Browning, ¿ofrece la IA una contramedida a sus propios riesgos?

¿Quién es AI Daisy?

La IA ha sido el tema central de 2024, pero también se debate la preocupación de que pueda acaparar puestos de trabajo, superar en inteligencia al software existente y generar problemas de privacidad y éticos. Sin embargo, O2, una empresa de telecomunicaciones con sede en el Reino Unido, ha tomado el debate con calma con una nueva campaña.

O2 ha presentado a "AI Daisy" como parte de la campaña "Evita a los estafadores" para hacerles perder el tiempo. Si los estafadores están ocupados hablando con la abuela con IA, ¿ dónde sacarán de tiempo para estafar a gente de verdad? El trabajo de Daisy parece ser mantener a los estafadores en conversaciones largas e inútiles, manteniéndolos entretenidos. Ella recalca: "Seamos realistas, cariño, tengo todo el tiempo del mundo". La compañía también ha estado animando a la gente a denunciar números fraudulentos para ayudar a Daisy adenta más estafadores.

En el anuncio, Daisy también dice: «Hola, estafadores. Soy su peor pesadilla»

No hay furia como la de una IA estafada. Mira cómo Daisy les hace perder el tiempo a los estafadores para que no puedan estafarte.

👉Reporta llamadas y mensajes de texto fraudulentos al 7726 pic.twitter.com/hkNMDqG87b

— O2 (@O2) 15 de noviembre de 2024

Jim Browning, conocido por exponer a estafadores en su canal de YouTube, también participó en el entrenamiento de la IA Daisy. En una conversación con Sky News, explicó que la IA se entrenó con grabaciones reales de llamadas fraudulentas, muchas de las cuales provienen de sus videos de YouTube. Browning también reveló que pasó años grabando y aprendiendo de los estafadores para comprender sus técnicas. Según el justiciero virtual, Daisy hace que los estafadores pierdan tiempo y recursos, lo que potencialmente hace que las estafas sean menos rentables.

La IA es un arma de doble filo

Las nuevas tecnologías están ayudando a las personas, en parte, facilitando las estafas. Según un informe de Truecaller, los estafadores afectaron a 56,2 millones de adultos estadounidenses solo en 2023. En promedio, una de cada cuatro personas perdió 452 dólares. El informe también revela que las personas mayores son el blanco más frecuente de las estafas, en comparación con los jóvenes, quienes corren un mayor riesgo de ser víctimas.

La influencer Amy Hart, que participó en el anuncio de IA Daisy, comentó: «Sé de primera mano lo sofisticados que pueden ser los estafadores». Por su parte, Shelly Palmer, director ejecutivo de la agencia de empleo Palmer Group, lamenta no haber tenido la idea antes. A pesar de su entusiasmo, advirtió que la clonación de voz es una tecnología arriesgada, ya que los estafadores podrían usarla para suplantar la identidad de otras personas. Sugiere que las familias utilicen una palabra o frase clave para verificar la identidaddentllamadas con peticiones inusuales.

Según los informes, la clonación de voz mediante IA y la tecnología deepfake son prácticamente idénticas a la realidad a la hora de suplantar la identidad de personas reales. de Sift de seguridad reveló en un blog que la IA analiza datos para identificardentlas posibles víctimas y sus vulnerabilidades. Una vez que tienen un objetivo, los estafadores manipulan utilizando desencadenantes emocionales e historias para robar fondos. Daisy, de O2, es una contramedida contra el uso de la IA para estafar a la gente. Como resultado, la abuela Daisy, con IA, no solo está burlando a los estafadores, sino que también ha abordado tres importantes problemas tecnológicos.

En primer lugar, la clonación de voz con IA plantea riesgos para la privacidad, ya que los estafadores ahora pueden hacerse pasar por personas reales. Daisy logra cambiar el guion. En segundo lugar, los críticos han cuestionado las implicaciones éticas de la IA en la sociedad. La campaña tiene un propósito positivo y explica la necesidad de un uso responsable de la IA. Por último, el impacto de la IA en el trabajo humano es el tema principal de conversación. En 2024, la IA Daisy se encarga de una tarea que antes requería intervención humana. Si bien la IA ha reducido la interacción humana en la atención al cliente, varios analistas aún la consideran una sobreestimación.

Dicho esto, Virgin Media O2, que utiliza inteligencia artificial, afirma haber "invertido fuertemente" para combatir el fraude, ya que, según se informa, Daisy ha logrado mantener ocupados a los estafadores durante 40 minutos seguidos.