Meta, la empresa matriz de Facebook, ha presentado una demanda utilizando su nuevo chatbot de IA, Meta AI, que se extiende a todas sus plataformas de redes sociales. El chatbot afirma ser una enciclopedia, una guía, un consejero, un ilustrador y mucho más. Sin embargo, en esta iniciativa, han surgido algunas preocupaciones sobre la posible influencia que la inteligencia artificial podría tener en las experiencias en redes sociales.
La IA generativa llega a las redes sociales. Por ejemplo, TikTok cuenta con un gran equipo de ingeniería que trabaja en el desarrollo de grandes modelos de lenguaje capaces de reconocer y generar texto. La empresa incluso contrata a escritores y reporteros para anotar y mejorar el rendimiento de estos modelos de IA.
Esto ya se sugiere en la página de ayuda de Meta, donde se afirma que la compañía podría usar los mensajes que envían los usuarios para entrenar modelos de IA y mejorar las capacidades tecnológicas. Los expertos en IA afirman que los usuarios de redes sociales deberían prepararse para más, lo que podría transformar sus experiencias para bien o para mal.
“Todos hacen todo lo posible para hacerse notar”. Ethan Mollick, profesor de la Escuela Wharton de la Universidad de Pensilvania, señala que esta es la aplicación más vital de la IA en las aplicaciones de redes sociales hoy en día: hacer que sus plataformas sean lo más atractivas posible para los consumidores. Aplicaciones como Instagram buscan maneras de que los usuarios sean lo más cautivos posible, ya que así se maximizará el tiempo dedicado a la publicidad.
Lograr un equilibrio: regulación y moderación
Durante la presentación de resultados del primer trimestre de Facebook, Mark Zuckerberg reconoció que pasaría un tiempo antes de que la compañía realmente obtuviera el retorno de la inversión en el chatbot y otras aplicaciones de IA. Sin embargo, la tecnología ya está cambiando la experiencia de los usuarios en las plataformas que posee. Alrededor del 30% del contenido del feed de Facebook se presenta mediante sistemas de recomendación de IA, y más de la mitad del contenido de Instagram se muestra mediante el mismo método.
Si bien la IA puede personalizar la experiencia del usuario o incluso crear otros contenidos, también podría personalizar otros, como retratos y música, según los expertos, quienes advierten sobre posibles riesgos. Jaime Sevilla, director de Epoch, un instituto de investigación especializado en las tendencias actuales y futuras de la tecnología de IA, expresó su preocupación por el poder de persuasión de la IA y la posible propagación de desinformación.
Un estudio demuestra que GPT-4, dirigido por investigadores de IA del Instituto Federal Suizo de Tecnología de Lausana, tiene un rendimiento un 81,7 % superior al de los humanos a la hora de lograr que alguien se ponga de acuerdo en una discusión. El estudio aún no ha sido revisado por pares, pero Sevilla ya ha dado la voz de alarma, especialmente en cuanto a su impacto en cómo esta tecnología podría extender posibles estafas y fraudes.
Mientras Estados Unidos se precipita hacia otra temporada electoral políticamente rencorosa, los legisladores deberían ser conscientes de los peligros de la IA y su relación con la difusión de desinformación. Bindu Reddy, directora ejecutiva y cofundadora de Abacus.AI, propone algo más sutil que usar un mazazo, como prohibir el uso de la IA en las redes sociales, ya que los actores maliciosos ya difundían desinformación en línea mucho antes de que se inventara la IA.
Reddy, por su parte, pidió la prohibición de los deepfakes generados por IA que imitan a humanos, pero criticó restricciones drásticas como las impuestas por la Unión Europea. Afirmó que Estados Unidos no debería quedar rezagado respecto a otros países en el desarrollo de IA.
Los chatbots de inteligencia artificial y otras innovaciones similares en las redes sociales se están desarrollando, y se requiere un equilibrio entre innovación y regulación responsable para garantizar la protección de las experiencias de los usuarios, así como los principios democráticos en todo el mundo.
