- La transición de Elon Musk a la gestión de contenido de IA en X derivó en un error cuando el chatbot de IA de X, Grok, difundió noticias sobre el ataque de Irán a Tel Aviv.
- Esto generó preocupaciones sobre la fiabilidad de la curación de contenido por parte de la IA y su consistencia, lo que llevó a acusaciones falsas.
- Este lamentable incidente subraya la importancia de la intervención y el control humano para prevenir posibles desastres.
Noticias horribles flotaron en las redes sociales cuando la plataforma X de Elon Musk promovió noticias sobre el ataque de Irán a Israel en la portada de su feed de noticias, Explore.
El jueves, uno de los títulos en el feed de noticias principal de X decía:
“Irán golpea Tel Aviv con misiles pesados,”
Esto habría sido una actualización bastante preocupante considerando el escenario geopolítico y el reciente ataque de Israel a la embajada de Irán en Siria, que mató a altos funcionarios, y las tensiones entre las dos naciones, que se intensificaron aún más durante la invasión de Gaza por parte de Israel. Así que quizás no sea un buen momento, pero podría ser un momento ideal para aquellos que quieren promover titulares engañosos por cualquier razón, y el papel de la IA (inteligencia artificial) no puede ignorarse cuando puede usarse como una herramienta para tales actos execrables.
El titular era falso, y más preocupante, fue generado por el chatbot oficial de IA de X, Grok, y luego promovido a la portada de las noticias de tendencia de Explore de X el día en que esta función se actualizó a una nueva versión.
La campaña de automatización de Elon Musk: por qué ocurrió el incidente en primer lugar
Volviendo a las raíces del incidente, se vuelve obvio que el título engañoso generado por Grok surgió como producto de la transición del trabajo crítico de curación de contenido manejado por humanos, ahora entregado a la inteligencia artificial, que aún no es completamente inteligente.
La plataforma X, anteriormente Twitter, tenía una función que proporcionaba contexto escrito para temas de noticias de tendencia. Probablemente esas descripciones eran escritas por humanos. El algoritmo de Twitter era capaz de detectar palabras clave relevantes y compartir la tendencia con temas de tendencia basados en las sugerencias de palabras clave.
Más tarde, Twitter formó un equipo de editores humanos para curar noticias y gestionar tendencias para obtener mejores resultados, por lo que los temas de tendencia ya no quedarían a merced de los algoritmos para elegirlos; en su lugar, tenían un elemento humano detrás, por lo que se adoptó un enfoque más confiable. Twitter también se asoció con las principales agencias de noticias como Reuters y AP para fortalecer aún más el proceso de contexto generado por humanos para los temas de tendencia.
Pero las cosas cambiaron cuando Musk adquirió Twitter en 2022, lo rebautizó como X y reemplazó el contexto escrito por humanos en las noticias de tendencia. Todo el equipo de editores humanos fue despedido ya que Musk prefería que la IA curara las noticias con más eficiencia, pero tenía sus propios defectos.
Los riesgos de depender únicamente de la IA
El hecho de que Musk sea tan ambicioso con Grok y lo promueva en cualquier ocasión, a pesar de saber que aún está en sus primeras fases y no es tan confiable, es una preocupación en sí misma. Reemplazar a los editores humanos con IA por parte de Musk puede tener algunos beneficios financieros, pero también viene con sus propios costos.
El hecho de que el titular no se tomara del feed de alguien, sino que fuera generado por Grok, el chatbot de IA nativo en la plataforma X, Pero el hecho más preocupante era que incluso si Grok generaba tal titular falso en primer lugar, luego se promovió a la parte superior de la página de noticias de Explore.
Esto muestra que no había un sistema de verificación entre la generación y la promoción de esta noticia, y si había algún sistema, no era suficiente, y la empresa dependía totalmente de la IA para hacer el trabajo. Como se dijo anteriormente, la IA aún no es lo suficientemente inteligente para manejar temas sensibles, a pesar de que ofrece muchos beneficios de analizar datos y proporciona resultados con más eficiencia de lo humanamente posible. Aún así, hay áreas que necesitan intervención humana, y la IA puede tardar algún tiempo en desarrollarse hasta ese punto. Hasta entonces, depender únicamente de procedimientos de IA no es un movimiento inteligente.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
