Emprendedores de Silicon Valley, como David Sacks, Elon Musk y Marc Andreessen, quienes ahora asesoran a Trump en temas tecnológicos, expresaron su preocupación por la amenaza de censura de la IA por parte de las grandes tecnológicas. Los tecnólogos coincidieron bastante en la necesidad de un rápido desarrollo y adopción de una IA "veraz" en todo Estados Unidos.
El trío podría convertir las respuestas de los chatbots de IA en un nuevo campo de batalla para que los conservadores libren su continua "guerra cultural" con las empresas tecnológicas. Las empresas de IA pueden controlar cómo los chatbots dan respuestas para ajustarse a ciertas ideologías políticas o impulsar su moderación de contenido sesgada.
Obtener respuestas correctas de la IA sigue siendo un desafío en constante evolución
¿Hay alguna forma de puntuar los modelos de IA según su veracidad? Lo llamaremos el Índice Galileo. Se agradecen sugerencias. https://t.co/fJzwOH3JJa
— David Sacks (@DavidSacks) 12 de diciembre de 2024
Según los asesores tecnológicos de Trump, lograr respuestas correctas de IA para temas controvertidos y noticias en directo es un "objetivo en constante evolución". Los conservadores criticaron repetidamente a las grandes tecnológicas por ceder a la censura gubernamental, aunque algunos ejecutivos tecnológicos habían comenzado a moderar sus posturas en público.
Mark Zuckerberg, director ejecutivo de Meta, se disculpó ante el Congreso antes de las elecciones de 2024 por ceder a la presión de la administración Biden para moderar el contenido relacionado con la COVID-19. Afirmó haber cometido un error político de 20 años al asumir demasiada responsabilidad por problemas que Meta no controlaba. Sin embargo, Zuckerberg prometió no repetir esos errores.
Sacks también criticó a OpenAI y a Google por obligar a los chatbots de IA a ser políticamente correctos, afirmando que una de las preocupaciones iniciales de ChatGPT era que estuviera programado para ser "consciente". Añadió que ChatGPT no ofrecía respuestas veraces a la gente, señalando que la censura estaba incorporada en las respuestas.
“Creo que lo importante al entrenar una IA es asegurarse de que sea lo más veraz posible y lo más curiosa posible, porque es importante que se entrene para ser honesta incluso si esa verdad es impopular”
– Elon Musk , director ejecutivo de Tesla Motors
Andreessen, cofundador de a16z, cree que la censura de la IA tiene el potencial de ser mil veces peor que la censura en redes sociales. Añadió que tener todo controlado por una IA programada para mentir sería la manera perfecta de crear el mundo distópico definitivo.
Sacks dejó en claro que su foco estaba en la “veracidad de la IA”
El asesor de Trump, Sacks, sugiere el 'Índice Galileo' para evaluar la veracidad de la IA
Los asesores tecnológicos de Trump sugirieron que agencias especializadas podrían realizar investigaciones sobre la veracidad de la IA. Sin embargo, no está claro si la administración Trump cuenta con las opciones y la capacidad de investigación necesarias. Sacks sugirió el Índice Galileo para evaluar la veracidad de los modelos de IA.
Musk dijo que iniciaría algo llamado “TruthGPT”, una IA que busca la verdad y trata de comprender la naturaleza del universo.
Sacks aplaudió el lanzamiento de Grok por parte de Musk, afirmando que contar con él, como mínimo, garantizaría la transparencia tanto de OpenAI como de ChatGPT. Andreessen también añadió que, con los archivos de Twitter, Musk está haciendo lo necesario a gran escala.
Andreessen enfatizó que el pueblo estadounidense necesita comprender cómo se entrelazan la presión gubernamental y la censura. También señaló que debe haber consecuencias.
Los usuarios descubrieron recientemente que ChatGPT se negó a responder preguntas sobre ciertos nombres, mientras que OpenAI admitió que algunos nombres activaron herramientas de privacidad internas. Casi todas las herramientas de IA, excepto Grok y Perplexity, se negaron a responder preguntas sobre los resultados de las elecciones de 2024.
