El zar de criptomonedas de EE. UU., David Sacks, advierte sobre una IA orwelliana que espía a los ciudadanos

David Sacks, el zar de criptomonedas e IA de EE. UU., advirtió el lunes que la inteligencia artificial podría pronto permitir niveles de vigilancia «orwellianos» sobre los ciudadanos.

Sacks alertó de que la mayor amenaza de la IA no son las máquinas que se vuelven contra los humanos. Comentó: «En realidad, de lo que estamos hablando es de una IA orwelliana. Hablamos de una IA que miente, que distorsiona una respuesta y que reescribe la historia en tiempo real para servir a una agenda política actual de quienes están en el poder».

Sacks insta a regular el mal uso de la IA en lugar de centrarse en los desarrolladores

Sács abordó el enfoque de la administración Trump hacia las criptomonedas y la inteligencia artificial, estableciendo un contraste con las políticas de la administración anterior durante un episodio del programa The Ben & Marc Show de Andreessen Horowitz, emitido el lunes.

Criticizó a la administración Biden y a los estados gobernados por demócratas, como California y Colorado, por ser excesivamente agresivos en su impulso de normas de protección al consumidor de IA que abordan la "discriminación algorítmica".

Advertió que una regulación excesiva representa una amenaza para la IA, convirtiéndola en un instrumento político que refleja el sesgo gubernamental y borra las verdades incómodas de la historia.

Sacks señaló que un sistema orwelliano, aquel que puede alterar deliberadamente la información para crear una realidad que se ajuste a los intereses de los líderes políticos, representa el mayor riesgo para el público. Explicó: "Temos el problema de la vigilancia. La IA lo sabrá todo sobre ti. Será como tu asistente personal, y por eso es la herramienta perfecta para que el gobierno te monitoree y controle. Y para mí, ese es sin duda el mayor riesgo de la IA."

Aunque enfatizó que el verdadero problema no reside en la tecnología en sí, sino en las personas que eligen malutilizarla, ha abogado por normas dirigidas a quienes weaponizan la IA, en lugar de regulaciones generales que limiten a toda la industria y a los desarrolladores.

Señaló que ya existen leyes contra la discriminación, por lo que los reguladores deberían centrarse en castigar a las empresas que abusan de la IA en lugar de a las firmas que la desarrollan.

Sacks acusó a Anthropic de generar miedo 

Recientemente, Sacks se dirigió a la firma de investigación en IA Anthropic, acusándola de avivar el temor para dar forma a futuras políticas sobre IA.

La firma había publicado un ensayo titulado «Optimismo tecnológico y miedo adecuado», que desencadenó una acalorada discusión en plataformas de redes sociales sobre el futuro de la regulación de la IA. Sacks planteó un problema con el ensayo, declarando la empresa quiere manipular el miedo público a la IA para influir en las regulaciones.

No obstante, el inversor multimillonario y cofundador de LinkedIn, Reid Hoffman, salió en defensa de Anthropic, calificando a la compañía como «una de las buenas». Sin embargo, su publicación provocó una rápida réplica de Sacks, lo que llevó a un breve intercambio en línea.

En una de las publicaciones, Sacks señaló que el problema central era el supuesto plan de Anthropic de influir en estados azules como California para aprobar reglas de IA políticamente sesgadas de manera discreta.

Como informó anteriormente por el CEO de Cryptopolitan, Dario Amodei, sin embargo, ha rechazado las afirmaciones del funcionario, calificándolas de «inexactas». Insistió en que la empresa ha promovido consistentemente la supervisión federal para evitar un mosaico de regulaciones estatales contradictorias.

La empresa señaló que su carta de beneficio público la compromete a utilizar la IA para el bien mayor de la sociedad y a mantener el liderazgo de EE. UU. en el sector, añadiendo que trabaja hacia los mismos objetivos que la administración Trump y los ciudadanos.