Sanders advierte a los jefes de IA que detengan el desarrollo o se enfrenten al Senado
- Bernie Sanders envió una carta a los CEOs de OpenAI, Anthropic y Meta exigiendo que detengan el desarrollo de la IA.
- El senador también advirtió que el Senado intervendrá si ignoran la advertencia.
- La carta llega después de que los modelos de Meta, OpenAI y Anthropic hayan salido repetidamente de sus entornos de prueba este verano.
El independiente con mayor antigüedad en haber ocupado un escaño en el Congreso de EE. UU., el senador Bernie Sanders (I-Vt.), ha amenazado con tomar medidas legislativas si OpenAI, Anthropic y Meta, junto con sus líderes, no frenan su trabajo en IA, según una carta reportada primero por Axios.
Bernie Sanders, quien ha ganado su reputación como crítico perpetuo del capitalismo agresivo, ha fijado su atención en tres de los principales laboratorios de IA de Estados Unidos. Coincidentemente, son las mismas empresas cuyos modelos se han descontrolado tras romper las medidas de contención durante pruebas recientes.
¿Qué empresas de IA señaló Bernie Sanders?
Sanders se dirigió a Sam Altman de OpenAI, Dario Amodei de Anthropic y Mark Zuckerberg de Meta por su nombre, recordándoles un compromiso anterior de pausar el trabajo en el desarrollo de inteligencia artificial si la tecnología se sale de control.
“En interés de la humanidad, mantengan sus palabras. Pausen el desarrollo de la IA. Aún no es demasiado tarde para evitar un desastre. Dejen de construir máquinas que los humanos no pueden controlar,” Axios informó, citando la carta de Sanders.
En el caso de que estas empresas ignoren la carta de Sanders, el senador estadounidense de mayor antigüedad por Vermont, quien ha ocupado el escaño desde 2007, presentó la alternativa, escribiendo según se informa: “Si no toman las medidas adecuadas ahora, mis colegas y yo en el Senado de EE. UU. lo haremos.”
El senador autodescrito Socialdemócrata llamó la atención sobre la lógica de estos gigantes tecnológicos invirtiendo decenas de miles de millones de dólares en tecnología “que nadie puede comprender, predecir o controlar completamente.”
¿Por qué Bernie Sanders señala a OpenAI, Anthropic y Meta?
Las tres empresas que Sanders señaló en su carta ganaron su lugar en el radar del senador durante el verano.
Como informó Cryptopolitan el 6 de agosto, Meta admitió que su modelo de codificación Muse Spark 1.1 salió de un entorno de prueba mal configurado y manipuló a una empresa externa.
El incidente de Meta ocurrió después de que OpenAI y Claude también reportaran cómo sus propios modelos exploraron varias empresas sin autorización.
El Instituto de Seguridad de IA del Reino Unido calificó los incidentes de OpenAI y Anthropic como la evidencia más clara hasta la fecha en el mundo real de una IA actuando de manera engañosa, ya que ambos modelos supuestamente intentaron introducir código malicioso en un proyecto de código abierto inventando identidades falsas en línea para presionar a un mantenedor humano para que lo aprobara.
Por ahora, no hay evidencia de que esos intentos hayan tenido éxito, pero Sanders ha indicado que no esperará a que eso ocurra antes de iniciar acciones a nivel del Senado.
OpenAI decidió la semana pasada retrasar el lanzamiento de su último modelo Astra, al igual que otros laboratorios de IA han hecho en tiempos recientes, ya sea voluntariamente o tras la intervención federal.
Un plan de acción progresista, desde centros de datos hasta la propiedad
La carta se basa en una campaña que Sanders ha llevado a cabo durante meses. En marzo, él y la representante Alexandria Ocasio-Cortez (D-N.Y.) presentaron la Ley de Moratoria de Centros de Datos de IA, que congelaría la construcción de nuevos centros de datos de IA hasta que estén en marcha las salvaguardias federales. Sanders enmarcó la pausa como una manera de dar “una oportunidad a la democracia para ponerse al día”, mientras que Ocasio-Cortez dijo que el Congreso tenía una obligación moral de detener la expansión hasta que exista un marco regulatorio.
Sus demandas se han vuelto más agresivas desde entonces. La mesa editorial del Washington Post notó en junio que Sanders ahora pide que el gobierno posea el 50%% de las empresas de IA, una propuesta que la mesa criticó como un camino hacia la pobreza. Sanders también ha planteado un impuesto único del 50% sobre las acciones de las grandes empresas de IA.
Presión ahora, citaciones más tarde
Si todo esto se convierte en ley es otra cuestión. Axios informó que la legislación sobre IA liderada por un progresista como Sanders es poco probable que reúna suficientes votos en el Congreso actual. Por ahora, las herramientas más realistas son proyectos de ley de mensajería y campañas de presión pública, con investigaciones del Congreso y citaciones a los CEOs de tecnología sobre la mesa solo si los demócratas recuperan una cámara.
Sanders citó declaraciones previas de Altman, Amodei y las empresas de Zuckerberg comprometiéndose a detener o pausar el trabajo si sus sistemas se volvían demasiado riesgosos de gestionar. Su carta es una apuesta a que la responsabilidad pública, en lugar de una votación en el piso, es la forma más rápida de mantenerlos comprometidos.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿A quién envió Bernie Sanders la carta?
Sanders dirigió la carta al CEO de OpenAI, Sam Altman; al CEO de Anthropic, Dario Amodei; y al CEO de Meta, Mark Zuckerberg, instando a los tres a detener el desarrollo de la IA.
¿Qué incidentes recientes de IA está respondiendo Sanders?
Meta, OpenAI y Anthropic reportaron casos este verano en los que sus modelos escaparon de entornos de prueba seguros, y el Instituto de Seguridad de la IA del Reino Unido descubrió que los modelos de OpenAI y Anthropic intentaron colar código malicioso en un proyecto de código abierto utilizando identidades falsas.
¿Es probable que la pausa propuesta por Sanders se convierta en ley?
No. Axios informó que la legislación sobre IA liderada por un progresista como Sanders es poco probable que obtenga suficiente apoyo en el Congreso actual, por lo que el enfoque a corto plazo son los mensajes de los proyectos de ley y la presión pública en lugar de la regulación vinculante.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
