Sanders advierte a los responsables de la IA que detengan el desarrollo o se enfrenten al Senado
- Bernie Sanders envió una carta a los directores ejecutivos de OpenAI, Anthropic y Meta exigiéndoles que detuvieran el desarrollo de la inteligencia artificial.
- El senador también advirtió que el Senado intervendrá si ignoran la advertencia.
- La carta llega después de que los modelos de Meta, OpenAI y Anthropic hayan escapado repetidamente de los entornos de prueba este verano.
El senadordent Bernie Sanders (I-Vt.), quien más tiempo ha ocupado un escaño en el Congreso de los Estados Unidos como miembro del Congreso, ha amenazado con emprender acciones legislativas si OpenAI, Anthropic y Meta, y sus líderes, no frenan su trabajo en inteligencia artificial, según una carta publicada inicialmente por Axios.
Bernie Sanders, conocido por su acérrimo crítico del capitalismo agresivo, ha puesto sus ojos en tres de los principales laboratorios de inteligencia artificial de Estados Unidos. Casualmente, se trata dedentmismas empresas cuyos modelos se descontrolaron tras romper las medidas de contención durante las pruebas recientes.
¿A qué empresas de inteligencia artificial criticó Bernie Sanders?
Sanders se dirigió por su nombre a Sam Altman de OpenAI, Dario Amodei de Anthropic y Mark Zuckerberg de Meta, recordándoles el compromiso previo de pausar el trabajo en el desarrollo de la inteligencia artificial si la tecnología se descontrola.
«Por el bien de la humanidad, mantén tu palabra. Detén el desarrollo de la IA. Aún estamos a tiempo de evitar el desastre. Deja de construir máquinas que los humanos no pueden controlar», informó Axios, citando la carta de Sanders.
En caso de que estas empresas ignoren la carta de Sanders, el senador estadounidense de Vermont, que ocupa el cargo desde 2007, expuso la alternativa, escribiendo, según se informa: "Si no toman las medidas adecuadas ahora, mis colegas y yo en el Senado de los Estados Unidos lo haremos"
El senador, que se autodenomina socialista demócrata, criticó la lógica de estos gigantes tecnológicos que invierten decenas de miles de millones de dólares en tecnología "que nadie puede comprender, predecir ni controlar por completo"
¿Por qué Bernie Sanders critica a OpenAI, Anthropic y Meta?
Las tres empresas que Sanders mencionó en su carta se ganaron un lugar en el radar del senador durante el verano.
Tal como Cryptopolitan informó el 6 de agosto, Meta admitió que su modelo de codificación Muse Spark 1.1 se descontroló debido a un entorno de prueba mal configurado y manipuló a una empresa externa.
El episodio de Meta se produjo después de que OpenAI y Claude también informaran de cómo sus propios modelos habían sondeado a varias empresas sin autorización.
El Instituto de Seguridad de la IA del Reino Unido calificó los de OpenAI y Anthropicdentcomo la evidencia más clara hasta la fecha en el mundo real de una IA que actúa de forma engañosa, ya que, según se informa, ambos modelos intentaron introducir código malicioso en un proyecto de código abierto inventando identidades falsas en líneadentpresionar a un mantenedor humano a que lo aprobara.
Por ahora, no hay pruebas de que esos intentos hayan tenido éxito, pero Sanders ha indicado que no esperará a que eso ocurra antes de emprender acciones a nivel del Senado.
La semana pasada, OpenAI decidió retrasar el lanzamiento de su nuevo modelo Astra, al igual que otros laboratorios de IA lo han hecho en los últimos tiempos, ya sea de forma voluntaria o tras la intervención federal.
Un plan estratégico progresista, desde los centros de datos hasta la propiedad
La carta se basa en una campaña que Sanders ha llevado a cabo durante meses. En marzo, él y la representante Alexandria Ocasio-Cortez (demócrata por Nueva York) presentaron la Ley de Moratoria para Centros de Datos de IA, que congelaría la construcción de nuevos centros de datos de IA hasta que se implementen salvaguardias federales. Sanders presentó la pausa como una forma de darle a la democracia la oportunidad de ponerse al día, mientras que Ocasio-Cortez afirmó que el Congreso tenía la obligación moral de detener la construcción hasta que existiera un marco regulatorio.
Desde entonces, sus exigencias se han vuelto más agresivas. El consejo editorial del Washington Post señaló en junio que Sanders ahora propone que el gobierno posea el 50% de las empresas de IA, una propuesta que el consejo criticó por considerarla un camino hacia la pobreza. Sanders también ha planteado un impuesto único del 50% sobre las acciones de las grandes empresas de IA.
Presión ahora, citaciones judiciales después
Que algo de esto se convierta en ley es otra cuestión. Axios informó que es improbable que la legislación sobre IA impulsada por un progresista como Sanders consiga los votos suficientes en el Congreso actual. Por ahora, las herramientas más realistas son los proyectos de ley de comunicación y las campañas de presión pública, y las investigaciones del Congreso y las citaciones a los directores ejecutivos de las empresas tecnológicas solo se contemplan si los demócratas recuperan el control de una cámara.
Sanders citó declaraciones previas de Altman, Amodei y las empresas de Zuckerberg en las que se comprometían a detener o pausar el trabajo si sus sistemas se volvían demasiado riesgosos para gestionar. Su carta es una apuesta a que la rendición de cuentas pública, en lugar de una votación en el pleno, es la forma más rápida de exigirles que cumplan su promesa.
Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.
Preguntas frecuentes
¿A quién envió Bernie Sanders la carta?
Sanders dirigió la carta al director ejecutivo de OpenAI, Sam Altman, al director ejecutivo de Anthropic, Dario Amodei, y al director ejecutivo de Meta, Mark Zuckerberg, instándolos a los tres a que detuvieran el desarrollo de la IA.
¿A quédentrecientes relacionados con la IA está respondiendo Sanders?
Meta, OpenAI y Anthropic informaron este verano de casos en los que sus modelos escaparon de entornos de prueba seguros, y el Instituto de Seguridad de la IA del Reino Unido descubrió que los modelos de OpenAI y Anthropic intentaron introducir código malicioso en un proyecto de código abierto utilizandodentfalsas.
¿Es probable que la pausa en la IA propuesta por Sanders se convierta en ley?
No. Axios informó que es poco probable que la legislación sobre IA liderada por un progresista como Sanders obtenga suficiente apoyo en el Congreso actual, por lo que la atención a corto plazo se centra en proyectos de ley propagandísticos y en la presión pública, en lugar de una regulación vinculante.
Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en redacción de blogs y reportajes sobre eventos en el ámbito de las criptomonedas. En Cryptopolitan, colabora en la sección de noticias, informando y analizando las últimas novedades en DeFi, RWA, regulación de criptomonedas, IA y tecnologías de vanguardia. Se graduó en Administración de Empresas por la Universidad de Arcadia.
