Los senadores de EE. UU. critican el lanzamiento «sin restricciones» de IA de Meta

Dos senadores de EE. UU., Richard Blumenthal y Josh Hawley, han expresado preocupaciones sobre el director ejecutivo de Meta, Mark Zuckerberg, y el modelo de inteligencia artificial «filtrado» del gigante tecnológico llamado LLaMA. Los senadores argumentan que LLaMA plantea peligros potenciales y podría ser explotado para actividades criminales.

En una carta fechada el 6 de junio, los senadores criticaron la decisión de Zuckerberg de hacer que LLaMA fuera de código abierto y afirmaron que había salvaguardas insuficientes en el lanzamiento del modelo de IA de Meta. Si bien reconocieron los beneficios del software de código abierto, sostuvieron que el lanzamiento de LLaMA por parte de Meta careció de una consideración exhaustiva de las posibles consecuencias, lo que consideraron un perjuicio para el público.

Inicialmente, LLaMA tuvo un lanzamiento en línea limitado para investigadores. Sin embargo, más tarde fue filtrado en su totalidad por un usuario del sitio de tablero de imágenes 4chan a finales de febrero. Los senadores expresaron alarma porque el modelo completo estaba fácilmente disponible en BitTorrent, sin ningún monitoreo ni supervisión, accesible para cualquier persona en todo el mundo. Blumenthal y Hawley afirmaron que LLaMA podría ser adoptado fácilmente por spamers, cibercriminales y personas involucradas en actividades fraudulentas o la distribución de contenido objetable.

Preocupaciones de los senadores de EE. UU.

Para destacar sus preocupaciones, los senadores contrastaron LLaMA con dos modelos de código cerrado: ChatGPT-4 de OpenAI y Bard de Google. Señalaron que, mientras que ChatGPT-4, al pedirle que generara una nota fingiendo ser el hijo de alguien pidiendo dinero, negaría la solicitud basándose en pautas éticas, LLaMA produciría la carta solicitada, así como respuestas que involucran autolesiones, crímenes y antisemitismo. Esta distinción generó preocupaciones sobre el potencial de LLaMA para generar material abusivo.

Aunque ChatGPT está programado para rechazar ciertas solicitudes, los usuarios han encontrado formas de «jailbreak» (romper las restricciones) del modelo y hacer que genere respuestas que normalmente rechazaría. Los senadores cuestionaron a Zuckerberg sobre si se realizaron evaluaciones de riesgo antes del lanzamiento de LLaMA, qué medidas Meta ha tomado para prevenir o mitigar el daño desde la filtración, y cómo Meta utiliza los datos de los usuarios para la investigación de IA, entre otras preguntas.

Vale la pena señalar que OpenAI, bajo la presión de los avances realizados por otros modelos de código abierto, está trabajando en su propio modelo de IA de código abierto. Un documento filtrado escrito por un ingeniero de software senior de Google destacó el progreso realizado por estos modelos de código abierto.

Hacer que el código de un modelo de IA sea de código abierto permite su personalización para servir a propósitos específicos y facilita las contribuciones de otros desarrolladores. Sin embargo, las preocupaciones planteadas por los senadores Blumenthal y Hawley subrayan la necesidad de enfoques responsables y reflexivos para el lanzamiento y monitoreo de modelos de IA para prevenir posibles usos indebidos y daños.