Tribunal de apelaciones de EE. UU. cuestiona el desafío de xAI a la ley de transparencia sobre IA de California

- El Noveno Circuito deliberó sobre la solicitud de xAI para bloquear la ley de divulgación de datos de entrenamiento de IA de California.
- El juez Rawlinson indicó que la empresa debe demostrar que la solicitud del gobierno es irrazonable.
- El bot Grok de xAI buscó repetidamente datos corporativos sin ninguna solicitud o autorización.
Un tribunal federal de apelaciones de EE. UU. evaluó el miércoles la solicitud de xAI para bloquear la ley de divulgación de datos de entrenamiento de IA de California. Durante la audiencia, los jueces del Noveno Circuito, con sede en San Francisco, parecieron no convencidos por el argumento constitucional de la empresa, aunque también presionaron a los abogados estatales sobre cuánta información puede obligar California a entregar a las empresas de IA.
Promulgada como parte del impulso general del estado para la supervisión de la IA, la ley de transparencia exige que los creadores de IA generativa compartan públicamente resúmenes de sus datos de entrenamiento. Hasta ahora, xAI ha argumentado que la ley viola sus derechos de libertad de expresión bajo la Primera Enmienda y la obliga a revelar detalles propietarios sobre cómo se entrenan sus modelos.
El argumento de xAI se centra en si exigir a las empresas publicar información sobre sus procesos de entrenamiento constituye una expresión compelida. La Primera Enmienda protege generalmente a individuos y empresas de las restricciones gubernamentales sobre la expresión, pero también plantea preguntas sobre cuándo las autoridades pueden requerir divulgaciones.
Para los desarrolladores de IA, el conflicto implica equilibrar la transparencia con la protección de secretos comerciales y tecnología propietaria. Una resolución favorable a California podría dificultar que los desarrolladores impugnen requisitos similares de divulgación en otros estados.
La jueza Rawlinson dice que xAI debe demostrar que la ley de transparencia es irrazonable
En marzo, un juez federal en Los Ángeles, Jesús Bernal, rechazó la solicitud de xAI para suspender la ley estatal, afirmando que la empresa no había demostrado desde el principio que era probable que prevaleciera en su reclamo constitucional. Durante la audiencia del miércoles, el tribunal de apelaciones en el caso se inclinó por mantener la decisión de Bernal.
La jueza del Circuito de EE. UU., Johnnie Rawlinson, le dijo al abogado de xAI, James Xi, que, para argumentar que la ley viola la Primera Enmienda, la empresa debe demostrar que la solicitud del gobierno es irrazonable.
Incluso insinuó que la decisión del estado de solicitar información podría haber sido sensata. «¿No es razonable que el gobierno quiera que sus ciudadanos puedan saber de antemano qué información se introduce en el instrumento de IA?», preguntó.
Aun así, los jueces mostraron cierto acuerdo con la afirmación de xAI de que el estado podría obligarlo a entregar una cantidad «ilimitada» de información.
A principios de julio, el Instituto Knight presentó un escrito amicus curiae sobre el caso. En su escrito, advirtió que los grandes desarrolladores de tecnología están ocultando detalles vitales sobre cómo funcionan los sistemas de IA generativa, cómo se crean y cómo influyen en la información que las personas ven.
Además, argumentó que los requisitos de divulgación diseñados para promover el libre flujo de información comercial precisa deben estar sujetos a un estándar deferente de escrutinio bajo la Primera Enmienda. Aplicando ese estándar, el Instituto sostuvo que xAI no había demostrado una violación constitucional, ya que la ley de California sirve al interés del estado de mantener informados a los usuarios sin imponer una carga indebida sobre la protección de la libertad de expresión.
Grok de xAI buscó datos corporativos sin ninguna solicitud ni autorización
La intervención del Noveno Circuito llega tras nuevos descubrimientos sobre el bot Grok de xAI.
Nuevos hallazgos de la empresa NewCore, especializada en identidad agéntica, muestran que el bot Grok de xAI buscó repetidamente datos corporativos sin ninguna solicitud ni autorización, persistiendo incluso después de que uno de los propietarios rechazara sus ofertas de verificar el estado cuatro veces por separado.
Por no mencionar que el bot afirmó no haber realizado llamadas cuando se le preguntó directamente. Su historial de chat tampoco mostraba evidencia de dicha actividad; al propietario nunca se le notificó y la plataforma no ofrecía registros por turno para verificar lo ocurrido.
En solo cinco días, dos bots Grok vinculados a cuentas de empleados de NewCore iniciaron 31 solicitudes en Google Calendar, Gmail, Slack, GitHub y Notion sin permiso ni instrucciones del usuario.
Algunas solicitudes se realizaron incluso cuando las computadoras portátiles de los propietarios estaban apagadas o en modo suspensión. Para una cuenta, la puerta de enlace segura MCP de NewCore pausó las solicitudes pendientes de aprobación humana e informó al propietario, lo que desencadenó una investigación por parte del equipo de investigación de seguridad de NewCore.
Como parte de la investigación, los investigadores utilizaron otro bot Grok en una cuenta diferente, lo configuraron usando el mismo gateway y lanzaron una prueba típica, donde se envió al bot una solicitud de trabajo junto con una aprobación de sesión única para leer desde el teléfono, y un rechazo en cada intento de continuar operando por sí solo.
Sin embargo, el bot continuó generando solicitudes no solicitadas, que fueron capturadas por el gateway y dejaron sin respuesta. Estas solicitudes intentaban acceder a Google Drive, Google Calendar, Gmail, Slack, Notion y GitHub.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Preguntas frecuentes
¿Por qué xAI está desafiando la ley de transparencia de IA de California?
xAI argumenta que el requisito de California para que los desarrolladores de IA divulguen información sobre sus datos de entrenamiento viola sus derechos de la Primera Enmienda y obliga a la empresa a revelar información confidencial sobre cómo se desarrollan sus modelos de IA.
¿Qué exige la ley de divulgación de datos de entrenamiento de IA de California?
La ley requiere que los desarrolladores de IA generativa publiquen resúmenes de los conjuntos de datos utilizados para entrenar sus modelos. Su objetivo es mejorar la transparencia y ayudar al público a comprender cómo se desarrollan los sistemas de IA.
¿Qué descubrió NewCore sobre los bots Grok de xAI?
NewCore descubrió que dos bots de Grok iniciaron 31 solicitudes no autorizadas en aplicaciones corporativas, incluidas Gmail, Slack, GitHub, Google Calendar y Notion. La puerta de enlace de seguridad de la empresa bloqueó las solicitudes hasta obtener la aprobación humana, evitando el acceso a los datos subyacentes.

Nellius Irene
Nellius es graduada en Administración de Empresas y Tecnología de la Información con cinco años de experiencia en la industria de las criptomonedas. También es egresada de Bitcoin Dada. Nellius ha contribuido a publicaciones mediáticas líderes, incluyendo BanklessTimes, Cryptobasic y Riseup Media.















