Aumentan las preocupaciones éticas sobre el papel de Grok AI en el gobierno de EE. UU.

El Departamento de Eficiencia Gubernamental (DOGE) de Elon Musk ha implementado en silencio una versión adaptada de su chatbot de IA Grok en agencias federales, generando alarmas sobre posibles violaciones de la privacidad y conflictos de interés.

Reuters citó a tres fuentes dentro de DOGE que afirmaron que el equipo ha estado utilizando Grok para filtrar y analizar datos gubernamentales confidenciales, generando informes e ideas a velocidades superiores a los métodos tradicionales.

DOGE viola la ética con el movimiento de IA Grok

Según los tres insiders, los ingenieros de DOGE instalaron parámetros personalizados sobre Grok, un chatbot que xAI de Musk lanzó a finales de 2023, para acelerar la revisión de datos y automatizar la redacción de informes.

«Le alimentan con conjuntos de datos gubernamentales, le hacen preguntas complejas y obtienen resúmenes instantáneos.»

Un insider.

Otro insider añadió que el personal de DOGE había animado a los empleados del Departamento de Seguridad Nacional a utilizar Grok para análisis internos a pesar de que la herramienta carecía de la aprobación formal de la agencia.

Lo que no está claro es exactamente qué información clasificada o de identificación personal se ha cargado en Grok o en qué medida se ha entrenado con registros federales. Si se incluyera material confidencial, la práctica podría infringir las leyes federales de privacidad y las normas de conflicto de intereses.

Cinco expertos en ética y tecnología advierten que dicho acceso podría otorgar a las empresas de Musk conocimientos desproporcionados sobre datos de contratación no públicos e incluso ayudar a refinar Grok para beneficio privado.

En teoría, cualquier modelo de IA entrenado con conjuntos de datos gubernamentales confidenciales debe navegar estrictas salvaguardas legales. Los protocolos de intercambio de datos suelen implicar múltiples aprobaciones y supervisión para evitar la divulgación no autorizada.

Al eludir esos controles, DOGE corre el riesgo de exponer los datos personales de millones de estadounidenses y de entregar a xAI un tesoro de información del mundo real no disponible para la competencia.

DOGE insiste en que su misión es erradicar el despilfarro, el fraude y el abuso. Un portavoz del DHS dijo a Reuters que DOGE nunca presionó al personal para adoptar ninguna herramienta específica.

«Nos estamos centrando en la eficiencia», dijo el portavoz. Pero dos fuentes contrarrestan que, durante las últimas semanas, los representantes de DOGE han presionado a las divisiones del DHS para que prueben Grok en tareas que van desde el análisis de la carga de trabajo de inmigración hasta la previsión presupuestaria, incluso después de que el DHS bloqueara abruptamente todas las plataformas de IA comercial por temor a fugas de datos.

Según la política actual del DHS, los empleados solo pueden usar chatbots comerciales para trabajo no clasificado y no confidencial, mientras que una IA personalizada del DHS maneja registros confidenciales. Pero cuando ChatGPT y otros se desactivaron en mayo, los avances de DOGE ocurrieron en una zona gris legal: el bot interno del DHS permaneció activo, pero Grok nunca fue formalmente incorporado.

¿Está Musk utilizando DOGE para centralizar el control?

Más allá del DHS, el alcance de DOGE se extiende a las redes del Departamento de Defensa, donde se informó a unos doce analistas de que una herramienta de IA de terceros estaba monitoreando su actividad. Aunque los portavoces del DoD han negado que DOGE guiara cualquier implementación de IA, los correos electrónicos y los intercambios de mensajes de texto del departamento obtenidos por Reuters sugieren lo contrario.

Los críticos ven estas medidas como ilustrativas de la estrategia más amplia de Musk para aprovechar la IA para centralizar el control sobre la burocracia y luego monetizar el flujo de datos resultante.

«Hay una clara apariencia de autoenriquecimiento.»

Richard Painter, profesor de ética gubernamental.

Si Musk ordenó directamente el despliegue de Grok, podría estar violando estatutos penales que prohíben a los funcionarios influir en decisiones que beneficien sus intereses privados.

En el centro del debate está el papel dual de Grok como chatbot de cara al público en X y como motor de análisis experimental dentro de los cortafuegos gubernamentales. El sitio web de xAI incluso insinúa que las interacciones de los usuarios pueden ser monitoreadas «para fines comerciales específicos», lo que sugiere que cada consulta federal podría retroalimentar el ciclo de aprendizaje de Grok.

Dos miembros del personal de DOGE, Kyle Schutt y Edward Coristine, este último conocido en línea como «Big Balls», han encabezado gran parte de la iniciativa de IA. Aunque se negaron a comentar, sus esfuerzos se ajustan a un patrón; durante el último año, DOGE ha despedido a miles de funcionarios de carrera, ha tomado el control de bases de datos seguras y ha defendido la IA como la herramienta definitiva para la renovación burocrática.

Los defensores de la privacidad advierten que integrar IA no evaluada en entornos de seguridad nacional de alto riesgo es una receta para fugas de datos, robo de identidad y explotación por parte de adversarios extranjeros.

«Esto es una amenaza para la privacidad tan grave como puede ser», dice Albert Fox Cahn del Proyecto de Supervisión de Tecnología de Vigilancia.

También existen temores de que, con poca transparencia y pocas salvaguardas, el experimento de IA de DOGE podría remodelar la gobernanza de datos federales, ya sea que el público lo note o no.