El uso no oficial del Departamento de Defensa de ChatGPT genera preocupaciones
- El acceso no autorizado a ChatGPT por parte del personal de Defensa pone de relieve los riesgos de seguridad de datos en servicios emergentes de IA.
- El gobierno carece de directrices claras para el uso de la IA, lo que genera preocupaciones sobre brechas de datos y violaciones de privacidad.
- Un senador de los Verdes insta a políticas sólidas para regular el uso de la IA en el gobierno y prevenir el acceso no autorizado a datos, protegiendo así la información sensible.
En una revelación impactante, se ha hecho público que miembros del personal del Departamento de Defensa han accedido a los servidores del chatbot de IA ChatGPT sin la autorización adecuada, utilizando el servicio miles de veces. Estas conexiones no autorizadas se realizaron a través del dominio web de OpenAI, la empresa detrás de ChatGPT, lo que ha generado preocupaciones sobre posibles violaciones de datos y privacidad. El incidente ha llevado al Departamento de Defensa a restringir inmediatamente el acceso al dominio web de OpenAI para prevenir un uso no autorizado adicional y posibles riesgos de seguridad.
Preocupaciones por el acceso no autorizado y las violaciones de datos
Documentos obtenidos a través de una solicitud de libertad de información realizada por Crikey indican que el personal del Departamento de Defensa, utilizando dispositivos como computadoras y teléfonos inteligentes, se conectó a páginas web bajo el dominio OpenAI.com aproximadamente 5630 veces durante seis meses, desde el 1 de diciembre de 2022 hasta el 30 de junio de 2023. El patrón de conexión sugiere que los usuarios accedieron al dominio a través de la interfaz web en línea, excluyendo probablemente servicios de terceros o aplicaciones para teléfonos inteligentes ofrecidas por OpenAI.
La gama de productos de IA de OpenAI
OpenAI.com es la plataforma de alojamiento de una variedad de productos de IA desarrollados por la empresa, incluido ChatGPT, que se lanzó inicialmente el 30 de noviembre de 2022. La plataforma también aloja otras ofertas de IA como el generador de texto a imagen DALL-E-2 y GPT-4, junto con varias páginas web asociadas con OpenAI.
Respuesta del departamento de Defensa
En respuesta a estas conexiones no autorizadas, el Departamento de Defensa ha tomado medidas para limitar el acceso a los servicios de OpenAI. El tomador de decisiones acreditado del departamento, David Evans, enfatizó que el acceso a los productos de OpenAI, especialmente los "servicios de IA en línea como Chat GPT", no ha sido aprobado por el departamento. La limitación del acceso tiene como objetivo prevenir cualquier posible compromiso de información clasificada o privada, salvaguardando los datos sensibles.
Preguntas sin respuesta
A pesar de la acción tomada por el Departamento de Defensa, siguen existiendo varias preguntas sobre la naturaleza de las conexiones no autorizadas y la cronología de los eventos. El departamento reconoció haber recibido una solicitud de los medios de comunicación de Crikey. Sin embargo, no especificó qué conexiones ocurrieron antes de que se impusieran las restricciones, cuándo se implementaron o si se citaron razones legítimas para permitir el acceso a pesar de las limitaciones.
Falta de una política gubernamental clara
Curiosamente, los departamentos federales no cuentan con una guía gubernamental integral en todo el país sobre el uso de productos de IA generativa como ChatGPT. A principios de este año, la Agencia de Transformación Digital ofreció una aprobación cautelosa de la experimentación del servicio público con estos servicios de IA, aconsejando que, aunque no se desalentaba la experimentación, se debía realizar una evaluación exhaustiva de los riesgos potenciales. Sin embargo, no se emitieron regulaciones o pautas específicas.
La llamada a una regulación robusta
El senador de los Verdes por NSW y portavoz de derechos digitales, David Shoebridge, ha expresado su profunda preocupación por el uso no autorizado de servicios de IA por parte del personal del Departamento de Defensa. Shoebridge señaló que el gran número de conexiones no autorizadas indica una falta de política integral para abordar las preocupaciones de seguridad planteadas por las tecnologías emergentes. Instó a implementar nuevas políticas y regulaciones que rijan el uso de la IA generativa en entornos gubernamentales, especialmente dada la presencia de información sensible y clasificada. Shoebridge destacó la importancia de refinar los controles de seguridad para evitar que incidentes como estos ocurran en el futuro.
El uso no autorizado de ChatGPT por parte del personal del Departamento de Defensa subraya la urgente necesidad de regulaciones y pautas claras que rijan el uso de servicios de IA en los departamentos gubernamentales. El incidente ha puesto de manifiesto los riesgos potenciales de acceso no autorizado a datos y violaciones de privacidad, enfatizando la importancia de medidas de seguridad robustas en una era de tecnologías emergentes. Cómo responde el gobierno a estas preocupaciones sigue siendo incierto, y si se promulgarán políticas integrales para abordar los desafíos de seguridad planteados por los servicios de IA.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Glory Kaburu
Glory es una periodista extremadamente experta con herramientas e investigación sobre IA. Está apasionada por la inteligencia artificial y ha escrito varios artículos sobre el tema. Se mantiene al día con los últimos avances en Inteligencia Artificial, Aprendizaje Automático y Aprendizaje Profundo, y escribe regularmente sobre ellos.
