L'utilisation non officielle par le Département de la Défense de ChatGPT suscite des inquiétudes
- L'accès non autorisé au ChatGPT par le personnel de la Défense met en lumière les risques pour la sécurité des données liés aux services d'IA émergents.
- Le gouvernement manque de directives claires concernant l'utilisation de l'IA, ce qui soulève des préoccupations en matière de violations de données et de respect de la vie privée.
- Un sénateur du Parti vert plaide pour des politiques robustes régissant l'IA dans le secteur public afin de prévenir l'accès non autorisé aux données et de protéger les informations sensibles.
Dans une révélation surprenante, il a été révélé que des membres du personnel du Département de la Défense ont accédé aux serveurs du chatbot IA ChatGPT sans autorisation appropriée, utilisant le service des milliers de fois. Ces connexions non autorisées ont été effectuées via le domaine web d'OpenAI, l'entreprise derrière ChatGPT, suscitant des inquiétudes concernant d'éventuelles violations de données et de confidentialité. L'incident a incité le Département de la Défense à restreindre immédiatement l'accès au domaine web d'OpenAI pour prévenir toute utilisation non autorisée supplémentaire et les risques potentiels pour la sécurité.
Inquiétudes concernant l'accès non autorisé et les violations de données
Des documents obtenus par une demande de liberté d'information de Crikey indiquent que le personnel du Département de la Défense, utilisant des appareils tels que des ordinateurs et des smartphones, s'est connecté à des pages web sous le domaine OpenAI.com environ 5 630 fois sur six mois, du 1er décembre 2022 au 30 juin 2023. Le schéma de connexion suggère que les utilisateurs ont accédé au domaine via l'interface web en ligne, excluant probablement les services tiers ou les applications pour smartphones proposées par OpenAI.
La gamme de produits IA d'OpenAI
OpenAI.com est la plateforme d'hébergement d'une gamme de produits IA développés par l'entreprise, y compris ChatGPT, qui a été initialement lancé le 30 novembre 2022. La plateforme héberge également d'autres offres IA comme le générateur de texte à image DALL-E-2 et GPT-4, ainsi que diverses autres pages web associées à OpenAI.
Réponse du département de la Défense
En réponse à ces connexions non autorisées, le Département de la Défense a pris des mesures pour limiter l'accès aux services d'OpenAI. Le décideur accrédité du département, David Evans, a souligné que l'accès aux produits d'OpenAI, en particulier « aux services IA en ligne tels que Chat GPT », n'a pas été approuvé par le département. Limiter l'accès vise à empêcher toute compromission potentielle d'informations classifiées ou privées, protégeant ainsi les données sensibles.
Questions sans réponse
Malgré l'action prise par le Département de la Défense, plusieurs questions subsistent concernant la nature des connexions non autorisées et la chronologie des événements. Le département a accusé réception d'une demande des médias de Crikey. Cependant, il n'a pas spécifié quelles connexions ont eu lieu avant l'imposition des restrictions, quand elles ont été mises en œuvre, ou si des raisons légitimes ont été citées pour permettre l'accès malgré les limitations.
Absence de politique gouvernementale claire
Il est intéressant de noter que les départements fédéraux n'ont pas de directives complètes à l'échelle du gouvernement concernant l'utilisation de produits d'IA générative comme ChatGPT. Plus tôt cette année, l'Agence de transformation numérique a offert une approbation prudente de l'expérimentation des services publics avec de tels services IA, conseillant que bien que l'expérimentation ne soit pas découragée, une évaluation approfondie des risques potentiels devrait être menée. Cependant, aucune réglementation ou directive spécifique n'a été émise.
L'appel à une réglementation robuste
Le sénateur des Verts pour la Nouvelle-Galles du Sud et porte-parole des droits numériques, David Shoebridge, a exprimé une profonde inquiétude concernant l'utilisation non autorisée des services IA par le personnel du Département de la Défense. Shoebridge a souligné que le grand nombre de connexions non autorisées indique un manque de politique complète pour répondre aux préoccupations de sécurité posées par les technologies émergentes. Il a appelé à la mise en œuvre de nouvelles politiques et réglementations régissant l'utilisation de l'IA générative dans les paramètres gouvernementaux, surtout compte tenu de la présence d'informations sensibles et classifiées. Shoebridge a souligné l'importance de peaufiner les contrôles de sécurité pour empêcher de tels incidents de se produire à l'avenir.
L'utilisation non autorisée de ChatGPT par le personnel du Département de la Défense met en lumière la nécessité urgente de réglementations et de directives claires régissant l'utilisation des services d'IA dans les départements gouvernementaux. Cet incident a mis en évidence les risques potentiels d'accès non autorisé aux données et de violations de la vie privée, soulignant l'importance de mesures de sécurité robustes à l'ère des technologies émergentes. La manière dont le gouvernement répondra à ces préoccupations reste à voir, tout comme la question de savoir si des politiques complètes seront adoptées pour relever les défis de sécurité posés par les services d'IA.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Glory Kaburu
Glory est une journaliste extrêmement compétente, maîtrisant les outils d'intelligence artificielle et la recherche. Passionnée par l'IA, elle a rédigé plusieurs articles sur le sujet. Elle se tient informée des dernières avancées en intelligence artificielle, en apprentissage automatique et en apprentissage profond, et écrit régulièrement à ce propos.
