L'autorité italienne de protection des données (APD) s'en prend à DeepSeek

Les autorités italiennes de sécurité ont jeté leur dévolu sur DeepSeek, la société chinoise d'intelligence artificielle qui fait sensation, après qu'Euroconsumers a déposé une plainte auprès de l'Autorité italienne de protection des données (DPA).

Euroconsumers est un regroupement d'organisations de consommateurs européennes. L'année dernière, il a obtenu gain de cause contre Grok concernant l'utilisation des données pour l'entraînement de son intelligence artificielle.  

Selon les informations disponibles, la plainte concerne la manière dont DeepSeek gère les données personnelles au regard du RGPD, une loi européenne sur la protection des données. 

L'autorité italienne de protection des données a écrit aux sociétés Hangzhou DeepSeek AI et Beijing DeepSeek AI pour leur demander des informations complémentaires. Elle souhaite notamment déterminer quelles données personnelles sont collectées, d'où elles proviennent et pourquoi elles le sont.

Da Roma con AI Amore!

L'autorité italienne de protection des données a annoncé avoir adressé une demande d'informations à DeepSeek, notamment concernant l'entraînement de ses outils d'IA. @guidoscorza pic.twitter.com/bHElVZDkBo

— Luis Montezuma | @[email protected] (@montezumachavez) 28 janvier 2025

Cela inclut des détails sur les informations utilisées pour entraîner leurs systèmes d'IA et les fondements juridiques du traitement de ces données. L'entité souhaite également obtenir davantage d'informations sur les ordinateurs en Chine

Ce n'est pas tout. La DPA souhaite obtenir des informations sur les activités de web scraping de la startup, concernant aussi bien les utilisateurs enregistrés que non enregistrés.

La DPA attend une réponse dans un délai de vingt jours.

Pourquoi DeepSeek suscite-t-il autant de suspicion ? 

L'une des principales suspicions est que DeepSeek ait été créée et soit basée en Chine continentale. Selon sa politique de confidentialité, cette start-up spécialisée en intelligence artificielle collecte et conserve des informations et des données dans son propre pays. Cela inquiète les consommateurs européens. 

Deuxièmement, la société d'IA indique dans sa politique qu'elle transfère des données vers la Chine. Cela transforme immédiatement l'outil d'IA en une arme politique, ou plutôt en un sujet de discorde dans ce secteur mondial en pleine expansion.

Le pire ? La protection des mineurs. Selon des rapports, Euroconsumers a souligné que DeepSeek ne fournit aucune information sur la manière dont elle protège ou limite l’accès des mineurs à ses services, notamment en ce qui concerne la vérification de l’âge et la gestion des données des mineurs.

Il est à noter que la politique d'âge de DeepSeek stipule que son service n'est pas destiné aux utilisateurs de moins de 18 ans. Cependant, elle n'explique pas comment cette règle est appliquée. Elle recommande simplement aux utilisateurs âgés de 14 à 18 ans de lire la politique de confidentialité en compagnie d'un adulte.

Lors d'une de presse organisée par la Commission européenne, Thomas Regnier, porte-parole de la Commission pour la souveraineté technologique, a répondu à la question de savoir si DeepSeek suscitait des inquiétudes au niveau européen en matière de sécurité, de confidentialité et de censure.

Il a répondu : « Les services proposés en Europe respecteront nos règles […] Nous n'en sommes qu'aux prémices, je ne parle pas encore d'une enquête. »

OpenAI, la société de Sam Altman, affirme détenir des preuves d'actes répréhensibles

OpenAI affirme avoir trouvé des preuves que la start-up chinoise d'IA ChatGPT a utilisé ses modèles propriétaires pour entraîner son propre concurrent open source. Selon certaines sources, le créateur de ChatGPT, basé à San Francisco, a déclaré avoir constaté des signes de « distillation » de ces modèles. Il suppose que DeepSeek pourrait être à l'origine de ce problème.

La distillation est une technique utilisée par les développeurs pour optimiser les performances de modèles plus petits en exploitant les résultats de modèles plus grands et plus performants. Cela leur permet d'obtenir des résultats similaires pour des tâches spécifiques à un coût bien moindre.

Ondirait DeepSeek.

Le lancement de son modèle de pensée R1 a attiré l'attention des marchés de la Silicon Valley. Le problème est qu'OpenAI a été fondée il y a 10 ans, compte 4 500 employés et a levé 6,6 milliards de dollars de capitaux.

En revanche, DeepSeek a été fondée il y a moins de deux ans, compte 200 employés et a été développée pour moins de 10 millions de dollars.

Si cette accusation de distillation est fondée, cela signifie que les ingénieurs de DeepSeek ont ​​menti. Ils ont affirmé avoir utilisé environ 2 000 puces Nvidia H800 pour entraîner leur modèle. Or, ces puces sont moins performantes que les puces les plus récentes. DeepSeek pourrait donc utiliser les données d'un modèle concurrent, ce qui constituerait une violation des conditions d'utilisation d'OpenAI.