OpenAI échoue à protéger les journaux de ChatGPT dans le procès pour violation du droit d'auteur

OpenAI doit remettre 20 millions de journaux de conversation anonymisés de ChatGPT dans le cadre d'un litige pour violation du droit d'auteur avec The New York Times (NYT) et d'autres. Les journaux de conversation sont une pièce critique de la preuve dans l'enquête sur la reproduction par ChatGPT de contenu d'actualités protégé par le droit d'auteur sans autorisation, selon le juge fédéral Ona Wang.

L'ordre est enraciné dans une demande de découverte déposée dans le cadre du procès dans lequel le NYT et d'autres organisations médiatiques soutiennent que ChatGPT – et par extension les grands modèles de langage sous-jacents d'OpenAI – ont utilisé de manière inappropriée leur contenu protégé par le droit d'auteur dans l'entraînement, produisant des sorties qui reproduisent ou résument les reportages payants. Les plaignants affirment que l'accès aux journaux de conversation révélera si et à quelle fréquence ChatGPT régénère des passages complets ou partiels de leurs articles protégés par le droit d'auteur.

Le juge Wang a rejeté les objections d'OpenAI concernant la vie privée, notant que l'entreprise est tenue de supprimer les noms, les adresses e-mail, les numéros de téléphone et tout autre détail identifiant avant de remettre les journaux. Elle a ajouté qu'en plus de cette désidentification, le tribunal a déjà mis en œuvre « plusieurs couches de protection » pour sauvegarder les informations des utilisateurs.

OpenAI a été ordonné de publier le contenu sept jours après la fin de l'anonymisation. L'entreprise avait précédemment averti que la conformité pourrait établir un précédent troublant, notant que la grande majorité des conversations n'ont rien à voir avec le procès.

Les médias avertissent que les journaux révéleront des abus de l'IA

Le New York Times et les journaux appartenant au MediaNews Group soutiennent que les journaux établiront qu'OpenAI a extrait et utilisé leur journalisme sans autorisation.

Ils affirment que ChatGPT a généré plusieurs paragraphes qui ressemblent ou font écho à leurs récits presque mot pour mot. Frank Pine, rédacteur en chef du MediaNews Group, a vivement critiqué l'entreprise d'IA. Il a déclaré qu'OpenAI hallucinait en pensant pouvoir s'en tirer en cachant des preuves sur la manière dont son modèle commercial repose sur le vol aux dépens des journalistes travailleurs. Les médias ont également nié l'affirmation d'OpenAI selon laquelle il avait manipulé l'IA pour enfreindre les droits de contenu. 

Les journaux, disent-ils également, serviront de preuve que le chatbot pouvait déjà créer du contenu protégé par le droit d'auteur avant et sans aucune saisie de l'utilisateur. L'affaire ne concerne pas la limitation de l'innovation en IA, a déclaré le New York Times, mais plutôt la garantie d'un paiement et d'une équité pour le journalisme. OpenAI a fait appel de la décision du juge Wang devant le juge de district des États-Unis Sidney Stein, qui supervise l'affaire.

L'entreprise fait valoir que la vie privée des utilisateurs ne devrait pas être compromise au tribunal, et que toute divulgation de ces journaux, même de données anonymisées, pourrait éroder la confiance dans l'entreprise. Dane Stuckey, le directeur de la sécurité informatique de l'entreprise, avait précédemment déclaré que de telles demandes de plusieurs organisations médiatiques contredisent les pratiques de sécurité sensées et méprisent les protections de la vie privée de longue date.

Les critiques voient la résistance d'OpenAI comme un signe de culpabilité

Les critiques soutiennent que la résistance d'OpenAI suggère qu'elle a quelque chose à cacher. Lorsque les systèmes d'IA s'appuient sur du contenu publiquement disponible, comme le journalisme, pour apprendre et améliorer leur contenu, la transparence est nécessaire, disent-ils. 

Le procès pour violation du droit d'auteur est l'un des nombreux intentés contre des géants de la technologie comme Microsoft et Meta. Pris ensemble, ces cas soulèvent des questions importantes sur la manière dont les organisations utilisant l'IA collectent, partagent et monétisent les informations, ainsi que sur à qui, dans quelle mesure et quand demander une compensation. 

Cela place OpenAI sur une corde raide, équilibrant la vie privée des utilisateurs avec les accusations de vol massif de droits d'auteur. Cela soulève également de plus grandes questions sur la manière dont ces interfaces utilisateur d'IA s'alignent avec les lois existantes, les protections de la propriété intellectuelle et la confiance sociale.

Si les journaux indiquent que ChatGPT copiait du contenu d'actualités protégé par le droit d'auteur sans autorisation, cela aurait des implications énormes. Non seulement pour OpenAI — mais pour l'avenir de l'entraînement de l'IA, de la durabilité des médias et des droits numériques.

Pour l'instant, la décision signale que les tribunaux sont disposés à équilibrer l'innovation de l'IA contre les protections héritées de la propriété intellectuelle — même si cela complique les notions de vie privée à l'ère numérique.