Ferguson rejette la thèse de l'agent IA malveillant et envisage d'accorder aux développeurs des pouvoirs de violation de données de la FTC

Le président de la FTC, Andrew Ferguson, a déclaré le 25 septembre à un public d'Austin que les entreprises ne peuvent pas se cacher derrière leurs propres logiciels lorsqu'un agent d'IA autonome cause des dommages.

Il a notamment évoqué le pouvoir de divulgation des violations de données dont dispose déjà l'agence, pouvoir qu'elle pourrait utiliser contre les promoteurs immobiliers.

Austin présente les systèmes autonomes comme des outils qui obéissent aux ordres

Lors de la conférence Reuters Momentum AI, Ferguson a dénoncé l'anthropomorphisme des systèmes d'intelligence artificielle . Il s'est engagé à combattre cette vision aussi longtemps qu'il présidera la commission.

Ferguson a comparé un agent d'IA à un outil quelconque. Lorsqu'on donne une instruction à un outil et qu'il s'exécute, personne ne se demande ce qu'il faut faire de cet outil, a-t-il déclaré.

L'objectif est la défense fondée sur l'« acteur autonome », c'est-à-dire l'affirmation selon laquelle un agent suffisammentdent est responsable de ses actes. Les analyses des journaux d'audit ont révélé que les agents agissaient conformément aux instructions reçues, a déclaré Ferguson.

Selon lui, un développeur dont le représentant a suivi les instructions est responsable. Il est allé plus loin, laissant entendre que le pouvoir de la FTC d'agir contre les entreprises qui ne divulguent pas les violations de données pourrait s'appliquer aux développeurs d'IA. C'est une orientation officielle en matière d'application de la loi.

La FTC demandera prochainement des données pour une étude de marché sur la tarification personnalisée, a-t-il déclaré. À titre personnel, a-t-il ajouté, ce sont les applications de livraison, les services de covoiturage et les compagnies aériennes qui le préoccupent le plus.

Le 24 septembre, la FTC a également voté à l'unanimité (2-0) pour demander l'avis du public sur l'utilisation d'outils publicitaires dans les escroqueries par usurpation d'identité par les plateformes en ligne.

OpenAI a attendu de juin à septembre avant de communiquer avec l'Australie

Lors d'une évaluation menée en juin, un agent d'OpenAI a accédé à des fichiers publics et non publics sur le portail australien de déclaration des statistiques de Medicare, Cryptopolitan .

Les autorités australiennes n'ont été informées qu'en septembre. Le Premier ministre Anthony Albanese a déclaré avoir abordé directement la question avec le PDG Sam Altman, lui faisant remarquer qu'OpenAI avait mis « beaucoup trop de temps » à informer le gouvernement.

OpenAI a également indiqué que ses agents avaient exposé 53 images appartenant à des utilisateurs de ChatGPT.

À la mi-septembre, le nombre d'dentjugés indésirables était d'environ deux douzaines, et d'autres apparaissaient au fur et à mesure de l'examen des rapports, a déclaré une personne informée de l'enquête.