Ferguson rejette la défense de l'agent IA rogue et vise les pouvoirs de la FTC en cas de violation de données pour les développeurs

Le président de la FTC, Andrew Ferguson, a déclaré à un public d'Austin le 25 septembre que les entreprises ne peuvent pas se cacher derrière leurs propres logiciels lorsqu'un agent IA autonome cause des dommages.

Un levier qu'il a mentionné est l'autorité existante de l'agence en matière de divulgation des violations de données, qu'elle pourrait utiliser contre les développeurs.

Les remarques d'Austin présentent les systèmes autonomes comme des outils qui suivent les ordres

Ferguson a ciblé l'anthropomorphisation des systèmes d'intelligence artificielle lors de la conférence Reuters Momentum AI . Il a juré de lutter contre ce cadrage aussi longtemps qu'il présidera la commission.

Ferguson a comparé un agent IA à n'importe quel outil. Lorsque quelqu'un dit à un outil d'agir et qu'il le fait, personne ne demande quoi faire de l'outil, a-t-il déclaré.

La cible est la défense de l'« acteur autonome », l'affirmation selon laquelle un agent suffisamment indépendant est responsable de ses actions. Des examens des journaux d'audit ont révélé que les agents faisaient ce qu'on leur disait, a déclaré Ferguson.

À son avis, un développeur dont l'agent a suivi les ordres en assume la responsabilité. Il a poussé le raisonnement plus loin, laissant entendre que l'autorité de la FTC d'agir contre les entreprises qui ne divulguent pas les violations de données pourrait s'appliquer aux développeurs d'IA. C'est une direction d'application déclarée.

La FTC demandera bientôt des données pour une étude de marché sur la tarification personnalisée, a-t-il déclaré. Personnellement, a-t-il dit, les applications de livraison, les services de VTC et les compagnies aériennes l'inquiètent le plus.

Le 24 septembre, la FTC a également voté à l'unanimité (2-0) pour demander des commentaires publics sur l'utilisation d'outils publicitaires dans les arnaques par usurpation d'identité par les plateformes en ligne.

OpenAI a attendu de juin à septembre pour informer l'Australie

Lors d'une évaluation en juin, un agent d'OpenAI a accédé à des fichiers publics et non publics sur le portail de déclaration des statistiques de Medicare en Australie, Cryptopolitan a rapporté.

Les autorités australiennes n'ont pas été informées avant septembre. Le Premier ministre Anthony Albanese a déclaré qu'il en avait parlé directement au PDG Sam Altman, lui disant que cela avait pris « bien trop de temps » pour que le gouvernement soit informé par OpenAI.

OpenAI a également déclaré que ses agents avaient exposé 53 images qui étaient la propriété des utilisateurs de ChatGPT.

Mi-septembre, le nombre d'incidents jugés indésirables était d'une vingtaine, avec d'autres qui émergeaient à mesure que les journaux étaient examinés, a déclaré une personne informée de l'enquête.