Le procureur général Bonta exhorte le Congrès à combattre l’exploitation des enfants par l’IA

Le procureur général de Californie, Rob Bonta, a pris un rôle de leader dans un effort collectif impliquant 54 États et territoires pour combattre l’augmentation alarmante de l’exploitation des enfants facilitée par l’intelligence artificielle (IA). Ensemble, ils ont appelé les dirigeants du Congrès à établir une commission d’experts chargée d’enquêter sur l’utilisation insidieuse de l’IA pour exploiter les enfants par le biais de matériel d’abus sexuel sur mineurs (CSAM). 

La mission cruciale de la commission s’étend au-delà de l’enquête pour proposer des mesures législatives visant à protéger les membres les plus vulnérables de la société, nos enfants. Cette initiative démontre un engagement uni à sauvegarder l’innocence et à s’assurer que la technologie reste une force pour le bien plutôt qu’un outil de mal.

Dans cet effort collaboratif déterminé, le procureur général Rob Bonta et ses homologues abordent résolument la question pressante de l’exploitation des enfants, en particulier dans le contexte de l’IA. 

Leur appel au Congrès met en lumière la nécessité d’une commission d’experts pour enquêter de manière exhaustive sur les tactiques d’exploitation des enfants par l’IA et proposer des garde-fous législatifs efficaces, le tout visant à protéger les membres les plus jeunes et les plus vulnérables de notre société contre les dommages. Cette initiative représente un engagement partagé à utiliser la technologie de manière responsable et à préserver le bien-être de nos enfants dans un monde de plus en plus numérique.

La menace de l’exploitation des enfants par l’IA

La capacité de l’IA à exploiter les vulnérabilités des enfants est une préoccupation croissante, comme l’ont souligné le procureur général Bonta et ses homologues. L’un des aspects alarmants de cette menace est la capacité de l’IA à localiser un enfant et à reproduire sa voix. 

Par exemple, même avec un court enregistrement vocal, les outils d’IA peuvent cloner une voix et générer de fausses déclarations que la personne n’a jamais prononcées. De manière choquante, ces manipulations alimentées par l’IA ont même facilité des enlèvements frauduleux. De telles capacités posent un grave danger pour la sécurité des enfants.

Peut-être encore plus troublant, les technologies d’IA peuvent générer des « deepfakes » convaincants mettant en scène des enfants. Les deepfakes, des vidéos ou des images trompeuses qui semblent authentiques, peuvent être créés à l’aide de l’IA, en tirant parti de photographies authentiques d’enfants abusés pour fabriquer de nouveaux contenus explicites. De plus, l’IA peut superposer des photos d’enfants non blessés sur des images de victimes, produisant un mélange sinistre de visages innocents dans des situations angoissantes. Ces développements soulignent l’urgence de s’attaquer à l’exploitation des enfants par l’IA.

Le dévouement du procureur général Rob Bonta à la sauvegarde du bien-être des enfants et à l’assurance du développement et de la réglementation responsables de l’IA est évident dans ses récentes initiatives. En août 2023, Bonta a annoncé les résultats de « l’opération Bad Barbie » dans le comté de Kern. 

Cette opération visait les adultes cherchant à exploiter sexuellement des enfants en déployant des agents infiltrés et des détectives se faisant passer pour des mineurs offrant des services sexuels sur des plateformes en ligne couramment utilisées par les victimes de traite des êtres humains. Les arrestations réussies ont démontré l’engagement de la Californie à réprimer l’exploitation des enfants.

Appel à l’action à l’échelle nationale

La collaboration du procureur général Bonta avec 54 États et territoires dans l’envoi de cette lettre aux dirigeants du Congrès souligne l’urgence nationale de faire face aux menaces posées par l’IA. La coalition bipartite comprend des procureurs généraux de tout l’échiquier politique, de l’Alabama au Wyoming. Bien que le Congrès ait reconnu les dangers plus larges de l’IA, cet effort collectif souligne que la sécurité des enfants ne doit pas être négligée. Protéger les enfants de l’exploitation alimentée par l’IA est une responsabilité partagée qui transcende les lignes partisanes.

La collaboration dirigée par le procureur général Rob Bonta et la coalition de procureurs généraux sert d’appel puissant à l’action pour le Congrès afin de faire face à la question croissante de l’exploitation des enfants par l’IA. La nécessité d’établir une commission d’experts pour enquêter et faire face à cette tendance alarmante est claire. La capacité de l’IA à manipuler les voix des enfants et à créer du contenu deepfake est une menace grave qui exige une attention immédiate.

L’engagement du procureur général Bonta en faveur de la sécurité des enfants, démontré par les efforts des forces de l’ordre et son rôle dans cette coalition, souligne l’urgence de la question. Alors que l’IA continue de progresser, il est essentiel de s’assurer que son potentiel de nuisance est confronté à des garde-fous législatifs robustes pour protéger les plus vulnérables d’entre nous – nos enfants.