Anthropic sollicite l'avis du public américain pour élaborer une constitution révolutionnaire pour l'IA

Dans le cadre d'une initiative novatrice, Anthropic, la startup spécialisée en IA à l'origine du populaire chatbot Claude, s'est associée au Collective Intelligence Project (CIP) afin de mobiliser l'intelligence collective de 1 000 citoyens américains pour élaborer une « Constitution pour l'IA » unique en son genre. Ce projet audacieux vise à démêler le lien complexe entre les processus démocratiques et le développement de l'intelligence artificielle, en plaçant la participation citoyenne au cœur de la définition des contours éthiques de cette technologie.

Constitution et expérimentation démocratique d'Anthropic

Anthropic, entreprise reconnue pour sa méthode d'IA constitutionnelle (IAC), qui oriente les grands modèles de langage (GML) à l'aide de principes normatifs, a franchi une étape importante en impliquant le public américain dans cette expérimentation. La constitution d'Anthropic, inspirée de documents internationalement reconnus tels que la Déclaration universelle des droits de l'homme des Nations Unies, guide habituellement le comportement de Claude. L'entreprise, en collaboration avec CIP, a utilisé Polis, une plateforme de consultation publique, afin de recueillir des avis sur les règles d'un agent conversationnel basé sur un GML.

La constitution issue de sources publiques a révélé des similitudes et des différences intéressantes avec la constitution interne d'Anthropic. Bien que l'expérience ait établi une convergence d'environ 50 % entre les deux, certains principes se sont démarqués. Par exemple, les préférences du public ont souligné l'importance de fournir une information équilibrée et objective, reflétant un engagement envers la compréhension, l'adaptabilité, l'accessibilité et la flexibilité pour les personnes en situation de handicap. Ces variations mettent en lumière les perspectives nuancées qui émergent lorsque les idéaux démocratiques rencontrent le monde de l'IA.

Dévoiler la dynamique des entrées publiques et le comportement du modèle

L'article publié cette semaine sur le blog d'Anthropic a révélé non seulement la constitution élaborée grâce à la consultation publique, mais aussi l'entraînement ultérieur d'un nouveau système d'IA en fonction de cette constitution. L'expérience a mis en lumière les points de convergence et de divergence entre les préférences du public et la vision d'Anthropic. Notamment, les prises de position publiques contradictoires sur la priorité à accorder au bien-être collectif plutôt qu'aux droits individuels, ou inversement, ont souligné la complexité des enjeux éthiques liés à l'IA.

L'évaluation exhaustive et méticuleuse de l'expérience par le CIP a mis en évidence un constat frappant : le modèle public, sous ses multiples formes, a démontré une réduction notable des biais concernant un large éventail de stéréotypes. Plus particulièrement, ce modèle a affiché des performances non seulement comparables, mais même, dans certains cas, équivalentes à celles du modèle de référence, notamment dans les domaines complexes de l'habiletématic, de la compréhension du langage naturel et des nuances entre utilité et innocuité. 

L'organisation, dans son exposé judicieux, a souligné et mis en évidence le rôle crucial et indispensable de la contribution du public dans la configuration déterministe du comportement de l'IA. Elle a insisté avec une clarté inébranlable sur l'importance capitale de cette contribution et sur l'influence profonde et considérable qu'elle exerce sur le mode opératoire des activités humaines, la dynamique de la communication et les interactions interpersonnelles à grande échelle.

L'odyssée démocratique vers une constitution pour l'IA

Alors que le paysage numérique voit converger les idéaux démocratiques et les avancées technologiques, l'expérience d'Anthropic soulève des questions cruciales sur l'avenir de l'éthique de l'IA. Comment la sagesse collective du public peut-elle influencer le comportement des modèles d'IA, et quelles implications cela a-t-il pour l'évolution des relations entre technologie et société ? Dans la quête d'une constitution de l'IA fondée sur des perspectives diverses, le projet d'Anthropic nous invite à réfléchir aux implications plus larges d'une démocratisation du développement de l'intelligence artificielle.

Dans ce territoire inexploré où la constitution de l'IA devient une entreprise collaborative, l'expérience Anthropic redéfinit non seulement le discours sur l'éthique technologique, mais nous invite aussi à réfléchir au rôle évolutif des citoyens dans l'orientation de l'innovation. Alors que nous explorons les intersections encore inconnues entre démocratie et intelligence artificielle, une question demeure : la voix collective du peuple peut-elle véritablement guider l'évolution algorithmique qui façonnera notre avenir numérique ?