Chargement...

Anthropic sollicite la contribution du public américain pour forger une constitution révolutionnaire pour l'IA

Dans cet article :

  • La startup d'IA Anthropic, connue pour le chatbot Claude, s'associe au Collective Intelligence Project (CIP) pour rédiger une constitution pour un système d'IA.
  • Environ 1 000 Américains donnent leur avis pour façonner la constitution, explorant l’intersection de la démocratie et de la technologie de l’IA.
  • La constitution publique reflète à la fois les accords et les disparités avec la constitution interne d'Anthropic, révélant des idées intrigantes.

Dans le cadre d'une initiative révolutionnaire, Anthropic, la startup innovante d'IA à l'origine du populaire chatbot Claude, a entrepris un effort de collaboration avec le Collective Intelligence Project (CIP) pour exploiter la sagesse collective de 1 000 citoyens américains afin de façonner une « Constitution pour l'IA » unique. Cette entreprise audacieuse vise à démêler la relation complexe entre les processus démocratiques et le développement de l’intelligence artificielle, en plaçant la contribution du public au cœur de l’élaboration des contours éthiques de la technologie de l’IA.

Constitution anthropique et expérimentation démocratique

Anthropic, reconnu pour sa méthode Constitutional AI (CAI), qui guide les grands modèles linguistiques (LLM) avec des principes normatifs, a fait un pas significatif en engageant le public américain dans cette expérience. La constitution d'Anthropic, inspirée de documents mondialement reconnus comme la Déclaration universelle des droits de l'homme de l'ONU, guide généralement le comportement de Claude. L'entreprise, en collaboration avec CIP, a utilisé Polis, une plateforme conçue pour recueillir l'opinion publique, pour recueillir des commentaires sur les règles d'un agent de chat LLM.

La constitution publique a révélé des chevauchements et des disparités intrigants avec la constitution interne d'Anthropic. Si l’expérience a établi une convergence d’environ 50 % entre les deux, des principes spécifiques se sont démarqués. Par exemple, les préférences du public ont souligné l’importance de fournir des informations équilibrées et objectives, reflétant un engagement en faveur de la compréhension, de l’adaptabilité, de l’accessibilité et de la flexibilité pour les personnes handicapées. Ces variations mettent en lumière les perspectives nuancées qui émergent lorsque les idéaux démocratiques croisent le monde de l’IA.

Dévoiler la dynamique des contributions du public et le comportement du modèle

Le billet de blog d'Anthropic publié cette semaine a révélé non seulement la constitution façonnée par les commentaires du public, mais également la formation ultérieure d'un nouveau système d'IA contre elle. L'expérience a révélé des domaines dans lesquels les préférences du public s'alignaient sur la vision d'Anthropic et où des écarts se produisaient. Notamment, des déclarations publiques contradictoires sur la priorité accordée au bien-être collectif plutôt qu’aux droits individuels ou vice versa ont mis en évidence la complexité des considérations éthiques dans l’IA.

L'évaluation complète et méticuleuse de l'expérience par le CIP a souligné sans équivoque l'observation frappante selon laquelle le modèle public, dans ses multiples manifestations, a démontré une réduction perceptible des préjugés à travers un large éventail de stéréotypes. Notamment, ledit modèle a montré une performance qui était non seulement comparable mais, dans certains cas, équivalente au modèle de base dans les évaluations englobant les domaines complexes de la perspicacité matic , de la compréhension du langage naturel et des gradations nuancées d’utilité et d’innocuité.  

L’organisation, dans son explication judicieuse, a souligné et accentué le rôle central et indispensable joué par la contribution du public dans la configuration déterministe du comportement de l’IA. Soulignant avec une clarté inébranlable l’importance profonde d’une telle contribution dans l’influence profonde et de grande portée qu’elle exerce sur le modus operandi des efforts humains, la dynamique de la communication et les interactions interpersonnelles à une échelle vaste et radicale.

L’odyssée démocratique vers une constitution pour l’IA

Alors que le paysage numérique est témoin de la convergence des idéaux démocratiques avec les progrès technologiques, l'expérience d'Anthropic soulève des questions cruciales sur l'avenir de l'éthique de l'IA. Comment la sagesse collective du public peut-elle façonner le comportement des modèles d’IA , et quelles implications cela a-t-il pour l’évolution des relations entre la technologie et la société ? Dans la quête d'une constitution de l'IA façonnée par diverses perspectives, le projet d'Anthropic nous incite à réfléchir aux implications plus larges de la démocratisation du développement de l'intelligence artificielle.

Dans ce territoire inconnu où la constitution de l’IA devient un effort collaboratif, l’expérience Anthropic non seulement remodèle le discours sur l’éthique technologique, mais nous invite également à contempler l’évolution du rôle des citoyens dans l’orientation de l’innovation. Alors que nous naviguons aux croisements inconnus de la démocratie et de l’intelligence artificielle, la question persiste : la voix collective du peuple peut-elle véritablement être la force directrice de l’évolution algorithmique qui façonne notre avenir numérique ?

Clause de non-responsabilité. Les informations fournies ne sont pas des conseils commerciaux. Cryptopolitan.com décline toute responsabilité pour les investissements effectués sur la base des informations fournies sur cette page. Nous tron vivement dent recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Lien de partage:

Les plus lus

Chargement des articles les plus lus...

Restez au courant de l'actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception

Nouvelles connexes

Apple ne paie pas OpenAI pour l'intégration de ChatGPT dans iOS18
cryptopolite
Abonnez-vous à CryptoPolitan