Anthropic busca la participación del público estadounidense para crear una constitución revolucionaria para la IA

En una iniciativa pionera, Anthropic, la innovadora startup de IA creadora del popular chatbot Claude, ha colaborado con el Proyecto de Inteligencia Colectiva (CIP) para aprovechar la sabiduría colectiva de 1000 ciudadanos estadounidenses y crear una "Constitución para la IA" única. Esta audaz iniciativa busca desentrañar la intrincada relación entre los procesos democráticos y el desarrollo de la inteligencia artificial, priorizando la opinión pública para definir los límites éticos de la tecnología de IA.

Constitución antrópica y experimentación democrática

Anthropic, reconocida por su método de IA Constitucional (IAC), que guía los grandes modelos lingüísticos (LLM) con principios normativos, dio un paso significativo al involucrar al público estadounidense en este experimento. La constitución de Anthropic, inspirada en documentos de reconocimiento mundial como la Declaración Universal de los Derechos Humanos de la ONU, suele guiar el comportamiento de Claude. La empresa, en colaboración con CIP, empleó Polis, una plataforma diseñada para recopilar la opinión pública, para recabar opiniones sobre las normas para un agente de chat de LLM.

La constitución de fuentes públicas reveló solapamientos y disparidades intrigantes con la constitución interna de Anthropic. Si bien el experimento estableció una convergencia de aproximadamente el 50 % entre ambas, se destacaron principios específicos. Por ejemplo, las preferencias del público enfatizaron la importancia de proporcionar información equilibrada y objetiva, lo que refleja un compromiso con la comprensión, la adaptabilidad, la accesibilidad y la flexibilidad para las personas con discapacidad. Estas variaciones ponen de manifiesto las perspectivas matizadas que surgen cuando los ideales democráticos se cruzan con el mundo de la IA.

Revelando la dinámica de la participación pública y el comportamiento del modelo

La entrada del blog de Anthropic de esta semana reveló no solo la constitución moldeada por la opinión pública, sino también el posterior entrenamiento de un nuevo sistema de IA en función de ella. El experimento reveló áreas donde las preferencias públicas coincidían con la visión de Anthropic y dónde se produjeron desviaciones. Cabe destacar que las declaraciones públicas contradictorias sobre priorizar el bienestar colectivo sobre los derechos individuales, o viceversa, pusieron de relieve la complejidad de las consideraciones éticas en la IA.

La evaluación exhaustiva y meticulosa del experimento por parte del CIP destacó inequívocamente la notable observación de que el modelo público, en sus múltiples manifestaciones, mostró una reducción perceptible del sesgo en una amplia gama de estereotipos. Cabe destacar que dicho modelo mostró un rendimiento no solo comparable, sino, en ciertos casos, equivalente al del modelo de referencia en evaluaciones que abarcan los complejos dominios de la perspicaciamatic, la comprensión del lenguaje natural y los matices de utilidad e inocuidad. 

La organización, en su juiciosa explicación, subrayó y enfatizó el papel fundamental e indispensable que desempeña la opinión pública en la configuración determinista del comportamiento de la IA. Enfatizó con absoluta claridad la profunda importancia de dicha opinión en la profunda y trascendental influencia que ejerce sobre el modus operandi de las actividades humanas, la dinámica de la comunicación y las interacciones interpersonales a gran escala.

La odisea democrática hacia una constitución para IA

A medida que el panorama digital presencia la convergencia de los ideales democráticos con los avances tecnológicos, el experimento de Anthropic suscita interrogantes cruciales sobre el futuro de la ética de la IA. ¿Cómo puede la sabiduría colectiva del público influir en el comportamiento de los modelos de IAy qué implicaciones tiene esto para la relación en constante evolución entre la tecnología y la sociedad? En la búsqueda de una constitución de la IA moldeada por diversas perspectivas, la iniciativa de Anthropic nos invita a reflexionar sobre las implicaciones más amplias de la democratización del desarrollo de la inteligencia artificial.

En este territorio inexplorado donde la constitución de la IA se convierte en una iniciativa colaborativa, el experimento antrópico no solo redefine el discurso sobre la ética tecnológica, sino que también nos invita a contemplar el papel evolutivo de la ciudadanía en la dirección de la innovación. Mientras exploramos las intersecciones aún no descubiertas de la democracia y la inteligencia artificial, persiste la pregunta: ¿Puede la voz colectiva del pueblo ser realmente la fuerza que guíe la evolución algorítmica que configura nuestro futuro digital?