Anthropic bezieht die amerikanische Öffentlichkeit ein, um eine revolutionäre Verfassung für KI zu entwerfen.

In einer bahnbrechenden Initiative hat Anthropic, das innovative KI-Startup hinter dem beliebten Chatbot Claude, gemeinsam mit dem Collective Intelligence Project (CIP) die kollektive Weisheit von 1.000 US-Bürgern genutzt, um eine einzigartige „Verfassung für KI“ zu gestalten. Dieses ambitionierte Vorhaben zielt darauf ab, die komplexe Beziehung zwischen demokratischen Prozessen und der Entwicklung künstlicher Intelligenz zu entschlüsseln und die öffentliche Meinung in den Mittelpunkt der Gestaltung der ethischen Rahmenbedingungen der KI-Technologie zu stellen.

Anthropics Verfassung und demokratische Experimente

Anthropic, bekannt für seine Methode der Verfassungs-KI (CAI), die große Sprachmodelle (LLMs) mit normativen Prinzipien steuert, wagte einen bedeutenden Schritt, indem es die amerikanische Öffentlichkeit in dieses Experiment einbezog. Die Verfassung von Anthropic, inspiriert von weltweit anerkannten Dokumenten wie der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen, bestimmt üblicherweise das Verhalten von Claude. Das Unternehmen nutzte in Zusammenarbeit mit CIP die Plattform Polis zur Erfassung öffentlicher Meinungen, um Feedback zu den Regeln für einen LLM-Chatagenten zu erhalten.

Die öffentlich zugängliche Verfassung offenbarte interessante Überschneidungen und Unterschiede zur internen Verfassung von Anthropic. Obwohl das Experiment eine etwa 50-prozentige Übereinstimmung zwischen beiden feststellte, traten bestimmte Prinzipien deutlich hervor. So betonten die öffentlichen Präferenzen beispielsweise die Wichtigkeit ausgewogener und objektiver Informationen, was ein Engagement für Verständnis, Anpassungsfähigkeit, Zugänglichkeit und Flexibilität für Menschen mit Behinderungen widerspiegelt. Diese Unterschiede verdeutlichen die differenzierten Perspektiven, die entstehen, wenn demokratische Ideale auf die Welt der KI treffen.

Aufdeckung der Dynamik öffentlicher Eingaben und des Modellverhaltens

Der Blogbeitrag von Anthropic enthüllte diese Woche nicht nur die durch öffentliche Beiträge geprägte Verfassung, sondern auch das anschließende Training eines neuen KI-Systems anhand dieser Verfassung. Das Experiment zeigte Bereiche auf, in denen die öffentlichen Präferenzen mit Anthropics Vision übereinstimmten und wo Abweichungen auftraten. Insbesondere die widersprüchlichen öffentlichen Aussagen zur Priorisierung des Gemeinwohls gegenüber individuellen Rechten oder umgekehrt verdeutlichten die Komplexität ethischer Überlegungen im Bereich der KI.

Die umfassende und sorgfältige Bewertung des Experiments durch CIP hob unmissverständlich hervor, dass das öffentliche Modell in seinen vielfältigen Ausprägungen eine deutliche Reduzierung von Vorurteilen gegenüber einer breiten Palette von Stereotypen aufwies. Bemerkenswerterweise zeigte das Modell eine Leistung, die nicht nur mit der des Basismodells vergleichbar, sondern in einigen Fällen sogar gleichwertig war, und zwar in Bewertungen, die die komplexen BereichematicVerständnis, natürliches Sprachverständnis und die differenzierten Abstufungen von Nützlichkeit und Harmlosigkeit umfassten. 

Die Organisation unterstrich in ihrer umsichtigen Erläuterung die zentrale und unverzichtbare Rolle des öffentlichen Inputs bei der deterministischen Gestaltung des KI-Verhaltens. Sie betonte mit unmissverständlicher Klarheit die tiefgreifende Bedeutung dieses Inputs für den weitreichenden Einfluss, den er auf die Vorgehensweise menschlicher Bestrebungen, die Kommunikationsdynamik und die zwischenmenschlichen Interaktionen in großem Umfang ausübt.

Die demokratische Odyssee hin zu einer Verfassung für KI

Angesichts der zunehmenden Verschmelzung demokratischer Ideale mit technologischen Fortschritten in der digitalen Welt wirft das Experiment von Anthropic entscheidende Fragen zur Zukunft der KI-Ethik auf. Wie kann die kollektive Weisheit der Öffentlichkeit das Verhalten von KI-Modellen, und welche Auswirkungen hat dies auf das sich wandelnde Verhältnis zwischen Technologie und Gesellschaft? Im Bestreben nach einer KI-Verfassung, die von vielfältigen Perspektiven getragen wird, regt das Projekt von Anthropic dazu an, über die weitreichenderen Konsequenzen einer Demokratisierung der Entwicklung künstlicher Intelligenz nachzudenken.

In diesem unerforschten Gebiet, wo die Gestaltung von KI zu einem gemeinschaftlichen Unterfangen wird, prägt das anthropische Experiment nicht nur den Diskurs über technologische Ethik neu, sondern regt uns auch dazu an, über die sich wandelnde Rolle der Bürger bei der Steuerung von Innovationen nachzudenken. Während wir die noch unerforschten Schnittstellen von Demokratie und künstlicher Intelligenz erkunden, bleibt die Frage bestehen: Kann die kollektive Stimme des Volkes tatsächlich die treibende Kraft in der algorithmischen Evolution sein, die unsere digitale Zukunft prägt?