Компания Anthropic привлекает американскую общественность к разработке революционной конституции для искусственного интеллекта

В рамках новаторской инициативы компания Anthropic, инновационный стартап в области искусственного интеллекта, создавший популярный чат-бот Claude, совместно с проектом Collective Intelligence Project (CIP) объединила коллективную мудрость 1000 американских граждан для создания уникальной «Конституции для ИИ». Это смелое начинание направлено на раскрытие сложной взаимосвязи между демократическими процессами и развитием искусственного интеллекта, ставя общественное мнение в центр формирования этических норм технологии ИИ.

Конституция антропов и демократические эксперименты

Компания Anthropic, известная своим методом конституционного искусственного интеллекта (CAI), который направляет работу больших языковых моделей (LLM) с помощью нормативных принципов, сделала значительный шаг вперед, вовлекая американскую общественность в этот эксперимент. Конституция Anthropic, вдохновленная общепризнанными документами, такими как Всеобщая декларация прав человека ООН, обычно определяет поведение Клода. Компания в сотрудничестве с CIP использовала Polis, платформу, предназначенную для сбора общественного мнения, чтобы получить отзывы о правилах для чат-агента на основе LLM.

В ходе исследования общедоступной конституции были выявлены интересные совпадения и расхождения с внутренней конституцией Anthropic. Хотя эксперимент показал примерно 50-процентное совпадение между ними, некоторые принципы выделялись особенно. Например, в общественных предпочтениях подчеркивалась важность предоставления сбалансированной и объективной информации, что отражает стремление к пониманию, адаптивности, доступности и гибкости для людей с ограниченными возможностями. Эти различия выявляют тонкие нюансы, возникающие при пересечении демократических идеалов с миром искусственного интеллекта.

Раскрытие динамики взаимодействия с общественностью и поведения модели

В сообщении в блоге Anthropic на этой неделе были раскрыты не только принципы, сформированные с учетом мнения общественности, но и результаты последующего обучения новой системы искусственного интеллекта на их основе. Эксперимент выявил области, где общественные предпочтения совпадали с видением Anthropic, а где наблюдались отклонения. В частности, противоречивые заявления общественности о приоритете коллективного благополучия над индивидуальными правами или наоборот подчеркнули сложность этических соображений в области ИИ.

Тщательная и всесторонняя оценка эксперимента, проведенная CIP, однозначно подчеркнула очевидное наблюдение, что общедоступная модель в своих многочисленных проявлениях продемонстрировала заметное снижение предвзятости по целому ряду стереотипов. Примечательно, что указанная модель показала результаты, которые были не только сопоставимы, но в некоторых случаях равны результатам базовой модели в оценках, охватывающих сложные областиmaticкомпетентности, понимания естественного языка и тонких градаций полезности и безвредности. 

В своем взвешенном разъяснении организация подчеркнула и акцентировала ключевую и незаменимую роль общественного мнения в детерминированном формировании поведения ИИ. Она с непоколебимой ясностью подчеркнула глубокое значение такого мнения и его далеко идущее влияние на методы работы людей, динамику коммуникации и межличностные взаимодействия в грандиозном масштабе.

Демократический путь к конституции для ИИ

В условиях слияния демократических идеалов и технологического прогресса в цифровом пространстве эксперимент Anthropic поднимает важные вопросы о будущем этики ИИ. Как коллективная мудрость общества может формировать поведение моделей ИИ, и какие последствия это имеет для развивающихся взаимоотношений между технологией и обществом? В стремлении к конституции ИИ, сформированной с учетом различных точек зрения, проект Anthropic побуждает нас задуматься о более широких последствиях демократизации развития искусственного интеллекта.

На этой неизведанной территории, где конституция для ИИ становится результатом коллективного труда, антропический эксперимент не только переосмысливает дискурс о технологической этике, но и призывает нас задуматься об изменяющейся роли граждан в управлении инновационным процессом. По мере того, как мы исследуем неизведанные пересечения демократии и искусственного интеллекта, остается вопрос: может ли коллективный голос народа действительно стать направляющей силой в алгоритмической эволюции, формирующей наше цифровое будущее?