Anthropic привлекает общественное мнение США для создания революционной конституции для ИИ
- Стартап в области ИИ Anthropic, известный своим чат-ботом Claude, сотрудничает с Проектом коллективного интеллекта (CIP) для разработки конституции системы ИИ.
- Около 1000 американцев выразили свои мнения, чтобы сформировать конституцию, исследуя пересечение демократии и технологий искусственного интеллекта.
- Конституция, созданная на основе общественного обсуждения, отражает как совпадения, так и различия с внутренней конституцией Anthropic, раскрывая интригующие детали.
В рамках новаторской инициативы Anthropic, инновационный стартап ИИ, стоящий за популярным чат-ботом Claude, предпринял совместные усилия с Проектом коллективного интеллекта (CIP), чтобы использовать мудрость 1000 американских граждан для формирования уникальной «Конституции для ИИ». Этот смелый шаг направлен на раскрытие сложной взаимосвязи между демократическими процессами и разработкой искусственного интеллекта, помещая общественное мнение в центр формирования этических контуров технологии ИИ.
Конституция Anthropic и демократический эксперимент
Anthropic, известная своим методом Конституционного ИИ (CAI), который направляет большие языковые модели (LLM) с помощью нормативных принципов, сделала значительный шаг, вовлекая американскую общественность в этот эксперимент. Конституция Anthropic, вдохновленная такими глобально признанными документами, как Всеобщая декларация прав человека ООН, обычно направляет поведение Claude. Компания в сотрудничестве с CIP использовала платформу Polis, предназначенную для сбора общественного мнения, чтобы получить вводные данные о правилах для чат-бота на базе LLM.
Конституция, полученная из общественных источников, выявила интересные совпадения и различия с внутренней конституцией Anthropic. Хотя эксперимент установил примерно 50% конвергенции между двумя документами, некоторые принципы выделялись. Например, общественные предпочтения подчеркивали важность предоставления сбалансированной и объективной информации, отражая приверженность пониманию, адаптивности, доступности и гибкости для людей с ограниченными возможностями. Эти вариации выявляют тонкие перспективы, возникающие при пересечении демократических идеалов с миром ИИ.
Раскрытие динамики общественного мнения и поведения моделей
Блог Anthropic на этой неделе раскрыл не только конституцию, сформированную общественным мнением, но и последующее обучение новой системы ИИ на ее основе. Эксперимент выявил области, где общественные предпочтения совпадали с видением Anthropic, и области, где наблюдались отклонения. Примечательно, что противоречивые заявления общественности о приоритете коллективного благосостояния над индивидуальными правами или наоборот, подчеркнули сложность этических соображений в ИИ.
Комплексная и тщательная оценка эксперимента со стороны CIP однозначно выделила очевидное наблюдение: публичная модель во всех своих проявлениях демонстрировала заметное снижение предвзятости в отношении разнообразных стереотипов. Примечательно, что указанная модель показала результаты, которые были не только сопоставимы, но в некоторых случаях приравнивались к базовой модели в оценках, охватывающих сложные области математического мышления, понимания естественного языка и тонких градаций полезности и безвредности.
Организация в своем взвешенном разъяснении подчеркнула и акцентировала ключевую и незаменимую роль, которую играет общественное мнение в детерминированной конфигурации поведения ИИ. Подчеркивая с непреклонной ясностью глубокое значение такого ввода в его глубокое и далеко идущее влияние на модус операнди человеческих усилий, динамики коммуникации и межличностных взаимодействий в глобальном и масштабном масштабе.
Демократическое путешествие к конституции для ИИ
По мере того как цифровое пространство становится свидетелем сближения демократических идеалов с технологическими достижениями, эксперимент Anthropic вызывает важные вопросы о будущем этики ИИ. Как коллективная мудрость общественности может формировать поведение моделей ИИ, и какие последствия это имеет для развивающихся отношений между технологиями и обществом? В стремлении к конституции ИИ, сформированной разнообразными точками зрения, предприятие Anthropic побуждает нас задуматься о более широких последствиях демократизации разработки искусственного интеллекта.
В этой неисследованной территории, где конституция для ИИ становится совместным усилием, эксперимент Anthropic не только меняет дискурс об этике технологий, но и побуждает нас задуматься об эволюционирующей роли граждан в управлении курсом инноваций. По мере того как мы navegуем по неисследованным пересечениям демократии и искусственного интеллекта, вопрос остается: может ли коллективный голос людей действительно быть направляющей силой в алгоритмической эволюции, которая формирует наше цифровое будущее?
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
