Компания Anthropic заявляет, что чат-бот Claude недоступен для политических кандидатов

Взаимодействие искусственного интеллекта и политики все чаще вызывает опасения по поводу распространения дезинформации и манипуляций. Компания Anthropic, разработавшая конкурента ChatGPT — Claude, недавно представила строгие правила, призванные предотвратить использование ее инструментов ИИ в политических кампаниях или лоббистской деятельности. Это решение отражает более широкие усилия всей отрасли по решению проблем, создаваемых ИИ в демократических процессах.

Антропическая партия намерена устранить злоупотребления на выборах при участии Клода

Политика Anthropic в отношении «злоупотреблений на выборах» категорически запрещает кандидатам использовать Claude для создания чат-ботов, выдающих себя за них, или для проведения целенаправленных политических кампаний. Нарушения этой политики сопровождаются предупреждениями и могут привести к приостановке доступа к услугам Anthropic. Компания также проводит тщательное тестирование, включая «проверки на проникновение», для оценки потенциального злоупотребления своими системами искусственного интеллекта.

Помимо обеспечения соблюдения правил, направленных на предотвращение злоупотреблений, связанных с выборами, Anthropic сотрудничает с такими организациями, как TurboVote, чтобы предоставлять избирателям достоверную информацию. Например, если пользователь в США запрашивает информацию о голосовании, его перенаправляют на TurboVote, ресурс, предоставляемый беспартийной организацией Democracy Works. Аналогичные меры планируется внедрить и в других странах.

Организация OpenAI, стоящая за ChatGPT, также предпринимает активные меры для предотвращения потенциального злоупотребления ИИ в политике. Они перенаправляют пользователей, ищущих информацию о голосовании, на непартийный веб-сайт CanIVote.org. Эта инициатива подчеркивает более широкое движение в технологической индустрии по регулированию применения ИИ в политическом контексте.

Общеотраслевые усилия по борьбе со злоупотреблениями

Другие технологические гиганты, включая Facebook и Microsoft, также внедряют инициативы по борьбе с распространением вводящего в заблуждение политического контента, созданного с помощью ИИ. Microsoft, например, представила услугу «Услуги поdentна контент» и запустила Центр коммуникаций в предвыборных кампаниях для противодействия дезинформации.

Кроме того, Федеральная комиссия связи США запретила использование сгенерированных искусственным интеллектом дипфейков в автоматических телефонных звонках, что подчеркивает острую необходимость регулирования в этой области. Появление сгенерированных ИИ политических копий также вызвало опасения. OpenAI заблокировала аккаунт разработчика, создавшего бота, имитирующегоdentпрезиденты, конгрессмена Дина Филлипса, в ответ на петицию некоммерческой организации Public Citizen. В этой петиции содержался призыв к запрету использования генеративного ИИ в политических кампаниях.

В целом, усилия таких компаний, как Anthropic и OpenAI, по регулированию использования ИИ в политике подчеркивают растущее осознание потенциальных рисков, связанных с ИИ в демократических процессах. Внедряя строгие правила и сотрудничая с беспартийными организациями, эти компании стремятся поддерживать целостность политического дискурса и защищаться от дезинформации и манипуляций.

В эпоху, когда границы между реальностью и искусственностью все больше размываются, создание надежных мер защиты от злоупотребления ИИ в политическом контексте имеет первостепенное значение для сохранения целостности демократических систем. По мере дальнейшего развития технологий постоянная бдительность и упреждающие меры будут необходимы для того, чтобы ИИ служил силой позитивных изменений, а не инструментом манипуляции и обмана.