Чат-бот Microsoft вызывает опасения по поводу точности информации о выборах

Microsoft, как крупный игрок в технологической индустрии, активно участвует в решении этих проблем. Компания предпринимает шаги по борьбе с дезинформацией и повышению целостности цифровых платформ. Инициативы Microsoft включают разработку и развертывание передовых инструментов и технологий ИИ для обнаружения и смягчения распространения вводящей в заблуждение или ложной информации.

Исследование выявляет тревожные неточности в чат-боте Microsoft

Недавнее исследование, проведенное европейскими НПО Algorithm Watch и AI Forensics, пролило свет на потенциальные риски, связанные с чат-ботом Microsoft, работающим на базе GPT-4 от OpenAI. Исследование сосредоточилось на ответах чат-бота на вопросы, связанные с выборами в Германии и Швейцарии. Результаты показали, что чат-бот давал неправильные ответы на одну треть заданных вопросов.

В то время как опасения часто сосредоточены на злоумышленниках, намеренно распространяющих дезинформацию, исследование подчеркивает, что чат-боты общего назначения могут представлять такую же угрозу для информационной экосистемы. Сальваторе Романо, старший исследователь AI Forensics, отметил: «Наше исследование показывает, что злоумышленники — не единственный источник дезинформации; чат-боты общего назначения могут быть столь же опасны для информационной экосистемы».

Чат-бот Microsoft: источник вводящих в заблуждение фактических ошибок

Ошибки, выявленные в исследовании, варьировались от неправильных дат выборов и устаревшей информации о кандидатах до полностью сфабрикованных скандалов, связанных с кандидатами. Примечательно, что чат-бот приписывал ложную информацию авторитетным источникам, которые на самом деле обладали точной информацией по этим темам. Также было обнаружено, что ИИ-чат-бот выдумывал истории о скандальном поведении кандидатов, что еще больше способствовало распространению вводящей в заблуждение информации.

Познакомившись с результатами исследования, Microsoft выразила приверженность решению поднятых проблем. Однако последующие образцы, собранные через месяц, дали аналогичные результаты, что указывает на устойчивые проблемы с обеспечением точности информации, предоставляемой чат-ботом. Пресс-служба Microsoft не предоставила комментариев для этой статьи, но представитель компании сообщил The Wall Street Journal, что ведутся усилия по подготовке их инструментов к выборам 2024 года.

Призыв к структурным изменениям

Риккардо Ангиус, ведущий специалист по прикладной математике и исследователь AI Forensics, оспорил характеристику неточностей как простых «галлюцинаций», заявив: «Пришло время дискредитировать использование термина „галлюцинации“ для описания этих ошибок. Наше исследование выявляет гораздо более сложную и структурную природу вводящих в заблуждение фактических ошибок в общих больших языковых моделях и чат-ботах».

Гарантии Microsoft и осторожность пользователей

Хотя Microsoft признает необходимость решения выявленных проблем, пользователям рекомендуется проявлять «наилучшее суждение» при просмотре результатов, сгенерированных ИИ-чат-ботом. Технологический гигант подчеркивает свои постоянные усилия по улучшению производительности своих инструментов к предстоящим выборам 2024 года. Однако исследование подчеркивает важность бдительного внимания пользователей к потенциальной дезинформации.

Мир вступает в критический период демократического принятия решений, пересечение генеративного ИИ и выборов поднимает важные вопросы. Чат-бот Microsoft, заметный игрок в этом ландшафте, подвергается проверке за свою роль в распространении неточной информации. Откровения исследования побуждают переоценить то, как ИИ-технологии интегрируются в демократические процессы, подчеркивая необходимость постоянных улучшений для обеспечения целостности информации, связанной с выборами.