Пользователи не могут распознать ИИ на социальных платформах, показывает исследование

Исследовательская группа Университета Нотр-Дам провела проект в области расследования социальных сетей и выяснила, что широкая публика сталкивается с большими трудностями в определении человека от искусственного интеллекта во время политических дискуссий на различных онлайн-платформах. 

Исследование, разделенное на три раунда с использованием пользовательской платформы Mastodon в качестве платформы доставки, показывает, что участники ошибочно принимают ИИ-ботов за людей в 58% случаев.

ИИ-боты размывают границы человека в политическом дискурсе, показывает исследование 

Команда исследователей под руководством доктора Пола Бреннера из Исследовательского вычислительного центра Университета Нотр-Дам использовала ИИ-ботов на основе генеративных сетей, включая GPT4, Llama-2-Chat и Claude 2. 

Это поколение чат-ботов было разработано с разнообразными личностями для использования в качестве политических игроков в сфере мировых дел и чаще всего принимало человеческие черты и участвовало в различных политических дискуссиях.

Прелесть этого заключалась в том, что каждый бот имел характер (проявление личности с подробным профилем), которому было поручено провести связь между личным опытом и более широкими мировыми событиями. 

Для манипуляции данными, несмотря на то, что панель понимала, что взаимодействует с людьми и ботами, около половины этой выборки сама не могла провести различие между искусственным интеллектом и реальными людьми. 

Эти данные демонстрируют, что AI-боты могут очень близко имитировать людей, что касается их разговорных паттернов, тем самым повышая их шансы на использование для распространения дезинформации.

Роль ИИ в дезинформации

Г-н Пол Бреннер поднял вопросы, такие как внедрение этих AI-ботов и их вероятный каскадный эффект, возможность для ботов на базе ИИ влиять на общественное мнение и потенциально распространять дезинформацию. 

Он объяснил, что ИИ в симуляциях настолько эффективен, что каждый человек в Интернете может легко быть обманут относительно первоисточника информации.

Еще одним важным аспектом, выделенным в этом исследовании, была оценка различных моделей ИИ в процессе, показавшая, что показатели точности незначительно различались среди различных LLM. Здесь мы понимаем, что этот факт демонстрирует: даже менее сложные модели могут быть достаточно убедительными для создания человекоподобных разговоров в сценариях взаимодействия в социальных сетях.

Таким образом, среди прочего, на первом плане Бреннер выделил свою позицию в отношении многомерного подхода к предотвращению распространения ложной информации с помощью ИИ.

такие инициативы, как образовательные кампании, законодательные действия и более строгая проверка учетных записей в социальных сетях, которые будут взаимно помогать друг другу для полного решения этой проблемы. Кроме того, аспекты психологического здоровья подростков под влиянием ИИ будут рассмотрены, и планируется разработать стратегии для нейтрализации этого воздействия.

Этот исследовательский проект подчеркивает дисбаланс между ИИ и целостностью онлайн-информации в социальных сетях, что требует разработки интегрированных стратегий для решения этой ситуации.