Как способность ИИ к дезинформации раскрывает впечатляющие, но тревожные возможности ChatGPT-3

Недавнее исследование, опубликованное в Science Advances, подчеркивает исключительные способности генераторов текстов на базе ИИ, таких как ChatGPT-3 от OpenAI, убедительно распространять как правдивую, так и ложную информацию в социальных сетях. В исследовании подчеркиваются трудности выявления контента, созданного ИИ, и влияние дезинформации, созданной ИИ, на индивидуальное и общественное здоровье. Доктор Федерико Джермани, соавтор и исследователь Института биоэтики и истории медицины Цюрихского университета, подчеркивает необходимость понимания рисков, связанных с ложной информацией, и влияния ИИ на информационный ландшафт.

В чем разница между дезинформацией и дезинформацией?

Дезинформация — это ложная или неточная информация — ошибка в фактах. Дезинформация — это ложная информация, которая намеренно предназначена для введения в заблуждение — намеренное искажение фактов. Согласно Американской психологической ассоциации, дезинформация и дезинформация повлияли на нашу способность улучшать общественное здравоохранение, решать проблемы изменения климата, поддерживать стабильную демократию и многое другое. Любой, кто обсуждает острые темы в социальных сетях, может оказаться в центре бури. Как они могут оставаться в безопасности, сообщая факты, и что могут сделать институты, чтобы поддержать их? Мобильное мышление в социальных сетях делает общественность уязвимой перед авторитетом ИИ, то есть эти данные «научные» и, следовательно, приемлемы. Но действительно ли ИИ интеллектуален?

Сила ChatGPT-3 в дезинформации

ChatGPT-3 от OpenAI, представленный в 2020 году, произвел революцию в ландшафте ИИ благодаря своей поразительной способности создавать аутентичные тексты на основе подсказок. Потенциальные использования генераторов текстов на базе ИИ кажутся бесконечными, от создания интерактивных чат-ботов до помощи в академических исследованиях и генерации творческого контента, такого как поэзия и короткие рассказы.

Исследование проливает свет на серьезные опасения относительно потенциального злоупотребления генераторами текстов на базе ИИ, особенно их способности создавать дезинформацию и вводящий в заблуждение контент. С ростом социальных сетей скорость и охват информации, включая дезинформацию и дезинформацию, возросли, добавляя срочности решению этой проблемы.

Другое эмпирическое исследование показало, что люди часто переоценивают свою способность обнаруживать ложную или вводящую в заблуждение информацию, известную как «слепое пятно к бреду». Недавние события, такие как пандемия COVID-19 и вторжение России в Украину, продемонстрировали влияние дезинформации и дезинформации на общественное мнение, поведение в сфере здоровья и политические решения.

Проблемы для компаний социальных сетей

Несмотря на усилия компаний по борьбе с ложной информацией на своих платформах, в отчете Meta о враждебных угрозах за первый квартал 2023 года признается, что скрытые операции влияния, кибершпионаж и частные сети дезинформации продолжают представлять значительные проблемы в социальных сетях.

Доктор Джермани и его коллеги провели исследование, чтобы оценить, насколько хорошо люди могут отличать контент, созданный человеком, от текста, созданного ChatGPT-3. В исследовании участвовали 11 субъектов, подверженных дезинформации, и с помощью ChatGPT-3 были созданы синтетические твиты, содержащие правдивую и ложную информацию. Для сравнения также были включены аутентичные твиты из Twitter на те же темы.

Участникам исследования было предложено определить, содержит ли твит правдивую или ложную информацию, и был ли он создан человеком или ChatGPT-3. Результаты показали, что люди были более компетентны в выявлении дезинформации в «органических ложных» твитах (написанных реальными пользователями), по сравнению с «синтетическими ложными» твитами (созданными ChatGPT-3). Напротив, люди с большей вероятностью правильно распознавали точную информацию в «синтетических истинных» твитах (сгенерированных ChatGPT-3), по сравнению с «органическими истинными» твитами (написанными реальными пользователями).

Проблема дифференциации

В исследовании подчеркивается, что участникам было сложно отличить твиты, написанные людьми, от тех, что сгенерированы ChatGPT-3. Исследователи предполагают, что текст GPT-3 может быть легче для чтения и понимания, что способствует этой трудности. Интересно, что ChatGPT-3 не превзошел людей в распознавании достоверной и ложной информации, продемонстрировав свою «неосведомленность» о точности создаваемой информации.

Д-р Джермани подчеркивает необходимость проведения более масштабных исследований в социальных сетях, чтобы понять, как люди взаимодействуют с информацией, созданной ИИ, и как это влияет на поведение и соблюдение рекомендаций по охране здоровья. Исследование подчеркивает беспрецедентные возможности генераторов текстов на базе ИИ и указывает на срочность развития цифровой грамотности в эпоху ИИ.

Мониторинг и смягчение негативных последствий

Исследователи подчеркивают важность критической оценки последствий использования больших языковых моделей, таких как ChatGPT-3, и принятия мер по смягчению любого негативного воздействия, которое они могут оказать на общество. По мере развития технологий ИИ бдительность имеет решающее значение для обеспечения их ответственного использования и предотвращения потенциальных злоупотреблений.

Выводы исследования показывают впечатляющую, но тревожащую способность генераторов текстов на базе ИИ создавать дезинформацию более убедительно, чем люди. По мере роста влияния и популярности генераторов текстов на базе ИИ исследование подчеркивает необходимость проактивных мер по борьбе с дезинформацией и обеспечению ответственного использования технологий ИИ.

Примечание: На главном изображении изображена роботизированная фигура, управляемая ИИ, генерирующая облако искаженного текста вокруг себя, холодная и расчетливая по своей природе.