Компания Meta, материнская компания Facebook, устроила дебаты, используя свой новый чат-бот на основе искусственного интеллекта Meta AI, который функционирует на всех платформах социальных сетей компании. Чат-бот претендует на роль энциклопедии, путеводителя, консультанта, иллюстратора и многого другого. Однако подобные действия вызвали опасения относительно возможного влияния искусственного интеллекта на поведение пользователей в социальных сетях.
Генеративный ИИ приходит в социальные сети. Например, в TikTok огромная команда инженеров работает над разработкой крупных языковых моделей, способных распознавать и генерировать текст. Компания даже нанимает авторов и журналистов для аннотирования и повышения эффективности этих ИИ-моделей.
Об этом уже говорится на странице поддержки Meta, где говорится, что компания может использовать сообщения, отправляемые пользователями, для обучения моделей искусственного интеллекта и улучшения их технологических возможностей. Эксперты по искусственному интеллекту утверждают, что пользователям социальных сетей стоит готовиться к дальнейшему развитию, которое может изменить их опыт как в лучшую, так и в худшую сторону.
«Каждый делает всё возможное, чтобы быть замеченным». Итан Моллик, профессор Уортонской школы бизнеса Пенсильванского университета, отмечает, что сегодня это важнейшее применение ИИ в приложениях социальных сетей — сделать их платформы максимально привлекательными для пользователей. Такие приложения, как Instagram, пытаются найти способы максимально заинтересовать пользователей, поскольку это позволит уделить максимум времени рекламе.
Достижение баланса: регулирование и умеренность
Во время телефонной конференции Facebook, посвящённой финансовым результатам за первый квартал, Марк Цукерберг признал, что компании потребуется некоторое время, прежде чем она увидит реальную отдачу от инвестиций в чат-бот и другие приложения на основе ИИ. Но эта технология уже меняет пользовательский опыт на платформах, которыми владеет Facebook. Около 30% контента в ленте Facebook формируется с помощью рекомендательных систем на основе ИИ, а более половины контента в Instagram отображается таким же образом.
Хотя ИИ может персонализировать пользовательский опыт или даже создавать другой контент, он также может персонализировать другой контент, например, портреты и музыку, по мнению экспертов, которые предупреждают о возможных подводных камнях. Хайме Севилья, директор Epoch, исследовательского института, занимающегося текущими и будущими тенденциями в области технологий ИИ, выразил обеспокоенность по поводу убедительности ИИ и возможного распространения дезинформации.
В одном исследовании показано, что GPT-4, разработанный специалистами по искусственному интеллекту из Швейцарского федерального технологического института в Лозанне, показал на 81,7% лучшие результаты, чем у людей, при приведении собеседников к согласию в споре. Исследование ещё не прошло рецензирование, но Севилья уже бьёт тревогу, особенно в отношении её влияния на потенциальное мошенничество и мошенничество.
В то время как Соединенные Штаты стремительно приближаются к очередному политически напряженному предвыборному сезону, законодателям было бы разумно обратить внимание на опасность ИИ и его связь с распространением дезинформации. Бинду Редди — генеральный директор и соучредитель Abacus.AI. Она предлагает нечто более тонкое, чем просто кувалда, например, запретить использование ИИ в социальных сетях, поскольку злоумышленники распространяли дезинформацию в интернете задолго до того, как ИИ был изобретен.
Тем временем Редди призвала запретить фейки, созданные с помощью искусственного интеллекта, в которых присутствуют люди или человекоподобные персонажи, но при этом выступила против масштабных ограничений, подобных тем, что ввёл Европейский союз. Она заявила, что Соединённые Штаты не должны отставать от других стран в развитии ИИ.
Развиваются чат-боты на основе искусственного интеллекта и аналогичные инновации в социальных сетях, и для обеспечения защиты пользовательского опыта, а также демократических принципов во всем мире необходим баланс инноваций с ответственным регулированием.
