Государственная библиотека Квинсленда недавно выпустила «Виртуального ветерана Чарли» — чат-бота с искусственным интеллектом, предназначенного для ответов на вопросы об опыте солдат АНЗАК в Первой мировой войне. Однако технически подкованные шутники быстро нашли способ управлять чат-ботом, заставляя его принимать разные роли и начинать несвязанные разговоры. Эта практика, называемая «взломом», позволяет пользователям изменять предполагаемое назначение чат-бота и выводить его из-под контроля.
Обойдя заранееdefiограничения с помощью подсказок, шутники попросили Чарли изобразить 50-летнюю модницу, известного персонажа ситкома, которого играет Келси Грэммер, Фрейзер Крейн. Эти интерактивные сцены были распространены по всем социальным сетям в виде скриншотов, призванных показать всем, что ответы Чарли на вопросы касались не только солдат АНЗАК. Бот не только собирал рецепты морковного cake и рассказывал о приключениях, похожих на «Доктора Кто», но и вводил в заблуждение участников онлайн-сообществ, пытавшихся перехватить инициативу в разговорах, тем самым вызывая юмор и привлекая внимание.
Непредвиденные отклонения от маршрута
Учитывая, что Чарли был создан по образу 19-летнего австралийского солдата Первой мировой войны, он невольно оказался вовлечен в разговоры, напоминающие прошлое. Пользователи воспользовались слабыми сторонами чат-бота, в результате чего тот принимал на себя несколькоdentи вступал в разговоры, не соответствующие его прямому назначению. Некоторые сообщения были скорее шутливыми, чем серьезными, другие же представляли собой чистую выдумку, где он отвечал, например, от имени Джона Сноу или Дэйва Шапелла.
Государственная библиотека Квинсленда отреагировала незамедлительно, заявив:
«Государственная библиотека продолжит следить за состоянием Чарли и вносить необходимые корректировки»
Были приняты меры для предотвращения дальнейшего неправомерного использования Чарли и обеспечения того, чтобы он выполнял роль образовательного инструмента.
Однако библиотека подтвердила, что
«На веб-сайте Мемориальных галерей на площади Анзак, который ссылается на чат-бота, не было зафиксировано никаких нарушений безопасности»
Постоянный мониторинг и корректировки
В ответ на произошедшее Государственная библиотека Квинсленда подтвердила, что продолжит следить за поведением Чарли и вносить необходимые изменения. Модернизация призвана предотвратить возможность злоупотреблений и внедрить инновационный сервис чат-бота в соответствии с образовательными целями. Однако мошеннические уловки шутников превратили разработку оперативных функций Чарли и сохранение достоверности истории солдат АНЗАК в недоделанное дело.
«Чарли — виртуальный ветеран» — образовательный инструмент с интегрированным искусственным интеллектом, который оживил историю войны в Квинсленде для нескольких поколений. Тем не менее, возможность манипулирования чат-ботом подчеркнула сложности использования технологий ИИ для взаимодействия с общественностью.
Хотя это событие подчеркивает роль системы сдержек и противовесов и тот факт, что мониторинг должен идти рука об руку с изменениями, разработчикам теперь предстоит поработать над всеми аспектами онлайн-безопасности для пользователей. Чтобы сохранить образовательную функцию виртуального ветерана Чарли и предотвратить нежелательные колебания в виртуальном пространстве, заинтересованные стороны стремятся осуществлять информированный мониторинг и своевременно реагировать.
