Государственная библиотека Квинсленда недавно выпустила «Виртуального ветерана Чарли», чат-бота с искусственным интеллектом, который предназначен для ответа на вопросы об опыте солдат АНЗАК в Первой мировой войне. Но технологически подкованные шутники быстро нашли способ управлять чат-ботом, заставляя его выполнять разные роли и начинать несвязанные разговоры. Эта практика, называемая джейлбрейком, позволяет пользователям изменить предполагаемую цель чат-бота и сделать его нестандартным.
Обходя заранее defi ограничения с помощью подсказок, шутники поручили Чарли выдать себя за 50-летнюю модницу, известного персонажа ситкома в исполнении Келси Грэммер, Фрейзера Крэйна. Эти взаимодействия были опубликованы на всех платформах социальных сетей в виде изображений (скриншотов), призванных показать всем, что ответы Чарли на вопросы касались в основном не солдат АНЗАК. Бот не только объединял рецепты морковных cake и рассказывал о приключениях, похожих на «Доктора Кто», но также вводил в заблуждение попытки участников онлайн-сообществ перехватить разговоры, тем самым вызывая юмор и внимание.
Непредвиденные отклонения
Учитывая, что Чарли был смоделирован как 19-летний австралийский боец Первой мировой войны, он непреднамеренно был вовлечен в разговоры, напоминающие о прошлом. Пользователи воспользовались слабыми сторонами чат-бота, в результате чего последний принял несколько dent и вступал в разговоры, которые не соответствовали его предполагаемой функции. В то время как некоторые сообщения были скорее игривыми, либо серьезными, другие разговоры были чисто вымышленными, где он отвечал, среди прочего, как Джон Сноу или Дэйв Шапель.
Государственная библиотека Квинсленда отреагировала незамедлительно, заявив:
«Государственная библиотека продолжит следить за прогрессом Чарли и вносить коррективы по мере необходимости».
Были приняты меры для предотвращения дальнейшего злоупотребления Чарли и обеспечения того, чтобы вместо этого он играл роль образовательного инструмента.
Однако в библиотеке это подтвердили.
«Не было никаких нарушений безопасности веб-сайта Мемориальных галерей на площади Анзак, который ссылается на чат-бота».
Постоянный мониторинг и корректировки
В ответ на это событие Государственная библиотека Квинсленда подтвердила, что продолжит следить за поведением Чарли и при необходимости вносить необходимые изменения. Целью обновлений является ограничение возможности злоупотреблений и внедрение перспективного сервиса чат-ботов в соответствии с образовательной целью. Однако фальшивые проделки шутников превратились в незавершенное дело по развитию оперативного аспекта Чарли и достоверному поддержанию повествования солдата АНЗАК.
«Виртуальный ветеран Чарли» — образовательный инструмент, интегрированный с искусственным интеллектом, который оживил несколько поколений военной истории Квинсленда. Тем не менее, возможность манипулирования чат-ботом подчеркнула трудности использования технологии искусственного интеллекта для взаимодействия с общественностью.
Хотя это событие подчеркивает роль сдержек и противовесов в системах и тот факт, что мониторинг должен идти рука об руку с изменениями, у разработчиков теперь есть в своем списке работа над всеми аспектами онлайн-безопасности для пользователя. Чтобы сохранить образовательную функцию Чарли, виртуального ветерана, и предотвратить нежелательные вибрации в виртуальном пространстве, заинтересованные стороны стремятся осуществлять информированное наблюдение и своевременное реагирование.
