ИИ-солдат «Чарли, виртуальный ветеран» сталкивается с проделками хулиганов

Государственная библиотека Квинсленда недавно выпустила «Чарли — Виртуального ветерана», чат-бота на базе ИИ, предназначенного для ответов на вопросы об опыте солдат АНЗАК в Первой мировой войне. Однако технически подкованные шутники быстро нашли способ управлять чат-ботом, заставляя его принимать разные роли и начинать несвязанные разговоры. Эта практика, известная как «взлом» (jailbreaking), позволяет пользователям изменять предполагаемое назначение чат-бота и выводить его из заданного сценария.

Обходя предопределенные ограничения с помощью подсказок, шутники поручили Чарли изображать 50-летнюю модницу или знаменитого персонажа ситкома Фрейзера Крейна, которого играет Келси Грэммер. Эти взаимодействия широко распространились в социальных сетях в виде скриншотов, демонстрирующих, что ответы Чарли на вопросы касались не только солдат АНЗАК. Бот не только делился рецептами морковного торта и рассказывал о приключениях, похожих на «Доктора Кто», но и перехватывал попытки онлайн-сообществ завладеть беседой, что вызывало юмор и привлекало внимание.

Непредвиденные отклонения

Поскольку Чарли был смоделирован как 19-летний австралийский боец Первой мировой войны, он непреднамеренно втягивался в разговоры, напоминающие прошлое. Пользователи воспользовались слабыми местами чат-бота, в результате чего последний принимал множественные личности и вступал в беседы, не соответствующие его назначению. Некоторые коммуникации варьировались от игривых до серьезных, в то время как другие были чистым вымыслом, где он отвечал как Джон Сноу или Дэвид Чепелл и другие.

Государственная библиотека Квинсленда оперативно отреагировала, заявив, 

«Государственная библиотека будет продолжать следить за развитием событий с Чарли и вносить необходимые корректировки.» 

 Были приняты меры для предотвращения дальнейшего злоупотребления функциями Чарли и обеспечения того, чтобы он выполнял роль образовательного инструмента. 

Однако библиотека подтвердила, что 

«Не было никаких нарушений безопасности веб-сайта Мемориальной галереи Анзак-сквер, связанного с чат-ботом.»

Постоянный мониторинг и корректировки

В ответ на инцидент Государственная библиотека Квинсленда重申ила, что будет продолжать наблюдать за поведением Чарли и применять необходимые изменения. Обновления направлены на предотвращение возможности злоупотребления и на то, чтобы служба чат-бота соответствовала образовательным целям. Однако шалости шутников превратились в незавершенный процесс развития операционных аспектов Чарли и сохранения повествования о солдатах АНЗАК в верном виде.

«Чарли — Виртуальный ветеран» был образовательным инструментом на базе ИИ, оживившим историю войн Квинсленда для нескольких поколений. Тем не менее, возможность манипуляции чат-ботом подчеркнула трудности использования технологий ИИ для взаимодействия с общественностью.

Хотя этот случай подчеркивает роль системы сдержек и противовесов и тот факт, что мониторинг должен идти рука об руку с изменениями, разработчики теперь имеют в своем списке задачу проработать все аспекты онлайн-безопасности для пользователей. Чтобы сохранить образовательную функцию Чарли — Виртуального ветерана и предотвратить нежелательные колебания в виртуальном пространстве, заинтересованные стороны намерены продолжать информированный надзор и своевременные реакции.