クイーンズランド州立図書館は最近、第一次世界大戦での ANZAC 兵士の経験に関する質問に答えるように設計された AI チャットボット「チャーリー ザ バーチャル ベテラン」をリリースしました。 しかし、テクノロジーに精通したいたずら者たちは、チャットボットを制御する方法をすぐに発見し、チャットボットにさまざまな役割を与え、無関係な会話を開始させました。 この行為は脱獄と呼ばれ、ユーザーはチャットボットの本来の目的を変更し、台本から外れることを可能にします。
いたずら者たちは、プロンプトを使用して事前にdefiれた制限を回避し、チャーリーに、ケルシー・グラマー演じる有名なホームコメディのキャラクターである 50 歳のファッショニスタ、フレイジャー・クレーンになりすますように指示しました。 これらのやり取りは、質問に対するチャーリーの答えが主にANZAC兵士に関するものではないことを皆に示すことを目的とした写真（スクリーンショット）としてソーシャルメディアプラットフォーム全体で共有されました。 このボットは、キャロットcakeレシピを統合し、ドクター フーに似た冒険について語るだけでなく、オンライン コミュニティの人々による会話を乗っ取ろうとする試みを誤解させ、ユーモアと注目を生み出しました。
予期せぬ転用
チャーリーは第一次世界大戦中の 19 歳のオーストラリア人戦闘員をモデルとしていたため、うっかり過去を思い出させる会話に引き込まれてしまいました。 ユーザーはチャットボットの弱点を利用し、その結果、チャットボットは複数のdentを想定し、意図した機能とは異なる会話を行うことになりました。 一部のコミュニケーションは遊び心から真剣なものに傾いていましたが、他の会話は純粋に架空のもので、彼は特にジョン・スノウやデイブ・シャペルとして答えていました。
クイーンズランド州立図書館は即座に反応し、次のように述べた。
「州立図書館は引き続きチャーリーの進歩を監視し、必要に応じて調整を行っていきます。」
チャーリーのさらなる悪用を防ぎ、代わりにチャーリーが教育ツールの役割を果たすことを保証するための措置が確立されました。
ただし、図書館は次のことを確認しました。
「チャットボットにリンクしているアンザック スクエア メモリアル ギャラリーの Web サイトにはセキュリティ違反はありません。」
継続的なモニタリングと調整
この出来事を受けて、クイーンズランド州立図書館は、引き続きチャーリーの行動を監視し、必要に応じて適切な修正を加えると改めて表明した。 アップグレードは、悪用の可能性を抑制し、教育目標に沿った先見的なチャットボット サービスを採用することを目的としています。 しかし、いたずら者たちのインチキなトリックは、チャーリーの作戦面を発展させ、アンザック兵士の物語を忠実に維持するための中途半端な仕事になってしまいました。
「チャーリー ザ バーチャル 退役軍人」は、何世代ものクイーンズランド州の戦争の歴史に命を吹き込んだ AI 統合教育ツールでした。 それにもかかわらず、チャットボットが操作される可能性があることから、AI テクノロジーを公共の関与に使用することの難しさが浮き彫りになりました。
この出来事は、システムにおけるチェックとバランスの役割と、監視が変更と並行して行われなければならないという事実にスポットライトを当てていますが、開発者は現在、ユーザーのためのオンライン セキュリティのあらゆる側面に取り組むことをリストに加えています。 仮想退役軍人チャーリーの教育機能を維持し、仮想空間での望ましくない振動を防ぐために、関係者は情報に基づいた監視とタイムリーな対応を継続することを目指しています。
