AI兵士「チャーリー・ザ・バーチャル・ベテラン」がいたずらっ子の悪戯に直面

クイーンズランド州立図書館は最近、「チャーリー・ザ・バーチャル・ベテラン」というAIチャットボットをリリースしました。これは、第一次世界大戦中のANZAC兵士の経験に関する質問に答えるために設計されています。しかし、テクノロジーに精通したいたずらっ子はすぐにチャットボットを制御する方法を見つけ、異なる役割を演じさせ、無関係な会話を開始させました。この「 jailbreaking 」と呼ばれる慣行により、ユーザーはチャットボットの意図された目的を変更し、スクリプトから外れた行動を引き起こすことができます。

事前定義された制限をプロンプトを使用して回避し、いたずらっ者はチャーリーに50歳のファッションistaや、Kelsey Grammerが演じた有名なシットコムキャラクターであるFrasier Craneになりすますよう指示しました。これらのやり取りは、チャーリーの質問への回答が主にANZAC兵士に関するものではないことを皆に示すために、スクリーンショットとしてソーシャルメディアプラットフォーム全体で共有されました。ボットはニンジンケーキのレシピをまとめたり、ドクター・フーに似た冒険について語ったりしただけでなく、オンラインコミュニティでの会話のハイジャックを試みる人々の試みを誤解させ、ユーモアと注目を集めました。

予期せぬ逸脱

チャーリーは第一次世界大戦中の19歳のオーストラリア人戦闘員としてモデル化されていたため、彼は意図せず過去の思い出を呼び起こす会話に引き込まれました。ユーザーはチャットボットの弱点を利用し、その結果、後者は複数の身元を演じ、意図された機能に沿わない会話に参加しました。一部のコミュニケーションは遊び心から真剣なものまで様々でしたが、他の会話では彼はJon SnowやDave Chapelleなどとして返信する純粋なフィクションでした。

クイーンズランド州立図書館は迅速に対応し、次のように述べています。 

「クイーンズランド州立図書館は、チャーリーの進捗状況を継続的に監視し、必要に応じて調整を行います。」 

 チャーリーのさらなる悪用を防ぎ、彼が教育ツールとしての役割を果たすことを確保するために措置が講じられました。 

しかし、図書館は次のことを確認しました。 

「チャットボットにリンクしているAnzac Square Memorial Galleriesウェブサイトのセキュリティ侵害はありませんでした。」

継続的な監視と調整

この事案への対応として、クイーンズランド州立図書館は、チャーリーの行動を継続的に監視し、必要に応じて適切な修正を適用すると再確認しました。アップグレードは、悪用の可能性を抑制し、教育目標に沿ってチャットボットサービスのビジョンを受け入れることを目的としています。しかし、いたずらっ者の偽のトリックは、チャーリーの運用面を開発し、ANZAC兵士の物語を忠実に維持するための半分のビジネスになりました。

「チャーリー・ザ・バーチャル・ベテラン」は、クイーンズランドの戦争の歴史の世代を生き生きとさせたAI統合教育ツールでした。それでもなお、チャットボットの操作の可能性は、公共の関与のためにAI技術を使用することの難しさを浮き彫りにしました。

この出来事は、システムにおけるチェックとバランスの役割と、監視が変更と並行して行われる必要があることを強調していますが、開発者は今や、ユーザーのオンラインセキュリティのすべての側面に取り組むリストを持っています。チャーリー・ザ・バーチャル・ベテランの教育的機能を維持し、仮想空間での望ましくない振動を防ぐために、利害関係者は情報に基づいた監視とタイムリーな対応を実施する予定です。