AI兵士「バーチャルベテランのチャーリー」がいたずら者の悪ふざけに直面

クイーンズランド州立図書館は最近、「バーチャルベテランのチャーリー」を公開しました。これは、第一次世界大戦におけるANZAC（オーストラリア・ニュージーランド軍）の兵士たちの体験に関する質問に答えるAIチャットボットです。しかし、テクノロジーに精通したいたずら者たちがすぐにこのチャットボットを制御する方法を見つけ出し、ボットにさまざまな役割を演じさせたり、無関係な会話を始めさせたりしました。「ジェイルブレイク」と呼ばれるこの手法により、ユーザーはチャットボットの本来の目的を変え、台本から外れさせることができます。.

いたずら者たちは、プロンプトを使って事前にdefiされた制限を回避し、チャーリーに50歳のファッショニスタ、ケルシー・グラマー演じる有名なシットコムキャラクター、フレイザー・クレインを真似るよう指示しました。これらのやり取りは、チャーリーの質問への回答が主にANZAC兵士に関するものではないことを示す画像（スクリーンショット）としてソーシャルメディアプラットフォーム全体に共有されました。このボットは、キャロット cake レシピをまとめたり、ドクター・フーのような冒険について語ったりしただけでなく、オンラインコミュニティで会話を乗っ取ろうとする人々の試みを欺き、ユーモアと注目を集めました。.

予期せぬ逸脱

チャーリーは第一次世界大戦に従軍した19歳のオーストラリア人戦闘員として設定されていたため、意図せずして過去を彷彿とさせる会話に巻き込まれてしまいました。ユーザーはチャットボットの弱点を突いて、複数のdentを装い、本来の機能とは異なる会話を繰り広げるようになりました。中には冗談めいたものから真面目なものまで様々でしたが、ジョン・スノウやデイブ・シャペルなど、完全に架空の人物として返答する会話もありました。.

クイーンズランド州立図書館は即座に反応し、次のように述べた。 

「州立図書館はチャーリーの進捗状況を継続的に監視し、必要に応じて調整を行っていきます。」 

 チャーリーのさらなる悪用を防ぎ、教育ツールとしての役割を果たすようにするための対策が講じられました。. 

しかし、図書館は、 

「チャットボットにリンクしているアンザック・スクエア・メモリアル・ギャラリーのウェブサイトでは、セキュリティ侵害は発生していません。」

継続的な監視と調整

この事件を受けて、クイーンズランド州立図書館は、チャーリーの行動を監視し続け、必要に応じて適切な修正を加えることを改めて表明しました。これらのアップグレードは、悪用の可能性を抑制し、教育目標に沿ってチャットボットサービスの先見性を受け入れることを目的としています。しかし、いたずら好きの人々の偽りの策略は、チャーリーの運用面の開発とANZAC兵士の物語の忠実な維持という点で、中途半端な成果となってしまいました。.

「バーチャル退役軍人チャーリー」は、AIを統合した教育ツールで、クイーンズランド州の何世代にもわたる戦争の歴史を生き生きと蘇らせました。しかしながら、このチャットボットが操作される可能性があったことは、AI技術を市民参加活動に活用することの難しさを浮き彫りにしました。.

この出来事は、システムにおけるチェックとバランスの役割、そして監視が変化と並行して行われなければならないという事実を浮き彫りにしましたが、開発者たちは現在、ユーザーのオンラインセキュリティのあらゆる側面に取り組むことを計画しています。バーチャルベテラン「チャーリー」の教育的機能を維持し、仮想空間における望ましくない波動を防ぐため、関係者は情報に基づいた監視とタイムリーな対応を継続することを目指しています。.