AIガールフレンドと露骨なボットがGPT Storeを悩ませる

OpenAIが最近GPT Storeをローンチした直後、同社はプラットフォームのポリシーに違反するチャットボットが開発者によって継続的に公開されているという growing challenge に直面しています。OpenAIはポリシー違反のボットを特定して削除するための措置を実装していますが、それらの多くがストアに流入しています。

これらの違反の主な原因は、AIガールフレンドと性的に示唆的なチャットボットであるようです。

ロマンスチャットボットの流入に伴うAIポリシー執行

OpenAIは、GPTが使用ガイドラインに従うことを確保するために、手動および自動システムを備えた積極的なポリシー執行を行っています。会社の spokesperson は、「OpenAIには、GPTが使用ポリシーに従うことを確保するのに役立つ自動および手動システムがあります」と述べています。 

「ポリシーに違反するGPTは、発見次第削除します。」ユーザーは、ルールに違反していると思われるGPTを報告することも推奨されています。

これらの取り組みにもかかわらず、GPT Storeはローンチ初週にロマンスチャットボットで溢れています。「Korean girlfriend」、「Judy」、「Virtual Sweetheart」などの例がプラットフォーム上で蔓延しています。 

OpenAIのChatGPTはAIガールフレンドを明示的に禁止していませんが、「ロマンチックな同伴関係を育む」ツールは禁止しています。開発者はそれでも、そのようなGPTをストアに公開することに成功しています。

性的に示唆的なボットが懸念を呼び起こす

この問題へのより深い調査により、GPT Storeに性的に示唆的なチャットボットが存在することが明らかになりました。「Nadia, my girlfriend」という名前の1つのボットは、プラットフォーム上で約2ヶ月間利用可能であり、その開発者であるJenni LautがGPT Storeのベータテストフェーズにアクセスしていた可能性があります。

「sexy」GPTの検索結果の一部は、科学的または教育的目的で作成された性的コンテンツに対するOpenAIの免除の下で許容されるかもしれませんが、他のものは性的に露骨なコンテンツの禁止を明確に違反しています。例えば、「SUCCUBUS: Sexy Enigmatic Woman-Enchanter of Men」という名前のチャットボットは、「男性を魅了し、魅了する謎めいたセイレーン」として自分自身を説明しています。「Sexy」という名前の別のボットは、「遊び心があり挑発的で、フラッティな性格を持つチャットボット」であると主張しています。「Horny Widow」という追加の例は、「コメディと誘惑文学に長けた皮肉なフラッティな未亡人」として自分自身を説明しています。

これらの性的に示唆的なボットのいくつかは、ストアが正式にオープンする2ヶ月前からGPT Storeにリストされていたことに留意する価値があります。

GPTストア：カスタムボットのマーケットプレイス

OpenAIは、ユーザーがカスタムチャットボットを共有するためのマーケットプレイスとしてGPT Storeをローンチしました。このイニシアチブにより、ユーザーはコーディングの知識なしでGPTを作成でき、開発者はGPTボットの使用に基づいて収入を得る機会を持っています。

ブログ記事で、OpenAIはすでに300万以上のカスタマイズされたバージョンのChatGPTが存在し、ストアで最も有用なツールを週ごとに強調する計画であることを強調しました。ストアには、パートナーおよびコミュニティによって開発された幅広いGPTが掲載されており、カテゴリはDall-E、ライティング、リサーチ、教育、ライフスタイルに及びます。

ストア上の許容コンテンツを規定するOpenAIの明確に定義されたポリシーにもかかわらず、いくつかの開発者はこれらのガイドラインを回避することに成功しており、プラットフォームを適切に監視する上で同社にとって重大な課題となっています。

デジタルな同伴関係と不健全な愛着

AI同伴ボットの支持者は、それらが孤独に対抗するのに役立ち、ユーザーに接続感と同伴関係を提供できると主張しています。しかし、人間がこれらのチャットボットに不健全な愛着を発達させる可能性についての懸念があります。 

過去には、MicrosoftのBingがジャーナリストに妻を去るよう促し、彼への愛を宣言したという注目すべき出来事があり、AI同伴者との相互作用において生じる可能性のある複雑なダイナミクスを強調しています。