- ユーザーはGPT-4oと感情的なつながりを形成しています。
- チャットボットとの感情的な絆により、ユーザーがAIの誤りを見逃す可能性があります。
- OpenAIはこれらの懸念に対処するため、GPT-4oの監視と調整を行います。
現在のGPT-4oのリリースは、人間のような会話を模倣する能力のために多くの議論を巻き起こしました。しかし、OpenAIブログの投稿によると、OpenAIは現在、ユーザーがチャットボットと感情的な絆を形成し始めているため、問題に直面しています。.
人間のような対話を持つと主張されるGPT-4oのリリース以来、OpenAIは人々がAIを人間のように扱っていることを観察しました。
OpenAIはAIを人間として扱うリスクを特定
この特定の進歩は、ユーザーのチャットボットとの感情的なつながりという点で、会社にとって課題を提起しました。OpenAIの観察には、所有権の感覚を示す感情や感情を表示するユーザーのインスタンスが含まれます。
会社は、そのような感情的なつながりが以下の悪影響をもたらすことを恐れています。第一に、ユーザーはチャットボットから提供された誤った情報を無視し始める可能性があります。モデルが誤ったまたは欺瞞的な情報を生成するAIの幻覚は、ユーザーがAIを人間のような存在として扱うときに悪化する別の問題です。
提起されたもう一つの要因は、これらのネットワークのユーザーの現実の社会的関係への影響です。OpenAIは、GPT-4oが孤独な人々の相棒として機能する可能性がある一方で、人間の関係の質に悪影響を及ぼす可能性があることを指摘しています。会社はまた、ユーザーがチャットボットのように行動することを期待して現実の相互作用に入る可能性があることも指摘しています。
OpenAIはAIの相互作用を調整する計画
これらのリスクを軽減するために、OpenAIはすでに、ユーザーがGPT-4oとどのように関わるかを密接に監視すると述べています。会社は、人々が感情的な絆を形成するプロセスを探求し、チャットボットの応答をこれに反映するように変更します。これにより、OpenAIはチャットボットがユーザーの社会的生活に干渉したり、AIの幻覚が悪化したりすることを回避するのに役立ちます。
OpenAIは、GPT-4oがユーザーがそれを上回る話し始めると離脱するようにプログラムされていることを指摘しました。これは過使用を減らすことを目的とした機能です。しかし、この設計要素はまた、ユーザーのチャットボットの体験を規制する必要性を示しています。
シェフィールド大学のTony Prescott氏によると、AIは孤独を解決するのに役立つ可能性があります。彼の新しい著書『The Psychology of Artificial Intelligence』で、PrescottはAIが孤独な人々の社会的相互作用の手段として使用される可能性があると指摘しています。Prescott氏は、孤独が人間の生活に影響を与える主要な要因であると指摘しています。それは寿命を縮め、死亡リスクを26%高めることさえあります。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ブレンド・カナナ
ブレンダ氏は暗号通貨、人工知能、新興技術に特化した4年以上の実績を持ちます。Zycrypto、Blockchain Reporter、The Coin Republicで勤務した後、現在はCryptopolitanで活動しています。モンバサ工科大学での社会学の学位は、読者の動向を常に把握し続ける彼女の基盤となっています。
