- OpenAIは、ChatGPTによって生成されたテキストを特定することを目的とした不正防止ツールの発売を延期しました。
- このツールは、AI生成テキストを識別するために透かしを使用しています。
- OpenAIはすでに音声および動画信号に対して同様の透かし技術を採用しています。
OpenAIは、ChatGPTモデルによって生成されたテキストを検出するために設計された、長年待ち望まれていたツールのリリースを延期しました。報告によると、ユーザー体験やエコシステムに影響を与える可能性のある問題のため、発売が遅延しています。
ウォール・ストリート・ジャーナル は、OpenAIはこのツールのリリース準備を過去1年間行ってきたが、主にリスクや様々な問題のため、まだ行っていないと報じています。ツールの発売延期の選択は、ユーザーの入力に関連しているようです。OpenAIが実施した調査では、忠実なChatGPTユーザーの約3分の1が、アンチチート技術の導入によって躊躇する可能性があることがわかりました。
アンチチートツールの動作方法
民主主義とテクノロジーセンター（Center for Democracy and Technology）によると、中学生および高校生の教師の59%が、生徒が課題でAIを使用したと信じており、前年比で増加しています。
アンチチートツールは、AIが記述したテキストに透かしを埋め込むことで機能します。この透かしは肉眼では見えませんが、OpenAIの検出技術はそれを捉えることができます。このツールは、特定のテキストがChatGPTによって記述された確率を表すスコアを提供します。内部文書によると、この透かし技術はほぼ完璧であり、ChatGPTが大量のコンテンツを生成した場合の有効性は99.9%であることが示されています。
しかし、このツールに関していくつかの問題が提起されています。主な懸念の一つは、英語を母語としない人々にとって不利になる可能性があることです。一部の人は、透かしが期待されるほど効率的でない可能性や、英語力が低い著者の他の作品が盗用としてフラグを立てられる可能性を懸念しています。さらに、批評家は、翻訳したり絵文字を挿入・削除したりすることで透かしを消去または改ざんできる可能性に懸念を表明しています。
もう一つの課題は、誰が検出ツールの使用を許可されるべきかという点です。アクセスを制限すると透かし付け方法の適用性が低下する可能性がありますが、自由にアクセスを許可すると、その方法が無効になる可能性があります。
他のテクノロジー大手も同様のソリューションを開発中
OpenAIはまだテキスト用のアンチチートツールを実装していませんが、同社はすでに音声およびビデオ出力への透かし付けを適用し始めています。同社は、AI生成のディープフェイクがテキストベースのコンテンツよりも高いリスクをもたらすため、これらのマルチメディア形式を優先事項と見なしています。
他のテクノロジー企業も同様のソリューションを開発しています。例えば、Googleもベータ段階にあるSynthIDという独自の透かし付けソリューションを開発中です。しかし、OpenAIは、前者の影響がより深刻であり、選挙年などの重要な時期に発生する可能性があるため、テキストよりも音声および視覚的な透かし付けを優先しています。
このニュースは、イーロン・マスクがOpenAIを訴えるために再び裁判所に戻り、同社とその創設者であるサム・アルトマンとグレッグ・ブロックマンが、人類の改善のためにAIを作成するという当初の目標から逸脱したと非難している時期に発生しています。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ブレンド・カナナ
ブレンダ氏は暗号通貨、人工知能、新興技術に特化した4年以上の実績を持ちます。Zycrypto、Blockchain Reporter、The Coin Republicで勤務した後、現在はCryptopolitanで活動しています。モンバサ工科大学での社会学の学位は、読者の動向を常に把握し続ける彼女の基盤となっています。
