AI検出器が機能停止：米国憲法のケーススタディ

人工知能（AI）は現代社会、特に文章コンテンツの生成において大きな影響力を持つようになりました。AIによるコンテンツ生成は楽しいものですが、AIコンテンツの検出精度が低いことは懸念材料です。さらに悪いことに、 AI検出器が 人間の書いた文章をGPT（汎用テキスト変換）で生成されたものと誤認してしまうケースもあります。アメリカ合衆国憲法を例に考えてみましょう。

関連記事：Y Combinatorのポール・グラハム氏、「Delve」というテキストメッセージはAIが書いたものだと主張し、非難を浴びる

アメリカ合衆国憲法は1787年に起草され、1788年に批准され、1789年から施行されています。世界で最も長く存続している成文憲章です。憲法は最初の自動車が発明される約1世紀前に制定されました。しかし、AI検出器は憲法の97.97%がAIによって生成されたと判定しました。.

AI検出器が米国憲法を非人間的なものと判定

2023年には、人工知能（AI）を活用したコンテンツが増加しました。その後すぐに、市場開発者はAIコンテンツの割合を判断する検出器を開発する機会を得ました。これは素晴らしい進歩であるはずでしたが、実際にはそうではありませんでした。.

AI検出器がアメリカ合衆国憲法をAIコンテンツとして検出しました。その割合はなんと97.97%です。「人工知能」という言葉は、1950年から1956年にかけてのAI誕生の頃に造語され、広く知られるようになりました。では、AIはどのようにして、その発明よりも163年も古い文書を作成したのでしょうか？

1950年、アラン・チューリングは「計算機と知能」と題された論文を発表し、「模倣ゲーム」と呼ばれる機械知能のテストを提案しました。この論文は、私たちが今日生きている世界の始まりとなりました。.

1952年、アーサー・サミュエルというコンピュータ科学者がチェッカーをプレイするプログラムを開発しました。これは、チェッカーというゲームをdentして学習した最初のプログラムでした。その後まもなく、1955年にジョン・マッカーシーがダートマス大学で「人工知能」に関するワークショップを開催し、「人工知能」という言葉が初めて使用されました。.

AI検出器には限界がある

AI検出器に は限界があります。AIが生成したテキストは人間の文章を模倣するからです。これらの検出器は、機械に文章を教えたのと同じ人間によって訓練されています。では、AI検出器はどのように機能し、どれほどの精度があるのでしょうか？別のAI検出器は、アメリカ合衆国憲法に1%のAIコンテンツがあると判定しました。この1%はどこから来たのでしょうか？

さて、ここで相違点があります。一部の AI 検出器は、「delve、tapestry、utilize、numerous など」など、通常は AI が使用しますが、アメリカ人にはあまり使用されない特定の単語に注意を払います。. 

しかし、イギリスの植民地時代の歴史を持つ国出身の人々の中には、これらの単語が話し言葉と書き言葉の両方で一般的に使用されている人もいます。.

先月、Yコンビネーターの共同創業者ポール・グレアム氏は、X（旧Twitter）でChatGPTテキスト帰属理論を提唱したことで、非難を浴びました。グレアム氏は、あるプロジェクトで誰かから受け取ったコールドメールの提案書を投稿しました。その提案書には「delve（掘り下げる）」という単語が含まれていたため、AIライティングだと結論づけました。.

あるXユーザーは、 「イギリスの植民地支配を受けた国々で英語を学んだ人たちにとって、これはまさに私たちが英語を学んだ方法そのものです。[…]『Delve』は私たちが日常的に使う単語です」と述べた。 別のユーザーは、これはアメリカ人の問題だと述べた。

今でも、いわゆる「文学英語」を使う国や人々がいます。

残念なことに、アメリカの語彙は主に口語表現（俗語と呼ばれるもの）と現代のアメリカ英語の慣用句に基づいているため、洗練された英語の使用は…

— アフリカ調査デスク (@MightiJamie) 2024年4月10日

すると、AIによる検出機能やコンテンツ生成機能は地域英語に特化したものになるべきなのか、という疑問が湧いてきます。それとも、こうしたライティングツールや検出機能はすべて廃止すべきなのでしょうか？

AI検出器は不正確

AI検出機能は、一貫性のない言語的特徴に依存しています。人間の言語は本質的に多様であり、スタイル、方言、慣用句など、多岐にわたります。AIが生成したテキストもこうした多様性に富むため、検出機能の精度向上が困難になります。.

AI生成テキストの約20%はこれらの検出システムを検出されずに通過し、AI検出システムの信頼性を損なっています。同様に、人間が作成したテキストの約25%は、AI生成テキストとして誤ってフラグ付けされています。.

のあるユーザーは Quora 、 「AI検出器が私の作品を100％AI生成だと検出しています。学術指導教官の指示で、編集・文法ツールとしてうっかり使ってしまったからです。既に公開されている作品の言葉、概念、人生経験はすべて私自身のものです。どうすればいいでしょうか？」と投稿した。

が掲載したニュース記事で Cryptopolitan、AI ジェネレーターがドナルド・トランプ氏の発言を指摘しました。トランプ氏は 「私は暗号通貨企業とこの新しく急成長している業界に関連するすべてのことに対して非常に前向きでオープンマインドです」と述べました。⁤AI はどのようにして発言に追加されるのでしょうか? 人の心の中にあるのでしょうか? 表現された思考の中にあるのでしょうか?

デビッド・ベイリー氏からの別の発言は以下の通り。 「⁤我々は自衛のために立ち上がる。⁤⁤我々はトランプ氏に投票するのではなく、バイデン氏に反対票を投じるのだ。⁤⁤その責任はバイデン氏にある。」

こちらもご覧ください： トランプ氏の暗号通貨キャンペーン – 知っておくべきことすべて

2023年、OpenAIはプロモーションブログ記事で教育者向けのヒントを公開し、一部の教師がChatGPTを教育補助としてどのように使用しているかを紹介しました。.  

「AI検出器は機能しますか？」というFAQのセクションで、OpenAIは 言う「 と、いいえ。OpenAIを含む一部の企業は、AI生成コンテンツを検出すると謳うツールを公開していますが、これらのツールはいずれも、AI生成コンテンツと人間生成コンテンツを確実に区別できるとは証明されていません」と述べています。人間が作成した コンテンツとAIが作成したコンテンツを区別するという問題は依然として残っています。問題は、今後どうすべきかということです。

フロレンス・ムチャイによるCryptopolitan レポート