イーロン・マスクのAIへの偏見とXの制御不能な自動化

イーロン・マスクのXプラットフォームが、イランによるイスラエル攻撃に関するニュースをニュースフィードのトップページであるExploreにプロモートしたとき、ソーシャルメディア上で恐ろしいニュースが浮上しました。

木曜日、Xのメインニュースフィードのタイトルの一つは次のように読んでいました。

「イラン、テルアビブに大型ミサイルで攻撃」

これは、地政学的シナリオと、イランの大使館に対するイスラエルの最近の攻撃（最高指導者を殺害し、両国の緊張がイスラエルのガザ侵攻中にさらにエスカレートした）を考慮すると、かなり懸念される更新でした。おそらく良い時期ではありませんでしたが、いかなる理由であれ誤解を招く見出しをプロモートしたい人々にとって、理想的な時期かもしれません。そして、そのような非道な行為のツールとして使用できる場合、AI（人工知能）の役割は無視できません。 

この見出しは偽物であり、さらに懸念されるべきことは、Xの公式AIチャットボットであるGrokによって生成され、その後、この機能が新しいバージョンに更新された日に、XのExploreトレンドニュースのトップページにプロモートされたことです。

イーロン・マスクの自動化推進 — なぜこの事件が最初に起きたのか

事件の根源を遡ると、Grokによって生成された誤解を招くタイトルが、人間によって行われていた重要なコンテンツキュレーション作業が、まだ完全に知的ではない人工知能に引き継がれた結果として現れたことが明らかになります。

Xプラットフォーム（旧Twitter）には、トレンドニューストピックに書かれた文脈を提供する機能がありました。おそらくこれらの説明は人間によって書かれていました。Twitterのアルゴリズムは関連するキーワードを捉え、キーワードの提案に基づいてトレンドをトレンドトピックと共有することができました。

その後、Twitterはより良い結果を得るためにニュースをキュレートしトレンドを管理する人間の編集者のチームを結成しました。そのため、トレンドトピックはアルゴリズムに任されるのではなく、その背後に人間の要素を持つようになりました。これにより、より信頼性の高いアプローチが採用されました。Twitterはまた、ReutersやAPなどのトップニュースエージェンシーと提携し、トレンドトピックの人間生成の文脈をさらに強化しました。

しかし、2022年にMuskがTwitterを買収し、それをXにリブランドし、トレンドニュースの人間による文脈を置き換えたとき、状況は変わりました。MuskはAIがニュースをより効率的にキュレートすることを好んだため、人間の編集者のチーム全体が解雇されましたが、それには独自の欠点もありました。 

AIのみに依存するリスク

MuskがGrokに対して非常に野心的であり、それがまだ初期段階にあり、それほど信頼できないことを知りながら、あらゆる機会にそれをプロモートしているという事実は、それ自体が懸念されます。Muskが人間の編集者をAIに置き換えることは、いくつかの財務上の利益をもたらすかもしれませんが、それには独自の費用も伴います。

見出しが誰かのフィードから取られたのではなく、XプラットフォームのネイティブAIチャットボットであるGrokによって生成されたという事実。しかし、最も懸念される事実は、Grokが最初にそのような偽の見出しを生成した場合でも、それがExploreニュースページのトップにプロモートされたことです。 

これは、この ニュース の生成とプロモーションの間にチェックシステムが存在しなかったことを示しており、もしシステムが存在したとしても、それは不十分であり、会社は完全にAIに依存して仕事を行っていました。前述したように、AIはデータを分解し、人間が可能な限りよりも効率的に結果を提供するという多くの利点を提供しているにもかかわらず、依然として敏感なトピックを処理するには十分に賢明ではありません。それでも、人間の介入が必要な領域があり、AIがその段階に達するまでには時間がかかるかもしれません。それまで、AI手順のみに依存するのは賢明な選択ではありません。