上院議員らがXとGrokアプリをAppleとGoogleのアプリストアから削除するよう求める

民主党の上院議員３人は金曜日、イーロン・マスク氏がユーザーによる同意のない露骨な画像や児童性的虐待を示す資料の作成と共有を阻止するまで、アップルとグーグルに対し、XとGrokのアプリケーションをアプリストアから削除するよう求める書簡を送った。.

オレゴン州選出のロン・ワイデン上院議員、マサチューセッツ州選出のエド・マーキー上院議員、ニューメキシコ州選出のベン・レイ・ルジャン上院議員は、アップルのティム・クックCEOとグーグルのサンダー・ピチャイCEOに書簡を送り、「同社の最高経営責任者（CEO）であるイーロン・マスク氏がこれらの不穏でおそらく違法な活動に対処するまで、XアプリとGrokアプリをアプリストアから直ちに削除する」よう要求した。

上院議員らは、テクノロジー企業に対し、この問題を無視しないよう警告した。「Xの目に余る行為に目をつぶれば、貴社のモデレーション対策は嘲笑の的となるだろう」と彼らは 述べた。また、何もしなければ、「アプリストアはユーザーがアプリを直接スマートフォンにダウンロードするよりも安全なユーザー体験を提供しているという、公の場や法廷での主張が損なわれる」とも述べた。

ディープフェイクの乱用が蔓延し、警戒が高まる

ユーザーはGrokとXを通じて、自分の画像がこのように使用されることに同意していない人々の画像を使ったディープフェイクの性的コンテンツを作成し、共有してきました。Grokは、人種や経歴に基づいて人々を侮辱する画像も作成しています。

ロンドン・タイムズ紙は、ホロコースト生存者の親族が「デジタル的に裸にされた」という憂慮すべき事例を報じた。これは、人々がグロックに対し、アウシュヴィッツでビキニを着た彼女の写真を作成するよう求めた後のことだった。.

これらの問題は、ヨーロッパ、マレーシア、オーストラリア、インドの政府当局による調査につながっています。連邦取引委員会と司法省は、xAIを調査する予定があるかどうかについては明らかにしていません。.

1月3日、マスク氏とX氏は「Grokを使用したり、Grokを使用して違法コンテンツを作成したりした者は、違法コンテンツをアップロードした場合と同じ結果に直面することになる」と述べた。

AppleとGoogleはどちらも、アプリに関する厳格な規則を設けており、開発者は児童性的虐待やその他の有害なコンテンツを示す画像のアップロードや共有をユーザーが行うことを阻止するよう求めている。.

AppleのApp Storeは以前、不適切なコンテンツを適切にブロックしていないとして、TumblrやTelegramなどのソーシャルメディアやメッセージングプラットフォームを削除した。.

金曜日の報道によると、X社は現在、Grokの画像作成機能を有料会員のみに制限しているという。しかし、Grokの専用アプリとウェブサイトでは、ユーザーが写真や動画の使用許可を得ることなく、性的または品位を傷つける画像を作成するようシステムに指示できる状態が続いている。.

マスク氏はGrokへの最近の変更を自ら指示し、安全対策の削減を求めていた。報道によると、xAIの安全チームに所属する3人の従業員は、マスク氏がこれらの要求をした後に辞職したとXに投稿した。.

Grokの行動をめぐる論争は今に始まったことではない。このチャットボットは以前にも、反ユダヤ主義的なコンテンツを生成したり、問題のあるペルソナを表示したりしたとして批判を受けてきmatic 。

xAIは論争にもかかわらず巨額の資金を確保

xAIは批判に晒されながらも、今週、投資家から200億ドルを調達したと発表した（ Cryptopolitan 以前報じた通り）。今回の資金調達ラウンドには、NvidiaやCisco Investmentsに加え、これまでマスク氏を支援してきたValor Equity Partners、Stepstone Group、Fidelity、Qatar Investment Authority、アブダビのMGX​​、Baron Capital Groupといった企業が参加した。

200億ドルという金額は、当初の目標額である150億ドルを上回りました。CNBCは11月、今回の資金調達により、この人工知能スタートアップ企業の評価額​​は約2,300億ドルになると報じていました。当初、xAIが150億ドルの資金調達を希望していると報じられた後、マスク氏はXでこの報道を「誤り」としました。.

Nvidia と Cisco はどちらもサプライヤーおよびパートナーとして xAI と協力しています。.

AIスタートアップは2025年に非常に高い時価総額に達し、その技術に対する需要に応えるべく巨額の資金を調達しました。OpenAIは10月に66億ドルの株式売却を完了し、時価総額は5,000億ドルに達しました。1か月後、AnthropicはMicrosoftとNVIDIAからの出資を受け、時価総額は約3,500億ドルに達しました。.