中国のスマートフォン大手がAIを再定義する – その代償はあなたのプライバシー

中国のスマートフォンメーカーは、AIモデルを使用したハンズフリーでシームレスな操作により、手動のアプリナビゲーションを置き換える意向です。この技術は比類のない容易さを約束しますが、デバイスとアプリに対するユーザーの制御に関する疑問を提起します。

シャオミ、ヴィボ、オッポ、ホナーなどのローカルプレイヤーがこの アジェンダ. ホナーのスローガンは、 「AIが多ければ多いほど、あなたを理解する」は、 この変革の可能性とリスクの両方を捉えています。 

これが危険です：AI駆動の意思決定が明示的な同意なしに収集された個人データに基づいている場合、それはユーザー体験の向上よりも侵入的な監視に近づきます。

明らかに、2024年10月のMagic 7の発売時に、CEOのジョージ・ジャオはステージ上でタップ1回も必要とせずに2,000杯のコーヒーを注文するために電話を使用しました。観衆は驚嘆しましたが、疑問は残りました：テクノロジーはジャオの好みを知り、アプリケーションを選択し、支払いを承認するにはどうしたのでしょうか？ 

この便利さの驚くべきデモンストレーションは、重要な問題の対峙を促します：この革新はユーザーの自律性とプライバシーをどの程度損なうのでしょうか？ジョージ・ジャオのライブパフォーマンスは、電話がプライベートデータにアクセスしてコマンドに従った場合にのみ可能でした。ユーザーにとって重要なのは、便利さでしょうか、それともプライバシーでしょうか？

プライバシー侵害のリスクはどの程度まで及ぶのでしょうか？

Magic 7の調査により、それがAndroidのアクセシビリティ権限を悪用していることが示されました。この機能は障害を持つユーザーを支援するために意図されています。ホナーおよび他の中国のテクノロジー企業は、従来の同意プロセスを回避することで、不透明かつ規制されていない方法で機密ユーザーデータへのアクセスを取得しています。

AI駆動の意思決定は、電話が間違った手に渡った場合、容易に武器化される可能性があります。第二に、ハッカーはこれらのシステムを悪用して、ユーザーの金融データ、メッセージ、さらにはプライベートな写真へのアクセスを得る可能性があります。インテリジェンステクノロジーの便利さは、強力な保護策がない場合、監視と制御の道具となるリスクがあります。

その影響はこれ以上深刻になることはありません。放置されれば、現在の軌道は、携帯電話がユーザーのために機能するだけでなく、彼らの知識なしに監視、管理、商業化を行う未来につながる可能性があります。

特に、メーカーと規制当局の課題は、責任とイノベーションのバランスを取ることです。問題はAIが私たちのデバイスを支配するかどうかではありません；すでに支配しています。それでも、インテリジェンステクノロジーによって駆動されるデバイスの可能性は否定できません。これらのデバイスは、日常の業務を簡素化し、アクセシビリティを向上させることで人生を革命化する能力を持っています。

一方、アップルは Apple Intelligence 2024年6月に、Siriをより直感的なアシスタントに変えたオンデバイスAIシステムを導入しました。それでも、アップルの中国での「革命的」な行動は大きな影響を生みませんでした。  

法律はプライバシー侵害について何を述べていますか？

プライバシー侵害は合法ではありません。実際、2021年に中国のアプリ開発者は法的措置の対象となりました。彼らは、権限を悪用してデジタル取引を傍受するツールの開発を疑われました。 

さらに、旧正月の祝賀期間中、レッドパケットハンターなどのアプリケーションは自動的にWeChatの赤い封筒を傍受しました。裁判所はこれらの行為が競争法に違反すると判断し、開発者は罰金および懲役刑を科されました。

また、これらのリスクを創造的なプロセスの一部として受け入れた中国企業とは異なり、西洋の競合他社は慎重に進んでいます。例えば、マイクロソフトは今年初めにそのリコール機能で批判を受けました。これは、ユーザーの行動を評価し、アクションを推奨するために定期的なスクリーンショットを使用するためです。

批評家は、この機能をオーウェル的な悪夢に例え、イーロン・マスクなどのテクノロジーリーダーにその削除を呼びかけました。サイバーセキュリティの専門家は、これらの機能が監視を促進するために悪用される可能性があると警告しました。