中国のスマホ大手はAIを再defiしようとしているが、それはプライバシーを犠牲にしている

中国のスマートフォンメーカーは、手動によるアプリ操作を、AIモデルを活用したハンズフリーのシームレスな操作に置き換える計画です。この技術は比類のない使いやすさを約束しますが、デバイスやアプリに対するユーザーによる制御について疑問が生じます。.

Xiaomi、Vivo、Oppo、Honorといった国内企業もこの 取り組み。Honor のキャッチフレーズ 「AIが多ければ多いほど、あなたをより深く理解する」は 、この変革の可能性とリスクの両方を的確に捉えている。 

これが危険なのです。AI による意思決定が明示的な同意なしに収集された個人データに基づいて行われる場合、ユーザー エクスペリエンスの向上というよりは、むしろ侵入的な監視に重点が置かれることになります。.

2024年10月にMagic 7のローンチイベントが開催された際、CEOのジョージ・チャオ氏は、ステージ上でスマートフォンを使って2,000杯ものコーヒーを、タップ一つも使わずにライブで注文したそうです。観客は驚嘆しましたが、疑問は残りました。一体どうやって技術者はチャオ氏の好みを把握し、アプリを選択し、支払いを承認したのでしょうか？ 

この驚くべき利便性の実証は、重大な問題への対峙を促します。このイノベーションは、ユーザーの自律性とプライバシーをどの程度侵害するのでしょうか？ジョージ・チャオのライブパフォーマンスは、スマートフォンが指示に従うために個人データにアクセスしなければ実現できなかったでしょう。ユーザーにとって、利便性とプライバシーのどちらがより重要なのでしょうか？

プライバシー侵害のリスクはどこまで及ぶのでしょうか?

Magic 7の調査により、Androidのアクセシビリティ権限を悪用していることが実証されました。この機能は、障害を持つユーザーを支援することを目的としています。Honorをはじめとする一部の中国テクノロジー企業は、従来の同意プロセスを回避し、不透明かつ規制のない方法でユーザーの機密データにアクセスしています。.

AIによる意思決定は、スマートフォンが悪意ある者の手に渡れば、容易に武器化される可能性があります。また、ハッカーがこれらのシステムを悪用し、ユーザーの金融データ、メッセージ、さらにはプライベートな写真にまでアクセスする可能性があります。堅牢な安全対策が講じられなければ、このインテリジェンス技術の利便性は、監視や統制の道具と化してしまう危険性があります。.

その影響はこれ以上ないほど深刻です。このまま放置すれば、携帯電話がユーザーに役立つだけでなく、ユーザーの知らないうちにユーザーの行動を監視、管理、そして商業化する未来が到来するかもしれません。.

メーカーと規制当局の双方にとっての課題は、責任とイノベーションのバランスを取ることです。問題は、AIが私たちのデバイスを支配するかどうかではありません。すでに支配的になっています。しかし、インテリジェンス技術を搭載したデバイスの可能性は否定できません。これらのデバイスは、日常業務を簡素化し、アクセシビリティを向上させることで、人々の生活に革命をもたらす可能性を秘めています。.

一方、アップルは Apple Intelligence」 。しかしながら、アップルの中国における「革命的」な取り組みは、大きな影響を与えるには至らなかった。  

プライバシー侵害について法律では何と規定されているのでしょうか?

プライバシー侵害は違法です。実際、2021年には中国のアプリ開発者が法的措置の対象となりました。彼らは、デジタル取引を傍受するために権限を悪用するツールを開発したとして告発されました。. 

さらに、春節（旧正月）のお祝い期間中、「Red Packet Hunter」などのアプリがWeChatの紅包をmaticに傍受していました。裁判所はこれらの行為が競争法違反であると判断し、開発者には罰金、さらには懲役刑が科されました。.

また、こうしたリスクを創造プロセスの一部として受け入れている中国企業とは異なり、欧米の競合他社は慎重に行動しています。例えば、マイクロソフトは今年初めに「リコール」機能に関して批判を受けました。これは、定期的にスクリーンショットを撮影し、ユーザーの行動を評価して推奨アクションを推奨しているためです。.

批評家たちはこの機能をオーウェルの悪夢に喩え、イーロン・マスク氏をはじめとするテクノロジー業界のリーダーたちは削除を訴えました。サイバーセキュリティの専門家たちは、これらの機能が監視を容易にするために悪用される可能性があると警告しました。.