FTC、AIを使って消費者を欺く企業を提訴

連邦取引委員会（FTC）は、AIを悪用して人々を欺く詐欺業者を取り締まると発表しました。これは、「Operation AI Comply（AIコンプライ作戦）」と呼ばれる新たな法執行機関による捜査の一環です。.

同庁によれば、例えばAIツールを操作して偽のレビューを作成できるようにした企業も例外ではないという。.

それに加えて、AIを活用して消費者の収益増加を支援できると主張する企業もこのカテゴリーに該当し、当局の怒りに直面することになるだろう。.

「AIツールを使って人々を騙したり、誤解させたり、詐欺行為を働いたりすることは違法です」とFTCのリナ・M・カーン委員長は述べた。「FTCの執行措置は、AIが現行法の適用除外とならないことを明確に示しています。」

dent3社のうち、FBA Machine、Ecommerce Empire Builders、Ascend Ecomは、オンラインストア向けAIの活用により、自社が提供するビジネスで受動的収入を生み出せると主張している。FTCの訴状によると、これらの企業は消費者から数百万ドルを騙し取り、約束をほとんど果たさなかったという。.

DoNotPay、AI「ロボット弁護士」訴訟でFTCと和解

この執行措置には、世界初の「ロボット弁護士」を開発したと報じられ、最近注目をtracているAI企業DoNotPayも含まれています。FTCは、AIを活用したこのサービスは、人間の弁護士を介さずに法的助言を提供し、ユーザーが暴行訴訟を起こしたり、法的文書を作成したりすることさえ可能にしていると指摘しました。. 

しかし、同社は自社が開発したAIが人間の法律知識と同等の有効性を持つという十分な証拠を提示していない。サービスは十分にテストされておらず、運用中に資格を有する弁護士からの助言も得られていない。FTCとの和解により、DoNotPayは19万3000ドルを支払うこととなった。さらに、FTCはサービスを利用した消費者に通知を送付することになっている。同社は今後、自社がそのようなサービスを代替できるという誤解を招くような広告を行うことを禁じられる。. 

DoNotPayのCEOであるジョシュア・ブラウダー氏は昨年、Xに投稿した記事の中で、同社が 「州弁護士会の検察官から脅迫を受けている」 、そしてスマートグラスを通してAI弁護士を法廷に登場させる計画をさらに進めれば、自身が投獄される可能性があると述べていた。 

Rytr、AI生成の偽レビューツールで重大な結果に直面

FTCは、AIを用いて消費者レビューを作成するツール「Rytr」にも調査を命じました。このサービスは、商品とは無関係な虚偽の情報を含むレビューを無数に生成する可能性があり、これらの偽レビューは潜在的な購入者を誤解させ、オンライン市場を歪めていました。.

和解の一環として、Rytrは今後、AIによるレビューサービスの提供および広告を一切禁止されました。FTCによると、これは消費者レビューにおける虚偽情報の問題に対処するのに役立つとのことです。.

カーン氏のリーダーシップの下、FTCはAIを欺瞞的な方法で利用する企業に対する措置に重点を置いてきました。今年初めには、FTCは大手テクノロジー企業と成長中の生成AI企業との提携に関する調査を開始しました。.