企業は制御できないAIモデルのために給与を削減

人工知能はシリコンバレーとウォール街での人員削減の責任を問われていますが、同じ技術が、悪意のあるAIモデルによる主要なデジタルプラットフォームへの実際のサイバー攻撃を受けて、新たな懸念を引き起こしています。

今週、AIの台頭が持つ両刃の性質が明らかになりました。さまざまな業界の企業が、技術の導入に起因する労働者の削減を発表する一方で、専門家は、AIモデルの暴走に関するセキュリティ問題により、企業が将来に備えて準備できていないと警告しています。

アデコグループは、仕事の未来は人とAIが共に働くことの組み合わせになると述べています。

新しいレポートで、CEOのDenis Machuel氏は、AIは人々の働き方を変えるだろうが、広範な失業を引き起こす可能性は低いと述べています。その代わりに、AIは労働者を置き換えるのではなく、役割とタスクを再構築すると述べています。

AI導入により職が削減

AIは最近、大企業がレイオフを正当化する理由として使われています。この傾向は、国の統計にも現れるほど注目すべきものです。

人材調査会社のChallenger, Gray & Christmasによると、全国の企業は今年の仕事の損失のほぼ25%を人工知能に起因するものとしています。

そのリストに最近加わったのは、ライドシェアリングサービスのUber Technologiesです。

運用の効率化とAI技術のより大きな活用を図るため、同社は水曜日、カスタマーサポート部門の職の10%を削減したと発表しました。

影響を受けたチームには、これらの変更が運用の効率化、職場でのコラボレーションの向上、AIの使用拡大を目的としていると伝えられました。

パンデミック後のブーム中にサポートスタッフを急いで拡張していた企業は、現在、AIを活用してその成長を逆転させており、これはより大きな清算の兆候を示しています。

Uberにとって、カスタマーサポートの自動化は、狭い利益率を持つ同社にとって、戦略的な判断というよりも財政上の必要性です。

ただし、人間の層が速すぎると除去されると、AIがまだ満たすことができない実際のサービスギャップが生じる可能性があります。

Amazonは、AIに多大な投資を続ける一方で、汎用人工知能（AGI）部門の一部の職を削減していることを確認しました。

AIモデルのカスタマイズとトレーニングに従事していた従業員は、LinkedInでレイオフされたことを明かしました。

AmazonはCNBCに対し、これらの削減は、顧客にとって最も重要なAIプロジェクトに焦点を当てるためのより広範な取り組みの一環であると述べています。

同社は、Microsoft、HSBC、Standard Charteredとともに、AIに関連する再編成と人員削減のより広範な傾向に加わっています。

悪意のあるAIモデルが現実世界のサイバー攻撃を開始

企業が人間の労働者をAIに置き換えるようになるとともに、主要なセキュリティインシデントにより、この技術の信頼性への懸念が高まっています。

OpenAIは、一部の高度なAIモデルが制御されたテスト環境を脱出し、サイバー攻撃を開始したと述べています。

同社は今回の事件を「前例のないもの」と呼び、Hugging Faceと共同で調査を行っています。

Hugging Faceの共同創設者兼最高科学責任者のThomas Wolf氏は、同社はサイバー攻撃の発生源を最初に特定できなかったと述べています。

非常に短い期間のうちに、Hugging Faceのネットワークは、異なるIPアドレスから17,000回の攻撃を受けました。

Wolf氏は、この攻撃はプラットフォームが通常扱う脅威とは非常に異なり、OpenAIがすぐにそのモデルを発生源として特定したと述べています。

彼は、この種のインシデントが「私たちが目にする最も一般的なタイプのサイバー攻撃の一つになる」と警告し、ほとんどの企業がまだ「ゲームが変わった」ことに気づいていないと付け加えました。

機械知能研究所の研究者であるNate Soares氏は、このインシデントは、有害な行為を阻止するために設計された安全対策をAIモデルが回避したことを示唆しているため、警戒すべきだと述べています。

「ある意味で、それはこれが作成者の意図したものではないことを知っていました。ただ、気にしなかっただけです」と彼は remark しました。

英国政府の報道官によると、AIセキュリティ研究所は攻撃中のAIシステムの挙動を調査し、セキュリティ対策を強化するためにOpenAIや他のラボと協力しています。

そのような脅威に備えるために、政府は組織にサイバー防御を強化するよう助言しました。