安全なAIの未来に向けたデータの受容

2023年、人工一般知能（AGI）は主流に急成長し、宿題の支援からソーシャルメディアのコンテンツ作成に至るまで、あらゆるものを再構築しました。キングスピーチへの inclusion のような高プロファイルな事例は、その growing な影響力を浮き彫りにしました。しかし、日常生活へのAIの急速な統合は懸念を呼び起こしました。物語は往々にしてディストピア的な恐怖へと向かい、テクノロジーの潜在的な利益を影に隠しています。重要な課題の一つは、AIの展開速度が、必要な法的および倫理的枠組みの開発を凌駕していることです。

ビッグテック企業は、不十分な自己規制、すなわち「自分のAIの宿題に採点する」ことに対して批判を受けてきました。これに対応し、米国はAmazon、Google、OpenAI、Microsoftなどの業界リーダーを集め、画期的な自主的合意への署名を呼びかけました。この協定により、独立したセキュリティ専門家が最新のAIモデルを評価できるようになります。同様に、英国では、リシ・スナク首相が、国家安全保障上のリスクに対処することを目的とした、世界初のAI安全研究所の計画を発表しました。この動きは、米国、英国、およびその他の複数の国々による、AIの悪用からの保護と「設計段階でのセキュリティ」の確保を目的とした国際的な合意と一致しています。

世界的な状況では、政府間でAI規制をリードするための非公式な競争が見られました。重要なマイルストーンは、英国がブレッチリーパークで初回のAI安全サミットを開催したことです。議論はAIの暗い側面に焦点を当て、核戦争のリスクと比較されました。しかし、雇用やアルゴリズムによる意思決定などの分野でAIの影響を最も受けやすいコミュニティの排除について懸念が表明されました。

未知の規制の課題

リシ・スナクが表明した英国の戦略は、まだ完全に理解されていない技術に対する立法のジレンマを中心に据えています。このトピックは、Open Data Instituteサミットでの焦点の一つでした。そこで、私は共同創設者のティム・バーナーズ＝リーと共に、AIモデルとそのデータの透明性の重要性を強調しました。AIの有効な監視には、その複雑さを理解している人々、通常は政治指導者を含まないグループの関与が不可欠であると私たちは主張しました。

特にAIが雇用に与える影響に関する公衆の不安は顕著でした。これは、146日間にわたるアメリカ脚本家組合のストライキと、Getty ImagesによるStability AIに対する訴訟で明らかになりました。これらの懸念にもかかわらず、クリエイティブ産業は生成AIを受け入れ、注目すべき画像や賞を受賞したアート作品を生み出しています。Nightshadeのようなツールは、AIが使用するデータを「汚染」することでクリエイターの権利を保護し、人間の作品の複製を妨げる役割を果たしています。

2023年の重要な下流には、データリテラシーの問題がありました。フォーチュン1000企業を対象とした調査では、データ、分析、AIイニシアチブの停滞が明らかになりました。英国のデジタルおよびデータスキルの不足、特に公務員分野での不足は、緊急の懸念事項として浮き彫りになりました。

2024とその先：AIの基盤としてのデータ

2024年を見据えると、効果的で安全なAIの基盤はデータにあることが明らかです。AIのパワーと安全性は、それが利用するデータの品質とガバナンスに直接依存しています。総選挙が近づいている中、政党のマニフェストがデータが技術進歩の基盤であることを認識し、その責任ある収集と配布にコミットすることが重要です。もう一つの重要な側面は、AI駆動の意思決定における人間の監督を維持することです。アルゴリズムによって下された決定をレビューし、異議を唱えるために常に人間が利用可能であることを確保します。

昨年暮れにOpenAIが直面した、急速なAI開発の管理と監督に関する課題は、AIのトレーニングと応用における多様で熟練した人間の関与の必要性を浮き彫りにしました。教育分野では、AIは不正行為の手段ではなく、普遍的な学習ツールとして見られるようになり始めています。2024年の希望は、AI生成のフィクションから事実を見分ける能力を持ち、AIが強化された世界で出現する新しい役割を埋める準備ができた、データリテラシーに優れた世代を育成することです。