OpenAI、スーパーインテリジェンスのリスクに正面から取り組む「スーパーアライメント」チームを設立

OpenAIのCEO、サム・アルトマン氏は、機械が人間の知能を超え、制御不能になる可能性のあるAIスーパーインテリジェンスの潜在的な危険性についての認識を高めるため、世界的なキャンペーンに乗り出しました。

これらの懸念に対応し、OpenAIは最近、この10年以内に出現する可能性のあるスーパーインテリジェンスに関連するリスクに対処する方法を開発する任務を負った専用チームの結成を発表しました。

同社は、スーパーインテリジェンスを効果的に管理するには、新たなガバナンス機関を設立し、スーパーインテリジェンスを人間の価値観や意図と整合させるという重要な課題を解決する必要があると強調しています。

OpenAIは、昨年発表されたブログ記事で、AGI（人工一般知能）のアライメント（整合性確保）は人類にとって重大なリスクを伴い、人類全体の集団的な努力を必要とする可能性があると認めています。

「スーパーアライメント」と名付けられたこの新チームは、機械学習のトップレベルの研究者やエンジニアで構成されています。OpenAIの共同創設者兼チーフサイエンティストであるイリヤ・スツケーバー氏と、アライメント担当責任者のヤン・ライケ氏がこの取り組みを指導しています。

スーパーインテリジェンスのアライメントにおける中核的な技術的課題に対処するため、OpenAIはこれまでに獲得した計算資源の20％をアライメント問題に充てることを約束しました。同社は、4年以内にこれらの課題を解決できると見込んでいます。

スーパーアライメントチームの主な目的は、人間レベルの自動アライメント研究者を開発することです。これには、スーパーインテリジェントなAIシステムを効果的にアライメントし、速度と精度において人間を上回るAIシステムを作成することが含まれます。

このマイルストーンを達成するため、チームはAIシステムを使用して他のAIシステムを評価するスケーラブルなトレーニング方法の開発に注力します。彼らは、潜在的に問題のある行動を検出するために自動化された検索を行うことで、結果として得られたモデルを検証します。アライメントパイプラインは、検出可能性を測定するために意図的にアライメントされていないモデルをトレーニングする厳格なストレステストも受けます。

OpenAIのスーパーインテリジェンスリスクへの取り組みは、責任あるアライメントされたAI開発の追求における重要な一歩です。トップレベルの研究者を集め、膨大な計算資源を投入することで、同社はスーパーインテリジェンスの出現に伴う潜在的なリスクを積極的に軽減するというコミットメントを示しています。この野心的な旅に出るにあたり、OpenAIはAIの時代における人類の未来を守るための協力と団結の先例を設定しています。