アントロピックCEOはAIモデルの安全性について注意を促している

アンスロピックのCEO、ダリオ・アモデイ氏は最近、人工知能（AI）企業は必須のテスト要件を遵守すべきだと述べました。これは彼自身の会社であるアンスロピックにも当てはまります。目標は、これらの技術がリリースされる前に、一般の人々にとって安全であることを確認することです。. 

アモデイCEOは、米国商務省と国務省がサンフランシスコで最近開催したAI安全サミットで質問に答えました。CEOは「テストは絶対に義務化する必要があると思いますが、その方法については慎重に検討する必要があります」と述べました。

これらの発言は、英国と米国のAI安全研究所がAnthropicのClaude 3.5 Sonnetモデルのテスト結果を発表したことを受けてのものです。これらのテストは、生物学やサイバーセキュリティのアプリケーションを含む様々なカテゴリーで実施されました。OpenAIとAnthropicは以前、両社とも政府機関にモデルを提出することに合意していました。.

アントロピックのような大手企業は自主的に課した安全ガイドラインに従っている

アモデイ氏は、大手企業が自主的に一定のガイドラインに同意していると述べた。これにはOpenAIの準備フレームワークやAnthropicの責任あるスケーリングポリシーが含まれる。しかし、安全性を確保するためにはさらなる取り組みが必要だと付け加えた。.

「企業が本当にその計画を文字通り実行しているかどうか、実際に検証したり保証したりするものは何もありません。ただ実行すると言っただけです」とアモデイ氏は述べた。さらに、「世間の注目と従業員の関心の高さは、ある程度のプレッシャーを生み出していると思いますが、最終的にはそれだけでは十分ではないと思います」と付け加えた。

アモデイ氏は、強力なAIシステムは最も賢い人間を凌駕する能力を持つと信じています。また、そのようなシステムは2026年までに実用化される可能性があると考えています。さらに、AI企業は依然として、現時点では現実には存在しない、ある種の壊滅的な危害や生物学的脅威をテストしていると付け加えています。しかし、これらの仮説的なテストは、はるかに早く現実のものとなる可能性があります。.

彼はまた、AI技術が進化し続けているという事実を考慮し、AIシステムの試験要件は柔軟であるべきだと警告した。彼の言葉を借りれば、これは解決が非常に難しい「社会政治的問題」である。.