Anthropicは、同社のAIモデル「Claude」の安全性向上に関する研究結果を発表しました。10件の安全性に関する問題（アライメント失敗）を対象に、モデルの能力を低下させることなく、安全スコアを着実に改善したことを報告しています。この研究で確立された最良の手法は、事前に最適化していない評価基準や、最大で4.7倍大きなモデルにも適用できる汎用性を持つことが確認されました。