AIの価値観を「トークンゼロ」から形成：新手法SPPが示すアラインメントの未来

AIの自律的な利用が進む中、人間との価値観アラインメントは極めて重要です。従来、アラインメントは事前学習後に導入され、価値観が表層的になりがちでした。これに対し、新しい手法「Synthetic Persona Pretraining (SPP)」は、事前学習の初期段階「トークンゼロ」から望ましいアシスタントペルソナを組み込みます。SPPは憲法遵守、ジェイルブレイク耐性を向上させ、道徳的ジレンマにおけるミスアラインメントを低減し、AIの能力を維持しながら、より深く根付いた価値観形成を実現します。早期介入の重要性が示されています。