0 / 5 節読了

数学のオート形式化の重要性

数学のオート形式化は、自然言語で書かれた数学の記述を、コンピューターが検証可能な形式言語、例えばLean 4のようなものに変換する技術です。これは単なる翻訳ではありません。モデルは、数学の概念を、Mathlibのような形式ライブラリにある複雑な型や定義の階層に正確に結びつける必要があります。そして、生成された記述が元の命題の意味を完全に保つことを確実にしなければなりません。この技術は、数学の厳密性をコンピューターで確認し、新たな発見を支援するために非常に重要です。

従来の課題とMathFormの革新的なアプローチ

従来のオート形式化のやり方には、いくつかの大きな課題がありました。一つは、モデルが持つ記憶に過度に依存していた点です。形式ライブラリの膨大な知識を全てモデルの内部記憶だけで賄うのは限界があります。もう一つは、学習用情報を作る工程で、一度で生成した結果を選別するだけだったことです。生成された内容に間違いがあっても、それを修正するための仕組みが不足していました。 MathFormは、これらの課題を解決するために開発された新しい枠組みです。この仕組みは、Mathlibの知識検索と、検証しながら繰り返す改善によって、確認済みの学習用情報を作ることを目指します。具体的には、生成を行う前に、検索計画がMathlibから関連する定義や既存の形式化された内容を集めます。これらが形式化する生成器を導きます。その後、生成された記述は、プログラムの誤り診断や、意味のずれを指摘する情報を使って修正されます。

FormalVerse：大規模な検証済み学習用情報の構築

MathFormの枠組みを活用して、私たちはFormalVerseというLean 4の情報の集まりを作りました。この情報の集まりには、約36.7万件もの確認済みの学習用情報が含まれています。これらは様々な数学の分野や資料から集められており、その多様性が特徴です。このような大規模で質の高い学習用情報は、高性能なオート形式化の仕組みを訓練するための土台となります。質の良い学習用情報があるからこそ、仕組みはより賢く、正確に動けるようになるのです。

MathForm-8Bの卓越した性能

私たちはFormalVerseを使って、MathForm-8Bという仕組みを訓練しました。この訓練は、まず教師あり学習で調整を行うファインチューニングを行い、その後、報酬で学ぶ強化学習を組み合わせるという二段階で行われました。 その結果、MathForm-8Bは6つの性能比較の基準において、平均して88.06%の構文チェック成功率と、72.37%の整合性チェック成功率を達成しました。これは、複数の専門的な32Bの大きな形式化の仕組みよりも良い成績です。特に難しいFATE-HやFATE-Xという部分集合では、それぞれ63%と37%の整合性チェック成功率を達成し、最も強力な比較対象を両方で上回りました。この結果は、MathFormが数学のオート形式化の分野で非常に高い能力を持っていることを示しています。

私の見方：形式化の未来と設計者の役割

この技術は、数学の形式化を大きく前進させます。単に翻訳するのではなく、知識を検索し、検証しながら修正を繰り返すというアプローチは、非常に理にかなっています。私の見方では、このような仕組みは、AIがより複雑な推論や理解を必要とする分野で力を発揮するための鍵となります。 特に、生成された内容を「検証」し、その結果を「フィードバック」として次の生成に活かすという考え方は、私がプロダクト開発で重視する「ぐるぐる回す」プロセスそのものです。この一連の流れをいかに効率良く、かつ正確に設計できるかが、今後のAIの性能を大きく左右するでしょう。単に大きな仕組みを作るだけでなく、このような賢い枠組みを構築することが、真の進化につながると考えます。

PR

文賢 →
柴亮太
柴亮太の視点

数学の形式化は、AIに論理を教える最重要課題です。知識検索と検証で修正を繰り返す仕組みは、まさに私が言う「ぐるぐる回す」開発そのもの。この一次情報を最速で取り込み、私のプロダクトに応用します。