AIの国際協調は何を確かめるか。中国と減速論の検証条件

企業内の監督と、国家間の検証の違い

Anthropicのダリオ・アモデイ氏は2026年9月の公開論考で、AIの能力向上に安全対策を追い付かせるため、開発速度の調整を提案した。企業への第三者評価者の受け入れ、民主主義国の調整、世界規模の協調という段階を示している。

企業内に外部評価者を置く提案そのものは、すでに当メディアでも扱った。今回はその再紹介ではなく、同じ論考の国際協調部分を、中国側の取り組みや評価指標と合わせて読む。企業の実施表明と、国家間で成立した合意を区別することが中心になる。

会社であれば、評価対象の計算環境、担当者、監査記録へどこまでアクセスを認めるかを契約で決められる。それでも顧客の秘密や安全上の情報は扱いが難しい。国家をまたぐ場合は、そもそも存在が明らかでないモデルや、軍事用途の計画も問題になる。企業の監査手順をそのまま拡大しても解決しない。

アモデイ氏が想定する四つの交渉

論考は世界的な協調を難易度の異なる四段階へ分ける。最初は、生物兵器の製造支援のように危険性が明確で狭い用途を禁止する合意。次は、サイバー、生物、整合性などの急性リスクについて公開前に試験する合意だ。

三つ目は、AIが次世代AIの開発を助ける再帰的自己改善の速度に上限を置く案である。最後に、開発全体を大幅に抑える調整や、一時停止を挙げる。ただし最後の案については、近い将来の実現に懐疑的な立場を示す。これらは本人の提案と実現可能性の見立てであり、米中間で合意済みの制度ではない。

段階を分ける理由は、約束に違反されたときの損失が異なるからだ。狭い危険用途の禁止であれば利害が重なる余地がある。他方、一方だけが大きく開発を抑え、相手が秘密に続ければ、戦略上の差が拡大し得る。検証の確実さと、裏切られた場合の影響を同時に考えている。

公開前試験の合意にも難所がある。表に出すモデルを試験するだけでは、非公開の別モデルがないことを確かめられない。検証対象の範囲、報告の義務、試験を受けていないモデルの扱いまで決めなければ、試験済みという表示だけが残るおそれがある。

速度制限はさらに測り方が難しい。訓練の回数、計算資源、ベンチマークの伸び、開発工程の自動化の割合では、それぞれ異なる行動を制限することになる。何を数えるかを曖昧にしたまま速度だけを約束しても、遵守を外から判定できない。

リードを何で測るのか

アモデイ氏は、民主主義国側が調整できる幅を、他国に対する能力のリードと関係付けている。また、半導体の輸出管理、無許可の蒸留への対処、モデル重みの窃取防止などを挙げ、今後3〜5年にリードを広げるという見通しを述べる。

この期間を「米国のAIはすでに3〜5年先行している」と読み替えてはいけない。将来に向けた見通しと、現在の差を測った結果は別だ。論考は、減速幅を機械的に算出できる共通の尺度まで確立しているわけではない。

Stanford HAIのAI Index 2026は、モデル評価と投資など複数の側面を扱う。技術性能の章にあるArenaの順位やスコアは、特定の評価方式で観測された結果である。

例えばスコア差を百分率へ換算しても、それが知能全体、軍事上の能力、研究開発の速度の差を表すとは限らない。とくにElo型の尺度は、数値が二倍だから能力も二倍という比例尺度ではない。評価セット、利用者の選好、モデル版、取得日時が変われば比較も変わる。

投入資源も別の軸だ。民間投資の大きさを見れば開発余力の一部が分かるが、政府の支援、電力、半導体の調達、既存設備まで同じ定義で含まれるとは限らない。モデルの応答品質が近いことと、将来それを何回更新できるかは同じ問いではない。

中国側の国際協力は、減速への同意か

JETROの2026年7月23日付報告は、上海の世界AI大会で、中国の習近平国家主席が世界AI協力機構の発足を表明したと伝える。開発途上国への研修など、能力構築や国際協力を進める方針も紹介している。

国際的な安全やガバナンスを重視する姿勢があることと、フロンティアモデルの能力向上を制限することへ同意していることは別である。協力機構の存在だけで、中国が米国企業の減速案を受け入れたとも、拒否したとも判断できない。

中国の人工知能安全治理框架2.0は、リスク分類や対応を扱う技術文書として参考記事で取り上げられている。ただし、今回の取得では中国当局の該当ページを直接読めなかったため、その個別条項を確認済みとして列挙しない。リスク管理文書があるということと、国際的な速度制限の検証制度があるということも、分けて確認する必要がある。

国や組織が同じ「安全」という語を使っていても、何から誰を守るか、どこまで公開するかは異なり得る。宣言の似た言葉だけを拾うより、試験の対象、実施者、結果を閲覧できる人、異議を申し立てる経路を比べるほうが、協力可能な部分が見えてくる。

蒸留をめぐる対立から分かること

Anthropicの蒸留対策の発表は、他社によるモデル利用について同社の調査と主張を示す資料だ。一方、中国側の外交当局の演説には、自主開発能力を過小評価する言説への反発がある。双方の主張を、第三者が共通手順で確定した事実と同一視しないことが必要だ。

蒸留という技術の名前だけで違反が決まるわけでもない。利用規約上の許諾、アクセスの方法、取得した出力、用途などが問題になる。国際的に監督するなら、何を不正と定義し、どんな記録が判断の根拠になるかが問われる。

ここには、外部評価を進めたい側の難しさもある。違反検知の詳細をすべて公開すれば、検知を回避されるおそれがある。しかし、根拠を何も示さなければ、相手も第三者も妥当性を確認できない。秘密を守りながら検証可能性を確保する方法が、協調の実務課題になる。

日本の利用企業に関係する接点

以下は編集部の考察である。日本の企業が国際的な開発速度を直接決めることは難しいが、調達の際に確かめる内容は具体化できる。モデルの名称と版、重みの配布条件、提供元、利用するクラウド、評価資料の対象を別々に記録する。

例えば、同じシリーズ名でも公開された重みの版と、クラウド上の上位版は入出力や条件が違う場合がある。ある評価結果を見て採用したのに、実際に接続したモデルが違えば、その評価を運用の根拠にできない。国籍のラベルだけでなく、使う実体を確かめる必要がある。

さらに、安全評価の合格をデータ管理の確認の代わりにしない。危険な回答を拒否する能力と、顧客情報がどこへ保存されるかは別の問題だ。国際協調の議論を実務へ結び付けるなら、これらの評価を混ぜずに並べることから始められる。

開発の減速を支持するかどうかとは独立に、約束を検証できることには意味がある。宣言された目標、実際に測った結果、まだ分からない部分を分けて示す。その地道な区別がなければ、国家間の協調も企業の導入判断も、同じ言葉の異なる意味をすれ違ったまま進むことになる。

参考：イノベトピアの中国とAI協調に関する解説。原論考、JETRO、Stanford HAI、中国外交当局の公開資料を2026年10月21日に確認。政策案・将来予測と、合意済み制度を区別して記した。

合意文書だけでは見えない、評価者の権限

国際的な評価制度を考える際、試験する団体の名称より先に確認したい点がある。どのモデルにアクセスできるのか、結果を誰へ報告できるのか、不都合な発見を発表できるのかという権限だ。評価者が限られたデモしか見られなければ、本番の学習や運用について結論を出すことは難しい。

一方、無制限の公開を求めればよいというものでもない。モデル重みや脆弱性情報を公開することで、新しい危険が生じる場合がある。対象組織の秘密をすべて知ることと、特定の安全上の主張を検証するのに必要な情報を得ることは違う。何を立証するために何を閲覧するかを狭く定める考え方が必要になる。

違反を見つけた後の手続も重要だ。情報が不足した場合に保留とできるか、再評価を求められるか、対象組織が異議を申し立てられるか。合否のラベルだけでは、どれだけ確認できた結果かが分からない。検証の限界を報告へ含めることも、制度の信頼性に関わる。

これは新しい国際制度がすでに実現したという説明ではなく、提案を評価するための編集部の整理である。アモデイ氏の段階論は、少なくとも実施可能性の異なる案を同列に置かないための材料になる。最も強い合意が難しいことから、限定されたリスク共有まで無意味と結論する必要はない。

逆に、限定的な協力が成立したことから、すべての開発工程への信頼を拡張することもできない。生物リスクの試験に関する合意が、軍事向けモデルの非公開開発や、商用システムのデータ管理まで確かめたことになるわけではない。協力が進んだ領域と、未確認の領域を別に記す必要がある。

企業内の実務でも、評価済みという言葉の後に、対象版、対象作業、条件、除外事項を付けるとよい。安全性評価と、業務の正答率、情報管理、運用継続性を一つの「信頼できるAI」へまとめない。国際協調の大きな議論と、目の前の調達の地道な確認には、検証できた範囲を守るという共通点がある。

運営会社・AI導入の相談先：RO合同会社。