米英のAI安全機関、改称から読む評価と政策の役割

看板から消えた言葉と、続く研究

米英でAIを評価する政府機関の名称が変わった。英国は2025年2月にAI Safety InstituteからAI Security Instituteへ、米国は同年6月にAI Safety InstituteからCenter for AI Standards and Innovation、略してCAISIへ移行した。どちらもSafetyという語を外したが、評価や安全保障研究をやめたと理解するのは正確ではない。

7月のイノベトピアの解説は、開発を加速すべきだという立場と、深刻なリスクを重く見る立場の対立からこの動きを読んでいる。ここでは、政府発表で確かめられる任務と、政治的な解釈を分けて整理する。

米国は標準とイノベーションを前面に

米商務省の2025年6月3日付の発表は、CAISIへの改革を、商用AIの能力評価、脆弱性や脅威の把握、米国の経済・国家安全保障と結び付けている。NIST内の科学技術の知見を使い、企業との共同研究や自主的な標準の整備を進める方向だ。

名称にInnovationが入ったことは、開発促進を強く打ち出す政策上の表現である。一方、AIの能力を測る仕事やセキュリティの課題は任務に残る。「安全を重視しなくなった」という一文では、評価の対象と政策の優先順位の違いが見えなくなる。

競争と規制の関係には、複数の利害がある。規則への対応費用が大きければ、小さな企業の参入負担となり得る。しかし規則を減らすだけで利用者の被害や市場の集中が解決するわけでもない。特定の発言者の立場を、すべての企業や研究者の共通見解に広げないことが必要だ。

英国は深刻なリスクへ対象を絞ると説明

英国で改称を発表したのは、2025年2月14日のミュンヘン安全保障会議におけるピーター・カイル技術相の演説だった。政府公開の演説原稿は、言論や差別の定義を政治家の代わりに決める組織ではなく、深刻な新しいリスクを科学的に研究する機関だと位置付ける。

具体的な対象には、化学・生物兵器への悪用、サイバー攻撃、人の制御が損なわれる可能性が挙がる。犯罪的悪用を扱うチームや、防衛分野の研究機関との協力も述べられた。危険を存在しないものとして扱う方向より、国家安全保障と結び付きの強い領域を明確にする説明である。

さらに同演説は、悪意ある人がAIを使う問題に加え、限られた人の指示で自律的に動くシステムの問題にも触れている。人による監督と制御を保つことが、開発を受け入れる条件になるという考え方だ。名称のSecurityを、情報漏えい対策だけに狭めて訳すと、この範囲を取り落とす。

思想の対立と、因果関係は区別する

元解説は、e/accと呼ばれる加速主義や、効果的利他主義を巡る議論も背景に挙げる。こうした思想や資金、人脈への批判は、政策を理解する一つの手がかりにはなる。ただし、演説の日付が近いことだけで、一方の国の圧力が他方の改称を起こしたと証明できるわけではない。

同じく、SafetyかSecurityかという語だけで、組織全体を一つの思想陣営へ分類することにも限界がある。研究対象、評価方法、企業へのアクセス、結果の公開、他機関との役割分担まで確認して初めて、実際に何が変わったかを判断できる。

日本の企業は、組織名より評価の範囲を読む

ここからは当サイトの考察である。海外の評価を製品選定に使う場合、その評価が何を対象にしたかを確認したい。サイバー攻撃の能力試験が優れていても、採用候補の日本語回答、個人情報の扱い、社内規程への適合まで証明するものではない。

評価する側の独立性にも段階がある。企業が用意した試験結果を読む場合、外部機関が限定した環境で試す場合、本番の使用記録を監視する場合では、得られる情報が違う。どの設定を使い、何を見られず、どの失敗が残ったかを把握することが重要になる。

開発促進と安全確保を実務で両立するには、導入を一度の合否判定で終えず、変更時の再評価、事故の記録、停止条件を用意したい。機関の看板が変わっても、利用者が信頼できる根拠を積み上げる仕事は残る。当サイト運営のRO合同会社では、AI導入時の評価項目と確認工程の設計について相談を受け付けている。