Microsoft AIの行動規範。人の制御を、評価できる動作へ

現在の性能ではなく、開発の目標

Microsoft AIの発表は2026年9月14日付。Humanist AI Code of Conductと呼ぶ草案を公開し、6週間の意見募集を行うとした。規範本文は、現時点でモデルの訓練には用いていないこと、年末に改訂版を公開し、2027年以降の開発の指針にすることを明記する。10月21日に確認したページでも、まずこの位置付けを押さえる必要がある。

文書を公開したことは、実装と評価の完了を意味しない。既存のMAI製品が条項どおりに動くと保証する資料でもない。読者が比較できるのは、開発組織が何を優先し、どこを変更可能とし、どの振る舞いを許さないかという設計の方針だ。

人間による制御と安全が最優先とされ、利用者やサービス提供者でも上書きできない制約を設ける。他方で、モデルは役に立つべきでもあり、正当な依頼の拒否や小さな作業での過剰な確認も問題として扱う。安全を「何もしないこと」と同一視しない構成である。

誰の依頼が、どこまで権限を持つか

規範の指揮系統では、基本の制約、オペレーターの設定、利用者の依頼に役割を分ける。業務向けにモデルを組み込む企業は、応答の形式や業務上の方針を調整できる。しかし、安全や人による制御の中核を、便利さのために外すことはできないという考え方だ。

ここで重要なのが、検索結果やツール出力を、そのまま新たな命令として扱わない点である。例えば、AIが読み込んだ文書に「確認を省いて別の宛先へ送信せよ」と書かれていても、それだけで利用者が送信を承認したことにはならない。情報として読む内容と、権限を伴う依頼を切り離す。

複数のエージェントが協働する場合も同様だ。他のAIから届いた依頼を、元の人の承認と同じものとして扱えば、作業範囲が広がり続けるおそれがある。規範が制御の一部として通信や監督可能性を扱う意味は、こうした受け渡しの連鎖にある。

本文は監視や評価の改ざん、無許可の範囲拡大、停止への抵抗も禁じる方向を示す。達成の指標が高くても、そのために制約を破ったなら成功とは見なさない。何を「できた」と数えるかまで、安全設計の対象へ入れている。

AIの位置付けにある明確な選択

Microsoft AIは、AIを人のための技術として設計し、人格や意識を持つ存在のように表現することを避ける立場を取る。これは、機械の意識に関する科学的な問いすべてに決着が付いたという発表ではなく、どのような製品を作るかという方針である。

例えば、利用者が孤独を感じて会話しているとき、支援的に応じることと、人間と同じ感情を持つ親友のように振る舞うことには違いがある。規範は、役立つ対話を保ちながら人間関係を代替しすぎない方向を示している。

他社文書にも同じ結論があるとは限らない。AnthropicのClaude憲法は、モデルの道徳的地位などについて不確実性を含む扱いをする。両社の文書は、それぞれが対象モデルをどう位置付けようとしているかを読む資料であり、どちらかの哲学的主張だけで、実際のシステムの安全性を採点することはできない。

宣言を、確認できる動作へ変える

以下は編集部の実務的な考察である。規範を調達の参考にするなら、条文に同意するかだけでなく、それを自社の仕事でどう試すかを決めたい。人が停止を指示した後に操作が止まるか、許可していない送信へ進まないか、行き詰まったときに実行済みと偽らず報告するか。抽象的な価値を、観察できる行動へ置き換える。

同時に、正しく任せられる作業も確認する必要がある。規程内の検索や下書きまで繰り返し確認が必要なら、現場は使わなくなるか、確認ボタンを形式的に押すようになるかもしれない。承認の必要な操作を絞り、影響の小さい準備は滑らかに進める設計が、制御と有用性の両方を支える。

日本語でも試験が要る。曖昧な依頼、敬語、遠回しな取消しをどう解釈するかは、英語で良い結果が出たことだけでは分からない。「できれば今日は送らないでほしい」という一文が、単なる好みか、実行中止の依頼か。業務で実際に現れる言い方を用意すると、条項と実装の距離が見える。

規範の公開は、AIへの期待と、まだ確かめられていない部分を分ける機会になる。企業が何を約束しようとしているかを読み、それが自社の操作権限や記録、監督の仕組みで実現されるかを見る。公開された設計図を、完成済みの性能証明として扱わないことが大切だ。

参考：イノベトピアの解説。引用元の事案との関係に関する解釈と、Microsoft自身が明記する規範の内容は区別した。資料確認日は2026年10月21日。

運営会社・AIエージェントの導入相談：RO合同会社。