AI法の罰則は、何が検討されている段階なのか

「AI法に罰則を新設」というニュースを見て、生成AIを使うだけで新しい罰則の対象になるのかと不安に思うかもしれない。だが、制度の検討資料と、既に効力を持つ法律は分けて読む必要がある。本稿では11月11日の内閣府ワーキンググループ資料を起点に、「AIを導入する中小企業が、いま何を確認しておくべきか」を考える。
第2回制度の在り方検討ワーキンググループの資料には、一定の要件に該当するAI事業者に安全確保の措置を求め、国への報告、勧告、命令を設ける方向性が示されている。資料1-3の素案では、必要に応じた命令への違反について、罰則で履行を担保する考え方が記載された。
会議の素案は、そのまま施行された条文ではない
確認できたのは制度設計の議論であり、これだけで罰則の金額や施行日、対象となる性能要件が確定したとはいえない。当日の検討事項である資料1-4も、対象の外延、誰を規律するか、義務や国の権限をどうするかを問いとして並べている。「誰に何が義務付けられるか」は、まさに議論すべき事項に含まれている。
一方、現在のAI法に関する内閣府の案内は、2025年6月の公布・一部施行と、同年9月の全面施行を説明している。法律の存在と、新たな罰則をめぐる検討を一つの出来事として説明すると、何が既存ルールで何が変更候補なのか分からなくなる。会議資料の発表日を、法改正の施行日として扱ってはいけない。
同じAIでも、モデル開発と業務利用では役割が違う

制度の検討で重要なのは、AIを一括りにしないことだ。モデルを研究・開発する企業、モデルを使ってサービスを提供する企業、そのサービスで仕事を進める利用企業では、知ることのできる情報や制御できる範囲が違う。今回の資料も、事業者のどの段階を対象とするかと、利用者の対応を切り分けている。
モデル内部を確認できなくても、操作権限は決められる
中小企業が既存サービスを使う場合、モデルの学習内容や内部の安全対策を直接検査できるとは限らない。しかし、自社の顧客台帳をどこまで読ませるか、送信や更新を自動実行させるか、誰が承認するかは、導入側が管理できる事項だ。モデル開発者への制度的な要求と、利用企業が決めるべき運用を混ぜると、この区別が失われる。
たとえば、AIが問い合わせ文から回答案を作るだけの使い方と、顧客情報を書き換えて外部へ通知する使い方では、同じ基盤モデルでも失敗の影響が異なる。後者では、回答の誤りが文章として残るだけでなく、実際の記録や相手への連絡を変えてしまう。これは編集部による業務例であり、特定企業の事故を示しているわけではない。
ここで「高性能モデルの利用者だから規制対象だ」「開発していないから確認は不要だ」と先に結論を出すのは早い。制度の対象は今後の正式な内容で確認しつつ、実際に何をさせているかは現在の業務図に落とすべきだ。将来の対象判定に必要な情報を集めることと、将来の義務を既に発生したものとして扱うことは違う。
事業者の提案と、政府が決めた制度を区別する

会議には企業の意見も提出されている。Anthropic Japanの資料2-4は、最先端モデルの開発者に対象を絞った明確なルールを支持し、安全性評価、結果の公表、外部検証などを提案した。国境を越える評価や報告の重複を減らす考え方も示している。これは提出企業の制度提案であり、日本政府の決定事項ではない。
モデルの評価を共有しても、自社の検証は残る
外部評価や報告に共通性があれば、同じモデルについて各社が一から確認する負担を減らす助けになり得る。ただし、モデルの安全性を評価することと、個別企業の設定を保証することは別だ。評価されたモデルでも、自社システムが必要以上の権限を与えていれば、運用上の問題が生まれる可能性は残る。この区別は、制度がどの形で決まっても導入判断に関わる。
比較の際は、何を共通の評価にでき、何を現場で試す必要があるかを分けたい。モデルが危険な依頼に応じないかという広い能力評価と、社内の承認待ち文書を誤って送信しないかという設定確認では、使う試験情報も、責任を持つ担当者も異なる。片方の試験を通ったという説明だけで、もう片方まで済んだことにはならない。
海外制度についても、罰則があるかどうかだけで比較すると見誤る。対象モデル、事業者の役割、求められる報告の範囲までそろえて読む必要がある。本稿は各国の適用を網羅して判定するものではないが、EU AI法の透明性と実装の整理と併せると、規則の名称より実際の義務の切り分けが重要だと分かる。
販売会社に聞く質問を、資料の種類で分ける
導入先へ確認するときは、「法令対応済みですか」という質問だけでは範囲が分からない。どの法令や指針を、どの製品の、どの機能について確認した説明なのかを尋ねる必要がある。基盤モデルの評価資料を示されたなら、それはモデルの話なのか、顧客台帳への接続設定まで含むのかを確かめる。資料の対象が違えば、同じ「対応済み」という言葉でも意味は変わる。
また、評価をした時点と現在の構成が一致しているかも重要だ。外部の連携先や利用モデルを変更した後も、以前の資料をそのまま根拠にしていないかを確認する。新しい制度で報告が求められる範囲は今後の確定内容を待つ必要があるが、いまのサービス説明がどの構成を指すかは、現在の契約選びで尋ねられる事項である。
これらの質問で確認できない部分が残る場合は、すべてを不適合と断じるのでなく、未確認として導入範囲を狭める。説明が取れる機能から試し、顧客情報への書き込みや外部送信は後にする、と段階を分けられる。制度の議論を、自社に説明のない自動実行を許す理由にしてはならない。
中小企業がいま作れるのは、説明できる利用記録

ここからは制度検討の内容を踏まえた編集部の提案であり、素案に書かれた新たな義務の一覧ではない。まず、使っているサービスと契約相手、利用するモデルや更新の扱い、入力情報、出力を使う業務、操作権限、確認担当者を整理する。重要なのは大量の文書を作ることではなく、どの処理を止めれば影響を抑えられるかまで追えることだ。
利用記録は、入力全文を無期限に保存する意味ではない
記録を残すために、機密情報や個人情報を別の場所へ不用意に複製してはいけない。何を記録するかと、誰が閲覧できるか、いつまで残すかを一緒に決める。たとえば、問題のあった実行を特定する識別子、利用した設定、承認の有無を記録すれば、入力全文を広く共有せずに調査できる設計が考えられる。具体的な保存内容は、扱う情報と既存の社内ルールに合わせる必要がある。
次に、失敗したときの連絡先を確かめる。モデル提供元、連携サービス、自社の運用担当が別なら、どこへ何を伝えるかを決めておく。外部の規制当局への報告義務については、今後の正式な規定を確認する必要があるが、社内で問題を放置しない窓口は先に整えられる。新しい罰則が確定するまで何もしない、という二択にする必要はない。
採用を見送る条件も具体的にしたい。入力してよい情報が決まらない、外部へ実行する操作を止められない、責任を持つ担当者がいない場合は、顧客向けの自動実行から始めるべきではない。既存の手作業や人が確認する下書きの範囲に留め、足りない管理を整える。これはすべてのAI利用を停止する提案ではなく、失敗の影響を扱える範囲から進める案である。
本サイトの先端AIの制度提案と監督の考え方でも、提案主体と決定主体を分けている。今回も、会議での意見、事務局の素案、現行の法律を区別して読みたい。今後の更新では、正式な法案・成立・施行の各段階と、対象要件の変更を追う必要がある。
本稿は公開された制度資料の整理であり、個別企業に対する法的な適用判断は行っていない。AI活用を業務と権限から整理する相談先として、運営会社のRO合同会社を案内する。罰則という言葉だけに反応するより、自社がどの立場で何を動かしているかを説明できるようにすることが、現時点での具体的な一歩になる。
権限の記録を、実行の前後で読めるようにする
編集部の例として、問い合わせから顧客台帳を更新する仕組みを考える。利用記録には、台帳の参照だけを許したのか、特定項目の変更も許したのか、外部通知まで許したのかを分けて書く。画面に同じ「AI連携」と表示されていても、実際にできる操作は異なる。誰が変更を許可したかが分からなければ、不具合が出た後に機能と設定のどちらを直すべきかも判断しにくい。
試験では、権限のない操作を依頼したとき、実行せず担当者へ戻るかを確認する。通常の依頼が通ることだけでは、権限の境界を守れるか分からないからだ。停止した後は、設定を戻すだけでなく、既に変更した記録の有無を調べられるかも見る。これらは新設罰則への適合認定を意味せず、個別業務の被害を抑えるための運用確認に当たる。
正式な制度が公表されたら、この業務図と利用記録を基に、自社のどの立場や処理が対象になるかを確認する。記録がなければサービス名から調べ直すことになるが、役割と権限が整理されていれば、追加して確認すべき点を特定しやすい。未確定の条文を予測するより、確定後に照合できる現状を用意しておく方が実務に役立つ。
出典と確認範囲
- 内閣府:第2回制度の在り方検討ワーキンググループ。11月11日の会議と公開資料。
- 内閣府:資料1-3「前回の議論のまとめ」、資料1-4「本日の検討事項」。対象と義務をめぐる検討。同じ制度検討の情報として数えた。
- 内閣府:現行AI法の概要と法文への案内。施行経緯と現行法の確認入口。
- Anthropic Japan:資料2-4。参加事業者自身の制度提案。政府決定とは区別。
- 題材の入口:イノベトピア。罰則額や適用開始日は本稿で確定情報として示していない。
ポッドキャスト燎RYOU課 ポッドキャスト
ポッドキャストを聴く →