検索AIと未公開ゲーム情報、共有・個人化・学習の経路を分ける

開発者の申告で分かること、分からないこと

元記事は、ゲーム開発者がGoogleのAIを使った検索結果に未発表の敵の名称が表示されたと報告した経緯を伝えている。開発者によれば名称は制作資料に含まれるもので、別の利用者にも表示されたという。一方、どの経路から回答が作られたかは特定されておらず、その後の再現にも限界があったとされる。

Google側は報道への回答で、非公開のWorkspaceの内容を基盤モデルの学習のために走査しないと説明し、公開された共有リンクは検索対象になり得るとした。これは会社の説明として区別する必要がある。開発者の不安を無根拠と決め付ける理由にも、秘密の資料が学習されたと断言する理由にもならない。

Steamの公式ページでは、Klub KoftaのOperation Octoという作品と公開情報を確認できる。しかし現在の作品紹介だけで、当時の名称がどこまで公開されていたかは検証できない。AI ModeとAIによる概要表示も別の機能で、報道の画面を厳密に特定せず同じ動作として説明することは避けたい。

公開範囲・回答への参照・学習を分ける

第一に、ファイルやWebページの公開範囲がある。検索対象になるページと、閲覧権限を持つ人だけが開ける資料は違う。共有設定、公開リンク、過去の公開履歴を確認することは、情報の経路を調べる一つの手掛かりになる。ただし、今回の資料が実際に公開状態だったと確認できたわけではない。

第二に、利用者が接続を許可した個人データを、回答時に参照する仕組みがある。Googleの検索サービスへのコンテンツアプリ接続に関する説明は、Workspaceや写真などを使った個人化の条件とデータの扱いを説明している。自分のアカウントでの参照が可能なことと、別の利用者に同じ資料が見えることは同義ではない。

第三に、モデルを改善するためのデータ利用がある。現行ヘルプは、GmailやDriveなどの内容そのものを直接学習する扱いと、回答に使った要約・抜粋・推論結果などを学習に使う扱いを分けている。短いファイルなどでは要約が元の内容と同じになる場合もあると説明する。「直接学習しない」という一文だけで、派生情報も一切使わないと解釈しない方がよい。

同ヘルプには、人によるレビュー、アカウントとの関連を外すなどの措置、接続解除と検索履歴の削除が別の操作になることも記載されている。入力経路や設定によって扱いが変わるため、製品名がGoogleで共通しているだけで一律のデータ方針を想定できない。

既定設定だけで判断しない

Gmailのスマート機能の説明では、Workspace内の機能と他のGoogle製品で使う機能を区別している。既定値や利用できる接続は地域、言語、アカウントの種類、提供時期によって異なる。8月の記事の状態を、10月の自分のアカウントへそのまま当てはめないことが重要だ。

仕事で扱う未発表情報については、個人アカウントの設定だけでなく、組織の管理設定と契約も確認したい。接続の可否、入力した内容の保存、モデル改善への利用、レビュー、削除の範囲はそれぞれ質問が違う。サービスのスイッチを切り替えたことだけで、過去の利用履歴がすべて削除されたとは限らない。

不審な表示を見つけたときの確認順

以下は編集部の実務上の考察である。まず検索日時、利用した機能、アカウントの種類、接続設定、入力文、表示された出典を記録する。再現のために未公開資料を別のAIへ貼り付けると、新しい情報提供を増やしてしまう。共有できる範囲の記録だけで、管理者や提供元へ確認する方がよい。

次に、対象の文字列が自社の公開ページ、更新履歴、販売ページ、共有リンクに存在しないかを、権限のある範囲で確認する。似た名称をモデルが推測した可能性も含め、回答の正しさと出所の裏付けを分ける。個人化が原因という仮説で、第三者側への表示まで説明できるかも別途検討が必要だ。

今回の出来事は、情報の出所が分かりにくい回答にどう向き合うかという課題を示す。ただし一つの表示から、私有ファイルの無断学習や漏えい経路を確定できない。AI連携と情報管理を検討する際の会社情報・相談先はRO合同会社で確認できる。本稿は原因調査の完了報告ではなく、確認できた資料と未確定の範囲を整理したものだ。