AIエージェントの記憶を守る、生成AIガバナンスの業務ルール設計

朝のサポート窓口で、AIエージェントのミントが、顧客への返事を作っていた。青井が画面を開くと、文章の中に、先月の相談内容が自然に混ざっていた。顧客が希望していた納品時間と、前回の担当者が約束した確認方法まで書かれている。

「便利だな。前の話を、ちゃんと覚えている」

青井は、ほっと息をついた。問い合わせのたびに、顧客へ同じ質問をくり返さなくてよい。窓口の後ろでは、海野が紙の注文書をそろえながら、ミントの返事をのぞき込んだ。

「でも、その記憶は、どこに登録されているの？」

海野の声で、青井の指が止まった。画面には返事の内容は出ている。けれど、その記憶を何のために保存したのかは書かれていない。誰が利用できるのかも、いつまで残るのかも、誰が削除を承認するのかも見つからなかった。

青井は、ミントの管理画面を開いた。記憶の一覧には、顧客の希望、過去の対応、社内メモらしい短い文章が並んでいる。保存した人の名前がある行もあれば、作成日だけの行もあった。削除ボタンはあったが、押したあとに何が消えるのかは、ひと目ではわからなかった。

「一度覚えた情報は、消すまで残るのかな」

海野がつぶやいた。青井は返事をせず、検索欄に顧客番号を入力した。すると、会話履歴とは別の場所から、似た内容の記憶が二つ表示された。片方には「検索用」とあり、もう片方には保存先の名前しかなかった。

「会話を消しても、検索用のデータは残るかもしれない」

青井の声が小さくなった。ミントは、過去の説明を思い出すために、会話とは別の記憶を使っているらしい。短い会話の間だけ使う記憶と、長く参照する記憶が分かれているなら、消す場所も一つではない。

そのとき、窓口の監視画面に、見慣れない名前が赤く点滅した。mint-testという試験用エージェントが、ミントと同じ顧客情報の保管場所へ接続していた。青井は台帳を開いたが、そこにその名前はなかった。

「この子、登録されていないよ」

海野が、台帳の行を上から下まで指で追った。正式な申請番号も、担当部署の名前もない。けれど監視画面では、試験用エージェントが顧客情報を読み込み、回答候補を作っていた。

青井の胸が早く鳴った。画面を閉じれば止まるのか、それとも別の場所で動き続けるのかがわからない。止める権限を持つ人も、すぐには思い出せなかった。

「これが、シャドウデプロイ？」

青井が尋ねると、海野はうなずいた。

「正式な管理に入っていないエージェントが、知らないうちに業務データへ触れている状態だよ。影みたいに動くから、そう呼ぶんだって」

海野は、試験用エージェントの接続先を拡大した。顧客情報だけでなく、ミントが使う記憶の検索先も表示されている。試験のために作ったはずのものが、本番の記憶へ手を伸ばしていた。

青井は、顧客へ送る予定の返事に目を戻した。そこには、顧客本人が今朝伝えていない情報が、親切な一文として並んでいる。便利さは残っているのに、その記憶が誰のものなのか、急にわからなくなった。

「消したつもりでも、別の記憶に残っていたら……」

「消えたことを、どこで確かめるの？」

海野の問いが、静かな窓口に落ちた。青井はミントを止める前に、管理画面の保存先と接続先を一つずつ画面保存した。削除を急げば、何を消したかさえわからなくなる気がした。

昼前、青井は社内の資料庫で調べ始めた。検索結果には、データガバナンス、エージェントレジストリ、コントロールプレーンという言葉が並んだ。難しい言葉を、青井はノートにやさしく書き直した。データガバナンスは、情報を残す目的や使える人、消し方を決める仕事。エージェントレジストリは、動いているエージェントを登録して、持ち主を明らかにする台帳。コントロールプレーンは、接続や権限、停止をまとめて確かめる場所だ。

別の画面には、個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等」も表示されていた。青井はリンクを閉じず、その横に「便利さの前に、記憶の行き先」と書いた。

夕方、ミントは一度止められた。けれど、試験用エージェントの記憶がどこまで広がったのかは、まだ確認できていない。青井の机には、顧客番号の一覧と、空白の多いエージェント登録台帳が残った。

「明日は、残すルールだけじゃなくて、消すルールから作ろう」

青井が言うと、海野は小さくうなずいた。窓口の照明が一つずつ消え、止まった画面の中で、ミントの記憶だけが薄い緑色に浮かんでいた。

朝の窓口に、顧客から一通のメールが届きました。以前の相談内容を、AIの記憶から消してほしいという依頼です。

青井は画面を開き、顧客の名前と受付内容を確かめました。削除対象を選び、確認のボタンを押すと、画面の中央に「削除完了」と表示されました。青井は小さく息を吐き、顧客へ完了の連絡を送ります。

「これで、ミントの記憶からは消えたはずです」

その直後でした。営業部の画面で、別のAIエージェントが新しい提案文を作りました。そこには、先ほど削除した顧客の以前の相談内容が、自然な文章として混ざっていました。

「この提案文……どうして、この話を知っているの？」

青井は立ち上がり、営業部の画面へ走りました。担当者は悪びれずに、いつもの検索画面へ質問を入力しただけだと話します。けれど、その回答には、顧客が以前に話した事情が細かく残っていました。

海野も画面をのぞき込みました。二人は削除の記録を開き、処理の流れを一本ずつたどります。最初に消えたのは、ミントとの会話履歴でした。

「でも、会話の文章だけが記憶じゃないみたいだね」

海野が検索画面を開くと、別の場所に「検索用の記憶データ」が残っていました。文章をそのまま置くのではなく、意味の近い情報を探しやすい形にしたデータです。こうした保存先は、ベクトルデータベースと呼ばれることがあります。

「人が読める会話を消しても、探すためのデータが残っていたら、AIはそこから答えを作れるんだ」

さらに二人は、回答キャッシュと呼ばれる一時保存も見つけました。過去の回答をすぐ表示するための箱です。顧客情報の一部は、営業システムにも連携されていました。

「会話履歴、検索用の記憶、回答キャッシュ、それから連携先。最初の削除処理は、一番大きな保存先しか見ていなかったんだね」

青井は、画面の「削除完了」という文字を見つめました。その言葉は、すべてが消えたという意味ではありませんでした。決められた一つの処理が終わった、というだけだったのです。

海野は監査ログを指さしました。削除の依頼を送ったあと、通信がタイムアウトしていました。結果が届かなかったため、同じ依頼がもう一度送られ、処理が複数回走っていたこともわかりました。

「同じ依頼が二回届いたら、二回とも削除していいんじゃない？」

「消す処理なら、二回でも問題ないように見える。でも、連携先への通知や記録の作成まで二回走ると、別の不具合が起きるかもしれないよ」

海野はメモ帳に、request_id、trace_id、Idempotency-Keyと書きました。

「request_idは、一回一回の受付に付ける番号。trace_idは、検索や連携まで含めて、処理の道筋を追うための番号だよ。でも、同じ処理をもう一度送っただけなのかを見分ける番号は、別に必要なんだ」

海野は、Idempotency-Keyの横に「同じ処理意図の受付番号」と書き足しました。通信が切れて再送されても、同じ鍵なら、システムは前の処理を確認できます。まだ終わっていなければ続きから扱い、終わっていれば同じ処理を二重に実行しない仕組みです。

「つまり、request_idは届いた一回を追う番号。trace_idは流れを追う番号。そして Idempotency-Keyは、同じ削除依頼だと知らせる番号なんだね」

「そう。名前は難しいけれど、受付票に『この依頼は同じものです』と書いておく感じだよ」

青井は、机の端に置かれた資料へ目を向けました。そこには、個人情報保護委員会の生成AIサービスの利用に関する注意喚起等が印刷されていました。便利なサービスほど、入力した情報がどこで使われるのかを確かめる必要がある、と書かれています。

青井は新しい表を開きました。そこには「保存先」「削除対象」「再送時の扱い」「完了確認」の四つの欄を作りました。会話履歴だけでなく、検索用データ、キャッシュ、連携先まで書き込むと、空白だった場所が少しずつ見えてきました。

「削除ボタンを増やすだけでは足りないんだ」

青井はそう言ってから、海野のメモに目を戻しました。どこまで消すのかを決め、同じ依頼をどう扱うかを決め、最後に本当に消えたかを確かめる。その順番が、ようやく一本の道に見えました。

「この表を使って、まず一つの顧客データで試してみよう。やってみよう、海野さん」

窓の外では、朝の光が受付の床に伸びていました。青井は「削除完了」の表示を、今度は簡単に信じませんでした。その下に、消えた場所と確かめた記録が並ぶ画面を作り始めました。

朝、青井と佐伯は、社内で動くAIエージェントと記憶データの流れを、一枚の台帳に書き出し始めた。青井は、紙の上に最初の名前として「ミント」と書いた。

佐伯の部屋には、壁いっぱいの棚があった。棚の画面を開くと、エージェントの名前が部署ごとに並んでいた。

「これが、エージェントレジストリだよ」

佐伯は、棚の端にある小さな札を指でなぞった。そこには、「誰が、何のために、どの記憶へ触れるかを見渡す名簿」と書かれていた。

「名前を並べるだけでは、足りないんですね」

「うん。まず、エージェント名と所有者を書く。その下に利用目的、接続するシステム、扱うデータの種類、記憶の保存先を続けるんだ」

佐伯は、ミントの行を開いた。利用できる人や部署、保持期間、削除条件、承認者、監査ログの保存先も、空欄のままでは登録できない設定になっていた。

「たとえば、削除条件には『顧客から削除依頼を受けたとき』と書けます。実行にはIdempotency-Keyを使い、同じ依頼が二度届いても一度だけ処理する、と細かく残します」

青井は、台帳の列を一つずつ確認した。どの記憶がCRMにあり、どれが検索用のベクトルデータベースにあり、どれが会話履歴に残るのかも、保存先の欄に書き分けた。

「記憶を一つの箱に入れないんですね」

「そう。Userは人にひもづく記憶、Sessionはその会話の間だけ使う記憶、Agentはエージェント自身の設定だよ。さらに、長く残すCore、資料として保管するArchival、呼び出しやすいRecallという分け方もある」

佐伯は、記憶の箱ごとに色を変えた。ミントの「東京の担当窓口」という情報はUserの長期記憶に入り、「今回だけの見積条件」はSessionに置く案になった。

「長期記憶に入れる前に、必ず止まる場所を作りましょう」

二人は保存前の確認欄を追加した。保存する目的があるか、本当に記憶として残す必要があるか、個人情報や機微な情報が含まれていないか、誰が使うのか、どこへ保存されるのかを、すべて確認する欄だった。

「目的が説明できない情報は、保存しない。残すとしても、Sessionだけにするんですね」

「その判断を、担当者の勘だけにしないことが大切なんだ」

佐伯は、Microsoft Cloud Adoption Frameworkの資料を画面に出した。クラウドの所在や責任の分け方を確かめながら、Microsoft Purviewでデータの場所と管理状態を照合していく。

「台帳に書いた保存先と、実際の保存先が同じかを見る。ここが違えば、レジストリは飾りになってしまう」

青井はPurviewの検索結果と台帳を見比べた。ミントの会話履歴は登録されていたが、検索用の記憶には所有者の名前がなかった。

「この箱は、誰の責任で消すのでしょう」

「今は決まっていない。だから、長期記憶として使う承認を出してはいけないね」

二人は、個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等」を開いた。本文だけで保存期間や削除方法を決めず、関連する別添資料まで確認することにした。

「公的な注意喚起を読んだから終わり、ではないんですね」

「うん。IPAのAI導入・運用ガイドラインも見る。資料は判断の土台であって、灯台商事の業務ルールそのものではないからね」

次に、佐伯は「コントロールプレーン」と書かれた画面を開いた。保存、利用、削除の決まりを、エージェントごとにばらばらにせず、全体で動かす司令室だった。

「レジストリが棚なら、コントロールプレーンは鍵を管理する人です。登録がないエージェントには、長期記憶の保存や顧客データへの接続を許しません」

そのとき、棚の一番下に赤い印がついた行が現れた。名前は「しおり」で、正式な台帳にはない試験用エージェントだった。

青井の顔が曇った。前日に見つかった、顧客情報へ接続していた影と同じ名前だった。

「所有者も、利用目的も空欄です。監査ログの保存先もありません」

「まず正式業務から外そう。削除ではなく、監視と承認の対象へ戻すんだ」

佐伯は接続権限を止め、しおりの状態を「申請中」に変えた。台帳には、試験の目的、接続先、扱うデータ、保存先、利用者、保持期間、削除条件、承認者、監査ログの場所を埋めるまで本番利用不可、と記録した。

それでも、確認の途中で小さなつまずきが出た。ミントの設定には「顧客対応チーム」とだけあり、実際には委託先の一部アカウントも検索結果を見られる状態だった。

「利用者を部署名だけで書くと、見落としますね」

「個人の役割とアカウントの範囲まで確かめよう。使える人が増えたら、承認も取り直す」

二人はアクセス範囲を顧客対応チームの承認済みアカウントに絞った。記憶を保存する前の確認欄も必須にし、未確認の項目が一つでもあれば、コントロールプレーンが保存要求を止めるようにした。

夕方、棚の赤い印はまだ消えなかった。けれど青井は、その印を怖いものとは思わなかった。

「見えない場所にあった記憶が、今は棚の上にあります」

佐伯は静かにうなずいた。台帳に所有者が入り、保存先がつながり、消す条件と確かめる場所が見えたことで、ミントの便利さは、ようやく守れる形になり始めていた。

青井たちは、AIエージェント「ミント」の記憶を性質ごとに分け、保存から削除まで試せる画面をテスト環境に用意した。ところが最初の削除テストで、元データは消えたのに検索用データが残り、ミントは古い情報をまだ答えに使えた。

朝の会議室には、雨の音が小さく響いていた。画面には、記憶を入れる箱が並んでいる。一時的な会話、業務上の根拠、顧客の希望や設定、個人情報や機微性の高い情報を、それぞれ別の場所で扱う設計だった。

「記憶を一つの箱に入れないだけで、見え方が変わりますね」

青井が言うと、佐伯は画面の端を指した。そこには、Session memoryとlong-term memoryという表示がある。セッション中だけ使う情報と、長く参照する情報を分ける考え方で、Core、Archival、Recallという役割別の層も記録欄に加えた。

「名前は難しく見えるけれど、やることは単純です。今だけ使うのか、根拠として残すのか、限られた目的で使うのかを、保存する前に決めるんです」

保存画面には、目的、必要性、情報の機微性、利用者、保存先を確認する項目が置かれた。「とりあえず無期限で残す」という選択肢は消え、目的に応じた保持期間と削除条件を入れなければ、保存ボタンを押せないようにした。

削除条件も、期限切れだけにはしなかった。顧客から削除依頼を受けたとき、利用目的がなくなったとき、情報源が廃止や非推奨になったとき、規程や手順が改定されたとき、エージェントの利用停止が決まったときも、削除のきっかけになる。

「消す理由が変わるたびに、対象も変わるかもしれません」

青井は台帳を見ながら、保存先の欄を増やした。元データだけではない。検索インデックス、ベクトルデータ、キャッシュ、連携先にも、同じ記憶を参照できる場所がある。削除範囲は、記憶を読める場所全体として定義した。

最初のテストでは、青井が元データの削除ボタンを押すと、元の記録は画面から消えた。けれども検索欄に同じ顧客名を入れると、ミントは以前の相談内容を見つけてしまった。検索インデックスに、古い情報が残っていた。

佐伯の表情から、さっきまでの安心が消えた。

「削除完了とは、ボタンを押したことではありません。もう回答に使えないことです」

その言葉を受けて、青井たちはシステムごとの確認を追加した。元データの削除結果、検索インデックスの再構築、ベクトルデータの消去、キャッシュの失効、連携先への通知を、ひとつずつ確認する流れにした。

削除依頼の再送にも備えた。同じ依頼には Idempotency-Key を付け、同じ処理を二重に実行しないようにした。キーとリクエスト内容のfingerprintも保存し、同じ受付番号で内容だけが変わった場合は処理を止め、確認へ回す仕組みにした。

「同じ番号だから同じ依頼とは限りません。中身まで同じかを見るんです」

権限も見直した。エージェントの操作は、読み取り、下書き、変更、送信・削除の順に段階を分けた。影響の大きい削除は、ミントだけでは実行できず、人間の承認を必要にした。

監査ログには、時刻、エージェントID、セッションID、実行ユーザー、対象データ、削除先、権限確認、結果、エラーを残した。佐伯の机にはIPAの導入・運用ガイドラインと、個人情報の扱いを考えるための個人情報保護委員会の注意喚起が開かれていた。

「便利な記憶ほど、誰が使い、どこにあり、どう消えたかを説明できないといけません」

再テストでは、削除依頼を承認すると、元データから連携先まで順に処理が進んだ。検索欄に古い顧客名を入れても、ミントは過去の内容を回答に使わなかった。監査ログには、各システムの結果と、確認を行った人の名前が残っていた。

以前の青井なら、元データが消えた画面を見て、処理が終わったと思っていた。今は、削除対象と確認方法が並ぶ画面を開き、静かに一つずつ確かめている。会議室に残っていた緊張は薄れ、ミントの記憶を守る仕事が、残すことと消すことの両方を含む業務として、チームの日常に根づき始めていた。

新しい削除ルールを始めた朝、青井の画面に顧客からの依頼が届いた。ミントが覚えている相談内容を、すべて消してほしいという依頼だった。運用初日に届いた、最初の本番依頼である。

青井が削除ボタンに手を伸ばすと、ミントは静かに画面を切り替えた。

「すぐには消しません。まず、何のための記憶か、どこに保存されているか、誰が使っているかを確かめます」

依頼の対象には、会話履歴だけでなく、検索用のベクトルデータベース、回答キャッシュ、連携先のデータベースも含まれていた。ミントは、記憶の目的と利用範囲を一つずつ表示した。青井は、個人情報を含む項目に印をつけ、削除対象と連携先を一覧にした。

「この一覧を、佐伯さんに承認してもらおう」

コンプライアンス担当の佐伯は、画面を見ながらうなずいた。対象が個人情報を含むときは、人の承認を通してから処理する。どこまで消すかが曖昧なまま、機械だけで進めないための決まりだった。

承認が通ると、受付番号が発行された。その番号を中心に、ミント、検索システム、回答キャッシュ、各連携先へ削除の指示が送られた。処理が始まると、画面には保存先ごとの結果が順に現れた。

しばらくして、ひとつの連携先だけが応答しなかった。以前の画面なら、全体を「完了」と表示していたかもしれない。けれど今回は、ミントがその場所を「保留」と記した。

「まだ終わっていない、と表示するんだね」

「はい。削除したつもりと、削除の結果を確認できることは、同じではありません」

佐伯は受付番号から監査ログを開いた。そこには、どのAIエージェントが処理したか、誰の依頼で実行したか、どの記憶を対象にしたかが残っていた。どの保存先へ削除を指示したか、権限確認が通ったか、どの処理が成功し、どこで止まったかも追うことができた。

ログには、使ったモデル名、参照したデータ、APIやデータベースへの操作、エラー、処理時間、API呼び出し回数も記録されていた。佐伯は、あとから同じ経路をたどれることが大切なのだと説明した。けれど、ログに個人情報をそのまま残せば、今度はログが新しい保存先になる。

「ログも記憶と同じように、何を残すか決めておく必要がありますね」

青井は、識別子を伏せる範囲、保存する期間、見られる人を台帳に加えた。削除の証拠を残すためのログにも、データ分類と保存ルールが必要だった。

午後には、古い情報源が廃止されたという通知が届いた。ミントはその情報を使った回答キャッシュをすぐに無効にし、利用者には警告を出した。画面には、確認済みの代替情報が表示された。

Salesforceの情報提示例を参考にして、回答は一つの文章に詰め込まなかった。推奨情報を上に置き、その下に背景情報、代替案、旧手順の注記を分けて示した。古い手順が混ざっていても、どこが現在の案かを見分けられるようにした。

作業の終わりに、青井と佐伯は三つの名前を照らし合わせた。エージェントレジストリに登録されたエージェント、実際に動いたエージェント、監査ログに残ったエージェントが、同じであることを確認した。

夕方、青井は朝と同じ窓口の画面を閉じた。以前なら、消えたかどうかを想像しながらボタンを押していた。今は、受付番号から削除の経路をたどり、止まった場所まで確かめてから、そっと画面を閉じることができた。

運用が落ち着いた翌朝、ミントは消された情報を使わず、新しい問い合わせだけで返事の下書きを作りました。窓口には、昨日までと同じ朝の光が差し込み、青井は静かに画面を開きました。

「おはようございます。今日は、どんなお問い合わせでしょうか」

顧客から届いた文面には、過去の相談内容を削除した後の確認が書かれていました。以前の配送相談を消したことと、今朝届いた商品の交換を希望することだけが、現在の問い合わせとして表示されています。

「前の相談は、もう使わないでください。今回は、届いた品の交換について教えてください」

ミントは過去の会話を呼び出しませんでした。画面の参照欄には、顧客が今送った文章と、交換手続きに必要な公開情報だけが並びました。

青井が下書きを開くと、そこには短い返事がありました。交換の条件と受付方法だけが書かれ、以前の住所や相談の経緯は混ざっていません。

「必要な分だけ、今だけ使ったんだね」

海野がうなずきました。

「記憶を持っていることより、使う理由が見えることのほうが大事なのかもしれないね」

顧客は続けて、新しい希望を伝えました。次回からは、メールではなく電話で連絡してほしいという希望です。

ミントの画面に、小さな確認欄が開きました。保存の目的は「連絡方法の希望を次回対応に使うため」、利用者は「灯台商事のサポート担当」、保存先は「顧客ごとの業務領域」、保持期間は「社内ルールで定めた期間」と表示されました。

「保存してよいか、確認をお願いします」

ミントは、顧客の明示した希望を候補として示しました。呼び出し元が承認済みか、担当者の権限が必要な範囲に限られているかも確かめ、ひとつでも条件が空欄なら、記憶として残さない設定になっています。

机の端には、前夜に青井が開いた Microsoft LearnのAIメモリ安全性の資料 が残っていました。そこにあった「保存されたメモリは、確かな真実ではなく候補の文脈」という考え方が、今日の画面の中で静かに形になっていました。

返事の送信ボタンを押すと、ミントは下書きを止めました。送信や削除のように相手へ大きな影響を与える操作は、人間の承認を待つ決まりです。

「内容を確認しました。送信していいよ」

青井が承認すると、ミントは初めて送信の準備へ進みました。便利さが、勝手に先へ走らないようになっていました。

青井は次に、エージェントレジストリを開きました。そこには業務で使うすべてのエージェントが登録され、所有者と利用目的が並んでいます。昨日まで見つからなかった試験用エージェントはなく、顧客情報へ接続できる範囲も表示されていました。

「誰が持っていて、何のために動くのか。台帳を見るだけで分かるね」

海野は、削除依頼の履歴も開きました。受付番号と処理結果が残り、会話履歴は完了、検索用データと連携する一部は保留と表示されています。保留の箇所には担当者が付き、消えたことを確かめるまで、完了の印はつきません。

窓の外が、ゆっくり明るくなりました。ミントは古い顧客情報を探さず、目の前に届いた交換の問い合わせから、次の返事を作り始めました。青井はその画面を見て、空白は何もない場所ではなく、確かめながら始められる場所なのだと思いました。