Claude や ChatGPT を使い込むほど自分に合った答えが返ってくる、という体感は本物です。ただし賢くなったのは AI モデルではありません。各社のメモリー機能は、ユーザーごとのデータベースに好みや前提を保存して、次の会話でこっそり入力に足しているだけです。モデル内部の数値は1ミリも変わっていません。
AI で「学習」と呼ばれているものは、実は3つの層に分かれます。開発企業が全ユーザー共通のモデルを更新する第1層、ユーザーごとのデータベースに保存する第2層、その会話だけで消える第3層です。ほとんどの人が学習だと思っているのは第2層で、OpenAI の公式 FAQ も「saved memories are part of the context ChatGPT uses to generate a response」と、記憶が入力の一部であることを明言しています。Anthropic も過去チャットの参照に RAG を使っていると公開しています。
この区別は実務で効きます。会話を削除しても記憶は自動で消えず、ChatGPT では過去チャット・アーカイブ・ファイル・メモリーサマリー・連携アプリの5箇所を消して回る必要があります。シークレットチャットも、記憶に書き込まない機能であって痕跡を消す機能ではなく、既定で30日間サーバーに残ります。個人情報保護委員会の令和5年6月2日の注意喚起は「応答結果の出力以外の目的で取り扱われる場合」を問題にしており、機械学習だけを見ていれば足りるわけではありません。
「使いながらモデル自体が学ぶ」継続学習は、まだ実現していません。追加学習をかけると前の知識が失われる破滅的忘却が壁になっていて、しかも実測ではモデルが大きいほど忘却が深刻になると報告されています。Google Research は現状の大規模言語モデル（LLM）を、新しい長期記憶を作れない前向性健忘の状態に喩えています。
この記事では、自分の環境で3分でできる確認手順、学習の3層モデルの図解、Claude と ChatGPT と Gemini の設定パスと削除挙動の比較、顧客データを扱う前のチェックリスト、そして継続学習の現在地と当面いちばん効く3つの習慣までを、公式ドキュメントと論文を引きながら整理します。
「自分のことをわかってきた」は本当か 3分でできる確かめ方
Claude や ChatGPT を毎日使っていると、あるときふと気づきます。同僚と同じ質問を投げているはずなのに、返ってくる答えの精度が違います。自分の書き方の癖を先回りしてくれます。仕事の前提を説明しなくても通じます。
この感覚は錯覚ではありません。実際に、返答は変わっています。ただ、変わったものが何なのかを取り違えると、期待値もリスク管理も全部ずれていく気がします。まずは自分の環境で何が起きているかを、3分で確かめる手順から始めます。
手順は3ステップだけです
用意するのは、少し個人的な文脈が要る質問ひとつです。たとえば「来週の会議の資料構成を提案して」でも「この文章を私らしく直して」でも構いません。
- いつも使っているチャットで、その質問を投げます
- 同じアカウントのまま、履歴を残さないモードで新しい会話を開き、まったく同じ文章を投げます
- 2つの答えを並べて読み比べます
履歴を残さないモードは、サービスごとに名前と場所が違います。
| サービス | モードの名前 | 起動場所 |
|---|---|---|
| Claude | Incognito chat（シークレットチャット） | 新規チャット画面の右上にあるゴーストのアイコン |
| ChatGPT | Temporary Chat（一時チャット） | チャット画面上部のモデル名の横 |
| Gemini | Temporary Chat（一時チャット） | 新規チャット画面のアイコン |
Claude の公式ヘルプは、このモードについて「Starting an incognito chat won’t use Claude’s existing memory」と説明しています（Use incognito chats）。つまり、すでに蓄えられた記憶を一切使わない状態での回答が得られます。ChatGPT の一時チャットも同じく「Temporary Chats do not use existing memories or create new memories」とされています（Memory FAQ）。
差が出たなら、それは記憶が効いている証拠です
比べてみると、たいてい違いが出ます。通常のチャットのほうが具体的で、自分の状況に沿っていて、説明を省いても通じます。一時チャットのほうは、はじめて会った相手のように一般論を返してきます。
面白いのは、この差がどこから来ているかです。
2つの会話で使われている AI モデルは、まったく同じものです。バージョンも同じ、内部の数値も1ミリも変わっていません。違うのは、あなたが打った文章のうしろに、システムが自動で足した情報の量だけです。
通常のチャットでは、これまでの会話から抽出されたあなたに関する情報が、あなたには見えない形で質問文に添えられています。一時チャットではそれが添えられません。同じ相手に、申し送りのメモを添えて相談するか、何も添えずに相談するかの違いです。
「賢くなった」の正体は入力の質です
ここを整理すると、こうなります。
- 変わっていないもの: AI モデルそのもの（内部のパラメータ）
- 変わったもの: 毎回の質問に自動で添えられる、あなたに関する情報
体感としては「AI が育った」ですが、実際に起きているのは「毎回の入力が勝手に良くなっている」です。この違いは言葉遊びではありません。次の3つが根本的に変わります。
ひとつめは期待値です。使い込めばモデルが自分専用に進化していく、という前提は成り立ちません。3か月使っても、Claude の中身はほかの全ユーザーと共通のままです。伸びるのは添えられる情報の厚みだけで、そこには天井があります。
ふたつめは改善の手段です。モデルを育てられないなら、こちらから手を入れられるのは記憶の中身のほうです。実は Claude も ChatGPT も、何を覚えているかを一覧で見て、手で書き換えられます。使い込む時間を増やすより、記憶を1回整理するほうが効くことがあります。この具体的なやり方は3章で扱います。
みっつめはリスクの所在です。「学習されないから安心」という説明は、半分しか当たっていません。学習されなくても、顧客名や機密情報が記憶として保存され、別の会話で引用される経路は残ります。しかも会話を削除しても記憶は自動では消えません。ここは4章でくわしく見ます。
なお「AI が自分に合わせて答えてくれる」という感覚には、もうひとつ別の要因も混ざっています。AI にはユーザーの意見に同調しやすい傾向があり、これは記憶とは無関係にはたらきます。この構造はAIが人を気持ちよくさせる構造で扱いました。記憶による個人最適化と、同調による心地よさは、原因も対処法も別物です。
では、そもそも AI にとっての「学習」とは何を指すのでしょうか。次の章で、混ざりがちな3つの層をほどいていきます。
学習は3層に分かれている モデル本体・メモリー・セッション
「AI が学習する」という一言には、まったく性質の違う3つの出来事が混ざっています。誰が更新するのか、何が書き換わるのか、いつ反映されるのか。この3点で分けると、きれいに整理できます。
まずレストランで考えてみます
いきなり技術用語で説明すると混乱するので、行きつけの店に喩えます。
料理人の腕そのものが第1層です。何年も修行して身についた技術で、あなたが通ったからといって上達するわけではありません。腕が上がるのは、店主が新しい修行をしたときだけです。
常連カルテが第2層です。「この人は辛いのが苦手」「いつも急いでいる」といったメモが、店の側に残っています。あなたが通うほどメモは厚くなり、注文前から気を利かせてもらえます。ただし、料理人の腕は1ミリも変わっていません。
その日の注文が第3層です。「今日は少なめで」と伝えれば、その日だけ反映されます。翌日には忘れられます。
AI で起きているのも、まったく同じ構造です。
3つの層を並べて見ます
| 第1層 モデル本体の学習 | 第2層 メモリー | 第3層 セッション内コンテキスト | |
|---|---|---|---|
| 何が変わるか | 数千億個の数値（パラメータ） | ユーザーごとのデータベースの記録 | いま開いている会話の中身 |
| 誰が更新するか | 開発企業（Anthropic、OpenAI、Google） | サービスの仕組みとユーザー本人 | ユーザー本人 |
| 反映のタイミング | 次のモデルが公開されたとき | 次の会話から即座に | その会話の中だけ |
| 中身を見られるか | 見られない | 設定画面で全件見られる、編集も削除もできる | 画面の会話そのもの |
| 個人ごとに違うか | 全ユーザー共通 | 完全に個人ごと | 会話ごと |
| 会話を消したら | 無関係 | 記録は自動では消えない | 消える |
多くの人が「学習」だと思っているのは、どうやら第2層のようです。そして第2層は、モデルを1ミリも変えません。
第2層の実装は「保存して、次回また読み込む」だけです
ここは推測ではなく、各社が公式に説明しています。
Anthropic のヘルプセンターは、Claude の記憶をこう説明しています。「Claude builds memory as a set of individual entries that are organized into categories. Claude reads, writes and updates these entries in real time as you chat」（Use Claude’s chat search and memory）。カテゴリ分けされた個別の項目を読み書きしている、と書いてあります。データベースの操作そのものです。
さらに過去の会話を参照する仕組みについては「These searches use Retrieval-Augmented Generation (RAG) and will appear as tool calls during your conversations」と書かれています。RAG は日本語で検索拡張生成と訳される技術で、外部に置いたデータを検索して取り出し、AI への入力に足す方式です。この検索を支えているのが、文章を数値の並びに変換して意味の近さを測る技術で、こちらはエンベディングとはで解説しています。
OpenAI 側の記述はもっと直接的です。ChatGPT の Memory FAQ には「Like custom instructions, saved memories are part of the context ChatGPT uses to generate a response」とあります。カスタム指示と同じく、記憶は回答生成に使うコンテキストの一部だと書かれています。コンテキストとは AI に渡す入力のことなので、公式が「記憶は入力の一部です」と明言していることになります。
保存場所についても書かれています。「The ‘notepad’ of your saved memories are stored separately from your chat history」。記憶のメモ帳は、会話履歴とは別の場所に置かれています。つまり独立したデータの保管庫です。
まとめると、第2層の動きはこうです。
- 会話のなかから、覚えておくとよさそうな情報を抽出する
- ユーザーごとのデータベースに項目として書き込む
- 次に会話するとき、関連する項目を検索して取り出す
- あなたが打った文章のうしろに、こっそり添えて AI に渡す
4番のところで、AI モデルは「いつもより情報が多い入力」を受け取ります。だから答えが良くなります。モデルのほうは何も学んでいません。
第1層で本当に起きていること
では、モデル本体はどうやって変わるのでしょうか。大きく3段階あります。
事前学習では、膨大なテキストを読ませて言葉の並び方を覚えさせます。ここで世界についての基礎知識が入ります。
そのあと、人間の好みに合わせる調整が入ります。代表的な手法が RLHF（人間のフィードバックからの強化学習）です。同じ質問への複数の回答を人間に見比べてもらい、どちらが良いかを選ばせ、その選好を学習させる方式で、Christiano らの2017年の論文が原型になっています。
Anthropic はここに独自の工夫を足しています。Constitutional AI（Bai ら、2022年）は、人間が有害な回答にラベルを付ける代わりに、あらかじめ定めた原則の一覧を AI に渡して自己批評させる手法です。人間の負担を減らしつつ、判断基準を文書として明示できます。
重要なのは、これらすべてが開発企業の側で、全ユーザー共通のモデルに対して行われるという点です。あなたの会話が第1層に届く経路は、実はかなり限られています。
Anthropic のプライバシーセンターは、個人向けプラン（Free / Pro / Max）のデータが学習に使われる条件を3つだけ挙げています（Is my data used for model training?）。ユーザーが設定で明示的に許可した場合、安全性レビューのために会話がフラグされた場合、そしてテスタープログラムなどに自分から参加した場合です。
ここに「メモリー機能を使ったから」は入っていません。メモリーへの保存と、モデル学習への利用は、別の経路として設計されています。
なお、親指マークのフィードバックボタンは別扱いです。押すと会話全体が最大5年間保存され、ユーザー ID と切り離したうえで学習に使われる可能性があります。良かれと思って押した高評価が、いちばん直接的に第1層へつながる操作だというのは、覚えておく価値があると思います。
なぜ個人ごとにモデルを更新しないのか
「技術的にできないの?」という疑問が当然出ます。答えは「できなくはないが、割に合わない」です。理由が3つあります。
ひとつめは配信の問題です。パラメータをユーザーごとに持つなら、モデルの複製がユーザー数だけ必要になります。数千万人規模のサービスでは現実的ではありません。
ふたつめは平均化の問題です。全ユーザーのフィードバックをまとめて学習させると、多数派の好みに収束します。ある人が「もっと簡潔に」と言い、別の人が「もっと詳しく」と言うとき、統計を取った結果は「中くらいの長さ」です。個人に最適化しようとして統計処理を挟んだ瞬間、いちばん無難な答えに戻ってしまいます。この個別最適化と汎化のトレードオフは、いま研究の焦点になっている領域でもあります。
みっつめが忘却の問題です。既存のモデルに新しいデータで追加学習をかけると、前に覚えていたことの性能が落ちます。この現象には破滅的忘却という名前が付いていて、どれくらい深刻なのかは5章で数字とともに見ます。
第2層は、この3つの問題をすべて回避する現実解です。モデルは全員共通のまま据え置いて、個人差はデータベース側で吸収します。だからこそ、いま各社がそろってこの形になっています。
ちなみに、モデルの世代が上がっても第2層の仕組み自体は変わりません。Claude Opus 5 のような新世代でも、記憶はデータベースのままです。世代交代で伸びるのは第1層の能力で、そのぶんプロンプトの書き方の作法も変わってきています。この話はClaude Opus 5とコンテキストエンジニアリング新ルールにまとめました。
構造がわかったところで、次は実際のサービスがそれぞれどう実装しているかを見ていきます。設定の場所も、削除したときの挙動も、3社で違います。
Claude・ChatGPT・Geminiのメモリーを実物で比べる
3社とも似た機能を持っていますが、設定の場所も、保存の単位も、消したときの挙動も違います。ここでは公式ドキュメントに書かれている内容だけを使って、実物どおりに並べます。
設定はどこにあるか
| Claude | ChatGPT | Gemini | |
|---|---|---|---|
| 記憶を作る設定 | Settings > Memory の「Generate memory from chats」 | Settings > Personalization > Memory | 設定とヘルプ > Personal Intelligence > Memory |
| 過去チャット参照の設定 | Settings > Memory の「Search and reference chats」 | 同上（統合されている） | 同上（Gemini Apps Activity が前提） |
| 初期状態 | オフ、自分で有効化する | 有効 | 有効 |
| 記憶を使わないモード | Incognito chat | Temporary Chat | Temporary Chat |
Claude には注意点がひとつあります。表示が新旧2種類あり、設定の場所が違います。Settings に Memory という項目があれば新しい方式、Settings > Capabilities のなかに Memory があれば従来方式です。従来方式は Team と Enterprise のプランに残っていて、順次移行が進んでいます。社内で「メモリーの設定はここです」と案内するときは、両方の場所を書いておくと安全です。
Gemini でもうひとつ気をつけたいのが、初期状態で有効になっている点です。Google の発表でも「This setting is on by default to help Gemini give you more relevant responses」と説明されています（Gemini adds Temporary Chats and new personalization features）。加えて、Gemini Apps Activity（旧アクティビティ保存）がオフだとメモリー自体が使えない設計になっているため、記憶の管理はアクティビティ管理と一体で考える必要があります。職場アカウントや学校アカウントではこの機能は使えません。
保存の単位と分離の仕方
Claude は記憶をカテゴリ分けした個別の項目として持ちます。そして、プロジェクト機能を使っている場合は、プロジェクトごとに記憶の領域が完全に分かれます。公式ブログはこれを「These project boundaries help you and your teams manage complex, concurrent initiatives without mixing unrelated details, serving as a safety guardrail that keeps sensitive conversations contained」と説明しています（Bringing memory to Claude）。A 社の案件で話した内容が、B 社の案件の会話に混ざりません。受託業務では、この分離があるかないかで運用の難易度がかなり変わります。
ChatGPT はメモリーサマリーというひとまとめのテキストで、何を覚えているかを見せます。画面下の入力欄に「この部分を直して」と書けば、その場で書き換えられます。任意の箇所をハイライトして個別に訂正することもできます。ただし、サマリーがすべてを表示しているわけではありません。公式 FAQ は「While the memory summary should capture the most important details, it will not include everything that ChatGPT remembers based on your chats」と明記しています。表示されていない記憶があるということです。何かを覚えているか確かめたいときは、チャットで直接聞くのが確実だと案内されています。
Gemini は記憶を独立した一覧としては見せず、Gemini Apps Activity に残っている過去チャットが参照元になります。「Did you use any info from past chats?」と聞けば、参照したかどうかを答えてくれます。
消したつもりが消えていない、という落とし穴
ここが実務でいちばん事故が起きやすいところです。3社とも、直感とは違う挙動をします。
Claude では、公式ヘルプにはっきり書かれています。「When a conversation expires or is deleted, related memory entries generated from it won’t be removed, but you can delete individual memories at any time」。会話を削除しても、そこから作られた記憶の項目は残ります。消したいなら、Settings > Memory から該当する項目を選んで個別に削除してください。
無効化にも2種類あります。Pause memory は既存の記憶を保持したまま、新規作成と参照を止めます。Reset memory はプロジェクトごとの記憶も含めて全削除で、取り消しはできません。顧客データが混ざった疑いがあるなら、一時停止では足りません。
ChatGPT では、完全削除の手順がかなり込み入っています。公式 FAQ の記述をそのまま引くと、「To fully delete something ChatGPT may know about you, you’ll need to delete every source where it appears, including past chats, archived chats, files, the memory summary, and disconnect any connected apps that may contain that information」。
情報が出てくる場所をすべて消さないと残ります。その場所として過去のチャット、アーカイブ済みのチャット、アップロードしたファイル、メモリーサマリー、そして連携アプリの切断、と5種類が挙げられています。
さらに厄介なのが再生成です。「If you turn memory back on later, ChatGPT may create new memories from chats that remain in your chat history, including older chats」。メモリーをオフにしてから再びオンにすると、残っている過去チャットから記憶が作り直されます。オフにしただけでは、火種が残っている状態です。
Gemini では、連携アプリ由来の情報を消すには、チャットの削除とアプリの切断を両方やってください。公式ヘルプは理由も書いています。「If you only disconnect the app, Gemini might still use the info if it’s in a past chat」。アプリを切っても、過去チャットに残っていれば使われます。逆にチャットを消しても、アプリがつながっていれば取り直されます。片方だけでは不十分です。
プライベートモードは「痕跡が消える」機能ではありません
Incognito chat や Temporary Chat を「記録が一切残らないモード」だと理解している人は多いのですが、これも正確ではありません。
Claude のヘルプにはこう書かれています。「While incognito chats aren’t saved to your chat history, they are retained for either 30 days (default), or longer in accordance with your organization’s custom data retention setting」。履歴に表示されないだけで、サーバー側には既定で30日間保持されます。
Team と Enterprise のプランではさらに条件が付きます。シークレットチャットも組織のデータエクスポートに含まれ、Enterprise では Compliance API（監査用にデータを取り出す仕組み）からも取得できます。会社が本気で調べれば見えるということです。
整理すると、シークレットチャットの正しい理解はこうなります。
- できること: 記憶に書き込まない、既存の記憶を使わない、履歴に残さない、学習に使わせない
- できないこと: サーバーからデータを消す、組織の監査から隠す
「機密の相談だからシークレットで」という使い方は、記憶汚染の防止としては正しく、痕跡の抹消としては誤りです。ここを混同したまま社内ルールを作ると、あとで説明がつかなくなります。
3社共通で押さえておきたいこと
サービスごとの違いを見てきましたが、共通しているのは次の3点です。
記憶は必ず設定画面から確認できます。何を覚えているかがブラックボックスになっているサービスはありません。まず一度、自分の記憶一覧を開いて全部読んでみてください。想像より多くのことが書かれているはずです。
記憶は手で編集できます。ここが第2層の最大の利点です。モデルは育てられませんが、記憶は書き換えられます。古くなった前提、間違って覚えられた情報、もう関係ない案件の話。これらを掃除するだけで回答の質は目に見えて変わります。使う時間を増やすより効率がいい場面は多いです。
そして、削除は一箇所では済みません。会話、記憶項目、ファイル、連携アプリ。どこに残るかを把握しておかないと、消したつもりの情報が半年後の会話に出てきます。
この「どこに残るか」の把握は、自分ひとりで使うぶんには習慣の問題ですが、顧客のデータを扱うとなると話が変わります。次の章では、法律の観点も含めて、業務で使う前に確認すべきことを整理します。
顧客データを扱うときのメモリー設計チェックリスト
「学習に使われないなら安心ですよね」という質問を、法務や情シスの担当者からよく受けます。半分は当たっていますが、半分は外れています。学習に使われないことと、データが保存されないことは別だからです。この章では、法律がどこを見ているか、契約の種類で何が変わるか、着手前に何を確認すべきかを順に整理します。
法律の側は「学習かどうか」だけを見ていません
個人情報保護委員会は2023年6月2日に「生成AIサービスの利用に関する注意喚起等について」を公表しています。事業者向けの注意点は2つあり、2つめがこう書かれています。
個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成 AI サービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成 AI サービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること。
— 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」（令和5年6月2日）
注目したいのは「応答結果の出力以外の目的で取り扱われる場合」という条件のかけ方です。文末で機械学習を例に挙げてはいますが、判断の軸は「その会話の答えを返す以外に使われているか」であって、機械学習だけを名指ししているわけではありません。
この軸で見ると、メモリー機能はどうでしょうか。入力された内容から情報を抽出して保存し、別の日の別の会話で使います。これは「そのプロンプトに対する応答結果の出力」の範囲を超えています。少なくとも、学習に使われていないから当然にセーフ、とは言い切れない位置にあります。
もうひとつの注意点である①も見ておきます。「特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること」。自社が公表している利用目的のなかに、生成 AI サービスへの入力が収まっているか、という確認です。ここは AI 固有の話ではなく、既存の個人情報の取り扱いルールの延長線上にあります。
個人向けプランと法人向けプランは前提が違います
まず押さえるべきは、契約の種類でデフォルトの扱いが変わることです。
Anthropic のプライバシーセンターは、法人向け製品についてこう書いています。「By default, we will not use your inputs or outputs from our commercial products (e.g. Claude for Work, Anthropic API, Claude Gov, etc.) to train our models」（Is my data used for model training?）。Claude for Work や API では、既定で学習に使われません。
一方、個人向けプラン（Free / Pro / Max）では、設定で許可した場合に使われます（個人向けの説明）。つまり、社員が個人アカウントで業務データを扱っていると、設定次第で学習に流れる経路が残ります。シャドー IT の典型的なリスクです。
法人向けプランには例外もあります。親指マークのフィードバックを送ると、会話全体が最大5年間保存され、学習に使われる可能性があります。ここは組織単位で止められます。Team と Enterprise の所有者は、Organization settings > Data and Privacy の「Rate chats」設定で、メンバーからのフィードバック送信自体を無効化できます。監査で説明が必要になる組織は、この設定を明示的にオフにしておくと話が早いです。
Enterprise ではメモリー機能そのものも管理者が組織単位で無効化できます。ユーザー個人の判断に任せない、という選択肢が用意されているということです。
契約の種類ごとの違いを整理すると、こうなります。
| 個人向けプラン（Free / Pro / Max） | 法人向け（Claude for Work / API） | Zero Data Retention 契約 | |
|---|---|---|---|
| 学習利用の既定 | 設定で許可すれば使われる | 既定で使われない | 使われない |
| メモリー機能 | 個人が任意で有効化 | 管理者が組織単位で制御できる | 運用方針に依存 |
| フィードバック送信 | 個人の操作次第 | 組織設定で一括無効化できる | 組織設定で一括無効化できる |
| 入出力の保存 | 保持ポリシーに従い保存 | 保持ポリシーに従い保存 | 応答後に保存しない |
| 想定される使いどころ | 個人利用、社外秘を含まない作業 | 通常の業務、顧客案件 | 医療・金融など保存自体を許容できない領域 |
さらに厳しい要件があるなら、Zero Data Retention（データを一切保持しない契約。頭文字を取って ZDR とも呼ばれます）という選択肢があります。適格な法人向け API 顧客に対して、入出力を応答後にいっさい保存しない運用が提供されています。OpenAI も API について同様のコントロールを営業経由で提供しています。医療や金融など、そもそも保存自体を許容できない領域ではこちらが選択肢になります。エンタープライズ向け AI アシスタントの Zero Data Retention 対応状況を比較した研究も出ています（arXiv:2510.11558）。
プロジェクト開始時のチェックリスト
顧客のデータを扱う案件を始めるとき、着手前に確認する項目をまとめます。上から順に、5分で終わります。
まず契約と権限を確認します。
次にメモリーの設定を決めます。
そして案件終了時の削除を準備します。
最後にチームへ周知します。
最後の項目が、いちばん重要だと思います。技術的な設定はすべて正しくても、担当者が「メモリーは学習じゃないから大丈夫」と理解していると、保存されること自体のリスクが見落とされます。
記憶は攻撃される場所でもあります
もうひとつ、あまり語られていない側面があります。読み書きできる永続的なデータの保管庫があるということは、そこに書き込む攻撃が成立するということです。
2024年にセキュリティ研究者の Johann Rehberger 氏が公開した SpAIware は、ChatGPT の macOS アプリを対象にした手口でした。間接的なプロンプトインジェクション、つまり AI に読ませる文書のなかに指示を仕込む方法で、長期記憶に悪意ある命令を書き込みます。一度書き込まれると、その後のすべての会話で命令が発動し、ユーザーの入力が外部へ送られ続けます（Spyware Injection Into Your ChatGPT’s Long-Term Memory）。この脆弱性は OpenAI により修正済みです。
2026年1月には、Radware の研究者が ZombieAgent と名付けた手口を公開しています。メモリーと外部サービス連携を組み合わせることで、間接プロンプトインジェクションをより永続的に、より広範囲に広げられることを示したものです。攻撃者はメールの本文に、白い背景に白い文字で指示を書いておきます。ユーザーが「未読メールを要約して」と頼むだけで、その指示が AI に届きます（ChatGPT’s Memory Feature Supercharges Prompt Injection）。
Anthropic は Claude のメモリー機能をリリースする前に、「whether memory could reinforce harmful patterns in conversations, lead to over-accommodation, and enable attempts to bypass our safeguards」を検証したと公表しています。記憶が有害なパターンを強化しないか、過剰な迎合につながらないか、安全機構の回避に使われないか。開発側もリスクとして認識している領域です。
実務上の対処はシンプルです。外部から取り込んだ文書やメールを AI に読ませる作業と、機密情報を扱う会話は、同じセッションで混ぜないようにします。取り込み系の作業はシークレットチャットで行えば、仮に不正な指示が紛れ込んでも記憶には書き込まれません。そのうえで、記憶の一覧を定期的に目視します。身に覚えのない項目があれば、それ自体が異常のサインです。
AI が出した内容をそのまま信じて次の作業に流す構造は、記憶に限った話ではありません。AI 議事録が誤った合意事項を記録し、それが記憶に保存され、後日別の会話で引用される、という連鎖も起こりえます。この種の落とし穴はAI議事録で失われる考える機会で整理しました。
ここまでで、いまの仕組みの限界と付き合い方は見えてきました。では、研究の側はこの先どこへ向かっているのでしょうか。
継続学習はどこまで来たか そして今できる賢い使い込み方
データベースに保存するのではなく、モデル本体が使いながら学び続ける方向があります。これは継続学習（Continual Learning）と呼ばれ、いま AI 研究のなかでも大きなテーマになっています。実現すれば「AI を育てる」という言い方が、比喩ではなく事実になります。
結論から書くと、2026年7月時点では実現していません。最大の障害は破滅的忘却で、しかも実測ではモデルが大きいほど深刻になると報告されています。理由がはっきりしているので、そこから見ていきます。
大きいモデルほど激しく忘れます
追加学習の最大の障害は、破滅的忘却（catastrophic forgetting）です。新しいことを覚えさせると、前に覚えていたことの性能が落ちる現象を指します。
どれくらい落ちるのかを実測した研究があります。Luo らのAn Empirical Study of Catastrophic Forgetting in Large Language Models During Continual Fine-tuningは、10億から70億パラメータのモデルを対象に、ドメイン知識、推論、読解の3つの軸で忘却を測りました。
ここが面白いところで、結果が直感に反します。論文はこう書いています。「as the model scale increases, the severity of forgetting intensifies in such a model scale range」。モデルが大きくなるほど、忘却の深刻さが増すというのです。
普通は逆を予想します。器が大きいほど新旧の知識が両立できそうに思えます。実際には、大きなモデルほど最初の性能が高いぶん、落差も大きくなります。追加学習で性能を伸ばそうとすると、伸ばした先以外が崩れていくわけです。
アーキテクチャによる差も報告されています。デコーダのみの構成である BLOOMZ は、エンコーダとデコーダを持つ mT0 より忘却が少なく、知識を保持しやすかったとされています。
Shi らによる包括的なサーベイ論文Continual Learning of Large Language Models: A Comprehensive Survey（ACM Computing Surveys 掲載）は、この分野を2つの軸で整理しています。汎用的な能力から特定分野の能力へ移っていく縦方向の連続性と、時間やドメインをまたいで適応していく横方向の連続性です。そして学習の段階を、継続事前学習、ドメイン適応事前学習、継続ファインチューニングの3つに分けています。
つまり「継続学習」と一言で呼ばれているものは、実際には複数の異なる問題の集合体です。ひとつ解ければ全部解決、という話ではありません。
研究側の最新の切り口
2025年11月、Google Research がNested Learningという考え方を公開しました。NeurIPS 2025 で発表された論文をもとにしたものです。
この発表がわかりやすいのは、現状の LLM の限界を医学の用語で喩えているところです。人間の脳は神経可塑性によって、新しい経験に応じて構造そのものを変えられます。この能力を失うと、目の前のことしか保持できない前向性健忘という状態になります。そして発表はこう書いています。「We see a similar limitation in current LLMs: their knowledge is confined to either the immediate context of their input window or the static information that they learn during pre-training」。
今の大規模言語モデルの知識は、入力ウィンドウのなかの直近の文脈か、事前学習で覚えた静的な情報のどちらかに限られる、という指摘です。2章で見た第3層と第1層のことを言っています。真ん中がない、と Google 自身が認めています。
Nested Learning の提案は、モデルを入れ子になった複数の最適化問題の集合として捉え直すというものです。従来は別物として扱ってきたモデルの構造と学習アルゴリズムを、同じ概念の異なるレベルとみなします。そのうえで、コンポーネントごとに更新の頻度を変えます。速く更新される層と、ゆっくり更新される層を共存させることで、新しい学習が古い知識を上書きしにくくする発想です。実証として Hope という自己修正型のアーキテクチャが提示され、言語モデリングの性能と長い文脈の記憶管理で改善が報告されています。
個人化の側でも動きがあります。全ユーザーの好みを1つの平均に押し込むのではなく、複数の好みの分布に同時に整合させる pluralistic alignment という方向です。ICML 2025 や NeurIPS 2025 のワークショップでは、強化学習を使ったパーソナライズや、連合学習を組み合わせた RLHF の評価が議論されています。Apple も異質な好みへの整合を扱う手法を公開しています。
いつ来るかは、まだ誰にも言えません
「何年後に実現しますか」と聞かれたら、正直に「わかりません」と答えるのが誠実です。理由は3つあります。
技術的な障害が複数あり、それぞれ性質が違います。忘却の抑制、個人ごとのモデル配信、更新結果の検証。どれかひとつが解けても他が残ります。
安全性の要求が高い領域です。使いながら重みが変わるモデルは、変わった結果が安全かどうかを毎回検証しなければなりません。事前にテストして出荷する現在のやり方が使えません。
そして、そもそも需要が第2層で満たされている面もあります。実務で必要な個人化の大半は、データベースへの保存とその読み込みで足ります。研究の優先度が、コーディング能力や自律的なタスク遂行といった別の方向に置かれている現実もあります。
期待値としては「向こう数年で第2層が賢くなる」あたりが妥当な見立てだと思います。記憶の抽出精度が上がり、参照する範囲が広がり、プロジェクトごとの分離がより細かくなっていく方向です。この改善は着実に進んでいます。モデル本体が個人ごとに変わる世界は、その先になりそうです。
それまでの間に、いちばん効く3つの習慣
第1層は待つしかありません。でも第2層は、いますぐ自分の手で改善できます。使い込む時間を増やすより効果があるやり方を3つ挙げます。
ひとつめは、記憶の一覧を月に1回掃除することです。設定画面を開いて、覚えられている内容を全部読みます。終わった案件の話、変わった役割、間違って記録された前提。こういう古い情報が残っていると、AI はそれを毎回入力に混ぜてきます。削除するだけで回答の精度が上がります。Claude なら Settings > Memory、ChatGPT なら Settings > Personalization > Memory です。
ふたつめは、覚えてほしいことを自分から明示的に書くことです。会話から自動抽出させるより、直接指定するほうが正確です。ChatGPT ならメモリーサマリーを手で編集できますし、Claude なら会話のなかで「これを覚えておいて」と伝えれば次の会話から反映されます。仕事の前提、使っている技術スタック、望ましい回答の長さ。この3つを書いておくだけで体感がかなり変わります。
みっつめは、案件ごとに記憶を分けることです。Claude のプロジェクト機能を使えば、記憶が案件ごとに独立します。A 社の文脈が B 社の会話に漏れないだけでなく、AI が参照する情報が絞られるぶん回答も的確になります。プライバシーの観点と品質の観点が、ここでは同じ方向を向いています。
記憶させる対象を、好みから知識構造に変える
もう一段先の話をします。ここまで見てきたメモリー機能は、いずれも「あなたの好み」を覚える設計です。呼び方、文体、仕事の前提。個人に紐づく情報です。
でも業務で本当に再利用したいのは、調べた内容そのものではないでしょうか。どの論文がどの特許とつながっていて、どの企業がどの技術を押さえていて、前回の調査で何がわかって何が宿題として残ったのか。こちらは個人の好みではなく、テーマの構造です。
この違いを設計に反映しているのが、私たちが開発しているリサーチエージェントの Snorbe です。Snorbe は調査した内容を、単なるテキストの束ではなくナレッジグラフとして構造化して保持します。記憶する対象が「あなたがどんな人か」ではなく「調べたテーマがどうつながっているか」なので、担当者が変わっても資産が引き継げます。
調査の入口も広く取ってあります。JPO と EPO と Google Patents で特許を、arXiv と PubMed と Semantic Scholar で論文を、それぞれ専用の検索式を覚えることなく、自然な日本語の質問のまま横断できます。「この技術領域で日本企業と海外企業の出願傾向はどう違うか」と投げれば、複数のデータベースを自分で選んで調べにいきます。
そして調査を重ねるほどグラフが太ります。2回目の調査は1回目の結果を土台にでき、3回目はさらにその上に積めます。AI 側のモデルは変わりませんが、蓄積される知識の構造は確実に育っていきます。これが第2層を業務の資産として設計するということです。
「AI を育てる」という言い方は、モデル本体については当分成り立ちません。でも「記憶を育てる」なら、今日から始められます。まずは自分のメモリー設定を開いて、何が書かれているか読むところからです。
よくある質問
Q1. メモリー機能を使うと、私の会話が AI の学習に使われるのですか？
メモリーへの保存と、モデル学習への利用は別の経路です。Anthropic のプライバシーセンターは、個人向けプランのデータが学習に使われる条件を3つに限定しています。設定で明示的に許可した場合、安全性レビューのために会話がフラグされた場合、テスタープログラムなどに自分から参加した場合です（Is my data used for model training?）。ここにメモリー機能の利用は含まれていません。法人向けの Claude for Work や API では既定で学習に使われない設計です。ただし親指マークのフィードバックボタンは別扱いで、押すと会話全体が最大5年間保存され、ユーザー ID と切り離したうえで学習に使われる可能性があります。
Q2. 「使い込むほど賢くなる」というのは間違いなのですか？
体感は正しく、原因の理解が違うだけです。返答の質は実際に上がっています。ただし上がったのは AI モデルの能力ではなく、毎回の質問に自動で添えられる情報の量と精度です。モデル内部のパラメータは全ユーザー共通のまま据え置かれています。この違いがわかると改善の手段が変わります。使う時間を増やすより、設定画面から記憶の中身を直接編集するほうが効くことが多いです。
Q3. Claude のメモリーはどこで設定できますか？
Settings > Memory から「Generate memory from chats」と「Search and reference chats」の2つを個別に切り替えられます。表示が2種類あり、Settings のなかに Memory 項目がなく Settings > Capabilities に Memory がある場合は従来方式です。従来方式は Team と Enterprise のプランに残っており、順次移行が進んでいます。無効化には2種類あって、Pause memory は既存の記憶を保持したまま新規作成と参照を止め、Reset memory はプロジェクトごとの記憶も含めて全削除します。全削除は取り消しできません。
Q4. 会話を削除すれば、記憶も消えますか？
消えません。Claude の公式ヘルプは「When a conversation expires or is deleted, related memory entries generated from it won’t be removed」と明記しています。記憶の項目は Settings > Memory から個別に削除してください。ChatGPT の場合はさらに複雑で、公式 FAQ が完全削除には過去チャット、アーカイブ済みチャット、ファイル、メモリーサマリー、連携アプリの切断の5箇所すべての対応が必要だと説明しています。しかもメモリーをオフにして再びオンにすると、残っている過去チャットから記憶が作り直されます。
Q5. シークレットチャットを使えば、記録は完全に残りませんか？
残ります。Claude の公式ヘルプは「While incognito chats aren’t saved to your chat history, they are retained for either 30 days (default), or longer in accordance with your organization’s custom data retention setting」と説明しています。履歴に表示されないだけで、サーバー側には既定で30日間保持されます。Team と Enterprise のプランでは組織のデータエクスポートにも含まれ、Enterprise では Compliance API からも取得できます。シークレットチャットは記憶に書き込ませない機能であって、痕跡を消す機能ではありません。
Q6. 顧客データを扱うとき、メモリーは切るべきですか？
原則として切るか、案件専用のプロジェクトを作って記憶を分離するかのどちらかにしてください。個人情報保護委員会の令和5年6月2日の注意喚起は「当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合」を問題としており、判断の軸は機械学習に限定されていません。メモリーへの保存も、その会話の答えを返す範囲を超えた利用にあたる可能性があります。あわせて、法人契約を使っているか、組織としてフィードバックボタンを無効化しているか、案件終了時に何をどこから消すかを決めてあるかも確認してください。より厳しい要件があれば、Zero Data Retention 契約という選択肢もあります。
Q7. 継続学習が実現すれば、AI は本当に育つようになりますか？
方向としてはそうですが、時期を予測できる段階ではありません。最大の障害は破滅的忘却で、新しいことを学ばせると前の知識の性能が落ちます。arXiv:2308.08747 の実測では、モデルが大きくなるほど忘却が深刻になると報告されています。Google Research は2025年11月に Nested Learning という考え方を公開し、現状の大規模言語モデルを、新しい長期記憶を作れない前向性健忘の状態に喩えています。当面の現実的な見立ては「向こう数年で第2層のメモリーが賢くなる」で、モデル本体が個人ごとに変わる世界はその先です。
Q8. メモリー機能にセキュリティ上のリスクはありますか？
読み書きできる永続的なデータの保管庫がある以上、そこに書き込む攻撃が成立します。2024年に公開された SpAIware は、間接的なプロンプトインジェクションで ChatGPT の長期記憶に悪意ある命令を書き込み、以降の会話でユーザーの入力を外部へ送り続ける手口でした。この脆弱性は修正済みです。2026年1月には Radware が ZombieAgent を公開し、メモリーと外部サービス連携の組み合わせで攻撃がより永続化しうることを示しています。実務上の対処としては、外部から取り込んだ文書やメールを AI に読ませる作業と機密情報を扱う会話を同じセッションで混ぜないこと、そして記憶の一覧を定期的に目視して身に覚えのない項目がないか確認することが有効です。
調査手法について
こちらの記事はグラフAIリサーチプラットフォームのSnorbeを使って作られています。Snorbeは研究開発・新規事業向けの調査テーマに応じた幅広い項目のオートリサーチや、ナレッジグラフの構築、構造化レポートの生成ができるAIリサーチツールです。
Screenshot
調査したいテーマを入力するだけで、AIが深堀りすべき観点や広げるべき調査項目をレコメンドしながら、自動でリサーチを進めます。収集した情報はナレッジグラフとして蓄積され、未調査領域（ホワイトスペース）を可視化しながら調査の網羅性を高めていけます。
また、観点マトリクスを30秒・構造化レポートを10分で自動生成する機能があり、出典付きのレポートをMarkdown/PDF形式でエクスポートできます。調査の元データも保存されるため、ファクトチェックや社内共有も容易です。
ご利用をご希望の方は、こちらよりお申し込みください。
また、グラフAIを活用した社内ナレッジ管理や、研究開発・新規事業のリサーチ支援、セルフホスト導入のご相談も受け付けています。お困りの方はお気軽にご連絡ください。
市場調査やデスクリサーチの生成AIエージェントを作っています 仲間探し中 / Founder of AI Desk Research Agent @deskrex , https://deskrex.ai
