継続学習(Continual Learning)と破滅的忘却(Catastrophic Forgetting)
1. 概要
継続学習(Continual Learning、生涯学習 Lifelong Learning)とは、単一のモデルが時間とともに逐次的に到着する複数のタスク(task)・分布(distribution)のデータを学習しながらも、以前に習得した知識を保存し、全タスクに対する性能を維持・蓄積していく機械学習パラダイムである。このとき新しい知識を学習する過程で既存の知識が急激に失われる現象を破滅的忘却(Catastrophic Forgetting)という。
従来の教師あり学習は、全データが独立同分布(i.i.d.)として一度に与えられると仮定し、エポックを繰り返しながら損失を最小化する。しかし現実のAIサービスではデータが一度にまとめて来ることはない。新規の商品カテゴリが追加され、新たなマルウェア亜種が出現し、ユーザーの嗜好や市場トレンドが絶えず変化する。このような非定常(non-stationary)データストリーム環境でモデルを毎回全データで再学習(retraining)すると、保存・計算コストが線形以上に増加し、過去の生データをプライバシー規制(GDPRの削除権など)によって保管できない場合も多い。継続学習は「新しいデータだけでモデルを更新しつつ過去を忘れない」という目標で、この問題に正面から取り組む。
破滅的忘却が生じる根本原因は、ニューラルネットワークの知識が重み全体に分散表現(distributed representation)されているためである。タスクAで収束した重みを、タスクBの勾配降下(gradient descent)がタスクAの損失地形をまったく考慮せずに再び動かすと、Aにとって重要だったパラメータが上書きされる。1989年にMcCloskeyとCohenがこの現象を初めて報告して以来、継続学習は人間のように経験を積み重ねて成長するAI(生涯学習)の中核的難題であり続けており、近年は巨大言語モデル(LLM)を破棄・再学習せずに継続更新しようとする継続的事前学習(Continual Pre-training)の需要と相まって再び注目を集めている。
継続学習が志向する主要な特徴は次のように要約される。
- 漸進的な知識蓄積: 新しいタスクを学びながら全タスクに対する性能を単調増加させることを理想とする。
- 過去への限定的アクセス: 過去の全データを保管・再利用せず、少ない資源で知識を保存する。
- 知識転移の活用: 過去の知識で新しいタスクをより速く学び(前方転移)、新しいタスクで過去を補強(正の後方転移)する好循環を追求する。
- 運用中の適応: 再配備なしに運用環境での分布変化に適応するオンライン適応性を志向する。
生物学的にも継続学習は着想を得ている。脳の相補的学習システム(Complementary Learning Systems)理論によれば、海馬(hippocampus)が最近の経験を速やかに保存し、睡眠中にこれを新皮質(neocortex)へゆっくり再生(replay)して既存の知識と統合する。リハーサルに基づく手法がバッファ再生で忘却を防ぐ発想は、まさにこの「記憶再生による固定化(consolidation)」メカニズムに直接対応する。人間が新しい言語を学んでも母語を忘れない理由はこのような選択的保存・再生にあり、継続学習はこれを人工ニューラルネットワークで再現しようとする試みであるといえる。
学習資源の観点で、継続学習は従来のバッチ学習と二つの仮定において決定的に異なる。第一に、データは分布が時間とともに変化する非定常(non-stationary)ストリームとして入ってくるため、i.i.d.の仮定が崩れる。第二に、過去データへのアクセスが制限され、一度過ぎ去ったデータを自由に見直すことができない。この二つの制約をともに厳格に守り、データを一度だけ見るのがオンライン継続学習(Online CL)であり、タスク単位で複数エポックを許すのがオフライン(バッチ)継続学習となる。さらに、タスク境界(task boundary)すら明示されず分布が徐々に変化するタスク非明示(task-free)継続学習は、最も現実的でありながら最も難しい設定であり、自動運転・ストリーミング推薦のように「いつタスクが変わったのか」をモデル自身が検知しなければならない状況に該当する。
2. 継続学習の基本構造と安定性-可塑性ジレンマ
flowchart LR
subgraph STREAM["非定常データストリーム(時系列)"]
T1["タスク1データ"] --> T2["タスク2データ"] --> T3["タスク3データ"]
end
T1 --> M["単一モデル(パラメータ theta)"]
T2 --> M
T3 --> M
M --> EVAL["累積評価(タスク1~N全体)"]
EVAL --> P["可塑性(Plasticity):新規タスク学習力"]
EVAL --> S["安定性(Stability):既存知識保存力"]
P -. 過度だと .-> F["破滅的忘却"]
S -. 過度だと .-> R["硬直(新タスク学習失敗)"]
継続学習の性能は、相反する二つの能力の均衡で決まる。一つは可塑性(Plasticity)で、新たに入ってきたタスクを十分によく学習する能力である。もう一つは安定性(Stability)で、すでに学んだタスクの性能を維持する能力である。可塑性を最大化しようと重みを自由に更新すると過去の知識が上書きされて忘却が発生し、逆に安定性のために重みを過度に固定すると新しいタスクを学べずモデルが硬直する。これを安定性-可塑性ジレンマ(Stability-Plasticity Dilemma)といい、あらゆる継続学習手法は結局、この天秤のどの地点を選ぶかに関する互いに異なる戦略である。
学習設定は、評価時にタスク識別子(task-id)が提供されるか否かに応じて三つのシナリオに区分する。下表は難易度順にこれを整理したものであり、特にクラス増分(Class-IL)は推論時点でどのタスクか分からず、全クラスを一つの分類器で区別しなければならないため、最も難しく実務に近い。
| シナリオ | タスク境界 | 推論時のtask-id | 例 | 難易度 |
|---|---|---|---|---|
| Task-IL(タスク増分) | 明確 | 提供される | タスクごとに別個の出力ヘッド | 低い |
| Domain-IL(ドメイン増分) | 明確 | 不要(クラス同一) | 照明・天候が変わる自動運転認識 | 中程度 |
| Class-IL(クラス増分) | 明確 | 非提供 | 新規クラスが追加され続ける分類器 | 高い |
たとえば自動運転認識モデルが昼間映像のみで学習された後、夜間・雨天映像を逐次学習する状況はDomain-ILに該当し、製造ラインで新規の不良タイプが月単位で追加される外観検査モデルはClass-ILに該当する。同じアルゴリズムでもシナリオによって性能差が大きく開くため、ベンチマーク比較時はどのシナリオかを必ず明示しなければならない。
理想的な継続学習アルゴリズムが備えるべき性質も明確である。第一は有限メモリ(bounded memory)で、タスク数が増えても保存領域が無限に大きくなってはならない。第二はタスク境界非依存で、いつタスクが変わるか明示されなくても動作しなければならない。第三はステップあたり定数時間/計算で、更新コストが累積タスク数に比例して急増してはならない。現実の手法はこの三つの性質のうち一部を犠牲にして均衡を取るが、PNNはメモリを、リハーサルはタスク境界非依存を、全再学習は定数時間を手放す形である。したがって「完璧な」継続学習はまだなく、運用制約に合わせて何を譲るかを決める工学的判断が求められる。
3. 継続学習手法の分類
flowchart TB
CL["継続学習手法"] --> REG["正則化ベース(Regularization)"]
CL --> REP["リハーサルベース(Rehearsal/Replay)"]
CL --> ARC["構造ベース(Architecture)"]
REG --> EWC["EWC:重要な重みの変化を抑制"]
REG --> LWF["LwF:知識蒸留で出力を保存"]
REP --> ER["経験再生:過去サンプルのバッファ"]
REP --> GEN["生成再生:GAN/VAEで過去を復元"]
ARC --> PNN["Progressive Net:タスクごとに列(column)を拡張"]
ARC --> PET["プロンプト/アダプタ:少数パラメータのみ追加"]
継続学習手法は、忘却を抑制する方法に応じて大きく三系列に分かれる。各系列は安定性-可塑性ジレンマを解く観点が異なり、実務では二~三系列を組み合わせたハイブリッドが一般的である。正則化は「重要な重みをあまり動かさない」ことで安定性を確保し、リハーサルは「過去を繰り返し復習する」ことで安定性を確保し、構造ベースは「タスクごとにパラメータを分離する」ことで干渉そのものを除去する。いずれの方式もタダではなく、それぞれ損失設計・保存領域・モデル容量というコストを支払う。
A. 正則化ベース(Regularization-based)
正則化ベースの手法は、過去のタスクに重要だったパラメータほど変化をより強く抑制する損失項を追加する。過去データを保存しないためメモリ効率が高く、プライバシーの面でも安全である。代表的手法であるEWC(Elastic Weight Consolidation, Kirkpatrick 2017)は、パラメータの重要度をフィッシャー情報行列(Fisher Information Matrix)で推定し、重要な重みが以前の最適値から離れる際に二次ペナルティを課す。直感的には各重みに「ばね(弾性)」を付け、重要なものほど固く引き留めておくわけである。
もう一つの軸は知識蒸留(distillation)を活用するLwF(Learning without Forgetting)で、新しいデータを過去モデルに通した出力(soft target)を教師とし、新規モデルが過去の入出力関係を維持するよう制約する。パラメータ重要度を推定する方式には変種が多く、EWCがフィッシャー情報で重要度を測るのに対し、SI(Synaptic Intelligence)は学習経路全体で各重みが損失に寄与した累積量をオンラインで追跡し、MAS(Memory Aware Synapses)は出力関数の感度(勾配の大きさ)で重要度を教師なしに推定する。このように「何を重要とみなすか」の定義が手法を分ける。
正則化手法は実装が単純で保存負担がないが、タスク数が多くなると異なるタスクが要求するペナルティが衝突して性能が次第に低下し、重要度推定が不正確だと保存と学習の両方が失敗する限界がある。近年の研究では、事前学習モデルを活用する場合、複雑なEWCより単純なL2正則化が優れるという報告もあり、手法選択は事前学習の有無とデータ特性に大きく依存する。したがって正則化は単独で使うより小規模なリハーサルと組み合わせて補完的に運用する場合が多い。
B. リハーサルベース(Rehearsal/Replay)
リハーサルベースの手法は、過去データの一部を小型のメモリバッファに保存しておき、新しいタスク学習時に新規データとともに混ぜて(interleave)再学習する。人間が復習で記憶を維持するのに似た発想であり、三系列のうち平均的に最も安定した性能を出すと知られている。バッファが小さいときはどのサンプルを残すかが鍵となるため、クラス平均に近い代表サンプルを選ぶiCaRLのハーディング(herding)、ランダム一様置換を保証するリザーバサンプリング(Reservoir Sampling)などが使われる。
単に過去サンプルを混ぜて再学習するにとどまらず、勾配レベルで忘却を抑制する系列もある。GEM/A-GEM(Gradient Episodic Memory)は、バッファサンプルの損失が増加しない方向にのみ新規タスクの勾配を投影(projection)し、過去性能を保証する制約最適化を行う。DER(Dark Experience Replay)は、過去サンプルのラベルだけでなく当時のロジット(logit)まで保存して蒸留損失として活用することで、少ないバッファでも安定性を高める。
原本を保存できない環境では生成再生(Generative Replay)を用いる。GAN・VAEのような生成モデルで過去分布の類似サンプル(pseudo-sample)を作り、復習データとして活用する方式である。リハーサルは効果が確実な代わりに、過去原本を保管するためプライバシー・著作権侵害リスクとバッファメモリ・再学習計算コストが伴うトレードオフがある。たとえばクラスあたり20個のサンプルだけ保存しても、1,000クラスなら2万枚の画像を常時保管せねばならず、規制産業ではこの保管自体が制約となる。また生成再生は、生成モデル自体が分布を不正確に復元すると「忘却を復習で蘇らせるのではなく歪んだ記憶を学習する」危険があり、生成品質が全体性能の上限を決める。
C. 構造ベース(Architecture/Parameter Isolation)
構造ベースの手法は、タスクごとに専用パラメータを分離・割当して物理的に干渉を遮断する。PNN(Progressive Neural Networks)は、タスクが追加されるたびに新しいニューラルネット列(column)を付け足し、過去の列は凍結(freeze)して忘却を根本から遮断するが、タスク数に比例してモデルが大きくなる欠点がある。PackNetは枝刈り(pruning)で余るニューロンを新規タスクに再利用して容量増加を抑える。
容量増加と忘却抑制を同時に狙う折衷案として、タスクごとにどのニューロンを活性化するかを学習されたマスク(mask)で制御するHAT(Hard Attention to the Task)や、必要なときだけニューラルネットを動的に拡張・枝刈りするDEN(Dynamically Expandable Network)がある。これらはPNNのように無条件に列を増やす代わりに、新規タスクが既存容量で十分か判断して選択的にのみ拡張する。
近年の巨大モデル時代には、本体を凍結し、プロンプト(prompt)やアダプタ(adapter)・LoRAのような少数パラメータのみをタスクごとに追加する方式が脚光を浴びている。全重みに手を触れないため忘却が本質的に緩和され、タスクあたりの追加コストが数MB水準と小さい。L2P(Learning to Prompt)のようにタスクに合うプロンプトを自動選択する手法が代表的であり、これは事前学習済み巨大モデルを破棄せずに継続拡張しようとする実務要求とよく合致し、急速に広がっている。ただしタスクが多くなると、タスクごとのプロンプト・アダプタをどう選択・ルーティングするかが新たな課題となり、誤った選択は干渉を再び招くため、ルーティング精度が鍵となる。
4. 評価指標と手法比較
継続学習は単一の精度で評価できず、学習をすべて終えた後に過去タスクまで含めた平均精度(ACC)と、過去性能がどれだけ下がったかを測る後方転移(Backward Transfer, BWT、忘却度)をあわせて見る。BWTが負で大きいほど忘却が激しく、新しいタスクが過去性能をむしろ高めれば正になる。新規タスク学習が既存知識のおかげで速くなる度合いは前方転移(Forward Transfer, FWT)で測定する。
すなわち良い継続学習モデルは、ACCが高く、BWTの負の幅が小さく(忘却が少ない)、FWTが正である状態を志向する。三つの指標はしばしば相反するため、サービス目標に応じてどの指標に重みを置くかを先に合意することが手法選択に先行すべきである。たとえば規制対応型モデルは過去タスク性能の低下を厳格に制限せねばならないため、BWTを最優先の制約とする。
| 系列 | 忘却抑制 | メモリ・計算 | プライバシー | 拡張性 |
|---|---|---|---|---|
| 正則化(EWC·LwF) | 中程度 | 非常に低い | 安全(原本非保管) | タスクが多いと低下 |
| リハーサル(ER·iCaRL) | 高い | バッファ・再学習コスト | 危険(原本保管) | 良好 |
| 構造(PNN·アダプタ) | 非常に高い | パラメータ増加 | 安全 | タスク数増加の負担 |
具体的な数値例として、Split-CIFAR-100(100クラスを10タスクに分割)では、何の対策もなく逐次学習(naive fine-tuning)すると最後のタスクだけよく当て、平均精度が20%台に崩壊する一方、小さなリハーサルバッファ(クラスあたり数十枚)を加えると平均精度が50~60%台に回復し、BWT(忘却度)の負の幅が大きく減る様相が一般的に報告される。代表的ベンチマークとしてはSplit-MNIST、Split-CIFAR-10/100、逐次物体認識用のCORe50、大規模設定のImageNet系列が使われ、シナリオ(Task/Domain/Class-IL)とバッファサイズを制御した公正な比較が必須である。
三系列の差は結局「何を資源として使うか」で分かれる。正則化は追加保存なしに損失項だけ使うため最も軽いが保存力が弱く、リハーサルは過去データを資源として使い強力だが保存・規制負担が大きく、構造ベースは追加パラメータを資源として使い干渉を防ぐがモデルが肥大化する。したがって規制が厳格な金融・医療は正則化・生成再生を、データ保管が自由な内部サービスはリハーサルを、巨大モデル運用環境はアダプタ・プロンプト方式を優先的に検討するのが合理的である。
継続学習は類似した複数の学習パラダイムと混同されやすいため、境界を明確にする必要がある。下表はデータ到着方式と目標の違いでこれらを区分したものである。核心は、継続学習だけが「データが逐次的に来て、過去アクセスが制限され、過去を忘れてはならない」という三条件を同時に要求する点である。
| パラダイム | データ到着 | 過去データ | 主目標 |
|---|---|---|---|
| 多タスク学習(Multi-task) | 同時 | すべてアクセス | 複数タスクの同時最適化 |
| 転移学習(Transfer) | 逐次(1回) | アクセス可能 | ソース→ターゲット性能向上 |
| オンライン学習(Online) | 逐次(ストリーム) | 非保管 | 即時適応(忘却は非焦点) |
| 継続学習(Continual) | 逐次(非定常) | 限定的 | 適応 + 過去保存 |
転移学習が「過去を足がかりに新しいタスクさえうまくやればよい」のに対し、継続学習は足がかりとなった過去タスクの性能まで維持せねばならない点でより厳格である。またオンライン学習は最新分布に素早く適応することに集中し忘却を積極的に防がないが、継続学習は適応と保存を同時に要求する。この区分を混同すると、問題に合わない手法を選んで失敗しやすい。
5. 深化:実務適用事例とLLM継続学習の動向
継続学習はもはや学術的概念にとどまらず、データが絶えず変化する産業現場でMLOpsのモデル更新戦略として具体化されている。推薦システムではユーザー嗜好と商品カタログが毎日変わるため、全再学習の代わりに増分学習を適用して更新コストを減らし、金融の異常取引検知では新種の詐欺パターンをリハーサルバッファで復習させ、過去タイプの検知力を維持する。製造外観検査は新規不良クラスが継続追加される典型的なClass-IL問題であり、iCaRL系の代表サンプル保管が広く使われる。
評価そのものの落とし穴も実務で重要である。学習直後には過去タスク性能が一時的に急落してから徐々に回復する安定性ギャップ(stability gap)現象が観察されるため、更新直後のただ一度の測定だけでモデル品質を判断すると性能を過小評価しうる。また最終平均精度(ACC)だけ見ると「新しいタスクはうまいが過去をすべて忘れた」モデルと「全体的に均等に維持した」モデルを区別できないため、必ずBWT(忘却度)・FWT(前方転移)とタスクごとの性能曲線をあわせてモニタリングせねばならない。
音声アシスタント・チャットボットの自然言語理解(NLU)も継続学習が有用な分野である。新しいインテント(intent)や命令が継続的に追加されるが、全再学習なしに新規インテントのみを増分学習しつつ既存インテントの認識率を守らねばならないためである。医療画像診断モデルも、新規病変タイプや新装置で撮影された画像が追加される際、過去データを院外へ持ち出せない規制のもとでモデルを更新せねばならないため、生成再生・正則化系列の継続学習が活発に検討される。このように継続学習の実務需要は「データが止まらず、過去をすべて集められない」ほぼすべての運用AIに共通して存在する。
近年最も活発な領域は巨大言語モデル(LLM)の継続更新である。数千億パラメータのモデルを新知識が生じるたびに最初から再学習するのは数百万ドル規模のコストがかかり非現実的である。これに伴い、①本体を凍結しLoRA・アダプタのみをドメインごとに更新するパラメータ効率的な継続学習、②最新コーパスで引き続き学習しつつ過去能力の低下を防ぐ継続的事前学習(Continual Pre-training)とリプレイの混合、③外部知識をパラメータに入れず検索で注入して忘却自体を回避するRAG([[retrieval-augmented-generation]])結合などが相互補完的に使われる。特にRAGは「モデルを再学習せず知識だけ更新する」ため、継続学習の負担を構造的に軽減する実用的代替案と評価される。2024年前後のサーベイは、事前学習モデルを出発点とする場合に単純な手法が意外に強力であり、リハーサル系列が難しいシナリオで依然として優位であることを共通して報告する。
まとめると、実務のLLM運用では「何をどこに収めるか」を階層的に分ける設計が望ましい。すなわち、頻繁に変わる事実知識はRAGの外部ストアに、ドメインの口調・様式のようなスタイルはアダプタ・LoRAに、根本的な能力向上は慎重な継続的事前学習に分離し、各階層の更新周期とコスト・リスクを独立に管理する方式が広がっている。
6. 考慮事項および示唆点
継続学習の導入は単なるアルゴリズム選択ではなく、データガバナンス・インフラ・運用ポリシーをともに設計する問題であり、技術士の観点から次を総合的に考慮せねばならない。
- シナリオ整合性: まず解決する問題がTask-ILかClass-ILかを明確に規定せねばならない。推論時にタスク識別子がないClass-ILをTask-IL仮定の手法で扱うと、実際のサービスで性能が急落する。ベンチマーク数値は必ず同一シナリオ同士で比較する。
- プライバシー・規制トレードオフ: リハーサルは性能が優れるが、過去原本の保管がGDPR・個人情報保護法の保有期間・削除権と衝突しうる。規制産業では生成再生・正則化・アダプタなど原本を残さない系列を優先し、保管が不可避なら仮名化・保管期間ポリシーをあわせて策定する。
- コスト-性能均衡と再学習戦略: 忘却防止と全再学習の間で損益分岐を算定せねばならない。データドリフト監視([[model-drift-monitoring]])で性能低下を検知し、増分更新 → 周期的な全再学習を併用するハイブリッドが現実的であり、バッファ・追加パラメータの保存コストをTCOに反映する。
- 運用・検証体系(MLOps): 新規タスク学習後も過去タスク性能が閾値以下に落ちないか、累積評価(ACC·BWT)をCIに含め、更新モデルはシャドー・カナリア配備で回帰を遮断する。モデルレジストリ([[ml-model-registry]])でバージョン・データ系譜を追跡し、ロールバック可能性を確保する。
- 評価自動化と再現性: 安定性ギャップのため更新直後の単発測定は品質を歪めるので、一定区間にわたるACC·BWTの趨勢を自動集計し、シナリオ・バッファサイズなど実験条件をメタデータとして固定して再現性を確保せねばならない。さもなくば手法間の比較自体が信頼を失う。
- 展望および連携技術: 継続学習はオンデバイスAI([[on-device-ai]])の個人化学習、基盤モデルの継続拡張、マルチモーダル継続学習へと拡張している。長期的にはRAG・知識グラフのような外部記憶(external memory)と結合し、パラメータ更新の負担を減らしつつ知識を継続蓄積する方向が有力である。また複数系列を結合したハイブリッド(例:小規模リハーサル + アダプタ)が事実上の実務標準となる趨勢であり、単一手法に固執するより制約条件に合わせた組合せ設計が望ましい。
参考資料
- A Comprehensive Survey of Continual Learning: Theory, Method and Application (arXiv 2302.00487): https://arxiv.org/pdf/2302.00487
- A Closer Look at Rehearsal-Free Continual Learning (Smith et al., 2022): https://par.nsf.gov/servlets/purl/10489407
- Incremental Learning Methodologies for Addressing Catastrophic Forgetting (JAIR, 2025): https://mlanthology.org/jair/2025/serraperello2025jair-incremental
一言まとめ: 継続学習は非定常データストリームを逐次学習しながら破滅的忘却を防ぐパラダイムであり、安定性-可塑性ジレンマを正則化・リハーサル・構造ベース戦略で折衷し、LLM時代にはアダプタ・継続的事前学習・RAGと結合してモデルを破棄せずに継続拡張する中核技術である。