AIの蒸留とは？小さいモデルが賢い理由と自分のPCで動く目安を解説

AIの蒸留とは、大きなAIが持っている知識を、小さなAIへ教え移す手法のことです。お酒や化学の話に聞こえますが、いま家庭のパソコンで動かせるAIの多くは、この蒸留で作られています。

気になり始めるきっかけは、たいていモデル名です。たとえば DeepSeek-R1-Distill-Qwen-7B。DeepSeekなのかQwenなのか、7Bとは何を指すのか、初めて見ると読み方が分かりません。

この記事では、蒸留の意味と、モデル名の読み方、そして「その蒸留版は結局、自分のPCに入るのか」までを公式資料をたどって整理します。数値はすべて2026年8月21日に確認したものです。

AIの蒸留とは？大きいAIが小さいAIに教える仕組み

AIの蒸留とは、すでに賢い大きなモデルに問題を解かせ、その出力を教材にして小さなモデルを学習させる手法です。OpenAIの開発者向けドキュメントも、小さなモデル用の学習データを作る方法として「大きなモデルの結果を蒸留して学習データを作る」と説明しています（2026年8月21日確認）。

教える側を教師モデル、教わる側を生徒モデルと呼びます。Hugging Faceで公開されているDistilBERTの公式モデルカードにも「BERT baseを教師として学習させた」と書かれていて、この呼び方がそのまま使われています。

イメージとしては、ベテランが新人に、答えだけでなく解き方のメモごと渡すような手法です。正解だけを覚えさせるのではなく、大きなモデルが実際に出した答え方そのものを教材にします。

ただし同じドキュメントは、これで小さなモデルが特定のタスクについて大きく高価なモデルと同じように動かせる、と限定して書いています。何をやらせても互角になる、という意味ではありません。

よくある疑問：Distillって何の略なの？

英語の distillation、つまり蒸留です。呼び名の出どころは、2015年3月9日にarXivへ投稿されたGeoffrey Hinton・Oriol Vinyals・Jeff Deanの論文「Distilling the Knowledge in a Neural Network」だとされています。

この論文の出発点は、複数のモデルが持つ知識を、配備しやすい1つのモデルへ圧縮できるという先行研究の発想でした。それを別の圧縮のやり方で発展させたのがこの論文で、いまの使われ方もその延長線上にあります。

「DeepSeek-R1-Distill-Qwen-7B」の読み方｜Distillの後ろが「土台」

蒸留をいちばん実感しやすいのが、モデル名です。結論から言うと、DeepSeek-R1-Distill-Qwen-7B は「先生の名前 ＋ Distill ＋ 土台になったモデルとサイズ」という並びで読みます。

つまり中身はQwenの7Bモデルであって、DeepSeek-R1そのものではありません。DeepSeekの公式モデルカードにも、蒸留版は「オープンソースのモデルをもとに、DeepSeek-R1が生成したサンプルで学習させたもの」と書かれています。

蒸留モデル名	ベースになったモデル
DeepSeek-R1-Distill-Qwen-1.5B	Qwen2.5-Math-1.5B
DeepSeek-R1-Distill-Qwen-7B	Qwen2.5-Math-7B
DeepSeek-R1-Distill-Llama-8B	Llama-3.1-8B
DeepSeek-R1-Distill-Qwen-14B	Qwen2.5-14B
DeepSeek-R1-Distill-Qwen-32B	Qwen2.5-32B
DeepSeek-R1-Distill-Llama-70B	Llama-3.3-70B-Instruct

公式モデルカードの対応表（2026年8月21日確認）を見ると、名前の後半に来ているQwenやLlamaが土台＝ベースモデル（＝出発点になる学習済みのモデル）だと分かります。

よくある疑問：7Bって書いてあるのに、なんでDeepSeekなの？

先生の名前が先に来ているからです。名前の頭は「誰に教わったか」、後ろは「実際に動くモデルの正体」と読み替えると、混乱しなくなります。

ちなみに本家のDeepSeek-R1は、同じモデルカードによると総パラメータ671B・アクティブ37Bという構成。この「総とアクティブ」の読み方はAIモデルの「26B-A4B」表記の意味で詳しく整理しています。

ライセンスも二重に見る必要があります。蒸留モデル自体はMITライセンスですが、Qwen系はApache 2.0、Llama系はllama3.1・llama3.3の各ライセンスに由来すると公式に明記されています。土台側の条件も一緒に確認しておくのが安全です。

小さいのになぜ賢い？公式が出している実例

蒸留の効果を最初に広く知らせたのがDistilBERTです。論文「DistilBERT, a distilled version of BERT」（2019年10月2日投稿）の要旨には、BERTのサイズを40%減らし、言語理解能力の97%を保ったまま60%高速になった、と書かれています。

気をつけたいのは、これがDistilBERTという特定のモデルについての数字だという点。蒸留すれば必ず97%残る、という一般的な法則ではありません。

もっと新しい例が、DeepSeek-R1-0528-Qwen3-8B。公式モデルカードは「DeepSeek-R1-0528の思考の道筋（chain-of-thought）を蒸留して、Qwen3 8B Baseを事後学習させた」と説明しています。

そのうえで公式は、数学コンテストAIME 2024でオープンソースのモデル中で最高性能を達成し、Qwen3 8Bを10.0ポイント上回り、Qwen3-235B-thinkingに並ぶと説明しています。スコアは86.0、Qwen3-8Bが76.0、Qwen3-235B-A22Bが85.7です。

ただしこれは数学の問題を解く、たったひとつの指標での比較。8Bのモデルが235Bのモデルと同じ賢さになった、という話ではありません。

日本語のモデルにも例があります。Sakana AIが2025年1月30日に公開したTinySwallow-1.5Bは、TAIDという知識蒸留の手法で32BのLLMから1.5Bへ知識を移したモデル。公式の表現では約1/20の大きさです。

公式ページは、1.5Bパラメータのモデルとして最高性能の日本語小規模言語モデルだと説明しています（2025年1月30日時点の同社の説明）。公式モデルカードによれば教師はQwen2.5-32B-Instructです。

小さくなると、動かせる場所も広がります。同社は、TinySwallow-1.5Bならスマートフォンなどのエッジデバイス上でも、オフラインで言語モデルを利用できると説明しています。

蒸留モデル	教師（元になったモデル）	公式が示している効果
DistilBERT	BERT base	サイズ40%減・言語理解能力の97%維持・60%高速
DeepSeek-R1-0528-Qwen3-8B	DeepSeek-R1-0528	AIME 2024で86.0（Qwen3-8Bは76.0）
TinySwallow-1.5B	Qwen2.5-32B-Instruct	約1/20のサイズ・完全オフラインでの会話も可能

とはいえ、生徒が先生を全面的に超えるわけではありません。OpenAIの説明も「特定のタスクについて」と限定していますし、教師が苦手なことは生徒にもそのまま引き継がれます。

量子化・MoEとの違い｜AIを小さくする3つの方法

AIを小さく軽くする方法は、蒸留だけではありません。よく混同されるのが量子化とMoEですが、この3つは減らしている場所がそれぞれ違います。

方法	何を小さくするか	できあがるもの	メモリへの効果
量子化	重み1個1個の精度	同じモデルのまま	減る
MoE	一度に使う重みの数	同じモデルのまま	減らない
蒸留	モデルそのもの	別の小さいモデル	小さいモデル分で済む

量子化は、モデルの中身は変えずに数値の細かさを落として容量を下げる方法です。仕組みは量子化とは？4bitで軽くなる仕組みにまとめてあります。

MoEは、たくさんの専門家のうち一部だけを動かす設計。速度には関係しますが、どれが選ばれるか事前に分からない以上、使わない分もメモリに置いておく必要があるためメモリは減りません。

蒸留だけは、できあがるものが別のモデルです。小さいモデルそのものを新しく作り直すので、必要なメモリも小さいモデルの分だけで済みます。

軽量化の方法にはもう一つ、剪定（プルーニング）もあります。学習済みのモデルから重要度の低い部分を削り取る考え方で、元のモデルを削るのか、別の小さいモデルを作り直すのかという点で蒸留とは方向が違います。

よくある疑問：ファインチューニングとは何が違うの？

順番で整理すると分かりやすいです。蒸留は「大きなモデルの出力から教材データを作る」ところが本体で、その教材で小さなモデルを学習させる工程がファインチューニング（＝既存のモデルに追加学習させること）にあたります。

OpenAIが示している流れも、大きいモデルの出力を集めて基準を満たすものからデータセットを作り、小さいモデルをそれで学習させる、という順番です。

逆に言えば、ふつうのファインチューニングは人間が用意した正解データを使うのに対し、蒸留は教材そのものを大きなモデルに作らせている、という違いになります。

自分のPCで動かすなら？ダウンロードサイズで見る目安

ここからがPCコンパスらしい話です。蒸留版は小さいモデルなので、家庭のPCでも扱える大きさに収まります。配布ページに並んでいる実際のサイズを見てみましょう。

タグ	ダウンロードサイズ	中身
latest（指定なし）	5.2GB	Qwen3 8Bベースの蒸留版
1.5b	1.1GB	Qwen系の蒸留版
7b	4.7GB	Qwen系の蒸留版
14b	9.0GB	Qwen系の蒸留版
32b	20GB	Qwen系の蒸留版
70b	43GB	Llama系の蒸留版
671b	404GB	本家（蒸留版ではない）

Ollamaの配布ページで2026年8月21日に確認した値です。大事なのは一番上の行。何も指定せずに落ちてくるのは5.2GBで、中身はQwen3 8Bをベースにした蒸留版です。

一方、本家の671B版は404GB。家庭のPCに載る大きさではありません。「DeepSeek-R1を自分のPCで動かした」という話の多くは、実際には蒸留版のことだと考えて差し支えありません。

同じ蒸留版でも、量子化の度合いによってサイズは変わります。7Bの蒸留版なら4.7GB・8.1GB・15GBの3種類が並んでいるので、量子化の記事とあわせて見ると選びやすくなります。

ダウンロードサイズと、必要なVRAMの容量は同じではありません。

VRAM（＝グラフィックボードが持つ専用のメモリ）には、モデル本体のほかに会話のぶんの作業領域も必要になります。モデル別の目安はローカルLLMに必要なVRAMとGPUの選び方で確認してください。

PC選びに引き直すと、大きいモデルを丸ごと載せるためにVRAMを追いかけるのではなく、小さくても賢い蒸留版を選ぶという手があります。実際に動かす手順はローカルLLMとは？自分のPCでAIを動かす方法が入口になります。

＼小さなAIも快適に動かすGPU搭載機／

まとめ

• 蒸留＝大きなモデルの出力を教材にして、小さなモデルを学習させる手法
• モデル名は「先生の名前 ＋ Distill ＋ 土台のモデルとサイズ」の順に読む
• 公式の実例＝DistilBERTはサイズ40%減で言語理解能力の97%を維持、8Bの蒸留版がAIME 2024で86.0
• 3つの軽量化＝量子化は精度、MoEは使う数、蒸留はモデルそのものを小さくする
• 配布サイズ＝指定なしで5.2GB、本家671B版は404GB（2026年8月21日時点）

蒸留を知っていると、モデル名を見ただけで「これは小さいほうだな」と当たりが付けられるようになります。名前の長さに驚かなくてよくなるのは、それだけで大きな前進です。

次にAIを動かすPCを考えるときは、載せたいモデルの配布サイズをまず見て、そのうえでVRAMの余裕を足して考える——という順番がおすすめです。

蒸留とファインチューニングは何が違うのですか？

蒸留は「大きなモデルの出力から教材データを作る」ところが本体で、その教材を使って小さなモデルを学習させる工程がファインチューニングにあたります。対立する2つの手法ではありません。

OpenAIの開発者向けドキュメントでも、大きなモデルの出力を集めてデータセットを作り、小さなモデルをそれで学習させる、という流れとして説明されています（2026年8月21日確認）。

DeepSeek-R1-Distill-Qwen-7B は本家のDeepSeek-R1と同じものですか？

違います。土台になっているのはQwen2.5-Math-7Bで、DeepSeek-R1はあくまで教師として使われたモデルです。公式モデルカードにも、蒸留版はオープンソースのモデルをもとに学習させたと書かれています。

本家のDeepSeek-R1は総パラメータ671B。配布ページでも404GBあり、家庭のPCで動かす対象にはなりません。

蒸留したモデルは、元の大きいモデルより賢いのですか？

特定の指標で並ぶ例はあります。DeepSeek-R1-0528-Qwen3-8Bは、数学コンテストAIME 2024で86.0を記録し、Qwen3-235B-A22Bの85.7と並ぶと公式が説明しています。

ただしこれは数学の問題を解く1つの指標での比較です。OpenAIの説明も「特定のタスクについて」と限定しており、全般的に上回るという意味ではありません。

4.7GBのモデルなら、VRAM 4.7GBのグラフィックボードで動きますか？

ダウンロードサイズと必要なVRAMは同じではありません。モデル本体のほかに、会話の長さに応じた作業領域が別に必要になるためです。

モデル別の目安と、どのGPUを選べばよいかはローカルLLMに必要なVRAMとGPUの選び方にまとめています。

関連記事