MoEとは？AIモデルの「26B-A4B」表記の意味を初心者向けに解説

Q: 「26B-A4B」の26Bと4B、グラフィックボードを選ぶときはどちらを見ればいいですか？

26Bのほう、つまり前半の総パラメータを見てください。 アクティブパラメータは速度の目安であって、メモリの目安ではありません。 実際にGoogle公式のメモリ要件では、Gemma 4 26B A4Bは4bit相当で14.4GBとされています（2026年8月20日時点）。密の12Bが6.7GBですから、倍以上の開きがあります。

2026年8月20日

当ページのリンクには広告が含まれています。

MoEとは、AIモデルの中に「エキスパート」と呼ばれる担当を複数（モデルによっては数百個）用意しておき、そのうちごく一部だけを動かす仕組みのことです。最近のモデル名に見かける「26B-A4B」「2.4T-A95B」という不思議な表記も、このMoEから来ています。

つまずきやすいのが、「Aのあとの数字だけを見て、4Bぶんしか動かないなら自分のパソコンでも軽いはず」と考えてしまうところです。実際に必要なメモリは、その数倍にふくらみます。

この記事では、MoEの仕組みとモデル名の読み方を、Google・Mistral AI・OpenAIが公開している公式の数値だけで整理します。数値はすべて2026年8月20日時点に公式ページで確認したものです。

この記事の結論

MoEは「速さ」を稼ぐ仕組みで、必要なメモリはほとんど減りません。

「A◯B」の数字＝1トークンあたり実際に動くアクティブパラメータの数
速さはアクティブぶん、メモリは総パラメータぶん。Gemma 4の26B A4Bは4bit相当で14.4GBと、密の12B（6.7GB）の倍以上
グラフィックボードを選ぶときに見るのは、名前の前半にある総パラメータ側

MoE（Mixture of Experts）とは？必要な担当だけを動かす仕組み

中央の分岐路から複数の窓口へ光が伸び、そのうち1〜2本だけが明るく点灯しているイメージ

MoEとは、モデルの内部に複数の小さなニューラルネットワーク（エキスパート）を並べておき、入力に応じてその一部だけを使う設計のことです。正式にはMixture of Experts（混合エキスパート）といいます。

Hugging Faceの公式ブログ「Mixture of Experts Explained」によると、MoEは2つの部品でできています。1つ目が「Sparse MoE層」で、通常のモデルにある密なフィードフォワード層を置き換える形で組み込まれます。

つまり「専門家」の正体は、この層の中に並ぶ複数の小さなネットワークです。人間のように「この人は法律担当」と決められているのではなく、学習の過程で自然に役割が分かれていきます。

2つ目がルーター（＝どの入力をどのエキスパートに渡すか決める振り分け役）です。同ブログはこれを「どのトークンをどのエキスパートへ送るかを決めるゲートネットワーク、またはルーター」と説明しています。

トークン（＝AIが文章を細かく区切って処理する単位）ごとに、ルーターが担当を選び直します。考え方はAIのトークンとは？料金が決まる仕組みでも解説しています。

イメージは大きな総合病院の受付が近いかもしれません。院内に何科あっても、来た人が全部を回ることはありませんよね。症状を聞いた受付が合う科へ案内する——ルーターはこの受付役です。

注目される理由も、この「一部だけ動かす」性質にあります。同ブログは、MoEは密なモデルよりはるかに速く事前学習でき、より少ない計算資源で学習できると説明。同じ予算でモデルを大きくできるのが開発側の旨みです。

「モデルは大きくしたい、でも計算コストは抑えたい」という両立しにくい願いへの答えがMoE、と考えると腑に落ちます。

「26B-A4B」「2.4T-A95B」の読み方｜Aはアクティブパラメータ

大きな半透明の球の中に多数の小さな発光キューブが詰まり、ごく一部だけが光っているイメージ

よくある疑問：「8x7B」って、8×7で56Bのことじゃないの？

モデル名の「A」のあとの数字は、1トークンを処理するときに実際に動くパラメータの数（アクティブパラメータ）を表します。前半が総パラメータ、後半が実働ぶん、という読み方です。

いちばんはっきりしているのがQwen3.8-2.4T-A95Bの公式モデルカードです。スペック表には「Number of Parameters: 2.4T in total and 95B activated」とあります。総2.4Tのうち動くのは95Bで、名前の「A95B」がそのまま対応しています。

同じ表のエキスパート数は「512」、動くのは「10 Routed + 1 Shared」。512個のエキスパートのうちルーターが選ぶのは10個で、これに常時動く共有1個が加わります。なお公式リポジトリの更新履歴によれば、公開は2026年8月12日、密モデルのQwen3.8-27Bは同8月14日でした。

「8x7B」というかけ算風の表記は、Mistral AIのMixtral 8x7B発表が有名です。同社は「各層・各トークンごとに、ルーターがこれらのグループから2つを選んで処理し、出力を足し合わせる」と説明。総パラメータは46.7B、1トークンあたりに使うのは12.9Bです。

つまり8×7＝56Bにはなりません。エキスパート以外の部分は全体で共有するため、単純なかけ算にならないのです。名前は構造の目安で、正確な合計ではありません。

このズレは新しいモデルでも起きています。GoogleのGemma 4 26B A4Bモデルカードでは、総パラメータ「25.2B」、アクティブ「3.8B」と記載されています。名前の「26B」「A4B」は、実測値をきりのよい数字に丸めた呼び名ということです。

モデル名	総パラメータ	アクティブ（1トークンあたり）	公式の記載
Mixtral 8x7B	46.7B	12.9B	Mistral AI「46.7B total parameters」「only uses 12.9B parameters per token」
Gemma 4 26B A4B	25.2B	3.8B	Googleモデルカード（エキスパートは128個中8個＋共有1個）
Qwen3.8-2.4T-A95B	2.4T	95B	Qwen公式「2.4T in total and 95B activated」

※2026年8月20日時点の各公式ページの記載。構成は更新されることがあるため、最新は公式のモデルカードで確認を。

Qwen3.8-27Bのように「A◯B」が付かない名前のモデルもあります。MoEのモデルには「A◯B」を添える表記が使われている、と読んでおくと迷いません。Qwen3.8-Maxの中身はQwen3.8-Maxとは？性能・料金と自分のPCで動かせるかで扱っています。

MoEは何が速い？「12.9Bのモデルと同じ速度」の意味

速さの説明としてよく引用されるのが、Mistral AIの一文です。同社はMixtral 8x7Bについて「入力の処理も出力の生成も、12.9Bのモデルと同じ速度・同じコストで行う」と述べています。総46.7Bなのに体感は12.9Bクラス、というわけです。

理由はシンプルで、1トークン処理するたびに触る計算量が減るからです。46.7B全部を通さず、選ばれた一部だけを通せば済みます。

読み違えやすいのが比較の相手です。Hugging Faceの解説は「同じパラメータ数の密なモデルと比べて推論がはるかに速い」と書いています。比べているのは「総パラメータが同じ密モデル」で、「アクティブぶんと同じ大きさの密モデル」ではありません。

46.7BのMoEが速いのは「46.7Bの密モデルと比べたら」という話で、もともと12.9Bの密モデルより速くなるわけではありません。大きなモデルの賢さを、小さなモデルの速度で使えるかもしれない——そこがMoEの旨みです。

なお「12.9Bのモデルと同じ速度」は、あくまでMixtral 8x7Bについての同社の説明です。エキスパートの数も割り振り方もモデルごとに違うため、すべてのMoEが同じとは限りません。

落とし穴｜速いのにメモリは総パラメータぶん必要

グラフィックボードの上で小さく速く回る歯車と、場所を占める大きく重い箱が同居しているイメージ

よくある疑問：4Bしか動かないなら、VRAMも4Bぶんで足りるの？

ここがMoE最大の落とし穴です。Hugging Faceの解説は、はっきりこう書いています。「すべてのパラメータをメモリに読み込む必要があるため、メモリ要件は高い」「たとえばMixtral 8x7Bなら、密な47Bのモデルを収められるだけのVRAMが必要になる」。

VRAM（＝グラフィックボードが持つ専用メモリ）で言えば、実働が12.9Bでも置き場所は46.7Bぶん要ります。ルーターがどのエキスパートを選ぶかは事前に分からないので、全員を待機させておくしかありません。

アクティブが4Bでも、必要なメモリは4Bぶんにはなりません。

同じモデルファミリーの公式値で並べると、はっきりします。Google公式のGemmaドキュメントが公開している、おおよそのGPU／TPUメモリ要件です。

モデル	BF16（16bit）	SFP8（8bit）	Q4_0（4bit）
Gemma 4 12B（密）	26.7 GB	13.4 GB	6.7 GB
Gemma 4 26B A4B（MoE）	57.7 GB	28.8 GB	14.4 GB
Gemma 4 31B（密）	69.9 GB	34.9 GB	17.5 GB

4bit相当で見ると、実働3.8BのMoEが14.4GB。密の12B（6.7GB）の倍以上を必要とし、密の31B（17.5GB）に近い位置です。「4Bぶんしか動かないから軽い」という直感は、ここで裏切られます。

同じ傾向は配布ページの実物でも確かめられます。Ollama公式ライブラリのgemma4タグ一覧に並んでいるダウンロードサイズです。

タグ	ダウンロードサイズ
gemma4:12b（密・4bit系）	7.6GB
gemma4:26b（MoE・4bit系）	18GB
gemma4:31b（密・4bit系）	20GB
gemma4:26b-a4b-it-q8_0	28GB
gemma4:26b-a4b-it-bf16	52GB

この2つの表は性質が違う数字です。Googleの表はメモリ要件の見積り、Ollamaの表はファイルのダウンロードサイズで、14.4GBと18GBは同じものを指していません。ただ「26Bは密の12Bの倍以上、密の31Bとほぼ同格」という並び順は共通しています。

ここで量子化とMoEの役割の違いを押さえておくと迷いません。量子化は1個の重みを軽くするのでメモリそのものが減り、MoEは使う重みの数を減らすだけなのでメモリは減りません。

だからこそ両者は組み合わせて使われます。仕組みは量子化とは？AIモデルが4bitで軽くなる仕組みにまとめています。

弱点はメモリだけではありません。Hugging Faceの解説は「MoEは歴史的に、ファインチューニングでの汎化に苦戦してきた」とし、過学習に陥りやすい点も挙げています。

自分のPCで動かすなら？モデル名の「総パラメータ」側を見る

ここまでをPC選びの言葉に翻訳すると、答えは1行です。グラフィックボードを選ぶときに見るのは、モデル名の前半にある総パラメータのほう。「A◯B」は速度の目安であって、置き場所の目安ではありません。

家庭のパソコンで現実的な入口として名前が挙がるのが、OpenAIが公開したgpt-oss-20bです。モデルカードには「21B parameters with 3.6B active parameters」とあり、総21B・アクティブ3.6BのMoEだと分かります。ライセンスはApache 2.0です。

メモリについて同カードは、MoEの重みをMXFP4で量子化したことで「gpt-oss-20bは16GBのメモリに収まって動く」と説明しています。VRAM単体かシステムのメモリ込みかまでは書かれていませんので、「16GBあれば必ず快適」とは受け取らないほうが安全です。

配布サイズも見ておくと感覚がつかめます。Ollama公式のgpt-ossタグ一覧では20bが14GB、120bが65GBです（2026年8月20日時点）。20bならVRAMに余裕のあるパソコンの射程に入ってきます。

よくある疑問：じゃあ、密モデルとMoEはどう使い分ければいいの？

見るポイント	密モデル	MoE
必要なメモリ	パラメータ数どおり	総パラメータぶん（アクティブぶんではない）
名前の読み方	「31B」など1つの数字	「26B-A4B」など総＋アクティブの2つ組
速さの傾向	サイズなりの速さ	同じ総パラメータの密モデルより速い設計
選ぶときの目安	入るサイズを素直に選ぶ	前半の数字でメモリを見積もる