社内にローカルLLMを入れてはみたものの、「で、どのモデルを使えばいいの？」と迷っていませんか。
当社のAIワークステーション『GX10』には、Googleの『Gemma 4』とAlibabaの『Qwen 3.6』が同居しています。性格のかなり違うこの2モデルを、同じマシン・同じ条件で、業務でいちばん効く3つの軸――日本語・PDF文書認識・速度――で測ってみました。
カタログspec比べではなく、実際に動かして出た数字です。「ローカルで使うなら結局どっち？」の答え合わせにどうぞ。
比較の土俵──同じGX10で、同じ条件で測った
比べたのは gemma4:12b（軽量・約11GB）と qwen3.6:35b（高精度・約29GB）。どちらも日本語・画像（PDF）に対応するモデルです。文書はこちらで用意した「正解つきのテスト文書」を使い、出力を正解と照合して採点しました。
日本語の実力──どちらも自然、でも“クセ”が違う
結論から言うと、普段使いの日本語はどちらも十分に自然です。ただし性格が分かれます。
- Gemma 4：軽快で読みやすい文章。ただし長文や固有名詞で“もっともらしく言い換える”クセがあり、たとえば社名や「税込／税抜」がさらっと書き換わることがありました。流暢なだけに気づきにくいのが要注意ポイントです。
- Qwen 3.6：固有名詞や数字に強く、逐語の正確性が高い。お堅い文書ほど安心感があります。
ここが分かれ目： 速くて気持ちいいのがGemma、几帳面で正確なのがQwen。重要な文書ほどQwen、量をさばくならGemmaが向きます。
PDF文書認識──“正確さのQwen、速さのGemma”
請求書・帳票・集計表などを画像として読ませ、テキスト化の精度を比べました。
| 文書タイプ | Gemma 4（12b） | Qwen 3.6（35b） |
|---|---|---|
| 請求書（金額・項目） | 86% | 92% |
| 集計表（数値の表） | 約99% | 約99% |
| 縦書き文書 | 33%（不安定） | 100% |
| 1ページの処理時間 | 約15秒 | 約6分 |
数字や表はどちらも優秀。差が出たのは“難所”です。正確性はQwenが上（とくに縦書きはGemmaがほぼ読めず、Qwenは完璧）。一方で速度はGemmaが桁違いに速く、Qwenは1ページ6分と、大量処理には向きません。
速度とメモリ──“軽さ”のGemma、“質”のQwen
面白いことに、速度は使う場面で逆転します。
- 文章の生成：実はQwenの方が速い（内部が“専門家を切り替えるMoE方式”のため、サイズの割に軽快）。
- 画像（PDF）の処理：Gemmaが圧勝（前述のとおり15秒 vs 6分）。
- メモリ：Gemmaは約11GB、Qwenは約29GB。軽さ・同時起動のしやすさはGemma。
結局どっち？──用途で使い分けるのが正解
| こんな時は | おすすめ |
|---|---|
| チャット・要約・大量処理・とにかく速く | Gemma 4（12b） |
| 契約書・縦書き・固有名詞・正確さ最優先 | Qwen 3.6（35b） |
| 両取り | Gemmaで一次処理 → 重要箇所だけQwenで確認 |
まとめ──“1つに絞らない”のがローカルの強み
クラウドのAPIと違い、ローカルなら複数モデルを入れて使い分けるのも自由です。今回の結論はシンプルでした。
- 速さ・気軽さのGemma 4
- 正確さ・几帳面さのQwen 3.6
- 数字・表はどちらも実用レベル。ただし重要文書は最終確認を
『GX10』はメモリに余裕があるので、両方入れて「今日の仕事に合う方」を選ぶのがいちばん賢い使い方です。まずは同じ資料を2つのモデルに読ませて、あなたの業務での“相性”を確かめてみてください。
次回は「ローカルで作るインタラクティブ音声AI」をお届け予定です。
