Inkling 2 Miniとは?M1 MaxのMacで速さと正答を測った

gen
gen

@gennnn ・ 49本

サムネイル

Inkling 2 Miniは、Thinking Machines Labが2026年11月20日に公開した、コーディング向けのオープンウェイト(モデル本体のファイルが公開されていて、手元にダウンロードして動かせる)のモデルです。M1 Max・メモリ64GBのMacBook Proで動かすと、バグ修正と制約の多い指示の2課題は計4回とも満点だった一方、返事は毎回1分半〜2分半待ちでした。公式の「32GB以上のMacならOllamaで動く」の裏にある前提と、待つ価値がある使い方を、実測の数字で並べます。

Inkling 2 Miniは、26.4Bのうち3.4Bだけが動くモデル

中には「専門家(expert)」と呼ばれる小さな部品が層ごとに128個あり、1トークン(文字の切れ端のような処理の単位)ごとに8個だけを選んで計算します。この作りをMoE(Mixture of Experts)と呼びます。全体は26.4B(264億パラメータ)でも、1トークンで動くのは3.4Bなので、大きさのわりに軽く回せる設計です。

ややこしいのが、公式記事の表では5.4Bと書かれている点です。24層のうち中央の12層を、同じ重みのまま3回通す作りになっていて、通った回数まで数えると5.4B分の計算になります。3.4Bと5.4Bはどちらも正しく、数え方が違うだけです。Ollamaのタグ名 26b-a5b の「a5b」は、5.4Bの側の数字です。

ファイルは約20GBで、ライセンスはHugging FaceのモデルカードとOllamaのページでApache 2.0となっています。名前の似たInkling 2 Small(594B、1トークンで動くのは17B)は別のモデルで、Ollamaにはクラウド専用のタグしかありません。

公式のベンチマークでは、実在のGitHubのissueを直せるかを測るSWE-bench Verified(bash only)が79.2%で、Qwen3.8-27B(77.8%)を上回ります。一方、ターミナル操作の課題を解くTerminal Bench v2.1ではQwen3.8-27Bが73.0%で、Inklingの71.6%より上です。公式記事自身も、マルチターンの会話や制約の多い指示では「最強の小型モデルではない」と書いています。

数字だけ見ると、手元のMacで十分戦えそうに見えますよね。問題は、それが自分のMacで、どのくらい待てば出てくるかです。

Ollamaの安定版では、412で取得が止まった

最初の罠はここでした。Homebrewで入れていたOllama 0.40.13で inkling-2-mini を取りに行くと、次のエラーで止まります。

412: The model you are attempting to pull requires a newer version of Ollama that may be in pre-release.

「新しいOllamaが要る、ただしプレリリース版かもしれない」という意味です。OllamaのGitHubのリリース一覧を見ると、Inkling 2 Miniの対応が入っているのはプレリリース版のv0.40.17-rc4(11月10日)だけで、安定版は11月21日時点でv0.40.16が最新でした。公式記事は「Ollamaで動く」としか書いていないので、これは知らないと詰みます。

Ollamaのモデルページには、始め方の手順に「Download the pre-release:」としてプレビュー版の入手先が載っています。

プレリリース版のOllamaを ollama serve で起動して取り直すと、今度は通りました。約20GBの取得に950秒(約16分)、読み込みは10.1秒です。

試す前に、ollama -v で今のバージョンを見てみてください。安定版(v0.40.16以下)のままなら、同じ412で止まると考えておくのが安全です。

M1 MaxのMacでは、速さがNemotron 3 Nanoの約4分の1

測り方はシンプルで、OllamaのAPI(/api/chat、ストリームなし、思考ありの既定設定)に同じ文面を投げ、課題ごとに2回ずつ動かしました。公式の比較相手はQwen3.8-27Bですが、手元に入っていなかったので、同じくらいの大きさで手元にあったNVIDIAの nemotron-3-nano:30b と並べています。

モデル
課題と回
生成速度(トークン毎秒)
1回の全体(秒)
出力トークン
Inkling 2 Mini
課題1 1回目
14.1
123.6
1,486
Inkling 2 Mini
課題1 2回目
17.5
98.2
1,714
Inkling 2 Mini
課題2 1回目
14.6
91.5
1,323
Inkling 2 Mini
課題2 2回目
12.9
146.0
1,880
nemotron-3-nano:30b
課題1 1回目
65.8
43.3
1,251
nemotron-3-nano:30b
課題1 2回目
67.1
15.3
1,010
nemotron-3-nano:30b
課題2 1回目
66.3
34.6
2,266
nemotron-3-nano:30b
課題2 2回目
63.3
22.0
1,389

各モデルの最初の1回だけ、全体の秒数に読み込み時間(Inkling 10.1秒、nemotron 21.5秒)が入っています。

出したトークンの数はどちらも1,000〜2,000台でほぼ同じなので、待ち時間の差は1トークンを出す速さの差です。Inklingは毎秒12.9〜17.5トークン、nemotronは63.3〜67.1トークンでした。

ここが意外だったところで、1トークンで動くパラメータはInklingが3.4B、nemotronが3.5Bと、ほぼ同じです。それでも4倍の差が出たので、Macでの速さを見積もるときに、アクティブパラメータ(1トークンで動く分)の数字は当てになりませんでした。

毎秒15トークン前後、1回2分。この待ち時間、あなたの使い方で許せますか?

Inkling 2 Miniにバグ修正を頼むと、テスト9つを2回とも通した

課題1は、"1h30m" のような文字列を秒数に変える parse_duration 関数のバグ修正です。単位ごとに数字を0に戻していない、末尾に単位のない数字があっても通してしまう、空文字を通してしまう、の3つのバグを仕込みました。正しく変換できるべき4例("1h30m" が5400 など)と、ValueError になるべき5例(""、"90"、"1h30"、"h"、"1x")のテストを一緒に渡し、「直した関数の全体を、コードブロック1つで返して」と頼んでいます。

Inklingの1回目の答えがこれです(返ってきたコードブロックの全文)。

def parse_duration(text):
    """1h30m" や "45s" や "2h5s" のような文字列を秒数にして返す。
    使える単位は h(時間)・m(分)・s(秒)。空文字や単位の無い数字は ValueError。"""
    if not text:
        raise ValueError(text)
    total = 0
    num = ""
    for ch in text:
        if "0" <= ch <= "9":
            num += ch
        elif ch in "hms":
            if num == "":
                raise ValueError(text)
            total += int(num) * {"h": 3600, "m": 60, "s": 1}[ch]
            num = ""
        else:
            raise ValueError(text)
    if num != "":
        raise ValueError(text)
    return total

単位のたびに num = "" で戻す、冒頭の if not text、ループ後の if num != "" で、3つのバグは全部ふさがっています。おもしろいのは、頼んでいないのに ch.isdigit() を "0" <= ch <= "9" に書き換えている点です。思考を読むと、isdigit() は "²" のような上付き数字にもTrueを返すので、半角の数字だけに絞った、という理由でした。テストには関係ない変更ですが、筋は通っています。

採点は使い捨てのコンテナ(python:3.12-bookworm)の中で動かし、Inkling・nemotronとも、2回ともテスト9つを全部通しました。

待ち時間の正体も、この1回目で見えました。Inklingは既定で思考(答える前に書く下書きのような推論)を出し、このときは英語で約4,000字考えてから、日本語の依頼にコードブロック1つだけで答えています。返したコードは20行なので、出力1,486トークンの大半は思考の分です。モデルカードには、推論の強さを最小にしても思考は完全には止まらないと書かれています。

Inkling 2 Miniが苦手なはずの制約の多い指示も、7条件を守った

課題2では、公式が自分で苦手と書いている「制約の多い指示」を突きました。母音の数を返す count_vowels(s) を、次の7条件つきで書かせています。

  1. import を使わない
  2. for 文を使わず、while 文だけで書く
  3. 関数の本体(def の行を除く)は10行以内
  4. 引数 s 以外の変数名は、すべて v_ で始める
  5. コメント(# で始まる行)をちょうど2行入れる
  6. 大文字の母音も数える
  7. コードブロック1つだけを返し、説明文は書かない

Inklingの1回目の答え(返ってきたコードブロックの全文)です。

# 母音を数える
# 大文字も小文字も対象
def count_vowels(s):
    v_count = 0
    v_i = 0
    v_len = len(s)
    while v_i < v_len:
        v_ch = s[v_i].lower()
        if v_ch in "aeiou":
            v_count += 1
        v_i += 1
    return v_count

コメント2行を関数の外に出して、本体を9行に収めてきました。6つの条件は採点スクリプトで機械的に、説明文が無いかは返事を目で見て確かめ、Inkling・nemotronとも2回とも7条件を全部守っています。

正直に言うと、ここは差が出ませんでした。公式がQwen3.8-27Bに負けると書いた弱点を突いたつもりでしたが、7条件では課題が易しすぎた可能性があります。

手元のMacでInkling 2 Miniを使うなら、何を前提にするか?

次の3つを飲み込めるなら、手元のMacで回せます。

  • Ollamaはプレリリース版を入れる(11月21日時点。安定版に対応が入るまで)
  • M1世代のチップなら、毎秒13〜18トークン、1回1分半〜2分半を見込む
  • 思考は既定で出て、出力の大半を思考が占めることがある

向いているのは、関数1つの修正や条件のはっきりした小さな関数を投げて、返事を待つあいだ別の作業をする使い方です。今回の2課題では答えが満点だったので、2分待てるなら十分に使えます。コードを外のAPIに送れない場面で、手元だけで完結するのも強みです。

逆に、エージェントのように何十回も呼び出す使い方は、M1世代だとマジで厳しいです。1回2分なら、20回の往復で40分かかる計算になります。モデルカードも、コードのデバッグ中に長い推論のループにはまることがあるとして、出力トークン数とエージェントのターン数に上限を設けるよう勧めています。

あなたの使い方は、投げて待つほうですか、それとも細かく往復するほうですか?

今回の2課題に限れば、同じ正答を4倍の速さで返したnemotron-3-nano:30bのほうが、M1 Maxでは使いやすいというのが本音です。Inklingの持ち味が出るのは、公式がSWE-bench系で差を付けている、もっと込み入った修正のほうだと僕は見ています。

Inkling 2 Miniを試す前に知っておくこと

OpenCodeなどのコーディングエージェントから使う場合、画像入力、1Mトークン級の長い文脈、M1より新しいチップでの速さは、今回の数字(OllamaのAPIに直接投げた2課題・各2回)の外にあります。

Apache 2.0は商用利用を含めて広く認める一般的なライセンスですが、公式記事そのものにはライセンスの記載がありません。仕事のコードに組み込む前に、Hugging Faceのモデルカードを確認しておいてください。

まずは ollama -v でバージョンを見るところからです。プレリリース版が入っていれば、ollama run inkling-2-mini の1行で手元のMacで試せます。