Qwen3-4B-Deslopで、AIっぽい日本語の癖は消えるのか?

gen
gen

@gennnn ・ 45本

サムネイル

AIに書かせた日本語の、締めの「これからも〜していきたいと思います」や頼んでいない見出し、毎回手で消していませんか? AIっぽい癖を学習で抜いた小型モデルQwen3-4B-Deslop(配布名 qwen3-4b-deslop-v4)を、Ollamaで日本語と英語の同じお題にかけたところ、英語では癖が消え、日本語でそのまま使える文章が返ってきたのは18回中2回でした。プロンプトで禁止を並べる方法とも比べたので、どちらを選ぶかの判断までまとめます。

Qwen3-4B-Deslopが学習で抜いたのは、英語のAIっぽい癖

Qwen3-4B-Deslopは、Qwen3-4B-Instruct-2507をもとに、英語の文章に出るAIの書き癖を抜いたモデルです。対象はダッシュ(—)、「not X, but Y」の対比、3つ並べる列挙、自分ですぐ答える問いかけ、前置きの決まり文句、強調のための短い断片文、delveやseamlessのような語。作り方は、アシスタントらしい書き方をやめさせる指示と、4つのニューロンの符号反転を入れたモデルを先生役にして、その回答を小さな追加学習(rank-16のLoRA)で写す、を3回くり返したものです。

学習に使っていない英語の40題で、AIっぽさの点数は1000語あたり121から12.5まで下がり、回答の68%が人間の文章の範囲に入りました。事実と計算を問う30問は、30問とも正解でした(元のモデルは97%)。ライセンスはApache 2.0です。

ただ、モデルカードには「Only tested on short English prose」と書かれています。日本語は作者も確かめていませんし、「〜と言えるでしょう」や「これからも〜していきたいと思います」は、そもそも抜く対象のリストに入っていません。

Ollamaで動かすと、本文が空になる罠

Ollamaでは、Hugging Face経由の名前で取得します。ノートPC向けに推奨されているのは2.5GBの Q4_K_M で、元の重みに近い4.3GBの Q8_0 もあります。

ollama pull hf.co/erikkannike/qwen3-4b-deslop-v4-GGUF:Q4_K_M

僕はCPUだけの使い捨てコンテナ(メモリ上限4GB)に、比較用の元のモデル qwen3:4b-instruct と一緒に取得しました。2つ合わせて約7分20秒です。生成はDeslopが毎秒10〜17トークン、元のモデルが13〜24トークンでした。

最初の罠はここからです。Pythonから /api/generate を呼ぶと、response が空で返ってきました。英語のお題でも空です。生の応答では、本文がまるごと thinking の欄に入っていました。ollama show で見ても、このモデルはCapabilitiesにthinkingがあり、既定でオンになっています。

空の返事を見たら、モデルが壊れたと思いますよね? 本文は消えたわけでなく、別の欄に入っているだけです。リクエストに "think": false を足すと、response に本文が出ます。

curl http://localhost:11434/api/generate -d '{
  "model": "hf.co/erikkannike/qwen3-4b-deslop-v4-GGUF:Q4_K_M",
  "prompt": "Write a LinkedIn post about switching to a four-day week.",
  "think": false,
  "stream": false
}'

英語のAI臭は、ほぼ消えた

お題はすべて同じで、seed 42、温度0.7にそろえ(ほかの設定はそれぞれの既定のまま)、次の条件で出しました。

  • 元のモデル: Qwen3-4B-Instruct-2507に、何も指示しない
  • 禁止を並べた元のモデル: 同じモデルに、システムプロンプトでAIっぽい書き方の禁止を並べる
  • Deslop: 何も指示しない

英語のお題は「four-day weekに切り替えたことをLinkedInに書いて」です。

条件
語数
ダッシュ
絵文字と✅(矢印を含む)
対比の決まり文句
元のモデル
279
9
14
あり
禁止を並べた元のモデル
193
1
0
あり
Deslop
332
2
0
なし

元のモデルは🚀で始まり、✅で始まる行が4行並び、「It's not about being lazy — it's about…」の対比も入る、見慣れたLinkedIn投稿です。禁止を並べると絵文字と箇条書きは消えましたが、「It's not about less work. It's about…」と、ダッシュを抜いた形で対比が残りました。

Deslopは「I work in a small office where people mostly do meetings or admin tasks」のように、小さな事務所で働く人の体験談として書いてきます。金曜は3時に上がる、家で料理するようになった、と具体的で、普通の人が書いた投稿に近い。これはマジで別物でした。

ただ、週4日にしたのに金曜も3時まで働き、最後は「毎週1時間増えた」と勘定が合いません。作り話の具体が残ることは、作者もモデルカードで認めています。

ダッシュは2個出ました。紹介されている評価は40題での数字で、僕のは1題を1回だけなので、ここは割り引いて見てください。

Qwen3-4B-Deslopの日本語で、そのまま使えたのは18回中2回

日本語は「週休3日制の感想を社内ブログに」「在宅勤務のよい点と困る点を上司に」「近所のパン屋の紹介を200字で」の3題です。偶然かどうか確かめるため、seedを変えて1題6回ずつ、計18回出しました。

返ってきたもの
回数
空
6
本文の先頭に「assistant」と改行が付く
8
英語で返す
1
<tool_call> という記号だけ
1
そのまま使える日本語
2

使えた2回も、片方は「300文字以内で書くなら:」という前置き付き、もう片方は「周一から木曜まで」と中国語の字が混じっていました。「assistant」付きの8回のうち4回は、その語を消せば読める日本語でした。残りの4回は中身が崩れていて、週休3日の感想なのに「月曜から金曜まで働いて、土曜日は休みでした」と書いたり、パン屋の紹介の途中で「prices are about 300 yen for a loaf.」と英語に切り替わったりしました。原因はまだ追えていません。

一方で、出てきた日本語には、前置きの「以下は〜です」も、締めの「これからも〜」も、見出しもありませんでした。日記のような短い文が続く形です。癖を抜く方向は日本語にも少し届いている。ただ、文章として成り立たない回が多すぎるので、いまの版は日本語の文章を書かせる用途には使えません。

禁止語プロンプトは、決まり文句を消して数字を作った

元のモデルにシステムプロンプトで並べた禁止は、これです。

次の書き方をしないでください。「〜と言えるでしょう」「〜することができます」「〜ではないでしょうか」のような言い回し。「AではなくB」の対比。3つ並べる列挙。ダッシュ(——や—)。冒頭の「〜ですね!」や「〜について解説します」、締めの「いかがでしたか」。見出しや太字や箇条書き。

何も指示しない元のモデルは、週休3日の感想を「これからも、この制度を活かして、より良い働き方を実現していきたいと思います。」で締めました。在宅勤務の文章は「以下は、上司に説明するための短い・簡潔な文章です:」で始まり、区切り線で本文を囲んで、最後に「上司に信頼できる説明になります。」と自分の文章をほめています。

禁止を並べると、週休3日の感想から前置きと締めの決まり文句が消えました。ところが在宅勤務の文章には、禁止したはずの見出し「時間の使い方」「業務の効率」「課題の現状」が付いています。パン屋の紹介では「店主は30年間同じ場所で」「価格は150円」「毎日100個ほど」と、頼んでいない数字が並びました。

決まり文句を禁じると、空いた所をもっともらしい具体で埋めてくる、というのが僕の見立てです。元のモデルも「ベーグルやマカロン、抹茶パン」と頼んでいない品ぞろえを作り、Deslopも「朝7時から10時まで」と時刻を作っていたので、作り話の具体は3つの条件どれでも出ます。元のモデルは各お題1回ずつしか出していないので、傾向の参考として見てください。

あなたのプロンプトにも、禁止のリストを入れていませんか? 入れているなら、出てきた数字と固有名詞は1つずつ確かめる前提で使うのが安全です。

AIっぽい文章を減らしたいなら、どれを選ぶか

英語の下書きなら、Qwen3-4B-Deslopは試す価値があります。2.5GBで、CPUだけでも動きました。APIで呼ぶときは "think": false を付け、システムプロンプトは入れない。作者の推奨は温度0.7、top-p 0.9、repetition penaltyは1.1前後で、Ollama版はこの設定を同梱しています。

日本語なら、今のDeslopより、禁止を並べて書かせ残りを人が直すほうが現実的です。禁止を試したのは今回の小さなモデルだけですが、いつものAIで使うときも、付いてくる見出しと頼んでいない数字は確かめる前提で。AIっぽい表現を数えるチェッカーに日本語の出力15本をかけても、どの条件も数件で差は出なかったので、ここは人の目で見るしかありません。

書いた後の日本語をまとめて直したいなら、日本語のAI臭を取り除くClaude用のSkillも公開されています。

あなたが消したいのは、英語の癖ですか、日本語の癖ですか? 日本語なら、上の禁止の指示を今日の下書きに貼り、出てきた数字を1つずつ確かめるところから始めてみてください。