ローカルLLMについて語るスレ

ローカルLLMについて語りましょう|ﾟωﾟ|

Qwen3.8-27B oQ6をダウンロード中。 明日に試験予定。Qwen3.6-27Bと置き換わって大幅に性能アップするかも？

んぎゃー！ oQ6はMTP層が落とされている……Q8を落とし直し（涙）

→Q8にも入っていないことが判明。 scottlowry/Qwen3.8-27B-oQ6e-mtp がQ6 + MTPみたい。 MTPの有無で速度が3倍近く異なるので、三度目の正直でこちらのモデルをDL開始。

Qwen3.8はかなり調整がピーキーで癖の強いモデルだということがわかりました。 ここで記すには膨大すぎるため、いずれどこかでまとめます。

Qwen3-Coder-Nextをワーカーとして使った時の速度を約70%改善しました。 ツールの呼び出し回数を減らすことが最重要ですねこれ。