IQ4– tag –

国立情報学研究所（NII）が公開したLLM-jp-4 33Bを対象に、GGUF量子化におけるメモリ帯域のボトルネックと実用推論の境界線を徹底検証する。

Qwen 27Bモデルを対象にQ4_K_MおよびIQ4_NLでGGUF量子化を実施。ファイルサイズ、メモリ帯域、非力マシンでの実用性を徹底検証。

Muse Glimmer 30BモデルのGGUF量子化（Q4 / IQ4）を実施。生成崩れを防ぐためのパラメータ調整と検証ログを公開。