IT/AIコンサルタント– category –

納品書やレシートを携帯電話で読み込み、Googleシートに自動で転記する。それをWindowsで読み込み請求書を作成する。 請求書はPDFとExcelです。携帯電話での読み込みはWebアプリで行います。本体はGitHubにおいて読みだしています。書き込みはGoogleでGAS...

これ、LLM-jpでも変な名前なんです。 LLM-jpはV3からV3.1そして最近V4になりました。 8x13B ≠ 104Bを毎token計算 8個のexpert全部を毎回動かすわけではありません。 8 expert中 2 expertだけをactivateするため、 重み全体：約73B 1 tokenあたりのactivate...

このサイズを量子化すると非力なWindowsで普通に動くんじゃないかと思いやってみました。 ダウンロード Q4とQ5 悪くないけど、なぜかQ4の方が良さげなOutputをするときがあります。

国立情報学研究所（NII）が公開したLLM-jp-4 33Bを対象に、GGUF量子化におけるメモリ帯域のボトルネックと実用推論の境界線を徹底検証する。

非力なデスクトップ環境やノートPCでQwen3シリーズ（8B/30B）を実用的に動かすための量子化手法とハードウェア要件を徹底解説。

Qwen 27Bモデルを対象にQ4_K_MおよびIQ4_NLでGGUF量子化を実施。ファイルサイズ、メモリ帯域、非力マシンでの実用性を徹底検証。

Muse Glimmer 30BモデルのGGUF量子化（Q4 / IQ4）を実施。生成崩れを防ぐためのパラメータ調整と検証ログを公開。

日本語特化Qwen B4の利用に必要なモデル本体とランタイムのダウンロードリンクをご案内します。

クラウドAIや中国製LLM（DeepSeek、Qwen、KIMI）の日本語処理、AIとLLMの包含関係、Apache License 2.0とMITライセンスの違い、そしてサラトナにおけるQwenベースの日本語特化モデル開発と評価ゲートの取り組みについて解説します。

LoRA（Low-Rank Adaptation）によるAIモデルのファインチューニング解説。Qwen3.6 4Bを用いた日本語特化LLMの作成方法、必要なGPU、学習時間、コストを整理。