Pinned Tweet
私の地元のLLM稼働環境(2026/11/2更新)です。
PC① Maya:GLM-5.3-Flash IQ2を稼働
Strata:Qwen3.8-Flash-Next IQ3を稼働
GPU 5070ti 1個、5060ti 16G 4個
メモリ DDR5 DDR5 5600 128G 5600MT/s動作
CPU i9-14900KF
PC② Maya:GLM-5.3-Flash IQ2を稼働
Strata:Qwen3.8-Flash-Next IQ3を稼働
GPU V100 32G
メモリ DDR4-3200 128G
CPU i5-14400F
PC?③主にアプリで使う画像生成・音声生成で使用
M6 Macmin最小構成モデル(メモリ16G SSD256G) PC④Maya:GLM-5.3-Flash IQ2を稼働
Strata:Qwen3.8-Flash-Next IQ3を稼働
GPU TITAN RTX 2個
メモリ DDR5 64G 5600MT/s動作
CPU i5-14400
PC⑤準備中😊
Maya:GLM-5.3-Flash IQ2を稼働
Strata:Qwen3.8-Flash-Next IQ3を稼働
GPU 5070 1個
メモリ DDR5 6400MT 96GB
CPU 選定中
なぜかintelの第14世代ばかり使っています。。
PC1 14900KF
PC2 14400F
PC3 Macなので対象外(M6)
PC4 14400 ※TITAN RTXは画面出力できるから14400Fでよかった、、、
PC5 準備中PC。先ほど14400Fを中古で落札。
世代がそろっているとトラブルシューティングがやりやすいですが、いい加減新しいCPUほしくなってきました。
GLM5.3-flashてまは様々な世代のGPUの違いよりもVRAMの量が大事にようです。
古いGPUでもVRAMが48あればdecodeが50tps超えます。
32GBだと25tps くらい。
検証用GPUが届いたら追加情報を投稿します。
DDR5メモリの4 枚差しを検証しています。
・シングルランク、デュアルランクこ組み合わ組み合わせ
・マザーボードの品質
によって結果は全然異なるようです。
X で投稿するといろいろ情報をいただけますが、個別環境に物凄く依存するので自分の環境で設定を詰めていくしかないものだと改めて認識致しました。
規格が決まっているのにこれほどメーカーや製品によるバラツキがあるのはいかがなとのなんだろうと感じております。
追加LLM用PCの準備
CPU 14400F
マザーボード 不良品の ASUS PRIME Z790-P
メモリ やりくりしてひねり出した48Gx2=96GBのDDR5
電源 追加購入
ストレージ 余っている512G(ちょっと厳しい)
ケース
ドスパラの一番安いやつ(3個目)
















