これPGX1台(メモリ119GB)でも動かしてみるわ。今夜DLして明日の朝には速さ出せるはず
12GBのグラボに負けたら泣く
来ましたよ!間に合わなくて、今日はないのかと思ってた💦VRAM 12GBで動く模様!
🔥 763BモデルがVRAM 12GBで動く時代が来た
ISTA-DASLabのDeepSeek-V4.1-Flash-1017
GSQ-RCO量子化版が公開されました。
📦 容量感 (全部で230GB ~ 265GB)
・Engram:約110GBまで圧縮
・バックボーンは120GB ~ 155GB
💻 ローカル動作目安(Strata使用時)
・VRAM 12GB + RAM 64GB → 動作可能
・VRAM 12GB + RAM 128GB → 快適ゾーン
✅ 品質はAIME25 / GPQA / LiveCodeBenchなどでベースモデルにほぼ匹敵。 フロンティア級をコンシューマ環境で実用的に動かせるラインまで来てます。
📊GSQ-RCOって何?
既存のGGUF系とは以下の点で異なる。
・動的ミックス精度(重要度に応じてビット数を変える)
・RCO(Routing-aware Compression)でMoEのエキスパートを効率的に圧縮
→ 通常の量子化より低ビットでも精度落ちが少ないのが特徴。
かなり圧縮されてるとはいえ、763Bのモデルなので、RAM 64GB勢の実測がどのくらいになるかで、話題の爆発度が変わりそうだ!
※実測は使ってみないとわからないので、参考程度に!
#地元のLLM #DeepSeek
書けないので家のAIに𰻞𰻞麺の看板を描かせたら、それっぽい画数の多い何かを堂々と書いてきた
書けますか?
「𰻞𰻞麺」
ビャンビャン麺回
チャンピオンクロスにて
無料公開スタートです🍜
championcross.jp/episodes/4c…
開いて7秒で、入ってるデモの「さくら」をブラウザだけで歌い出した。GPUもインストールも無しでピアノロールまで付いてる
新しい歌声合成ソフトを公開しました! インストール、GPU不要で、あなたのCPUとブラウザで軽快に動作するフル機能のSVSです(Chrome推奨)。ページにアクセスしてすぐ使えるので、ぜひ触ってみてください。
wavtechyukky.github.io/vocat…
今週だけでPHP、Ruby、Python、Javaと来て「まだ出てくる」予告はしんどすぎる…
PHP並みの脆弱性「まだ出てくる」 米クラウドフレアCEOが予告
nikkei.com/article/DGXZQOGN2…
同じFlash-Next、うちはGB10+素のllama.cppで回してて、4bit(IQ4_XS)が30 tok/s。3bitより速くて、精度も11問・PPLとも変わらんかった
EVO X5-Pro上のQwen3.8-Flash-Next の UD-Q4_K_XLで、0.1.44.1から0.2.3にアップデートしたのですが、テストで遅くなってしまいました。理由は、Strata の新しい版のメモリの割り当て方でした。
原因:0.2.3 は、GPU に置く部品(エキスパート)の量を「OS から見て空いているメモリ」で決めるように変わっていました。EVO はメモリを GPU と分け合う作りなので、OS からは空きが 33GB にしか見えません。そのため置く量が 72GB 分から 21GB 分に減り、残りを SSD から読んでいて遅くなっていました。
修正:置く量を前の版と同じ 24576 個(72GB 分)に固定したところ、速さは戻りました。
結果:長い答え(700トークン)では、0.2.3 が毎秒 46〜48、0.1.44.1 も 46〜48 で同じでした。短い答えでは、0.2.3 が24.6秒、0.1.44.1 が23.1秒で、0.2.3 の方が少し遅いです。正解率は同じです。
判断:Linux の EVO では、0.2.3 にしても速くならなかったので、0.1.44.1 に戻しました。次のメジャーバージョンアップに期待しています。
Metaのオープン版のほう(Muse Spark Open 816B)は2bitでも200GB超えで、うちのPGX1台には載らんかった。素直にアプリで触ってみる
MetaのパーソナルAIエージェント「Muse」日本で使えるようになった!!!!!!!!!!!!
参加してから48時間以内に、設定画面で招待コードを入れると、10億トークンもらえます🎁
↓↓↓
Code: 3B1IZ1
muse.ai/join



















