動画編集者 ⇨ エンジニアです。 最近はローカルLLMがアツいっすよ! クソアプリ生み出したり、動画作ったり、本書いたり、音楽作ったりしてます。飽き性なのをなんとかしたい。わりとマジで。

日本 東京
Joined September 2022
うちは昼に落とすと家の回線が死んで怒られたので、夜中の2時〜6時だけ落とす係を作った。今夜は366GBのDeepSeek…朝までに終わるかは知らん
わかるか、ローカルLLM民の回線が100Mbpsである苦しみを
1
1
44
これPGX1台(メモリ119GB)でも動かしてみるわ。今夜DLして明日の朝には速さ出せるはず 12GBのグラボに負けたら泣く
来ましたよ!間に合わなくて、今日はないのかと思ってた💦VRAM 12GBで動く模様! 🔥 763BモデルがVRAM 12GBで動く時代が来た ISTA-DASLabのDeepSeek-V4.1-Flash-1017 GSQ-RCO量子化版が公開されました。 📦 容量感 (全部で230GB ~ 265GB) ・Engram:約110GBまで圧縮 ・バックボーンは120GB ~ 155GB 💻 ローカル動作目安(Strata使用時) ・VRAM 12GB + RAM 64GB → 動作可能 ・VRAM 12GB + RAM 128GB → 快適ゾーン ✅ 品質はAIME25 / GPQA / LiveCodeBenchなどでベースモデルにほぼ匹敵。 フロンティア級をコンシューマ環境で実用的に動かせるラインまで来てます。 📊GSQ-RCOって何? 既存のGGUF系とは以下の点で異なる。 ・動的ミックス精度(重要度に応じてビット数を変える) ・RCO(Routing-aware Compression)でMoEのエキスパートを効率的に圧縮 → 通常の量子化より低ビットでも精度落ちが少ないのが特徴。 かなり圧縮されてるとはいえ、763Bのモデルなので、RAM 64GB勢の実測がどのくらいになるかで、話題の爆発度が変わりそうだ! ※実測は使ってみないとわからないので、参考程度に! #地元のLLM #DeepSeek
1
49
あかんかった。12GBで動かしてるStrataってエンジン、中身がIntel/AMDのCPU専用で、Armのうちのやつだとビルドが通らん。llama.cppもまだ未対応 なので代わりにantirezさんのds4の新しい版を今夜落として、前の版と比べる
25
HTTP2Shell、うちのPCも見たら全部引っかかってた ・Node.js は 22.23.4 / 24.22.1 / 26.12.1 より古いとアウト。fetch()が勝手に解凍するので変なURLを取るだけで踏める ・Python は pip show brotli で 1.2.1 未満ならアウト。画像生成の環境に紛れてた 全部上げた
5
874
書けないので家のAIに𰻞𰻞麺の看板を描かせたら、それっぽい画数の多い何かを堂々と書いてきた
書けますか? 「𰻞𰻞麺」 ビャンビャン麺回 チャンピオンクロスにて 無料公開スタートです🍜 championcross.jp/episodes/4c…
1
71
開いて7秒で、入ってるデモの「さくら」をブラウザだけで歌い出した。GPUもインストールも無しでピアノロールまで付いてる
新しい歌声合成ソフトを公開しました! インストール、GPU不要で、あなたのCPUとブラウザで軽快に動作するフル機能のSVSです(Chrome推奨)。ページにアクセスしてすぐ使えるので、ぜひ触ってみてください。 wavtechyukky.github.io/vocat…
204
同じFlash-Next、うちはGB10+素のllama.cppで回してて、4bit(IQ4_XS)が30 tok/s。3bitより速くて、精度も11問・PPLとも変わらんかった
EVO X5-Pro上のQwen3.8-Flash-Next の UD-Q4_K_XLで、0.1.44.1から0.2.3にアップデートしたのですが、テストで遅くなってしまいました。理由は、Strata の新しい版のメモリの割り当て方でした。 原因:0.2.3 は、GPU に置く部品(エキスパート)の量を「OS から見て空いているメモリ」で決めるように変わっていました。EVO はメモリを GPU と分け合う作りなので、OS からは空きが 33GB にしか見えません。そのため置く量が 72GB 分から 21GB 分に減り、残りを SSD から読んでいて遅くなっていました。 修正:置く量を前の版と同じ 24576 個(72GB 分)に固定したところ、速さは戻りました。 結果:長い答え(700トークン)では、0.2.3 が毎秒 46〜48、0.1.44.1 も 46〜48 で同じでした。短い答えでは、0.2.3 が24.6秒、0.1.44.1 が23.1秒で、0.2.3 の方が少し遅いです。正解率は同じです。 判断:Linux の EVO では、0.2.3 にしても速くならなかったので、0.1.44.1 に戻しました。次のメジャーバージョンアップに期待しています。
1
2
74
同じFlash-Nextにゲームも作らせたら、見た目はいままでで一番凝ってるのに「ゲーム開始」にする1行だけ書き忘れてて、永遠にSTANDBYのまま
1
2
47
家のPC1台で、家計簿コードの修正をAIに丸投げするタイム比べ。4bitのQwen3.8 Flash-Nextが3分16秒で隠しテストまで通して一番だった
34
「Qwen3.8 Flash-Nextは4bitでも精度ほぼ落ちずにPGX1台で回る」って言ってる人がいたので試した。ほんとだった。むしろ3bitより速い
1
74
4.4GBしかない4Bの新モデル(Spark-X2.6)に、家計簿コードの修正をOpenCodeで丸投げしたら7分で隠しテスト合格した。27BのQwenより速い。スマホに入るサイズでここまでやるのか
1
62
話題のIndra OCR、たった100万パラメータ(いつも使ってる35BのAIの3万5千分の1)なのにCPUだけで0.9秒。貼り紙はAIが描いた誤字「下認」「よらよく」まで一字一句そのまま読んだ
1
41
正面と後ろ姿の絵を2枚渡しただけで、家のPCが「振り向く動画」にしてくれた
1
40
ハロウィン近いので、前に魔女に着替えさせたちびキャラも動かしてみた。全部家のPCで
1
88
AgenticSeek(ローカルで動かすエージェント)使ってる人、CVSS 9.2出てる(CVE-2026-115727)。llm_server が Flask のデバッグモードのまま全部のIPで待ち受けてて、ポートに届いてデバッガPINを割り出されるとコード実行まで行く。commit 409840c 以降に更新して、外から届かないか確認しとこ
64
今度は正面と後ろ姿の2枚だけ渡して「間をつないで」にしたら、ちゃんと振り向いた。本も途中まで持ってた
前に作ったちびキャラを動かしてみた。「本持ったまま手振って」って頼んだら、本はどっか行った
41
前に作ったちびキャラを動かしてみた。「本持ったまま手振って」って頼んだら、本はどっか行った
1
89
Metaのオープン版のほう(Muse Spark Open 816B)は2bitでも200GB超えで、うちのPGX1台には載らんかった。素直にアプリで触ってみる
MetaのパーソナルAIエージェント「Muse」日本で使えるようになった!!!!!!!!!!!! 参加してから48時間以内に、設定画面で招待コードを入れると、10億トークンもらえます🎁        ↓↓↓      Code: 3B1IZ1 muse.ai/join
1
84