Pinned Tweet
DGX Spark x2 + DeepSeek-V4-Flash用のultra-sparkdashをソース公開しました。表示系統はsparkDashの最新版からのforkとして実装しており、Webブラウザ上でリアルタイム表示できます。
Grafana+Prometheusでのメトリクス保存は任意導入要素ですが、個人的には可視化自体よりもこちらのほうが便利だと感じています。sparkDashを頻繁に開く必要なくトークン傾向やノード間通信傾向を視覚的に把握できるためです。
出力tokenを表示したくない場合は非表示化のオプションもあります。お手元のLLMで探索してみてください!
github.com/muojp/ultra-spark…
DGX Spark x2でDeepSeek-V4-Flashの推論をしているところの可視化できた。
MoEの43層256(11,008)expert利用・MTP draftの受理/却下状況と2台間のRDMA通信スループットも盛り込んだもの
この例でのdrafterからの受理は平均3.08/stepだけどOpenCodeでコーディングエージェント用に使っているときは実測もっと出てる
デフォのメモリ割当だとシステムメモリが相当カツカツ、推論時にスワップ発生しているのはよくないので性能劣化の様子を見つつGPU_MEMORY_UTILIZATIONを0.80→0.78ぐらいに落としたほうがシステムとしては安定するかもしれない
よさそう
最近大体のESP32向けファームウェアをRustで書いていて、そろそろRustの共通ドライバ置き場とハードウェア構成の記述の仕組みが欲しいなと思ったので、なんか作りはじめた。
基本的なドライバとデバイスツリーによるハードウェア構成記述とコードの生成という構成
github.com/ciniml/kumiki
115
Kei Nakazawa retweeted
ONIC2026 BOFで、最近10年間のLinuxカーネルのネットワーク周辺の進化についてお話しました
speakerdeck.com/orimanabu/on…
#ONIC2026
Kei Nakazawa retweeted
11/25はこちらでお話しさせていただきます!
【11/25(水)東京】「見る・探す・動かす。製造現場へのAIエージェント実装へ」に製造ビジネステクノロジー部の森茂が登壇 classmethod.jp/news/261112-n…
Fable 5.2がリリースされて、既存のClaudeサブスクにFable resetも3枠来てる。週枠自体をリセットさせずにFable利用枠をリセット対象にすることで「新しいFableをもっと試せますよ!」と宣伝出来つつAnthropicのインフラ費用持ち出しを低減させる匠の技
1
1
351
ChatとWorkを統合・・・OpenAI ChatWorkが来てしまうのか
Team is working on this but it's not rolling out just yet, sorry for any confusion. Plan is to bring together best of both Chat / Work capabilities together at some point this year, but we're going to proceed carefully here and take our time.
We'll have more to share soon.
3
289
Kei Nakazawa retweeted
北大病院が、閉じたネットワークの中でKimi K2.6のAIエージェントを運用中。院内文書への質問は、検索で拾った上位10件の断片を渡す方式だと正答81.3%、モデルが自分で文書を読みに行く方式だと97.2%。「条件に合うものを数える・絞り込む」質問は16.7%から87.8%に上がった。
arxiv.org/abs/2610.32151
みんな忘れているかもしれないけどDGX Spark類のローカルLLMのレシピとかおそろしい規模でLAN内任意コード実行しているわけで正直怖くて仕方ないし、リスクの塊(早晩どっかでエグい事故が起こると思う)だから
NVIDIAがコミュニティに丸投げせずやる気出してくれるなら全部NVIDIAがメンテしてほしいんだよ。各種機材に合わせた量子化モデルにもFlareにも期待してる github.com/NVIDIA/flare-loca…
中規模のRustプロダクトでビルドがあまりにも遅いのでjemallocを削ってmalloc_trimで置き換えた回
CodexにRustでサーバー書かせると規模が膨らむうちに変なメモリプロファイルを取ってRSS増大抑制のためにjemalloc抱えているケースがある(あった)
1
3
449
DGX OSの最新版はDisplay Reserved Memory設定でデフォ2GBのVRAMを0.5GBまで減らせるのが魅力だけど 相変わらずバージョンアップで文鎮化寸前まで行ったという報告もあり7月版から相変わらず動けずに居る人々
私もです
‼️ Your DGX Spark might be saving RAM for a monitor that you don't use.
If it runs headless, set Display Reserved Memory to Auto in UEFI. With no display connected it keeps 0.5 GB instead of 2 GB. Steps below 🧵
5
307
AI全盛の現代でISUCONやったらどういう結果になるのかは結構興味ある。
DBやコードのチューニングはもちろん、歴史の中に埋もれ去った「ベンチマークツールが通るところを全部別言語で書き直す」「ユーザーランドへの切り替えコストを抑えるためにカーネル空間でサーバーを動かす」などなど王道も飛び道具も良い指示があればコンテスト時間内にやりきるところまでAIが可能にしてしまった
TangPrimer25KのSERDESで遊ぶ内容をまとめた小冊子、販売開始しました。
めずらしくカッとなって印刷したので紙版がありますw
1Gbpsくらいの信号をCDRして受信、1080p60Hz DVI受信、USB 2.0 Soft PHY, USB 3.0で420MB/s転送の解説があります。
fugafuga.booth.pm/items/9034… #GOWIN #FPGA















