Pinned Tweet
Hermes Agent自身に読ませる Hermes Agent初期設定ガイド
これを読むと人格が生えたり長期記憶ができたり、エージェントとノートの共有ができます。合計で月20ドルくらいのサブスクが前提になってます。
xitter.cf/pju/status/21088500070…
Hermes Agent 雑セットアップガイド for Windows
xitter.cf/pju/status/21107085031…
#地元のLLM DGX Sparkの動的温度制御
xitter.cf/pju/status/21115931943…
倍々Spark病について
xitter.cf/pju/status/21086733312…
ローカルLLMは盆栽説
xitter.cf/pju/status/21094083358…
なんか思ったよりAIエージェントに記憶を持たせたりノートを共有したりに興味のある方が多そうだったので、私のエージェントから皆さんのエージェントへのお手紙を、私のエージェントと一緒に書いてみました。まずHermesをセットアップして、新米エージェントに読ませてあげてください。#地元のLLM
にしても、もともと自宅・実家ともにネットワーク内リソースのメンテは私が手動でやる前提でもろもろ整備してきたけど、ここ数ヶ月でほとんどAIにお任せで管理できるようになってしまった。それも多分自分が手でやるよりずっとセキュアで手の掛からない形で。ありがたい。
実家のネットワークに配置したtailscale ゲートウェイ用ミニPCを経由して、実家のネットワーク内リソースのセキュリティ診断を使い魔にやらせてる。にしても当時2万円くらいで買ったN100ミニPCに16GBもメモリが載っててビックリ。そんなに昔の事ではないと思うんだけどなぁ
Pju Runs 地元のLLM retweeted
千葉県富里市にあるT's BBQという店に行きなさい
本格テキサスBBQが堪能できる
店長はテキサスまでいって本場のBBQを学んできた人だ
そしてそこには
「ブリスケット重」もある
まさに日米の融合だ
決して安くはないけど、是非
tsbbq-japan.com/?fbclid=PAb2…
Pju Runs 地元のLLM retweeted
【発表】JAL、顧客情報9万2千人分流出か パスポート番号も
news.livedoor.com/article/de…
日本航空は28日、旅客サービスシステムの委託先が不正アクセスを受け、延べ約9万2千人分の顧客情報が流出した可能性があると発表した。このうち約2千人はパスポート番号や国籍なども漏えいした恐れがある。
vLLM 0.30 FP8 KVで1M ctx, c=5までは行けたけど、なんか並列度が高くて長文脈の時に激烈に遅い。chunked prefillきちんと設定してるはずなんだけどなぁ。一旦区切って紹介してもらったAtlasレシピを試してる。
この動画を見て、日本人にもできるはずだ、という反応があるみたいだけど、それはちょっと違うんじゃないかな…。
アメリカはあくまでも人工国家というか、北米に移住してきた人たちが国家を「造った」という成り立ちがあるのに対して、日本はその昔から「あった」わけで。要するに、勝ち取ったのかそもそもそこにあったのかの意識が根底から違う。日本人も国民主権国家の国民として自らの権利に対してもっと自覚的であるべき、という観点には賛成。行動に移すべき、については投票行動の話であれば賛成。アメリカ的な革命権の話については日本の文脈においては必ずしも賛成しない。
しかし、使い魔に用件を放り投げてしばらくおまかせみたいなユースケースなのであまりtok/sを追い求める意味なかったりもするんだよなー。量子化がキツくないモデルが動くのは魅力ではあるけど、EXL3量子化もなかなか良いしなぁ。TP2にしといて、もう2台は完全におもちゃとして使えるのも捨てがたい。
Pju Runs 地元のLLM retweeted
Hermes Desktop経由でのイニシャルテスト。
Prefill(32k)が7324 tok/s
最初の乗せ方が悪くてPrefill 6256tok/sだったけどレシピを完全再現+DGX Sparkのゴミを綺麗に掃除してからやり直したらPrefill 7324tok/sになりました。1000単位で増えた笑
構成はレシピと完全同一
spark-ds41f:19f2c20ed4d6-next-6/KV 6,512,700トークン(6.21x)/1,048,576文脈・16並列・batched 16,384・KV 11,274,289,152B/oneshot-ring4/ドライバ580.178.04/64KiBカーネル/メモリセーバー0.4.1/CPUピン5-9,15-19
結論: レシピ同等以上(単発+1.3〜2.6%、Prefill +4.1〜8.6%、tokens/step +1.4%)。Prefillの上乗せ分は、RoCE4本フル稼働・APST(NVMe待ちゼロ)・defrag・headless・冷却余裕(スロットル0)によるもの。表はops/reports/2026-10-27-ds41f-tp4.mdにも保存済み。
念の為にまっさらなDeepSeek ハーネス(変わらないはず)からもテスト中。
spark-ds41f-1025 is out. DeepSeek V4.1 Flash on DGX Sparks. 1M context. Native weights.
1. Every kernel the server runs is TileLang now. B12X only loads the weights.
2. Outputs: same as last release. Bit for bit. Logprobs too.
3. Prefill: +12-14% on four Sparks. +23-28% on three.
4. Decode steps 1.7-2.4% shorter. Throughput: level. 75 tok/s single stream on four.
5. Two logprob bugs fixed. One of them could take the whole engine down.
6. 5,730 tests passed. 0 failed.
7. weightless abliteration (GLP steering). It edits the activations, not the weights. Off by default. Auditable. Won't hack you.
8. Everything is called spark-ds41f now. Almost.
Rewrote every kernel. Changed zero bits. That was the point.
github.com/christopherowen/s…
XのiOSアプリで手が出てくるやつ、私のところは影も形もないというかPromoteボタンすらないんだけど、これってもしかして高いプランの人にしかでないのかな?高額課金者のPromoteをPromoteして驚かせましょう、ということ…?














