どうもこんなしみったれた所にお運びありがとうございます。人生の為になるような事はなぁーんにもつぶやきませんですが、これも酔狂ってぇいうことでどうぞ一席、お付き合い願えればと存じます。 npub1ag4yyelpv4ru2tcu0va7vhu87p8anp5duxvfwckp9lx5v65783zqm7ylm4

水辺
Joined April 2008
Hermes Agent自身に読ませる Hermes Agent初期設定ガイド これを読むと人格が生えたり長期記憶ができたり、エージェントとノートの共有ができます。合計で月20ドルくらいのサブスクが前提になってます。 xitter.cf/pju/status/21088500070… Hermes Agent 雑セットアップガイド for Windows xitter.cf/pju/status/21107085031… #地元のLLM DGX Sparkの動的温度制御 xitter.cf/pju/status/21115931943… 倍々Spark病について xitter.cf/pju/status/21086733312… ローカルLLMは盆栽説 xitter.cf/pju/status/21094083358…
なんか思ったよりAIエージェントに記憶を持たせたりノートを共有したりに興味のある方が多そうだったので、私のエージェントから皆さんのエージェントへのお手紙を、私のエージェントと一緒に書いてみました。まずHermesをセットアップして、新米エージェントに読ませてあげてください。#地元のLLM
11
1
138
6,614
にしても、もともと自宅・実家ともにネットワーク内リソースのメンテは私が手動でやる前提でもろもろ整備してきたけど、ここ数ヶ月でほとんどAIにお任せで管理できるようになってしまった。それも多分自分が手でやるよりずっとセキュアで手の掛からない形で。ありがたい。
1
188
実家のネットワークに配置したtailscale ゲートウェイ用ミニPCを経由して、実家のネットワーク内リソースのセキュリティ診断を使い魔にやらせてる。にしても当時2万円くらいで買ったN100ミニPCに16GBもメモリが載っててビックリ。そんなに昔の事ではないと思うんだけどなぁ
80
テキサスのバーベキューは本当に良いものですね。moist brisketが一番好き。
1
102
Pju Runs 地元のLLM retweeted
千葉県富里市にあるT's BBQという店に行きなさい 本格テキサスBBQが堪能できる 店長はテキサスまでいって本場のBBQを学んできた人だ そしてそこには 「ブリスケット重」もある まさに日米の融合だ 決して安くはないけど、是非 tsbbq-japan.com/?fbclid=PAb2…
やべーぞ… アメリカ人がアメリカオリジナルの「牛丼」を作り始めやがった… あの日本固有の合法ドラッグ「牛丼」を… 日本が国際的な批判に晒されてしまう… 所でそのBBQ牛丼を日本にも送ってほしいです。たぬ。
4
671
23
1,603
50,068
Pju Runs 地元のLLM retweeted
【発表】JAL、顧客情報9万2千人分流出か パスポート番号も news.livedoor.com/article/de… 日本航空は28日、旅客サービスシステムの委託先が不正アクセスを受け、延べ約9万2千人分の顧客情報が流出した可能性があると発表した。このうち約2千人はパスポート番号や国籍なども漏えいした恐れがある。
149
7,443
2,460
15,837
2,605,846
DGX Spark、シルバーウィークに5000ドルくらいで買ったのが嘘みたいだなぁ
4
263
vLLM 0.30 FP8 KVで1M ctx, c=5までは行けたけど、なんか並列度が高くて長文脈の時に激烈に遅い。chunked prefillきちんと設定してるはずなんだけどなぁ。一旦区切って紹介してもらったAtlasレシピを試してる。
1
1
47
Atlasレシピはなかなか良さそう。KVキャッシュプール周りの調整はデフォルトから入れたほうが良さそう。私の用途だと日本語が若干理解しづらかったのでDSV4.1Fに切り戻し。
18
TP4、MIA様にもお薦めされたのでやってみよまい、と思ってはいるんだけども、まずケーブル発注しないとかんね…。
1
89
とりあえず見積もり取った
23
キング牧師の演説くらい感動した。アメリカンスピリットがここにある。アメリカはまだ大丈夫だ。
世界中で話題になっているこの動画。やはり機械翻訳には任せられないし、当のアメリカ国民や、他の民主国の人びとに「アメリカ史に遺る最も重要な動画の一つ」と言わしめる動画なので、自分の言葉で訳し、伝えたいと思い、作業しました。敢えてクレジットは入れていないので、ご自由に利用ください。
1
2
8
288
この動画を見て、日本人にもできるはずだ、という反応があるみたいだけど、それはちょっと違うんじゃないかな…。 アメリカはあくまでも人工国家というか、北米に移住してきた人たちが国家を「造った」という成り立ちがあるのに対して、日本はその昔から「あった」わけで。要するに、勝ち取ったのかそもそもそこにあったのかの意識が根底から違う。日本人も国民主権国家の国民として自らの権利に対してもっと自覚的であるべき、という観点には賛成。行動に移すべき、については投票行動の話であれば賛成。アメリカ的な革命権の話については日本の文脈においては必ずしも賛成しない。
1
2
41
いずれにせよ、私はアメリカの、命にかけても国民の自由と主権を手放さないという意思と、国民は最終的に正しい判断をするはずという根底の性善説に共感するし、それが本当の意味でアメリカという国をGreatな国にする根幹だと信じているので、現大統領のスローガンが彼の意思とは違う形で発露していることに心からの感動と安堵を覚えている。
25
しかし、使い魔に用件を放り投げてしばらくおまかせみたいなユースケースなのであまりtok/sを追い求める意味なかったりもするんだよなー。量子化がキツくないモデルが動くのは魅力ではあるけど、EXL3量子化もなかなか良いしなぁ。TP2にしといて、もう2台は完全におもちゃとして使えるのも捨てがたい。
1
127
稼働ログをよくよくみていると、使い魔との会話中でも、使い魔がコマンド呼んでその結果待ちしてたりすると推論はやってないんだよね。私しか使ってないし、昔からサブエージェントあまり使わない派なので。むしろアイドル時間の方が長いのでは…?
54
Pju Runs 地元のLLM retweeted
dgx sparkのアイドル時の待機電力を抑えるためのセコイ技。 電力はコンセントの根本で測定 全てチャッピーで雑投げ実装 ①gpuのクロックを下げる600MHz位にすると2W位さがる。 ②spark間の接続コネクタ電源をソフト上で切断。25W位さがる。ただし、モデルの再読み込みが必要であまり実用的では無い。
2
1
88
Pju Runs 地元のLLM retweeted
Hermes Desktop経由でのイニシャルテスト。 Prefill(32k)が7324 tok/s 最初の乗せ方が悪くてPrefill 6256tok/sだったけどレシピを完全再現+DGX Sparkのゴミを綺麗に掃除してからやり直したらPrefill 7324tok/sになりました。1000単位で増えた笑 構成はレシピと完全同一 spark-ds41f:19f2c20ed4d6-next-6/KV 6,512,700トークン(6.21x)/1,048,576文脈・16並列・batched 16,384・KV 11,274,289,152B/oneshot-ring4/ドライバ580.178.04/64KiBカーネル/メモリセーバー0.4.1/CPUピン5-9,15-19 結論: レシピ同等以上(単発+1.3〜2.6%、Prefill +4.1〜8.6%、tokens/step +1.4%)。Prefillの上乗せ分は、RoCE4本フル稼働・APST(NVMe待ちゼロ)・defrag・headless・冷却余裕(スロットル0)によるもの。表はops/reports/2026-10-27-ds41f-tp4.mdにも保存済み。 念の為にまっさらなDeepSeek ハーネス(変わらないはず)からもテスト中。
spark-ds41f-1025 is out. DeepSeek V4.1 Flash on DGX Sparks. 1M context. Native weights. 1. Every kernel the server runs is TileLang now. B12X only loads the weights. 2. Outputs: same as last release. Bit for bit. Logprobs too. 3. Prefill: +12-14% on four Sparks. +23-28% on three. 4. Decode steps 1.7-2.4% shorter. Throughput: level. 75 tok/s single stream on four. 5. Two logprob bugs fixed. One of them could take the whole engine down. 6. 5,730 tests passed. 0 failed. 7. weightless abliteration (GLP steering). It edits the activations, not the weights. Off by default. Auditable. Won't hack you. 8. Everything is called spark-ds41f now. Almost. Rewrote every kernel. Changed zero bits. That was the point. github.com/christopherowen/s…
2
2
2
14
2,483
やばい、DGX Sparkクラスタ、富豪クラスタすぎる…。 富豪力が高すぎてDGX Station買う猛者が出かねない勢い。
119
XのiOSアプリで手が出てくるやつ、私のところは影も形もないというかPromoteボタンすらないんだけど、これってもしかして高いプランの人にしかでないのかな?高額課金者のPromoteをPromoteして驚かせましょう、ということ…?
1
1
282
半年くらい前に脱お名前しといてよかった。いや、それでも判断遅すぎたくらいなのかもしれないけど。さすがにちょっとEvilが過ぎる。中の人たちには気の毒ではあるけども…。
5
362