エンジニアをやっているふりをしている
Joined November 2024
- Tweets245
- Following188
- Followers205
- Likes931
自分がhotchipsとocpで感じ取っていたことと被っていることが多くて勝手に親近感湧いてました！面白かったです！
ポロっと小話に出たKV Cacheのテナント分離ですが、cache saltによるものなどがあるので、見てみると面白いかもしれません。
私はまだ試せてないので試してください(丸投げ)
#Gisium
aztecher / Mikiya Michishita retweeted
Gisium Open Sessions 第1回を開催します
第1回はGisiumアドバイザーの小林正幸が、最新のAIインフラにおける技術動向について、「推論基盤と Scale-Up Interconnect の現状と制約から俯瞰する技術動向（仮）」と題してお話しします
参加無料・オンライン開催です！
gisium.connpass.com/event/40…
#Gisium
めでたい🎉🎉🎉
Today at PyTorch Conference 2026, we announced llm-d 1.0! 🎉
Distributed inference is too complex to solve behind closed doors.
17 months in, llm-d is now a @CloudNativeFdn project powering fleets worldwide.
Here’s what’s inside 1.0 🧵👇
遅くなりましたが、推論基盤記事の第4弾です！
今回はLMCache＋VASTによる効果測定の話ですが、記事の大半はGPUDirect Storageの説明にあててます
書いておいてあれですが、いつもより分量が多いため、GDSの説明部分は興味ある人向けです
気になる人はゆっくり読んでください
knowledge.sakura.ad.jp/51880…
HotChipsを経てMaia200について色々調べていたおかげで、Maia300のプレスを見てどう変わったかやその意図を正誤はともかく色々考察できるようになったので、HotChipsは体験がいいです
aztecher / Mikiya Michishita retweeted
CloudNative Days 2026 WinterでKeynoteを務めさせていただくことになりました🎉 大変光栄に思います😀 よろしくお願いします🙇‼️
cloudnativedays.jp/sessions/…
#CNDW2026
大変僭越ながら明日こちらで少しだけお話させていただきます！
カンファ自体めちゃくちゃ面白かったので、皆さんがどんな切り口で報告されるのかも楽しみですねぇ
Hot Chips 2026 報告会 connpass.com/event/407262/
aztecher / Mikiya Michishita retweeted
Hot Chips 2026 報告会 っていうのをやります。 Hotchipsに行かれた方、行きたい方、ここで発表されたおもしろプロセッサの話で盛り上がりましょう connpass.com/event/407262/ #HotChips2026
aztecher / Mikiya Michishita retweeted
【記事広告掲載のお知らせ】
当社のマネージドスーパーコンピュータ「さくらONE」の裏側には、さくらインターネット研究所の存在があります。
研究と事業が相互に還元し合う、当社ならではの取り組みをご紹介いただいています。ぜひご覧ください。 #pr
▼記事はこちら▼
itmedia.co.jp/news/article/2…
aztecher / Mikiya Michishita retweeted
最近会社でやっていることをインタビューしていただきました！
【記事広告掲載のお知らせ】
当社のマネージドスーパーコンピュータ「さくらONE」の裏側には、さくらインターネット研究所の存在があります。
研究と事業が相互に還元し合う、当社ならではの取り組みをご紹介いただいています。ぜひご覧ください。 #pr
▼記事はこちら▼
itmedia.co.jp/news/article/2…
aztecher / Mikiya Michishita retweeted
vLLM Meetupのイベントページ公開しました。ご参加お待ちしています。セッションも絶賛募集中なのでご興味ある方はぜひ！
ossbyredhat.connpass.com/eve…
aztecher / Mikiya Michishita retweeted
Big news for d-Matrix and AI inference.
We’re collaborating with NVIDIA to bring our next-gen Raptor inference XPUs into NVIDIA's MGX rack-scale infrastructure with NVIDIA NVLink scale-up interconnect. Ultra-low latency inference. Premium-level token services. Built to scale.
Read the full announcement: d-matrix.ai/announcements/d-…
#NVLinkFusion #AIInfrastructure #AgenticAI #dMatrix
aztecher / Mikiya Michishita retweeted
#CNCJ #AIInfra Meetup #1(10/1) タイムテーブル確定しました🎉 皆さん当日お会いしましょう〜😀👋❗
今回は多数のご応募本当にありがとうございました(約3倍)❗やむを得ず採択できなかった提案が多くあるのですが、Meetupは今後も継続しますので次回以降で発表を是非お願いしたいです〜🙇
CNCJ AI Infra Meetup #1(10/1)のタイムテーブル決定！
CNCFのAI Infraインフラとしての現在地をみんなで共有しましょう！
#CNCJ #AIInfra #k8s #k8sjp
ocgroups.dev/cncf/group/bqd9…
