
AIキャラクタ開発中、めぐとももちゃんを育てています。@AI-sx8mo PCは自作派。好きなものはプログラミング、AI、アニメ、量子論、宇宙、花と野菜の栽培。心理学も(認知、行動、モチベーション等)少し。資格に無縁なアマ·ソフトウエア個人開発者。何でもやります。本業は電子回路設計。
Joined April 2014
- Tweets26K
- Following198
- Followers2.8K
- Likes7.1K
Talk to an AI character — she answers back with voice and video, in real time. Fully local, single GPU.
Local LLM + TTS + LTX-2.5 22B video diffusion. Mic audio goes straight into the LLM (input_audio) — no ASR in the reply path.
Code (Apache-2.0): github.com/animede/Realtime_…
@LTXStudio
CPUが12世代のi5程度なら楽勝です。因みにLLMをCPUで動かす時もメモリ帯域幅が大きいほうが速いです。だから16G一枚よりも8Gを2つのチャンネルに挿した方がいいです。16Gx2枚で32Gとか。LLMを他のPCでサーバ化するのがベスト。
先週やっていた、ACE-Stepの高速版+低VRAM化、Windowsでの動作も完了しこれで完成。
高速版TURBOなら3050−6Gや3060-12Gでも動き、ループ生成も出来ます。
最高精度のXL-SFTは16G VRAMが必要。
Easy-Musicも同梱
github.com/animede/ACE-Step-…
1
3
489
ゆずき retweeted
American open-source AI isn't dead yet 😝😝😝
@thinkymachines is releasing Inkling 2 Mini as apache 2.0 today and getting to the pareto frontier for open agent models.
Model: huggingface.co/thinkingmachi…
Hy4-Flash is now supported in Strata 🙌
It has its own .strata quantisation checkpoints at 64GB, 96GB, and 128GB. You can run it with at least an 8GB GPU. A preview of something bigger I'm doing for local inference in the next few days.
@TencentHunyuan Hy4-Flash is a great model with some good long-horizon agentic tasks.
See more at: github.com/Niko1221/Strata/r…
ゆずき retweeted
3050の6GBでもH3動画が512×512で4分弱で回るの、普通にありがたい。
ゲームのカットイン用の短い動きなら、低解像度で作ってアップスケールで十分いけそう。
SSD→M.2でここまで縮むのは、モデル読み込みが効いてるのかな。
みんなはH3、何解像度・何秒くらいで回してます? xitter.gq/uzuki425/status/212367…
ゆずき retweeted
Replying to @uzuki425
こちら(RTX4060Ti VRAM16G/メインRAM64GB)で動作確認できました。とりあえずT2VとFL2Vまで。午後か明日にはRef2Vにチャレンジしてみます!
とりあえずご報告まで。
先週やっていた、ACE-Stepの高速版+低VRAM化、Windowsでの動作も完了しこれで完成。
高速版TURBOなら3050−6Gや3060-12Gでも動き、ループ生成も出来ます。
最高精度のXL-SFTは16G VRAMが必要。
Easy-Musicも同梱
github.com/animede/ACE-Step-…
ごめんなさい。3050−6Gで音楽の生成はできるのですが、とても生成時間が長くなるのと、同梱のEasy−musicアプリから作成するとタイムアウトで終了してしまいます。実用的には8G以上必要です。
先週やっていた、ACE-Stepの高速版+低VRAM化、Windowsでの動作も完了しこれで完成。
高速版TURBOなら3050−6Gや3060-12Gでも動き、ループ生成も出来ます。
最高精度のXL-SFTは16G VRAMが必要。
Easy-Musicも同梱
github.com/animede/ACE-Step-…
1
6
621
これ、試しました。確かに高速。ちなみにわたしの6000BLKだと筆者環境よりも高速でした。
GPU0(RTX PRO 6000 Blackwell)で計測できました。
PyTorch:2.11.0 + CUDA 12.8
解像度:512×512
ウォームアップ後3回:49ms、49ms、50ms
平均生成時間:約49ms/枚
モデル読み込み:約8.7秒
速度:約20枚/秒
GPU1のRTX A4000は平均112msだったため、GPU0は約2.3倍高速です。論文のH200での公称78msよりも、今回のGPU0実測値は高速でした。
Jeveration: a model that generates a 512 × 512 image in just 78 ms!
A frozen vision-language model returns a whole 512 px image as one decision, in a single forward pass.
Jeveration: System One Models Now Generate. arxiv.org/abs/2611.24738
- Try the demo:
huggingface.co/spaces/linlin…
簡単にやったことをまとめました。
MiniMax-H3(動画+音声の 33B モデル)を 6GB の GPU と 16GB の RAM で動かすまでにやったこと|めぐチャンネル @uzuki425 note.com/ai_meg/n/n98f39751a…






