ゆずき (@uzuki425) header
ゆずき (@uzuki425) profile picture

AIキャラクタ開発中、めぐとももちゃんを育てています。@AI-sx8mo PCは自作派。好きなものはプログラミング、AI、アニメ、量子論、宇宙、花と野菜の栽培。心理学も(認知、行動、モチベーション等)少し。資格に無縁なアマ·ソフトウエア個人開発者。何でもやります。本業は電子回路設計。

Joined April 2014
Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)Photo by ゆずき (@uzuki425)
Talk to an AI character — she answers back with voice and video, in real time. Fully local, single GPU. Local LLM + TTS + LTX-2.5 22B video diffusion. Mic audio goes straight into the LLM (input_audio) — no ASR in the reply path. Code (Apache-2.0): github.com/animede/Realtime_… @LTXStudio
12
55
6
513
43,451
おはようございます。晴れ@五反田
3
137
CPUが12世代のi5程度なら楽勝です。因みにLLMをCPUで動かす時もメモリ帯域幅が大きいほうが速いです。だから16G一枚よりも8Gを2つのチャンネルに挿した方がいいです。16Gx2枚で32Gとか。LLMを他のPCでサーバ化するのがベスト。
先週やっていた、ACE-Stepの高速版+低VRAM化、Windowsでの動作も完了しこれで完成。 高速版TURBOなら3050−6Gや3060-12Gでも動き、ループ生成も出来ます。 最高精度のXL-SFTは16G VRAMが必要。 Easy-Musicも同梱 github.com/animede/ACE-Step-…
1
3
489
GPUが6Gでも余裕が2GぐらいあるのでLLMのウエイトを何層かでもGPUに載せた方が速くなるはずですなので、明日少し試します
139
American open-source AI isn't dead yet 😝😝😝 @thinkymachines is releasing Inkling 2 Mini as apache 2.0 today and getting to the pareto frontier for open agent models. Model: huggingface.co/thinkingmachi…
76
154
19
1,919
60,183
ゆずき retweeted
Hy4-Flash is now supported in Strata 🙌 It has its own .strata quantisation checkpoints at 64GB, 96GB, and 128GB. You can run it with at least an 8GB GPU. A preview of something bigger I'm doing for local inference in the next few days. @TencentHunyuan Hy4-Flash is a great model with some good long-horizon agentic tasks. See more at: github.com/Niko1221/Strata/r…
47
81
19
772
34,671
i3-10100に16GDIMMを一枚刺しだとLLM処理がN150の二倍にもならないらしい。さすがにローエンドとは言えspec低すぎでした
213
3050の6GBでもH3動画が512×512で4分弱で回るの、普通にありがたい。 ゲームのカットイン用の短い動きなら、低解像度で作ってアップスケールで十分いけそう。 SSD→M.2でここまで縮むのは、モデル読み込みが効いてるのかな。 みんなはH3、何解像度・何秒くらいで回してます? xitter.gq/uzuki425/status/212367…
こちら、SSD->M.2に変更後のパフォーマンス 3050-6G  512×384 163 秒  512×512 237 秒  768×512 345 秒 3060-12G  512x512 130.1秒  768x512 198.4秒  768x768 338.2秒  1024x768 472.6秒 Minimax-H3の真の実力には解像度で及ばないですが、ちょっとした動画なら使えると思います。
1
1
130
Replying to @uzuki425
こちら(RTX4060Ti VRAM16G/メインRAM64GB)で動作確認できました。とりあえずT2VとFL2Vまで。午後か明日にはRef2Vにチャレンジしてみます! とりあえずご報告まで。
1
1
2
132
新しいオリジナルのアイデアを開発したわけじゃなくて(一部は開発した部分もあるけど)、既存技術を研いで、モデル構造を解析して、どこをどうすればVRAM削れるか、早くなるか、を一つずつ確認しながら、もう少しここができるんじゃないかと絞りだしてたどりついた結果ですね。
5
367
こちらも並行して進めててV1.0は明日にでもできそう。
画像生成、動画生成、音楽生成 のコンテンツ制作に必要な3種類のAIが6G-VRAMのエントリー機で動くようになりました。可能なら8G以上、快適に使うなら16G~ですが、高価なハードを準備しなくても映像コンテンツの製作ができるはず。近日、3つを統合した映像コンテンツ制作スタジオも公開します。
9
511
直しました。6Gでもそれなりの時間で生成できるようになりました。
Replying to @uzuki425
ごめんなさい。3050−6Gで音楽サーバ側は音楽の生成はできるのですが、生成時間が極めて長くなります。実用的ではないですね。8G以上あればなんとか。
1
1
5
467
2 曲目: 3 分 2 秒の曲 → 2 分 37 秒 テーマを変え3 曲目: 2 分 53 秒の曲 → 3 分 28 秒 歌詞の LLM 1 分 20 秒、キャプション強化まで 2 分 15 秒 ACEでの音楽生成は1 分 13 秒。旧式i3はE4Bでも、テーマ、歌詞、キャプションの構造化出力に時間かかります。12,13世代ならずっと早いと思います。
1
165
先週やっていた、ACE-Stepの高速版+低VRAM化、Windowsでの動作も完了しこれで完成。 高速版TURBOなら3050−6Gや3060-12Gでも動き、ループ生成も出来ます。 最高精度のXL-SFTは16G VRAMが必要。 Easy-Musicも同梱 github.com/animede/ACE-Step-…
1
3
1
46
3,247
ごめんなさい。3050−6Gで音楽サーバ側は音楽の生成はできるのですが、生成時間が極めて長くなります。実用的ではないですね。8G以上あればなんとか。
1
1
544
ごめんなさい。3050−6Gで音楽の生成はできるのですが、とても生成時間が長くなるのと、同梱のEasy−musicアプリから作成するとタイムアウトで終了してしまいます。実用的には8G以上必要です。
先週やっていた、ACE-Stepの高速版+低VRAM化、Windowsでの動作も完了しこれで完成。 高速版TURBOなら3050−6Gや3060-12Gでも動き、ループ生成も出来ます。 最高精度のXL-SFTは16G VRAMが必要。 Easy-Musicも同梱 github.com/animede/ACE-Step-…
1
6
621
展示会等で、ローカルで動かしていない人から高価なGPUが必要なんでしょう?、とよく聞かれるので、号なしてここまでできるんです、という説明のつもりで同人誌にまとめました。流石にN150だと動かすのがやっと、ですが、中位ぐらいのCPUがあればサクサクと動いてくれます。
1
2
460
その環境で何ができるかを考えるか、が大事なんだと思う。だれかがGPU使ってやっている事をやろうとしても無理ですかね。
178
これ、試しました。確かに高速。ちなみにわたしの6000BLKだと筆者環境よりも高速でした。 GPU0(RTX PRO 6000 Blackwell)で計測できました。 PyTorch:2.11.0 + CUDA 12.8 解像度:512×512 ウォームアップ後3回:49ms、49ms、50ms 平均生成時間:約49ms/枚 モデル読み込み:約8.7秒 速度:約20枚/秒 GPU1のRTX A4000は平均112msだったため、GPU0は約2.3倍高速です。論文のH200での公称78msよりも、今回のGPU0実測値は高速でした。
Jeveration: a model that generates a 512 × 512 image in just 78 ms! A frozen vision-language model returns a whole 512 px image as one decision, in a single forward pass. Jeveration: System One Models Now Generate. arxiv.org/abs/2611.24738 - Try the demo: huggingface.co/spaces/linlin…
1
1
9
775
1,画像生成 画像→画像 エッジマップから画像を生成 深度マップから画像を生成 白黒写真のカラー化 アニメ調への変換 水彩画風等へのスタイル変換 2,他の生成 こちらが有益か? 画像のDense Prediction(画素単位の解析)セマンティック・セグメンテーション 深度推定 表面法線推定
165
画像生成、動画生成、音楽生成 のコンテンツ制作に必要な3種類のAIが6G-VRAMのエントリー機で動くようになりました。可能なら8G以上、快適に使うなら16G~ですが、高価なハードを準備しなくても映像コンテンツの製作ができるはず。近日、3つを統合した映像コンテンツ制作スタジオも公開します。
3
3
1
51
3,062