ヒル (@hiru_2005) header
ヒル (@hiru_2005) profile picture

RAM32GB VRAM12GB 以下のPCに対応したSync-Strata & Sync(独自量子化Qwen3.8 FN) を作っています

Joined November 2026
Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)Photo by ヒル (@hiru_2005)
Pinned Tweet
Sync-Strata、一般公開しました🎉 github.com/hiruhiru2005/sync… 家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです RAMに合わせてSync-XS / S / Mの3モデルから選べます Windows / Linux対応 (注: 試験版のため、不具合が起きる可能性があります)
32GB RAMでStrataが140tok/s (IQ3_S同等)! (Sync-Strata 独自エンジン・量子化) Strataを低RAM PC向けに改造したエンジン Sync-Strataと、それに対応したQwen3.8 Flash-Next量子化モデルSyncを開発しています。(1/3)
8
147
29
987
102,322
Strata(@coldniko さん)、Gyro(agentionaiさん)をベースに、計測にはstrata-jbench(@jun1228909 さん)を使わせていただきました。開発者の皆さん、本当にありがとうございます!!🙏
1
1
1
16
5,403
Sync-Strataは無料で、これからも無料です。 もし応援していただける方がいれば、Ko-fiでクラウドファンディングを受け付けています! いただいたご支援は、開発を続けるために使わせていただきます! ko-fi.com/hiruhiru2005
Sync-Strata、一般公開しました🎉 github.com/hiruhiru2005/sync… 家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです RAMに合わせてSync-XS / S / Mの3モデルから選べます Windows / Linux対応 (注: 試験版のため、不具合が起きる可能性があります)
1
5
142
ヒル retweeted
sync-strata お試し 5070/DDR5 64GB 環境で自作ベンチを回してみた エキスパートを削るのはアンフェアな気がしたので R10 設定で 結果を見ると、例えば Sync-M はデコード 111tok/s 前後出てる😃 Sync-M は GSQ IQ3_S と同程度の性能とのことなので、これが 32GB RAM で動くならだいぶ嬉しいね 32GB RAM + 12GB VRAM、R7 設定(エキスパートちょい削り)で公称 140tok/s とのことなので、あとは精度が本当に GSQ IQ3_S 相当なのかが気になるところ🧐 マイクラベンチもやってみよっと github.com/jun76/strata-jben…
はてさて sync-strata
1
4
1
26
1,966
Sync-Strata 0.1.2を公開しました! ・「Strata 準備中」のまま返事が来ない不具合修正 ・複数GPUのPCで、最もVRAMの多いGPUで動くように ・Radeonの出力崩れ、Windowsでの起動失敗に対処 ・更新の安全性を改善 アプリの「更新」からどうぞ。ご報告ありがとうございました! github.com/hiruhiru2005/sync…
Sync-Strata、一般公開しました🎉 github.com/hiruhiru2005/sync… 家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです RAMに合わせてSync-XS / S / Mの3モデルから選べます Windows / Linux対応 (注: 試験版のため、不具合が起きる可能性があります)
2
9
2
60
1,754
URL間違っていたので再投稿しました いいねRTしていただいた方申し訳ないです🙇‍♂️
Sync-Strata、一般公開しました🎉 github.com/hiruhiru2005/sync… 家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです RAMに合わせてSync-XS / S / Mの3モデルから選べます Windows / Linux対応 (注: 試験版のため、不具合が起きる可能性があります)
18
1,450
・デスクトップアプリ+スマホからQRコードで接続 ・OpenAI / Anthropic互換API、CLI ・最大256Kコンテキスト(VRAMに合わせて自動設定) ・画像入力、Web検索 ・AMD Radeonも実験的に対応 不具合や要望はGitHubのIssueかリプでどうぞ!
1
69
Strata(@coldniko )、Gyro(agentionaiさん)をベースに、計測にはstrata-jbench(@jun1228909 さん)を使わせていただきました。開発者の皆さん、本当にありがとうございます!!🙏
57
お待たせしました!現在最終のチェックを実行中です 大きな問題が見つからなければ、6時間以内に公開できる予定です!
2
6
42
1,651
トラブルが起きました…
5
19
1,344
DDR4-3200 16GB+RTX 3060 Ti+SATA SSDの構成、15tok/sくらい出てて「そんなもんか〜」と思ってたら突然25tok/s出し始めた
1
2
28
3,255
トラブルがなければ、あと48時間以内公開します! 正式な公開日時が決まったらまたお伝えします
1
34
1,544
グラフィックボードの性能(TFLOPS.・FP32)は? (調べるのが大変だったら感覚でも大丈夫です!) 最も近いのを選択してください!
37%16(3060Ti、4060)くらい
35%32(3080Ti、4070、5070)くらい
22%48(4080,5070Ti)くらい
7%64以上(4090、5090)
101 votes • Final results
4
1,058
ローカルLLMに使っている(使う予定のある)PCのVRAM容量は? (最も近いのを選択してください!)
14%8GB
34%12GB
34%16GB
18%24GB以上
134 votes • Final results
3
851
地元LLM界隈のスペックの分布が知りたいのでアンケートいくつか流します! 良ければお答えください! ローカルLLMに使っている(使う予定のある)PCのメインRAM容量は?
6%16・24GB
48%32GB
6%48GB
41%64GB以上
105 votes • Final results
3
653
Replying to @mirai_yuki_tech
私はそのカットする機能は切ってるよ たしかVRAM に載っていない専門家のうち、その区間のどのトークンでも何番目以下でしか選ばれていないものを、転送も計算もせずに飛ばすみたいなやつ 0.1.42から付いた機能らしい
2
2
40
2,894
原因はわからないけどDSH再起動で直った
4
773