Pinned Tweet
Sync-Strata、一般公開しました🎉
github.com/hiruhiru2005/sync…
家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです
RAMに合わせてSync-XS / S / Mの3モデルから選べます
Windows / Linux対応
(注: 試験版のため、不具合が起きる可能性があります)
Strata(@coldniko さん)、Gyro(agentionaiさん)をベースに、計測にはstrata-jbench(@jun1228909 さん)を使わせていただきました。開発者の皆さん、本当にありがとうございます!!🙏
ウェブ検索には、RustXNG(@sahenjpn さん)を使わせていただいています。こちらも本当にありがとうございます!🙏
github.com/sahenjp/RustXNG
1
59
Sync-Strataは無料で、これからも無料です。
もし応援していただける方がいれば、Ko-fiでクラウドファンディングを受け付けています!
いただいたご支援は、開発を続けるために使わせていただきます!
ko-fi.com/hiruhiru2005
Sync-Strata、一般公開しました🎉
github.com/hiruhiru2005/sync…
家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです
RAMに合わせてSync-XS / S / Mの3モデルから選べます
Windows / Linux対応
(注: 試験版のため、不具合が起きる可能性があります)
ヒル retweeted
sync-strata お試し
5070/DDR5 64GB 環境で自作ベンチを回してみた
エキスパートを削るのはアンフェアな気がしたので R10 設定で
結果を見ると、例えば Sync-M はデコード 111tok/s 前後出てる😃
Sync-M は GSQ IQ3_S と同程度の性能とのことなので、これが 32GB RAM で動くならだいぶ嬉しいね
32GB RAM + 12GB VRAM、R7 設定(エキスパートちょい削り)で公称 140tok/s とのことなので、あとは精度が本当に GSQ IQ3_S 相当なのかが気になるところ🧐
マイクラベンチもやってみよっと
github.com/jun76/strata-jben…
Sync-Strata 0.1.2を公開しました!
・「Strata 準備中」のまま返事が来ない不具合修正
・複数GPUのPCで、最もVRAMの多いGPUで動くように
・Radeonの出力崩れ、Windowsでの起動失敗に対処
・更新の安全性を改善
アプリの「更新」からどうぞ。ご報告ありがとうございました!
github.com/hiruhiru2005/sync…
Sync-Strata、一般公開しました🎉
github.com/hiruhiru2005/sync…
家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです
RAMに合わせてSync-XS / S / Mの3モデルから選べます
Windows / Linux対応
(注: 試験版のため、不具合が起きる可能性があります)
URL間違っていたので再投稿しました
いいねRTしていただいた方申し訳ないです🙇♂️
Sync-Strata、一般公開しました🎉
github.com/hiruhiru2005/sync…
家庭用PCでQwen3.8 Flash-Next(125B MoE)を高速に動かせる、Strataベースのローカルアプリです
RAMに合わせてSync-XS / S / Mの3モデルから選べます
Windows / Linux対応
(注: 試験版のため、不具合が起きる可能性があります)
18
1,450
・デスクトップアプリ+スマホからQRコードで接続
・OpenAI / Anthropic互換API、CLI
・最大256Kコンテキスト(VRAMに合わせて自動設定)
・画像入力、Web検索
・AMD Radeonも実験的に対応
不具合や要望はGitHubのIssueかリプでどうぞ!
1
69
Strata(@coldniko )、Gyro(agentionaiさん)をベースに、計測にはstrata-jbench(@jun1228909 さん)を使わせていただきました。開発者の皆さん、本当にありがとうございます!!🙏
57
グラフィックボードの性能(TFLOPS.・FP32)は?
(調べるのが大変だったら感覚でも大丈夫です!)
最も近いのを選択してください!
37%16(3060Ti、4060)くらい
35%32(3080Ti、4070、5070)くらい
22%48(4080,5070Ti)くらい
7%64以上(4090、5090)
101 votes • Final results 4
1,058
ローカルLLMに使っている(使う予定のある)PCのVRAM容量は?
(最も近いのを選択してください!)
14%8GB
34%12GB
34%16GB
18%24GB以上
134 votes • Final results 3
851
地元LLM界隈のスペックの分布が知りたいのでアンケートいくつか流します!
良ければお答えください!
ローカルLLMに使っている(使う予定のある)PCのメインRAM容量は?
6%16・24GB
48%32GB
6%48GB
41%64GB以上
105 votes • Final results 3
653
ヒル retweeted
Replying to @mirai_yuki_tech
私はそのカットする機能は切ってるよ
たしかVRAM に載っていない専門家のうち、その区間のどのトークンでも何番目以下でしか選ばれていないものを、転送も計算もせずに飛ばすみたいなやつ
0.1.42から付いた機能らしい











