Pinned Tweet
世界最速※のAIエンジン「YASAKANI」を公開しました。
対応:RTX 5090/Windows
RTX 5090以外では動きません。
私はこれで終わりだとは考えていません。
ここから更なる生成速度と圧縮品質の向上、対応GPUの拡大を目指しています。
日本人としてAI技術開発の最前線に立ちたい。
ご支援のほどよろしくお願い致します。
クラファン
camp-fire.jp/projects/992233…
ソースコード
github.com/yasakani-dev/yasa…
モデル
huggingface.co/yasakani-dev
【YASAKANIとは】
WindowsとRTX 5090 1枚でQwen3.8-27Bを高速に動かすローカルAIエンジンです。オープンソース(Apache-2.0)で無料で使えます。ダウンロード後はオフラインで動きます。個人で開発しています。
【動画について】
動画の作品は全て、YASAKANIで動かしたAI(Qwen3.8-27B)が書いたHTMLです。
【モデルは2種類】
・品質モデル(推奨):12.37GB
・最速モデル:10.31GB
【始め方】
1. GitHubのReleasesからyasakani-quickstart-0.1.0.zi…をダウンロード
2. 半角英数字だけのフォルダーに展開(例:C:\yasakani)
3. START.cmdをダブルクリック
PCの確認、エンジンとモデル(約13〜15GB)のダウンロード、動作チェックまで自動で進みます。PythonやNVIDIAドライバーが無い場合は画面に案内が出ます。
【できること】
・ブラウザーやターミナルでチャット
・OpenAI互換サーバー(対応アプリや開発ツールから接続できます)
・エージェント画面(AIがファイルを読み書きして作業します。試作版)
・生成速度の計測
【動作環境】
・GPU:NVIDIA GeForce RTX 5090(32GB)
・OS:Windows 11(64bit)
・ソフト:Python 3.10以上、NVIDIAドライバー、Visual C++ランタイム
・空き容量:20GB
【未対応】
Linux、macOS、AMDのGPU、RTX 5090以外のNVIDIAのGPU、他のモデル。
対応GPUを増やすことがクラウドファンディングの目的です。
※RTX 5090 1枚・Qwen3.8-27B・単一生成。下の引用ポストに掲載した8エンジン・7分野の比較条件での記録です。
エンジンについての詳細↓
teapawt.org/yasakani_dev/status/21…
『22歳が開発。世界最速※のAIエンジンを、あなたのPCへ。』に挑戦中! camp-fire.jp/projects/992233… #クラウドファンディングCAMPFIRE @yasakani_devさんから
貴重な検証結果をありがとうございます。
Replying to @mch_tamaya
改めて、YASAKANI v0.1.5 と llama.cpp v1.0.0 を実測比較
品質ほぼ同等。速度は圧倒的!
初期不具合も改修できたようなので常用をYASAKANIに(のでクラファンにも参加します)
3
123
Akito Hirai (YASAKANI) retweeted
改めて、YASAKANI v0.1.5 と llama.cpp v1.0.0 を実測比較
品質ほぼ同等。速度は圧倒的!
初期不具合も改修できたようなので常用をYASAKANIに(のでクラファンにも参加します)
【YASAKANI v0.1.5を公開しました】
今回は、ツール呼び出しやGPU関連の不具合修正が中心です。同じ画像が重複して送られた場合の処理も速くなりました。
GitHubで修正や報告を寄せてくださった5人の皆さま、ありがとうございます。
RTX 5090で確認した課題では、出力はv0.1.4と完全に一致し、生成速度も変わりませんでした。
【主な修正・改善】
■ ツールに渡すデータを正しく扱えるようにしました
AIがツールを呼び出す際、渡すデータに特定の文字列が含まれると、正しく読み取れない不具合を修正しました。
また、モデルが出力した"True"・"False"を、文字列ではなく真偽値として扱うようにしました。
■ 同じ画像を重複して処理しないようにしました
1回の依頼に同じ画像が2枚含まれている場合、画像の読み込みを1回にまとめます。
この条件での測定では、処理時間が3.19秒から1.75秒に短縮しました。
■ 16GBのGPUで、長い文章を扱う設定にした際の不具合を修正しました
扱える文章量の上限を大きく設定したとき、GPUメモリが不足する問題を修正しました。
■ GPUが2枚あるPCで、使用するGPUの指定に関する不具合を修正しました
GPUを選択する際、番号の対応がずれる問題を修正しました。
2枚のGPUを搭載した実機での動作確認は、報告者の方に依頼中です。
【その他の修正】
- 2つのエンジンを同時に動かした際、出力を高速化するための「先読み処理」が互いに干渉する不具合を修正しました。
- Attentionの計算分割数を変更した場合の不具合と、モデルファイルの読み込みに関する不具合を修正しました。どちらも標準設定での利用には影響しません。
- "--dll"で指定したエンジンファイルが、正しく使用されるようにしました。
【FAQに追加した情報】
モニターの接続先によって、生成速度が変わる場合があります。
RTX 5070 Tiを使っている方から、モニターをGPU側からCPU内蔵グラフィックス側につなぎ替えたところ、生成速度が1.5〜2.1倍になったという報告をいただきました。この事例をFAQに追加しました。
【更新方法】
v0.1.0〜v0.1.4をお使いの方は、新しい起動ファイルに入れ替え、"START.cmd"を実行してください。
ダウンロード済みのモデルは、そのまま使えます。
【ご協力いただいた皆さま】
- @ANAg2bGODさん:ツール呼び出し、重複画像の処理、"--dll"の修正(#12)
- @Iamwonderingifさん:エンジン同時実行、Attention計算、モデル読み込みの修正(#13・#14・#15)
- penguinHHさん:16GB GPUの問題と、モニター接続先による速度差の報告(#17・#18)
- yoshi131さん:GPUを2枚搭載した環境での不具合報告(#20)
- AgenticStewさん:"True"・"False"の扱いの修正(#21)
詳細:github.com/yasakani-dev/yasa…
Akito Hirai (YASAKANI) retweeted
【YASAKANI最軽量版の公開】
VRAM16GB, RAM32GBだと石ちゃん版の無検閲YASAKANI(12.4GB)はギリVRAMが足りないので、再量子化版(10.3GB)を作りました。
✌️内容はhuihui-ai/Qwen3.8-27B-abliteratedを、公式ツールで最軽量に変換
✌️5070Tiでも爆速
同じPCでの比較動画は添付に。
👍文脈1.6万に絞って無理やり載せると10〜27tok/s、最軽量版は文脈4.9万で約110tok/s。4倍以上速い
👍無検閲度はどっちも91%で同じ
👎重みの精度は落ちる(公式の数字でKL 0.0304 vs 0.0122)ので、VRAM24GB以上ある人は素直に石ちゃん版のほうがいいです。無理くり16GBで回せる用に作っただけなので。
ちなみにRTX PRO 6000をrunpodで借りて3時間500円くらいでした、、、ローカルとは、、、
huggingface.co/Kumairo/Qwen3…
【 世界最速エンジン !? YASAKANI 】
~ 爆速の無検閲化モデルを公開~
先日公開された「YASAKANI」
0.1.3ではRTX 30・40・50シリーズにも対応
速度・精度がよくって色々と使い道が出てきそうなので、無検閲化モデル+Visionを公開🌟
(Huihui-Qwen3.8-27B-abliteratedを元にYASAKANI 用にしました)
※LoRA版は本体エンジン更新のため削除済み
✅拒否率
・YASAKANI
拒否:69% 回避:40%→全体70.8%
・Uncensored VL
拒否:1% 回避:63%→全体12.3%
NSFWの、内容もほとんど拒否せずに行けます
回避部分の改善の仕方は👇参照
✅小説
■良い所
・頼んだ条件を全部守る
・始まりと終わりがきれい
・明確に指定すると回避も防ぎやすい
■弱い所
・言葉が官能的でなく、医学的で固め
・話の流れが一部おかしい
⭐︎主語の繰り返しがある
⭐︎後半ほど「、」が増える
⭐︎はQwen3.8 の癖でこのモデルでも変わりません
✅画像OK(YASAKANI 0.1.3移行)
・動画の写真では、3,000字を11秒
・「髪飾り」、「髪の雪」、「瞳の光」と詳細に解説
✅エージェント
・実際にバグ直しをテスト
・直す→自分でテストして確かめ→報告
・15〜54秒程度
・ファイルを勝手に書き換えるなどのズルもなし
✅PDFとかの長い文章
・実際のPDF(10.4万トークン):読み込み50秒 数字の5問は全問正解
・サーバーログ 15万トークン:読み込み82秒 5問中4問正解
・探す・要点をつかむのは得意
・数の正確性は少し苦手かも
✅実用的な使い方
■画像の説明
・一般的な画像のキャプション作り
・NSFWのLoRA学習用のキャプション
■小説・ロールプレイ
・拒否ふないけど、少し回避気味な癖あり
・明確に指定すると、その回避もやや改善
■エージェント
・ツールの呼び出しに対応
・ファイルを読ませたり直させたりできます
■長い文章
・長いログやPDFの要点を聞くのにも使えます
✅まとめ
本家を引き継いでとにかく早いです
YASAKANIのアプデでRTX 30・40・50シリーズで使えるようになったのが良いよね!
・VRAMに乗り切らなければStrata
・乗り切るならYASAKANI(Uncensored VL)
こんな使い分けでやってみようと思います🌱
Akito Hirai (YASAKANI) retweeted
【 Qwen3.8-27B の無検閲モデル 】
~あなたへの至高の1本 12~16GB編~
YASAKANI Uncensored VLの実用評価もかねて、
12~16GB帯の無検閲モデルを比べてみました。
4本とも特徴がはっきりと違います
✅結論
・Orca Q4→何でもそつなく
・YASAKANI Uncen VL→NSFW・速い
・Huihui Q4→長文で読点が増えにくい
・Heretic Q4→字数・禁用語は一番守る
✅比べた4本
全部Qwen3.8-27B の無検閲モデル
・Uncensored OrcaRouter Q4_K_M(16.8GB)
・YASAKANI Uncensored VL(12.4GB)
・Huihui abliterated UD-Q4_K_M(16.6GB)
・Heretic Q4_K_M(16.8GB)
普通のベンチ診断に加えて
・NSFW小説(1,500字くらい)
・写真の読み取り
・写真を見て、ComfyUI 用のプロンプトを記載
こんな実用的な部分も比べました
✅Orca Q4:16.8GB
★いちばんの優等生
・「言われたことを、言われた範囲で、正しく」やる
・プロンプトを書かせた時も、元の写真をいちばん表現
・分からないことを、それっぽく埋めてしまう時が多いかな
使いどころは、事務作業や決まった手順の仕事
迷ったらこれ、という1本かな
✅YASAKANI Uncensored VL:12.4GB
★速さが別格
・小説1本(他は18〜45秒→7秒)
・写真からプロンプトは2秒
・NSFWも拒否率が少ない
・画像認識は94%と高水準
・弱点は文章で「何字で」「この言葉は使わな」の指定をたまに忘れます
12.4GBと一番小さいですが、専用のエンジン(YASAKANIv0.1.13~)が必要
NSFW用途や大量に読み書きをさせる使い方なら、これ一択
✅Huihui Q4:16.6GB
★読点の出方が落ち着いている
・Qwen3.8-27B 系は、長い文章の後半で読点が増える癖がありますが増え方がいちばん小さかった
・ハルネーションのの少なさや読解力も高水準
・一方で、画像は苦手
・コーディングやエージェント能力も苦手
長い日本語の読み書きが得意
✅Heretic Q4:16.8GB
★文章の指示を守る
・文章能力が高く、字数や「この言葉は使わない」の指定をいちばん守る
・小説の公判で「は、」「を、」のような単語ごとに「、」で区切り始めます。
・ほかの4本は3〜4割なのに、これは5割と高め
・写真からプロンプトはあまりお勧めしません
日本語の文章を、指示どおりの形で書かせたい時に向いていますが、
後半では「、」が出始めるので少し使いにくいかな
✅まとめ
・事務作業、決まった手順の仕事 → Orca Q4
・NSFW・画像・文章を大量に処理 → YASAKANI Uncensored VL
・長い日本語の読み書き→Huihui Q4
・日本語の文章を指定どおりに → Heretic Q4
作業の内容に合ったモデル選んで下さいね🌱
【 世界最速エンジン !? YASAKANI 】
~ 爆速の無検閲化モデルを公開~
先日公開された「YASAKANI」
0.1.3ではRTX 30・40・50シリーズにも対応
速度・精度がよくって色々と使い道が出てきそうなので、無検閲化モデル+Visionを公開🌟
(Huihui-Qwen3.8-27B-abliteratedを元にYASAKANI 用にしました)
※LoRA版は本体エンジン更新のため削除済み
✅拒否率
・YASAKANI
拒否:69% 回避:40%→全体70.8%
・Uncensored VL
拒否:1% 回避:63%→全体12.3%
NSFWの、内容もほとんど拒否せずに行けます
回避部分の改善の仕方は👇参照
✅小説
■良い所
・頼んだ条件を全部守る
・始まりと終わりがきれい
・明確に指定すると回避も防ぎやすい
■弱い所
・言葉が官能的でなく、医学的で固め
・話の流れが一部おかしい
⭐︎主語の繰り返しがある
⭐︎後半ほど「、」が増える
⭐︎はQwen3.8 の癖でこのモデルでも変わりません
✅画像OK(YASAKANI 0.1.3移行)
・動画の写真では、3,000字を11秒
・「髪飾り」、「髪の雪」、「瞳の光」と詳細に解説
✅エージェント
・実際にバグ直しをテスト
・直す→自分でテストして確かめ→報告
・15〜54秒程度
・ファイルを勝手に書き換えるなどのズルもなし
✅PDFとかの長い文章
・実際のPDF(10.4万トークン):読み込み50秒 数字の5問は全問正解
・サーバーログ 15万トークン:読み込み82秒 5問中4問正解
・探す・要点をつかむのは得意
・数の正確性は少し苦手かも
✅実用的な使い方
■画像の説明
・一般的な画像のキャプション作り
・NSFWのLoRA学習用のキャプション
■小説・ロールプレイ
・拒否ふないけど、少し回避気味な癖あり
・明確に指定すると、その回避もやや改善
■エージェント
・ツールの呼び出しに対応
・ファイルを読ませたり直させたりできます
■長い文章
・長いログやPDFの要点を聞くのにも使えます
✅まとめ
本家を引き継いでとにかく早いです
YASAKANIのアプデでRTX 30・40・50シリーズで使えるようになったのが良いよね!
・VRAMに乗り切らなければStrata
・乗り切るならYASAKANI(Uncensored VL)
こんな使い分けでやってみようと思います🌱
Qwen4 27B に期待
公開され次第すぐに対応します。
📢 Meet Qwen4-Max, your new AI teammate for work, creativity, and discovery!
Qwen4-Max is built on a new MoE architecture with native vision and a 1M-token context window.
Highlights:
- Outperforms Qwen3.8-Max with up to ~50% fewer tokens, while average cost per task drops over 60% in our internal evaluation.
- Advances real-world productivity through greater proficiency with professional tools, stronger long-horizon execution, and higher-quality deliverables.
- Handles real tasks, including 3D modeling, game development, manufacturing, finance, law, healthcare, and frontier scientific discovery.
- $1.5/M tokens for input, $4.5/M tokens for output, and $0.075/M tokens for implicit caching — all lower than Qwen3.8-Max, with implicit caching down by 70%.
The API is live on QwenCloud. You can also try Qwen4-Max on Qwen Studio, QwenWork and Qoder.
Start building today! 🚀
- Blog: qwen.ai/blog?id=qwen4-max
- API: qwencloud.com/models/qwen4-m…
- Token Plan: qwencloud.com/pricing/token-…
More to come! The open weights of smaller Qwen4 models will be released. Stay tuned. 👀
Yasakani is a genuinely impressive engine, especially considering it was build by one person
But other engines like Tensorfold have not been sitting idle, but those are usually maintained by the effort of multiple people over a long timespan.
Especially the generation speed in structured is mighty impressive!
Follow @yasakani_dev if you wanna see the continual development!
Akito Hirai (YASAKANI) retweeted
YASAKANI v0.1.4を早速検証
石ちゃんさんのUncensored+Visionモデルは、そのまま利用可能
速度面では、同一文書の別質問の定量的な効果が測定出来た模様
decodeも向上しているようですが、こちらはv0.1.3時代の記録が適切じゃなかった可能性があり、ってことで参考値
#YASAKANI
【YASAKANI v0.1.4を公開しました】
今回の主な改善は、次の2つです。
- コードやデータの編集で、出力速度が最大約2倍になりました。
- 同じ資料に続けて質問するとき、回答が始まるまでの待ち時間が短くなりました。
【1.コードやデータの編集が速くなりました】
元のコードやデータの大部分を残し、一部だけを書き換える作業で効果があります。
RTX 5090・思考なしの条件で、v0.1.2と同じ時間帯に測定して比較しました。
作業| v0.1.2| v0.1.4| 速度の向上
JSONL編集| 1,125 tok/s| 2,298 tok/s| 2.04倍
コード編集| 1,210 tok/s| 2,025 tok/s| 1.67倍
※トークンは、AIが文章を処理する単位です。tok/sは1秒あたりに生成するトークン数を表します。
※品質モデルのコード編集は、1.78倍になりました。
文章生成や翻訳などの速度は、ほぼ変わりません。また、「思考あり」で使う場合も、思考部分の処理は速くなりません。
【2.同じ資料への追加質問で、待ち時間を短縮しました】
同じ資料について続けて質問するときは、前回の読み込み結果を再利用するようになりました。
22.4万トークンの資料を使った測定では、回答が始まるまでの待ち時間が116秒から0.37秒に短縮しました。
【高速化の仕組みと、出力の確認結果】
入力を写す部分では、先読みした出力候補を本体のAIモデルでまとめて確認する処理を改善しました。一度に確認できる量を、従来の16トークンから最大64トークンに増やし、そのための専用処理も追加しています。
実際に採用するのは、本体のモデルが選んだトークンだけです。今回の速度測定に使った課題では、出力はv0.1.3と1文字も違いませんでした。
最大64トークンをまとめて確認する機能は、RTX 50シリーズのみが対象です。速度を測定したGPUは、RTX 5090のみです。
【その他の変更】
- 起動時に、NVIDIAドライバーがバージョン580以上か確認するようになりました。
- RTX 5090以外のGPUでも、自己点検で計算の正しさを確認します。
- APIでtool_choiceの"required"を受け付け、処理時間の情報(timings)を返すようになりました。ただし、ツール呼び出しを必ず実行させる機能はありません。(ppsxさん #8)
- チャット画面を修正しました。(@Iamwonderingifさん #9)
- Linux向けのビルド手順を追加しました。Linuxは公式サポート対象外です。(AgenticStewさん #10、ppsxさん #8)
【更新方法】
v0.1.0〜v0.1.3をお使いの方は、新しい起動ファイルを入れて、START.cmdを実行すると更新できます。ダウンロード済みのモデルは、そのまま使えます。
詳細:github.com/yasakani-dev/yasa…
【YASAKANI v0.1.3を公開しました】
RTX 30・40・50シリーズ(GPUメモリ16GB以上)向けの版です。
・24GB:3090・3090 Ti・4090
・16GB:4060 Ti 16GB・4070 Ti SUPER・4080・4080 SUPER・5060 Ti 16GB・5070 Ti・5080
・12GB以下とRTX 20シリーズ以前は動作しません
動作確認はRTX 5090のみで、他のカードでは動作と速さを保証できません。動作報告をGitHubのIssueでお待ちしています。
【対応と最適化について】
早期の対応を望む声を多くいただいたため、先行して対応しました。YASAKANIは他のGPUにも移植できる設計にしており、比較的小さな変更で動作させることができます。
一方で、動作することと最適化されていることは別です。GPUはカードごとにメモリ帯域や演算ユニットの数が異なります。それぞれの性能を十分に引き出すには、実機で設定を変えながら、測定と調整を重ねる必要があります。
私がお届けしたいのは、カードごとに最適化したYASAKANIです。
この最適化を進めることが、クラファンの300万円の目標です。目標の内容がより正確に伝わるよう、表記を「対応」から「最適化」に改めます。これまでの表記で誤解を生んでしまった方々には、申し訳ございませんでした。
【その他】
・まれに途中から別の文章になる不具合の原因を見つけて修正しました(修正版の試験では発生なし)
・0.1.0〜0.1.2からは、新しい起動ファイルを入れてSTART.cmdを開くだけで更新できます
github.com/yasakani-dev/yasa…
1
753
【YASAKANI v0.1.4を公開しました】
今回の主な改善は、次の2つです。
- コードやデータの編集で、出力速度が最大約2倍になりました。
- 同じ資料に続けて質問するとき、回答が始まるまでの待ち時間が短くなりました。
【1.コードやデータの編集が速くなりました】
元のコードやデータの大部分を残し、一部だけを書き換える作業で効果があります。
RTX 5090・思考なしの条件で、v0.1.2と同じ時間帯に測定して比較しました。
作業| v0.1.2| v0.1.4| 速度の向上
JSONL編集| 1,125 tok/s| 2,298 tok/s| 2.04倍
コード編集| 1,210 tok/s| 2,025 tok/s| 1.67倍
※トークンは、AIが文章を処理する単位です。tok/sは1秒あたりに生成するトークン数を表します。
※品質モデルのコード編集は、1.78倍になりました。
文章生成や翻訳などの速度は、ほぼ変わりません。また、「思考あり」で使う場合も、思考部分の処理は速くなりません。
【2.同じ資料への追加質問で、待ち時間を短縮しました】
同じ資料について続けて質問するときは、前回の読み込み結果を再利用するようになりました。
22.4万トークンの資料を使った測定では、回答が始まるまでの待ち時間が116秒から0.37秒に短縮しました。
【高速化の仕組みと、出力の確認結果】
入力を写す部分では、先読みした出力候補を本体のAIモデルでまとめて確認する処理を改善しました。一度に確認できる量を、従来の16トークンから最大64トークンに増やし、そのための専用処理も追加しています。
実際に採用するのは、本体のモデルが選んだトークンだけです。今回の速度測定に使った課題では、出力はv0.1.3と1文字も違いませんでした。
最大64トークンをまとめて確認する機能は、RTX 50シリーズのみが対象です。速度を測定したGPUは、RTX 5090のみです。
【その他の変更】
- 起動時に、NVIDIAドライバーがバージョン580以上か確認するようになりました。
- RTX 5090以外のGPUでも、自己点検で計算の正しさを確認します。
- APIでtool_choiceの"required"を受け付け、処理時間の情報(timings)を返すようになりました。ただし、ツール呼び出しを必ず実行させる機能はありません。(ppsxさん #8)
- チャット画面を修正しました。(@Iamwonderingifさん #9)
- Linux向けのビルド手順を追加しました。Linuxは公式サポート対象外です。(AgenticStewさん #10、ppsxさん #8)
【更新方法】
v0.1.0〜v0.1.3をお使いの方は、新しい起動ファイルを入れて、START.cmdを実行すると更新できます。ダウンロード済みのモデルは、そのまま使えます。
詳細:github.com/yasakani-dev/yasa…
234
【YASAKANI v0.1.4を公開しました】
今回の主な改善は、次の2つです。
- コードやデータの編集で、出力速度が最大約2倍になりました。
- 同じ資料に続けて質問するとき、回答が始まるまでの待ち時間が短くなりました。
【1.コードやデータの編集が速くなりました】
元のコードやデータの大部分を残し、一部だけを書き換える作業で効果があります。
RTX 5090・思考なしの条件で、v0.1.2と同じ時間帯に測定して比較しました。
作業| v0.1.2| v0.1.4| 速度の向上
JSONL編集| 1,125 tok/s| 2,298 tok/s| 2.04倍
コード編集| 1,210 tok/s| 2,025 tok/s| 1.67倍
※トークンは、AIが文章を処理する単位です。tok/sは1秒あたりに生成するトークン数を表します。
※品質モデルのコード編集は、1.78倍になりました。
文章生成や翻訳などの速度は、ほぼ変わりません。また、「思考あり」で使う場合も、思考部分の処理は速くなりません。
【2.同じ資料への追加質問で、待ち時間を短縮しました】
同じ資料について続けて質問するときは、前回の読み込み結果を再利用するようになりました。
22.4万トークンの資料を使った測定では、回答が始まるまでの待ち時間が116秒から0.37秒に短縮しました。
【高速化の仕組みと、出力の確認結果】
入力を写す部分では、先読みした出力候補を本体のAIモデルでまとめて確認する処理を改善しました。一度に確認できる量を、従来の16トークンから最大64トークンに増やし、そのための専用処理も追加しています。
実際に採用するのは、本体のモデルが選んだトークンだけです。今回の速度測定に使った課題では、出力はv0.1.3と1文字も違いませんでした。
最大64トークンをまとめて確認する機能は、RTX 50シリーズのみが対象です。速度を測定したGPUは、RTX 5090のみです。
【その他の変更】
- 起動時に、NVIDIAドライバーがバージョン580以上か確認するようになりました。
- RTX 5090以外のGPUでも、自己点検で計算の正しさを確認します。
- APIでtool_choiceの"required"を受け付け、処理時間の情報(timings)を返すようになりました。ただし、ツール呼び出しを必ず実行させる機能はありません。(ppsxさん #8)
- チャット画面を修正しました。(@Iamwonderingifさん #9)
- Linux向けのビルド手順を追加しました。Linuxは公式サポート対象外です。(AgenticStewさん #10、ppsxさん #8)
【更新方法】
v0.1.0〜v0.1.3をお使いの方は、新しい起動ファイルを入れて、START.cmdを実行すると更新できます。ダウンロード済みのモデルは、そのまま使えます。
詳細:github.com/yasakani-dev/yasa…
開発にご協力してくださった以下の3名の方々、ありがとうございました!
ppsxさん(#8)
@lamwonderingifさん(#9)
AgenticStewさん(#10)
フィードバックや修正のおかげで、より使いやすくなりました!!
1
613
Akito Hirai (YASAKANI) retweeted
推論エンジンYASAKANI(Qwen3.8 27B)バージョンアップで、RTX4090が対応(未最適化)
検証を兼ねて導入と、普段のHermes AgentからのObsidian Vaultのノート整理と、調査・分析をさせてみました
印象としては、Strata(Qwen3.8 Flash Next)よりも、軽く子気味良く動いてくれている印象
起動も早いので、日常的な定型作業はYASAKANIで、そこからの調査はStrataで、と使い分けが面白そう
#YASAKANI
【YASAKANI v0.1.3を公開しました】
RTX 30・40・50シリーズ(GPUメモリ16GB以上)向けの版です。
・24GB:3090・3090 Ti・4090
・16GB:4060 Ti 16GB・4070 Ti SUPER・4080・4080 SUPER・5060 Ti 16GB・5070 Ti・5080
・12GB以下とRTX 20シリーズ以前は動作しません
動作確認はRTX 5090のみで、他のカードでは動作と速さを保証できません。動作報告をGitHubのIssueでお待ちしています。
【対応と最適化について】
早期の対応を望む声を多くいただいたため、先行して対応しました。YASAKANIは他のGPUにも移植できる設計にしており、比較的小さな変更で動作させることができます。
一方で、動作することと最適化されていることは別です。GPUはカードごとにメモリ帯域や演算ユニットの数が異なります。それぞれの性能を十分に引き出すには、実機で設定を変えながら、測定と調整を重ねる必要があります。
私がお届けしたいのは、カードごとに最適化したYASAKANIです。
この最適化を進めることが、クラファンの300万円の目標です。目標の内容がより正確に伝わるよう、表記を「対応」から「最適化」に改めます。これまでの表記で誤解を生んでしまった方々には、申し訳ございませんでした。
【その他】
・まれに途中から別の文章になる不具合の原因を見つけて修正しました(修正版の試験では発生なし)
・0.1.0〜0.1.2からは、新しい起動ファイルを入れてSTART.cmdを開くだけで更新できます
github.com/yasakani-dev/yasa…
【YASAKANI v0.1.3を公開しました】
RTX 30・40・50シリーズ(GPUメモリ16GB以上)向けの版です。
・24GB:3090・3090 Ti・4090
・16GB:4060 Ti 16GB・4070 Ti SUPER・4080・4080 SUPER・5060 Ti 16GB・5070 Ti・5080
・12GB以下とRTX 20シリーズ以前は動作しません
動作確認はRTX 5090のみで、他のカードでは動作と速さを保証できません。動作報告をGitHubのIssueでお待ちしています。
【対応と最適化について】
早期の対応を望む声を多くいただいたため、先行して対応しました。YASAKANIは他のGPUにも移植できる設計にしており、比較的小さな変更で動作させることができます。
一方で、動作することと最適化されていることは別です。GPUはカードごとにメモリ帯域や演算ユニットの数が異なります。それぞれの性能を十分に引き出すには、実機で設定を変えながら、測定と調整を重ねる必要があります。
私がお届けしたいのは、カードごとに最適化したYASAKANIです。
この最適化を進めることが、クラファンの300万円の目標です。目標の内容がより正確に伝わるよう、表記を「対応」から「最適化」に改めます。これまでの表記で誤解を生んでしまった方々には、申し訳ございませんでした。
【その他】
・まれに途中から別の文章になる不具合の原因を見つけて修正しました(修正版の試験では発生なし)
・0.1.0〜0.1.2からは、新しい起動ファイルを入れてSTART.cmdを開くだけで更新できます
github.com/yasakani-dev/yasa…
開発に協力してくださった皆様、ありがとうございます。
・@Iamwonderingif さん:同期の不具合の報告(#7)、チャット画面の修正(#9、v0.1.4で取り込み)
・AgenticStew さん:Linuxでのビルド(#3)と手順の文書(#10)
・@Isichan_Hitori さん:画像入力(#4)
Mac対応(#6、@eightman999 さん)、Linuxでの画像入力など(#8、ppsx さん)のPRもいただいています。
コードを書いてくださった方、自分のPCで試して報告してくださった方、本当にありがとうございます。
追記です。
・@watayuki_334BM さん:RTX 3090向けのビルドの提案と実機での確認(#5)。v0.1.3のRTX 30シリーズ向けの変更は、これを参考にしました。
ご協力ありがとうございました。
1
8
1,757
Yasakaniの品質モデルの速度と品質を検証して頂きました…!!
今後、並列処理への対応や更なる高速化がありますので楽しみにしていてください🙇♀️
A new engine that runs just one model on one GPU beat TensorFold and llama.cpp on writing speed.
RTX 5090, Qwen3.8-27B: YASAKANI 336.8 tok/s on code, TensorFold 238.1, llama.cpp 156.2
Pretty strong for an engine that came out yesterday, I think.
It's not the same weights though. YASAKANI ships its own 12.4 GB file, TensorFold runs 21.9 GB.
TensorFold is still ahead as soon as 2 requests come in at once, and it reads a 128K prompt about 7% faster.
Reading a 32K prompt takes all three about 10 s.
YASAKANI 0.1.2, quality model, 12.4 GB:
Decode, code: 336.8 tok/s
Decode, prose: 288.1 tok/s
Time for 500 words: about 2.4 s
Prefill at 32K: 3,173 tok/s
First token at 32K: 10.3 s
8 requests at once: 235 tok/s in total
GPQA Diamond: 47.5 %
RULER 32K: 60.0 %
TensorFold 1.2.8, NVFP4 + DFlash2, 21.9 GB:
Decode, code: 238.1 tok/s
Decode, prose: 213.7 tok/s
Time for 500 words: about 3.2 s
Prefill at 32K: 3,217 tok/s
First token at 32K: 10.2 s
8 requests at once: 287 tok/s in total
GPQA Diamond: 42.9 %
RULER 32K: 67.5 %
llama.cpp 1.0 (b12359), Unsloth UD-Q4_K_XL + DFlash2, 17.7 GB:
Decode, code: 156.2 tok/s
Decode, prose: 149.6 tok/s
Time for 500 words: about 4.8 s
Prefill at 32K: 3,104 tok/s
First token at 32K: 10.6 s
GPQA Diamond: 37.4 %
RULER 32K: 75.0 %
Quant: YASAKANI's own 3 and 4 bit weights with a 5 bit KV cache against NVIDIA's NVFP4 and Unsloth's UD-Q4_K_XL
Setup: 1 request at a time, thinking off, window 262,144 for YASAKANI and 131,072 for the other two
Method: 512 tokens, temperature 0.7, top-p 0.8, top-k 20, decode median of 2
Presence penalty 1.5 for TensorFold and llama.cpp, YASAKANI ignores it
Quality: GPQA Diamond 198 questions, RULER margins up to ±14.5 points
8 requests: YASAKANI has 1 slot and the rest waits, TensorFold ran 3 streams with a 32,768 window
YASAKANI's smaller speed model writes code at 364.9 tok/s, but 14 of its answers got cut off at the token limit.
I built YASAKANI from source on Linux, the official release is Windows only.
With the author's clients it came out 5 to 11% under his README here and I don't know why yet. His own bench tool came out 2 to 5% above his published numbers.
YASAKANI by yasakani-dev @yasakani_dev.
TensorFold by Ash @ashxhart, DFlash2 drafter by Inco AI @inco_ai, NVFP4 weights by NVIDIA.
llama.cpp by ggml-org @ggml_org, GGUF quant by Unsloth @unslothai, base model by Qwen @Alibaba_Qwen.


































