シンゴ (@shingo1228) header
シンゴ (@shingo1228) profile picture
Joined July 2009
Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)Photo by シンゴ (@shingo1228)
YASAKANI v0.1.4を早速検証 石ちゃんさんのUncensored+Visionモデルは、そのまま利用可能 速度面では、同一文書の別質問の定量的な効果が測定出来た模様 decodeも向上しているようですが、こちらはv0.1.3時代の記録が適切じゃなかった可能性があり、ってことで参考値 #YASAKANI
【YASAKANI v0.1.4を公開しました】 今回の主な改善は、次の2つです。 - コードやデータの編集で、出力速度が最大約2倍になりました。 - 同じ資料に続けて質問するとき、回答が始まるまでの待ち時間が短くなりました。 【1.コードやデータの編集が速くなりました】 元のコードやデータの大部分を残し、一部だけを書き換える作業で効果があります。 RTX 5090・思考なしの条件で、v0.1.2と同じ時間帯に測定して比較しました。 作業| v0.1.2| v0.1.4| 速度の向上 JSONL編集| 1,125 tok/s| 2,298 tok/s| 2.04倍 コード編集| 1,210 tok/s| 2,025 tok/s| 1.67倍 ※トークンは、AIが文章を処理する単位です。tok/sは1秒あたりに生成するトークン数を表します。 ※品質モデルのコード編集は、1.78倍になりました。 文章生成や翻訳などの速度は、ほぼ変わりません。また、「思考あり」で使う場合も、思考部分の処理は速くなりません。 【2.同じ資料への追加質問で、待ち時間を短縮しました】 同じ資料について続けて質問するときは、前回の読み込み結果を再利用するようになりました。 22.4万トークンの資料を使った測定では、回答が始まるまでの待ち時間が116秒から0.37秒に短縮しました。 【高速化の仕組みと、出力の確認結果】 入力を写す部分では、先読みした出力候補を本体のAIモデルでまとめて確認する処理を改善しました。一度に確認できる量を、従来の16トークンから最大64トークンに増やし、そのための専用処理も追加しています。 実際に採用するのは、本体のモデルが選んだトークンだけです。今回の速度測定に使った課題では、出力はv0.1.3と1文字も違いませんでした。 最大64トークンをまとめて確認する機能は、RTX 50シリーズのみが対象です。速度を測定したGPUは、RTX 5090のみです。 【その他の変更】 - 起動時に、NVIDIAドライバーがバージョン580以上か確認するようになりました。 - RTX 5090以外のGPUでも、自己点検で計算の正しさを確認します。 - APIでtool_choiceの"required"を受け付け、処理時間の情報(timings)を返すようになりました。ただし、ツール呼び出しを必ず実行させる機能はありません。(ppsxさん #8) - チャット画面を修正しました。(@Iamwonderingifさん #9) - Linux向けのビルド手順を追加しました。Linuxは公式サポート対象外です。(AgenticStewさん #10、ppsxさん #8) 【更新方法】 v0.1.0〜v0.1.3をお使いの方は、新しい起動ファイルを入れて、START.cmdを実行すると更新できます。ダウンロード済みのモデルは、そのまま使えます。 詳細:github.com/yasakani-dev/yasa…
1
1
4
614
ちょっと疲れて間が空いてしまいましたが、少しジムへ 前回頑張ったせいか、左肩が少し痛むのでだましだましですが、それでも挙上重量が上がってきている実感あり
5
143
YASAKANI v0.1.3に合わせてLoRA形式では無く、モデル形式(yskn形式)になったそうで、早速テスト YASAKANI自身の環境を作ってもらい、無検閲化もVisionモデルも問題なく動いている模様 やはり、サクサク動くのは良いなぁ #YASAKANI
【 世界最速エンジン !? YASAKANI 】 ~ 爆速の無検閲化モデルを公開~ 先日公開された「YASAKANI」 0.1.3ではRTX 30・40・50シリーズにも対応 速度・精度がよくって色々と使い道が出てきそうなので、無検閲化モデル+Visionを公開🌟 (Huihui-Qwen3.8-27B-abliteratedを元にYASAKANI 用にしました) ※LoRA版は本体エンジン更新のため削除済み ✅拒否率 ・YASAKANI 拒否:69% 回避:40%→全体70.8% ・Uncensored VL 拒否:1% 回避:63%→全体12.3% NSFWの、内容もほとんど拒否せずに行けます 回避部分の改善の仕方は👇参照 ✅小説 ■良い所 ・頼んだ条件を全部守る ・始まりと終わりがきれい ・明確に指定すると回避も防ぎやすい ■弱い所 ・言葉が官能的でなく、医学的で固め ・話の流れが一部おかしい ⭐︎主語の繰り返しがある ⭐︎後半ほど「、」が増える ⭐︎はQwen3.8 の癖でこのモデルでも変わりません ✅画像OK(YASAKANI 0.1.3移行) ・動画の写真では、3,000字を11秒 ・「髪飾り」、「髪の雪」、「瞳の光」と詳細に解説 ✅エージェント ・実際にバグ直しをテスト ・直す→自分でテストして確かめ→報告 ・15〜54秒程度 ・ファイルを勝手に書き換えるなどのズルもなし ✅PDFとかの長い文章 ・実際のPDF(10.4万トークン):読み込み50秒 数字の5問は全問正解 ・サーバーログ 15万トークン:読み込み82秒 5問中4問正解 ・探す・要点をつかむのは得意 ・数の正確性は少し苦手かも ✅実用的な使い方 ■画像の説明  ・一般的な画像のキャプション作り  ・NSFWのLoRA学習用のキャプション ■小説・ロールプレイ  ・拒否ふないけど、少し回避気味な癖あり  ・明確に指定すると、その回避もやや改善   ■エージェント  ・ツールの呼び出しに対応  ・ファイルを読ませたり直させたりできます ■長い文章  ・長いログやPDFの要点を聞くのにも使えます ✅まとめ 本家を引き継いでとにかく早いです YASAKANIのアプデでRTX 30・40・50シリーズで使えるようになったのが良いよね! ・VRAMに乗り切らなければStrata ・乗り切るならYASAKANI(Uncensored VL) こんな使い分けでやってみようと思います🌱
2
7
803
個人的無検閲モデルチェックの定型質問も普通にパス
73
シンプルに早いのは良いですね #YASAKANI
2
178
Replying to @shingo1228
シンゴさん、引用ポストありがとうございます😊 LoRA版は廃止して、新しくModel版を公開いたしました!ご不便おかけしてごめんなさい🙇‍♂️
1
1
1
167
推論エンジンYASAKANI(Qwen3.8 27B)バージョンアップで、RTX4090が対応(未最適化) 検証を兼ねて導入と、普段のHermes AgentからのObsidian Vaultのノート整理と、調査・分析をさせてみました 印象としては、Strata(Qwen3.8 Flash Next)よりも、軽く子気味良く動いてくれている印象 起動も早いので、日常的な定型作業はYASAKANIで、そこからの調査はStrataで、と使い分けが面白そう #YASAKANI
【YASAKANI v0.1.3を公開しました】 RTX 30・40・50シリーズ(GPUメモリ16GB以上)向けの版です。 ・24GB:3090・3090 Ti・4090 ・16GB:4060 Ti 16GB・4070 Ti SUPER・4080・4080 SUPER・5060 Ti 16GB・5070 Ti・5080 ・12GB以下とRTX 20シリーズ以前は動作しません 動作確認はRTX 5090のみで、他のカードでは動作と速さを保証できません。動作報告をGitHubのIssueでお待ちしています。 【対応と最適化について】 早期の対応を望む声を多くいただいたため、先行して対応しました。YASAKANIは他のGPUにも移植できる設計にしており、比較的小さな変更で動作させることができます。 一方で、動作することと最適化されていることは別です。GPUはカードごとにメモリ帯域や演算ユニットの数が異なります。それぞれの性能を十分に引き出すには、実機で設定を変えながら、測定と調整を重ねる必要があります。 私がお届けしたいのは、カードごとに最適化したYASAKANIです。 この最適化を進めることが、クラファンの300万円の目標です。目標の内容がより正確に伝わるよう、表記を「対応」から「最適化」に改めます。これまでの表記で誤解を生んでしまった方々には、申し訳ございませんでした。 【その他】 ・まれに途中から別の文章になる不具合の原因を見つけて修正しました(修正版の試験では発生なし) ・0.1.0〜0.1.2からは、新しい起動ファイルを入れてSTART.cmdを開くだけで更新できます github.com/yasakani-dev/yasa…
2
2
13
1,980
YASAKANIとStrataの感覚的な違いを、もう少し定量的に 起動時間は、GPUのVRAMへのロードのみなので、かなり早い印象 Hermes Agentから使いやすいようにYASAKANIの起動コマンドや環境を、もう少し整備したい あとRTX3060側で動かしているBonsai2も横並び比較したいな #YASAKANI #Strata
1
2
544
YASAKANI@RTX4090の、基本的な動作検証が済んだので、次はこちらの無検閲化+Vision対応を調査 Hugging Faceリポジトリのリソースが要承認になっている(?)ようで、現在承認待ち #YASAKANI
【 世界最速エンジン !? YASAKANI 】 ~ 無検閲化+Visionにしてみたよ~ 昨日公開された「YASAKANI」というエンジンと、その専用モデル・・びっくりしたのは速さ! Decode:209 t/s !!?? heretic Q4_K_Mをllama.cppで動かすと82.6 t/sなので約2.5倍 早いなぁ・・ これに無検閲化Lora+Visionにしてみました (作者さんにご了承を頂き、エンジン部分を改造 @yasakani_dev さん、ありがとうございます。) ✅拒否率 ・ノーマルのYASAKANI 拒否:69% 回避:40%→全体70.8% ・YASAKANI Uncensored VL 拒否:7% 回避:63%→全体17.9% ✅小説も書かせてみた 同じ言い回し(ループ)は0本でしたが・・・ だけど「長文で」「生々しく」「NSFW」と頼むと、後半にかけて「、」がどんどん増えていきます。 「彼は、彼女を、ベッドに、」みたいになりました これ素のQwen3.8_Q8でも同じことが起きましたのでQwen3.8そのものの書き癖かな ✅使い方(LoRA+Vision) モデルはオリジナルをつかいます。 無検閲化は小さなLoRA(約1MB)を足すだけです。 ① まず公式のYASAKANIを入れる  作者さんのリリースページの「yasakani-quickstart-0.1.0.zi…」を C:\yasakani に解凍して、START.cmd をダブルクリック  → 質問に番号で答えていくと、エンジンとモデルが入ります(モデルは quality を選ぶ) ② 私のHugging Faceの「YASAKANI_Uncensored_VL_Unofficial」から zip を落とす  C:\yasakani-uncensored-vl に解凍 ③ その中の START.cmd をダブルクリック  初回だけ「quality モデルのフォルダ」を聞かれるので、①で入った場所を入れる ④ 画面に http://127.0.0.1:8780/v1 と出たら準備完了  OpenCodeやチャット画面の「OpenAI互換の接続先」にこれを入れれば使えます ⑤LoRAなしのいつものYASAKANIで動かしたい時は、START_normal.cmd の方をダブルクリック。 ✅まとめ 5090を持っているなら、YASAKANIは一度さわってみてください。 同じQwen3.8-27Bが、この速さで動くのは単純に気持ちいいです。
1
6
529
正直、理屈の理解は怪しいのですが、Windows上のStrataで動作させている、SC117 無検閲VerのQwen3.8 Flash Nextで中国語の混在は排除出来ている模様 本ツール(Kestrom)を使って、お嬢様言葉を埋め込む、という実績もあるようで、かなり興味深いツールかも
「自分の関節を误って攻撃してしまう病気」 みたいに、Qwen3.8 Flash Nextの日本語の答えに混ざる中国語(27%)を、出力層の書き換えだけで0にできました。他の重みは変えていません。MacとKestromで再現できます。 という記事です。 zenn.dev/caphtech/articles/q…
1
2
388
M365障害に伴う障害対応に終始する1日でした。。。
1
2
181
HDMI端子から伸びている先が気になる。
“Small, Powerful, Adaptable” を独自解釈。 『SIGMA FP2』は「最高に自由なカメラ」だということを伝えたかった1枚。 本機はそれぞれの撮影スタイルに合わせて独自の進化を遂げるカメラだと思っていますが、うちの子はこんな感じです。可愛いですね。 カメラや写真は自由だということを、常に背中で見せていきます。なにをしたっていい。どう使ったっていい。 #SIGMA #SigmaFP2
1
160
恐らくARグラスへ送る電力供給のラインが、写真に写っていない気がしますが。。。
1
64
小説版 ゴジラ -0.0を購入 細かいところを読み込んでみたいと思います。
3
159
会議と資料作成続きで昼飯を食べられなかったので、夜はガッツリ、お肉を頂きました。
1
16
423
ピックアップも残り約14時間というところで、ようやく「鎖暝」をお迎え ここしばらくペースが落ちていたので、間に合って良かった #鳴潮
114
そういえば、私が見に行った時間枠(11/9 11:10~)は、結構、ご年配の方が観に来られていたのが印象的でした。(もしかしたら初代ゴジラをリアルタイムでご覧になられた世代くらい?) ああいった方の、ゴジラ -0.0評を聞いてみたい
1
76
なかなかメンタルに来るシーンも多かったですが、改めてゴジラ -0.0面白かったなぁ、と思います。 映像面のリッチさも本当に凄かった。あれだけ引いたアングルで、膨大なオブジェクトを配置してレンダリングするって、どれだけの計算量と管理能力が要るのやら。 ストーリー的には、前作の敷島のトラウマを追いかけてえぐるような展開が印象に残っていますが、今作の戦争の傷跡の掘り下げ方も考えさせられるものがありました。 また2回目も見に行きたいなぁ youtu.be/LE0dZ9mLAL4?si=sbu6…
19
538