Pinned Tweet
ローカルLLM対話環境『Deinei / 泥濘』をGitHubにてOSS(MIT)として公開しました!
16K ctxの制約下で、長期記憶とKVキャッシュ維持による高速応答を両立し、Live2D/VRM描画と24kHz音声合成(Irodori-TTS)を単一ランチャーに統合しています。
github.com/kakushiarerukea/D…
#ローカルLLM #個人開発
Deinei | 泥濘 ローカルAI×Live2D retweeted
Replying to @KylezResearch
Please forgive any errors, as Gemini was used for translation and Claude for data extraction.
Here is the specific tweet mentioned, along with the Google Drive link. I have also attached the original Japanese text for your reference
drive.google.com/file/d/1cct…
teapawt.org/DeineiDev/status/21114…
I've open-sourced "Deinei (泥濘)" on GitHub (MIT)!
A local LLM companion system uniting long-term memory RAG, KV cache preservation (within 16K ctx), 3D VRM / Live2D rendering, and 24kHz zero-shot TTS in a single launcher.
github.com/kakushiarerukea/D…
#LocalLLM #llama_cpp #VRM
Architecture Highlights:
• 16-block sliding summary + ChromaDB Parent-Child RAG
• Worldline Isolation: directed tree blocks cross-branch memory leaks
• Pre-prompt injection preserving KV cache
• ~30 TPS on RTX 4060Ti 8GB + 16GB RAM (~70 TPS on 16GB VRAM)
• 1-click Windows setup (install.bat via uv)
• Loopback-isolated + Port 8090 Auth Gateway (LAN & Tailscale P2P)
English README is live! (Note: Default TTS/embedding models are currently JP-optimized; native EN pipeline is on the roadmap!)
github.com/kakushiarerukea/D…
▼BOOTH(初心者向け・無料配布ページ)
kowahiiii.booth.pm/items/905…
・ZIPを解凍して install.bat をダブルクリックするだけで環境構築が完了します。
・お手持ちの .vrm アバターや公式対応Live2Dモデルをドラッグ&ドロップするだけで、声(Irodori-TTS)と長期記憶を持ったパートナーとして会話可能
中期記憶、及び事実抽出による長期記憶の例です。
過去の会話(画像1、2枚目)をエピソードとして自動で要約(画像3枚目)し、少し前のことでも、AIが鮮明に記憶することができます。
そして事実抽出(画像4枚目)では、約束・予定・ユーザーの趣味嗜好などを自動で保存し、必要に応じて想起します。
【使用OSS・モデル】
・llama.cpp / Melody1437 (Gemma4 FT by ReadyArt)
・Svelte 5 + Tailwind / PixiJS + pixi-live2d-display
・Irodori-TTS / ruri-v3-310m / ChromaDB
・ReazonSpeech-K2 / duckduckgo_search / Open-Meteo / Nominatim
※Live2D Cubism SDK使用、モデルはうさねこメモリー様。









