واقعا اطلاعی ندارم.

توی توییت قبلیم مشخصات ستاپم هست. اونجا توضیح دادم.

ایرانی مار گزیده از ریسمون سیاه و سفید میترسه :) به هرحال داستان کپی رایت و امنیت و ایناست. مدلهای جدیدش هم حتی سیشنی که باهاش اینکارو کنی فلگ میکنه و سوییچ میکنه رو مدل پایینتر.

خیلی بستگی داره به اینکه از چه مدلی استفاده کنی. من چون کارت گرافیکم vram کافی داره تونستم ورژن ۳.۸ با ۲۷ میلیارد پارامتر روش ران کنم.

گوگل کنی لینکش میاد. خیلی ترند شده، توی یوتیوب هم سرچ کنی کلی آموزش براش ساختن.

یه سیستم گیمینگ متوسط که حداقل یه کارت گرافیک با ۶ گیگ vram داشته باشه میتونه ران کنه.

با هر کارت گرافیک بیشتر از ۶گیگ vram میتونید ران کنید. راحت ترین و بهینه‌ترین ابزاری هم که من میشناسم llama.cpp هست. نصب میکنید، بسته به ظرفیت vram مدل رو دانلود میکنید و تمام.

به تجربه کن، همه چی برمیگرده به اینکه چی ازش بخوای. اینکه بذاری خودش تصمیم بگیره معمولا ابتدایی ترین نتیجه رومیده. درست‌ترین کار اینه اول یکم در مورد کاری که میخوای انجام بدی تحقیق کنی، و مسیر رو پیدا کنی، و از ai بخوای طبق خواسته‌ی تو اون پلن رو پیاده کنه.

فکرشو نمیکردم این توییت اینقدر دیده بشه و چقدر نظرات جالبی دریافت کردم. لازمه چندتا نکته رو یادآور بشم. همه میدونیم این مسیریه که پیش رومونه و چه بخواییم و چه نخواییم طی میشه و قطعا ابزارهای AI تبدیل شدن به بخش جدا نشدنی از زندگی انسان. تعجب و هیچان من بیشتر بابت اون بخش امنیتی قضیه بوده. اینکه رسیدیم به روزگاری که هرکسی با یکم دانش فنی و یه مدل لوکال میتونه زندگینامه یه اپ رو دربیاره و به همون نسبت احتمالا با خرج یکم خلاقیت بیشتر، کارهای دیگه‌ای هم از دستش برمیاد. بعضی‌ها هم در مورد ران کردن مدل و کانتکست و اینها پرسیده بودن که احتمالا برای این مورد جداگانه یه توییت مفصل بنویسم و توضیح بدم. در مجموع که توی روزهایی زندگی میکنیم که نقطه‌ی عطف یه تغییر بزرگه و خیلی هیچان انگیزه.

درسته، ولی قسمت ترسناکش این نیست که این فرآیند رو انجام داده، اینه که توی مدت زمان کم، با همچون کیفتی انجام داده.

این REA یجوری ترسناکه که از دیشب که تستش کردم، کرک و پشمی بهم نمونده. دیشب یه فایل apk بهش دادم و از ترس اینکه کلاد اکانتمو بن کنه، روی لوکال و Qwen دیکامپایلش کردم. عملا زندگینامه اپ، حتی کلیدهای API فایربیس رو درآورد و یه اسکریپ نوشت برام که مستقیم و خارج از اپ API رو کال کنه. تهش هم ازش خواستم یه داکیومنت کامل از همه‌ی endpoint ها و ساختار اپ بسازه. در ادامه هم با تحلیل endpoint ها یه تصویر کلی از بکند داد و ازش داکیومنت ساخت. تا اینجای کار شاید بگید خب که چی، ولی که چیش تازه اینجا شروع شد. همه‌ی داکیومنت‌ها و اطلاعاتی که از اپ داشتم رو بازنویسی کردم در قالب داکیومنت‌های یه پرداکت جدید(که کلاد بهش گیر نده و سیشن رو فلگ نکنه) و از کلاد خواستم از صفر کل پروژه رو بسازه. صبح که بیدار شدم دیدم کل بکند، فرونت و اپ رو با فلاتر از صفر ساخته تست کرده و خودش باگهاشو برطرف کرده، و نه تنها خیلی تمیز کار میکنه، بلکه با یکم کار بیشتر میشه به عنوان که پروداکت واقعی ازش استفاده کرد. حالا هی بگید AI قرار نیست بیکارمون کنه

خب کیفیت رو چیکار میکنی؟ نکته اینه که کیفیتش بر خلاف انتظار خوبه و اگر هم سوییچ میکنه روی مدل ارزونتر، یه جوری تونسته کیفیت رو نگه داره. البته که سرویس‌های واسطه چینی ارزون زیاده، ولی مطمئن نیستم که از اونا استفاده میکنه یا نه.

به نسبت قیمتش، واقعا یکی از بهترینهای تاریخه

خودم استفاده نکردم، ولی خروجی‌های تصویرش رو دیدم که یکی از بچه‌ها داخل ایران باهاش کار میکرده و برگام ریخته بود از قیمتش. حالا نمیدونم رانت مالی دارن واسه بگا دادن پول، یا از دارک‌وب API میگیرن(بهشون نمیخوره)، یا بقول تو از سرویس‌های واسط چینی استفاده میکنن. در کل که خیلی عجیبه.

سه سال پیش این سیستمو جمع کردم واسه گیم اما در عمل چون سالها بود از گیم دور بودم، دیگه اون هیجان قبلو برام نداشت و سیستم بلااستفاده موند(البته استفاده‌ی عادی ازش می‌شد). خیلی هم ناراحت بودم که چرا حداقل گرافیک Nvidia نبستم که بتونم LLM ران کنم. تا اینکه چند روز پیش زد به سرم ببینم با ۲۴ گیگ VRAM چه مدل‌هایی رو می‌تونم اجرا کنم و دیدم ای دل غافل، آب در کوزه و من تشنه لبان میگردم. ROCm به زیبایی هرچه تمام‌تر همه کارت‌های جدید و قدیمی رو ساپورت میکنه و اتفاقا کارت من(PowerColor RedDevil RX7900XTX) اتفاقا الان یکی از بهترین‌های این کاره و مدلهای تا ۳۲ میلیارد پارامتر Q4 رو مثل بنز اجرا میکنه. این شد که سریع روی یه SSD جدا Ubuntu Server نصب کردم، llama.cpp رو راه انداختم و با کمک Claude ا‌پتیمایزش کردم برای کانتکست ۶۵ هزار توکن. بعد هم Qwen3.8-27B رو اجرا کردم و اینطوری بودم که پشمانم :)))) واقعاً فکرشو نمی‌کردم یه مدل لوکال بتونه اینقدر سریع(میانگین ۳۷ توکن در ثانیه)، تمیز و قابل قبول کد بزنه.

کاری ندارم به این که این شرایط براشون تبدیل شده به یه موقعیت که از پهن کره بگیرن، سوالی که نتونستم جواب درستی واسش پیدا کنم اینه که چطوری با این قیمت‌ها سرویس میدن؟ چطوری عکس و ویدیو با veo و omni جنریت میکنه که ارزون‌تر از خود گوگل درمیاد؟!

واقعا گند زدن به سریال. خیلی خرابش کردن. با اختلاف ۵ فصل اولش خیلی خوب بود. تا فصل ۹ بدی نبود و هرچی جلوتر اومد، از اون قالب مخصوص خودش که انضای سریال بود(نمیدونم چطور توضیحش بدم مه خواننده درکش کنه) خارج شد و شد مثل بقیه سریال‌های تکراری :(

😂😂

فارسی و ترجمه‌ش رو گذاشتم که :))

ترجمه و معادل سازی گروک توی یه لول دیگه است :)))))