Mohammad Alattas | MODWare

لما يصير اختراق لسيرفر أو شبكة، عندنا “Playbook” واضح: نرجع للـ logs، نفحص الـ endpoints، نتتبع بعض الادلة… لكن لما يصير الاختراق على نظام ذكاء اصطناعي، كثير من فرق السايبر يوقفون مكانهم ويسألون: من وين نبدأ أصلاً؟ المشكلة أن الـ AI مو تطبيق عادي فيه input وoutput واضحين، هو منظومة متشعبة فيها طبقات، وكل طبقة لها سطح هجوم مستقل. اول شيء بوضح انه هنا انا اتكلم اكثر عن تطبيقات AI، لانه موضوع الكلاود مثل حادثة Vercel وLovable لها طريقة تحقيق مختلف. المهم خليني اكلمك عن الطبقات اللي المفروض يبدأ عندها أي تحقيق في حادثة اختراق AI، مرتبة من الأقرب للمستخدم للأعمق: 1. طبقة المدخلات (Prompt Layer) أول مكان تبحث فيه هو سجلات الـ prompts. هل فيه Prompt Injection مباشر؟ أو الأخطر، Indirect Injection جاء من ملف PDF أو صفحة ويب أو إيميل النموذج قراه؟ كثير من الاختراقات اليوم تبدأ بنص مخفي داخل مستند يبدو بريء. 2. طبقة الـ System Prompt والـ Guardrails افحص هل تم تسريب الـ system prompt (وهذا يحصل أكثر مما تتوقع)؟ هل فيه محاولات Jailbreak ناجحة في السجلات؟ الـ Guardrails تم تجاوزها بصياغة معينة؟ 3. طبقة الـ RAG وقواعد البيانات المتجهة (Vector DBs) إذا النظام يعتمد على RAG، فقاعدة البيانات المتجهة هي “ذاكرة” النموذج. تسميم البيانات هنا (Data Poisoning) يخلي النموذج يرد بمعلومات مزيفة أو ينفذ تعليمات خبيثة بدون ما أحد يحس. راجع مصادر الـ ingestion: من له صلاحية يضيف مستندات؟ 4. طبقة الأدوات والإضافات (Tools/MCP Layer) هنا بالذات الخطر الأكبر اليوم. الـ AI Agent لما يكون متصل بـ MCP servers أو Plugins، كل أداة هي “باب” جديد. افحص: •وش الأدوات اللي استُدعيت وقت الحادثة؟ •فيه استدعاءات خارج النمط الطبيعي؟ •الصلاحيات الممنوحة لكل أداة (مبدأ Least Privilege مطبق؟) 5. طبقة المفاتيح والهويات (API Keys & Identity) الـ AI Agents غالباً تشتغل بـ service accounts صلاحياتها واسعة. افحص: •هل فيه مفاتيح API مسربة في GitHub أو في logs؟ •Tokens الـ OAuth المربوطة بالوكيل تم استخدامها بشكل غير طبيعي؟ •من عنده صلاحية fine-tune أو deploy للنموذج؟ 6. طبقة المخرجات (Output Layer) آخر شي وأهم شي: وش طلع من النموذج؟ راجع هل فيه تسريب PII في الردود؟ أوامر نُفذت على أنظمة خارجية بناء على مخرجات النموذج؟ كود خبيث تم توليده ونُفذ مباشرة؟ 7. طبقة المراقبة (Observability) وهنا نكتشف أن أغلب المؤسسات عندها فجوة ضخمة؛ ما عندهم baseline لسلوك النموذج الطبيعي. بدون baseline، ما تقدر تكتشف الشذوذ. لازم يكون عندك logging لكل tool call، كل prompt، كل retrieval. الخلاصة: الـ AI ما يُخترق “كنموذج”، يُخترق كمنظومة. والمهاجم ما يحتاج يكسر النموذج نفسه، يكفيه يلعب على طرف واحد من هذي الأطراف السبعة. قاعدة ذهبية في الـ DFIR للـ AI: “ابدأ من الأداة اللي استُدعيت آخر شي، وارجع للخلف”. غالباً سلسلة الاختراق تبان من هناك. وأخيرا سؤالي لك: لو صار اختراق لـ AI Agent في جهتك اليوم، عندك الـ logs الكافية اللي تخليك تسوي تحقيق جنائي رقمي صحيح؟ أو لا؟ وسلامتكم!

كلنا نستخدم ChatGPT او غيره من ادوات الذكاء الاصطناعي ولكن قد فكرت في تأثير هذه الادوات على مخك؟! بما اني مهووس بموضوع جودة الفِكر والتفكير شدني بحث لعلماء من جامعة MIT (المراجع في اخر الثريد) حول تأثير استخدام ChatGPT على مخ الانسان ووجدوا الاتي:

#CVE 2023-23397 | Microsoft Outlook Elevation of Privilege Vulnerability ثريد #ثغرة_على_السريع لثغرة الـ Zero-Click المكتشفة حديثًا في الـ Outlook راح نتطرق لها من عدة نواحي: - - نظرة عامة - طريقة عملها - الوقاية - المصادر ملاحظة: المصادر لتفاصيل أعمق وتجربة الثغرة بنفسك 1/6

بسم الله الرحمن الرحيم قد فكرت تكتب خطتك السنوية بس مو عارف من فين تبدأ وكيف ؟ ثريد بتكلم فيه عن كيف تكتب أهدافك السنوية وتخططلها وتحققها بإذن الله في ٣ نقاط بسيطة: - •١٢ أسبوع بدل ١٢ شهر •كيف أخطط صح؟ •التنفيذ *أن تبدأ متأخرًا خيرا من ألا تبدأ