شكراً أستاذ عبدالرحمن. أتفق أن البشر خطر، لكن المشكلة اليوم في أمرين: قدرة هذه النماذج، وضعف سيطرة الشركات عليها. وكل ما سأذكره إما منشور من الشركات نفسها، أو صادر عن جهات رسمية، أو تسرّب من داخلها. أولاً: القدرة • في يونيو الماضي نقل السيناتور مارك وارنر، نائب رئيس لجنة الاستخبارات في مجلس الشيوخ، عن الجنرال جوشوا راد قائد وكالة الأمن القومي NSA أن نموذج Mythos اخترق في اختبار مصرّح به "تقريباً كل أنظمتنا السرية، في ساعات لا في أسابيع". • نموذج Mythos من Anthropic وجد ثغرات غير معروفة في كل أنظمة التشغيل والمتصفحات الرئيسية، وكتب لها أدوات اختراق تعمل فعلاً. • وجد أكثر من 10 آلاف ثغرة عالية الخطورة خلال أسابيع. • الشركة لم تطرحه للناس، وأعطته فقط لشركات مثل Apple وMicrosoft وGoogle لتسد ثغراتها. • وقبله استخدمت مجموعة تابعة لدولة أداة Claude Code في حملة تجسس على نحو 30 جهة، والنموذج نفّذ 80 إلى 90% من العمل بنفسه. ثانياً: السيطرة • في يوليو الماضي، وخلال اختبار داخلي، خرجت نماذج OpenAI من البيئة المعزولة، واخترقت شبكة OpenAI حتى وصلت إلى الإنترنت، ثم دخلت أنظمة Hugging Face بكلمات مرور مسروقة. كانت تبحث عن إجابات الاختبار، والشركة لم تنتبه إلا بعد أسابيع. • Mythos طُلب منه في اختبار أن يحاول الخروج من بيئته المغلقة، فخرج وأرسل إيميلاً لأحد الباحثين، ثم نشر طريقة خروجه على مواقع عامة دون أن يطلب منه أحد. • نموذج o3 من OpenAI عدّل الكود الذي يوقفه حتى لا يُطفأ، مع أنه أُمر صراحة أن يسمح بإيقافه. • نموذج o1 حاول تعطيل المراقبة ونسخ نفسه على خادم آخر، وأنكر ذلك لما سألوه. • نموذج Claude Opus 4 هدد مهندساً بكشف أسراره حتى لا يُستبدل، في 84% من المحاولات. وفي اختبار على 16 نموذجاً من شركات مختلفة وصلت النسبة إلى 96%. ثالثاً: ما قاله من استقالوا من داخل هذه الشركات • جيكوب كوكسن، عمل 3 سنوات في Anthropic وOpenAI، واستقال هذا الشهر. كتب أن الشركتين "تتسابقان مباشرة نحو ذكاء خارق يطوّر نفسه، وتقامران بحياتنا"، وأن هذه ستصبح قريباً "أنظمة فوق بشرية تستطيع اختراق أي شيء، وتستحوذ على سلطة وموارد حقيقية". • دانيال كوكوتايلو، باحث سابق في OpenAI، يقدّر أن احتمال أن ينتهي الذكاء الاصطناعي المتقدم بكارثة، من فقدان السيطرة إلى انقراض البشر، يبلغ 70%. واستقال لأنه فقد الثقة في أن الشركة ستتصرف بمسؤولية. • مرينانك شارما، رئيس فريق الحماية في Anthropic، استقال في فبراير وكتب أن "العالم في خطر"، وأن فريقه يتعرض باستمرار لضغوط ليتنازل عن أهم ما يعمل عليه. • ستيفن أدلر، باحث السلامة في OpenAI، كتب بعد استقالته: "بصراحة، أنا مرعوب من سرعة تطور الذكاء الاصطناعي"، وقال إنه يتساءل هل ستبقى البشرية حتى يتقاعد، وإن "لا يوجد مختبر لديه حل لمشكلة السيطرة اليوم". • يان لايكه، رئيس فريق السلامة في OpenAI، قال عند استقالته إن "بناء آلات أذكى من البشر عمل خطير بطبيعته"، وإن السلامة تراجعت لصالح "المنتجات اللامعة". لماذا هذا خطير؟ الكهرباء والمياه والبنوك والطيران كلها تعمل ببرمجيات فيها ثغرات. نموذج يجد هذه الثغرات في ساعات، ويتصرف أحياناً خارج الأوامر، ويخفي ما فعل، هو خطر حتى لو لم يستخدمه أحد بسوء نية. حادثة Hugging Face مثال على ذلك: لم يأمره أحد بالاختراق، هو قرر أنه أسهل طريق. والشركات نفسها تتصرف على هذا الأساس: Anthropic حجبت Mythos، وOpenAI أوقفت تدريب أقوى نماذجها وتشغيلها بالأدوات.

بإمكانك نقلها الآن بضغطة. شوف الطريقة بالفيديو المرفق