كيف تجعل أي نموذج آمنًا

يتعامل قطاع AI مع اختيار النموذج كأنه عقيدة. تلتزم الفرق بنموذج أساسي وتبني حوله وتأمل أن يكون تحديثه التالي آمنًا للأطفال. هذا رهان هش؛ فالنماذج تتغير وتدريب الأمان ينحرف والمطالبة التي نجحت في يناير قد تفشل في مارس. إن اعتمد أمان منتجك على حسن نية مختبر واحد فلديك أمنية لا استراتيجية.

البديل هو فصل الأمان عن النموذج: نظام يقف أمام أي نموذج متقدم أو مفتوح، يضبط الداخل ويحكم الخارج ويجعل المسار قابلًا للتدقيق والاستبدال. هذا ما أمضينا سنوات في بنائه لدى AstroSafe.

الأمان نظام لا مطالبة

مطالبة نظام تقول «كن آمنًا» ليست نظام أمان، بل اقتراح يمكن تجاوزه أو تجاهله. يحتاج الأمان الحقيقي طبقات مستقلة متعددة تؤدي كل منها مهمة قابلة للتحقق ولا تفترض كمال الأخرى.

الطبقة الأولى هي ضبط المدخلات. تُفحص كل رسالة قبل النموذج؛ يصنف المقصد والموضوع والخطر، وتُزال أنماط الحقن وكسر القيود وتقمص الأدوار، ويُرفق سياق العمر كي تعرف الطبقات التالية القواعد المطبقة. تعتمد هذه الطبقة على السياسة لا سلوك النموذج.

السياسة كشيفرة، لا كأمل

يقرر محرك السياسة ما يُسمح وما يُحجب وما يحتاج مراجعة بشرية. السياسة صريحة وذات إصدارات وقابلة للاختبار. تعرف أن سؤال طفل في الخامسة عن الموت يختلف عن سؤال طفل في الثانية عشرة، وأن حديث الفضاء آمن حتى ينحرف إلى مؤامرات. وتفرض القواعد قبل التوليد لا بعده.

لأن السياسة شيفرة، يمكن اختبار تراجعها: تشغيل المحادثات نفسها على إصدار جديد ورؤية ما تغير، وإطلاق سياسة جديدة من دون لمس المنتج، وتدقيقها للانحياز والانحراف والفجوات. لا يمكن اختبار الأمل، لكن يمكن اختبار السياسة.

توليد مستقل عن النموذج

توجه طبقة التوليد كل طلب إلى النموذج الصحيح للمهمة مع القيود الصحيحة. قد تذهب الكتابة الإبداعية إلى نموذج سردي، والسؤال الواقعي إلى نموذج أفضل تأصيلًا، والموضوع عالي الخطر إلى نموذج أصغر يمكن ضبطه بمخرج منظم. لا يهم المنتج من أجاب، بل أن الإجابة اجتازت كل طبقات الأمان.

استقلالية النموذج تعني عدم الارتهان. إذا غير المزود شروطه أو رفع سعره أو أصدر تراجعًا أمنيًا تنتقل إلى غيره، ويبقى نظام الأمان ثابتًا ويتغير المحرك فقط. هذا هو الفرق بين المنتج والنموذج الأولي.

المخرجات هي موضع فشل معظم المنتجات

يتركز جهد الأمان عادة على المدخلات، لكن المخرجات هي ما يضر الطفل فعلًا. يستطيع النموذج إنتاج إجابة سليمة لغويًا وودودة وواثقة لكنها غير مناسبة للعمر أو متلاعبة أو خاطئة؛ ولن ترصدها تصفية المدخلات.

تقيّم طبقة المخرجات كل استجابة للأمان والنبرة وملاءمة العمر والثقة الواقعية والانحراف شبه الاجتماعي. إذا كانت حدية تُعاد صياغتها بدل حجبها، فالرفض آخر خيار. تحافظ إعادة الصياغة على فائدة الإجابة وإحساس الطفل بأنه مسموع؛ وهي المشكلة الهندسية الأصعب والأهم.

قابلية الرصد ميزة أمان

لا تستطيع تحسين ما لا تراه. تُسجل كل جولة مع المطالبة وقرارات السياسة والنموذج ودرجات الأمان والمخرج النهائي. تعرض لوحات الوالدين ما نوقش لا مدة الاستخدام فقط، وترصد اللوحات الداخلية الشذوذ والانحراف والمخاطر، ويحصل المراجع البشري على السياق الكامل.

تجعل هذه الرؤية تبديل النموذج آمنًا أيضًا؛ تعيد تشغيل محادثات حقيقية وتقارن الدرجات جنبًا إلى جنب، فتعرف قبل الإطلاق إن كان النموذج الجديد أكثر أمانًا للأطفال لا مجرد أسرع أو أرخص.

لماذا يسمح ذلك بجعل أي نموذج آمنًا

لا يوجد نموذج أساسي آمن للأطفال مباشرة. بعضها أفضل، لكنها كلها أنظمة عامة تدربت على الإنترنت المفتوح ولا تعرف طفلك أو سياستك أو فئته العمرية أو عواقب الإجابة الخاطئة.

لا تطلب معمارية الأمان من النموذج أن يكون آمنًا، بل تجعله كذلك عبر تقييد المدخلات وحوكمة المخرجات ومراقبة السلوك وتصحيح الخطأ فورًا. يصبح النموذج مكوّنًا في نظام أكبر حول الطفل، يستطيع تغليف GPT-5 اليوم وClaude 4 غدًا وLlama محليًا بعده، مع ثبات تجربة الطفل والأمان.

الوعد الصادق

لا يمكن لأحد أن يعد بكمال أي نموذج. لكن مع المعمارية الصحيحة يمكن ضمان ألا تصل عيوبه إلى الأطفال؛ يرصدها النظام ويعيد صياغتها ويسجلها ويتعلم منها. هذه الطريقة الصادقة الوحيدة لإطلاق AI للأطفال: لا الثقة بأن النموذج جيد، بل بناء نظام يجعله جيدًا بما يكفي.