هذه قائمة التحقق التي نراجعها مع كل فريق شريك قبل إطلاق ميزة AI للأطفال. لا شيء فيها نظري؛ كل بند موجود لأن غيابه تسبب في حادث حقيقي داخل منتج حقيقي.
الهوية والعمر
- إرفاق فئة عمرية موثقة بكل طلب، لا استنتاجها من اسم الملف.
- تخزين جلسة منفصلة لكل طفل وعدم مشاركتها بين الأشقاء أو مع الوالدين.
- تخزين موافقة الوالدين بتاريخ واضح مع إمكانية سحبها وسجل تدقيق.
- عدم استخدام معرفات دائمة للجهاز لإعادة استهداف الأطفال عبر المنتجات.
المدخلات
- تنظيف المطالبات من محاولات الهروب بتقمص الأدوار وحقن التعليمات.
- تصنيف النية لرصد إيذاء النفس والموضوعات الجنسية والعنيفة والمالية والطبية قبل تشغيل النموذج.
- حدود للطول والمعدل والتكرار لكل طفل لرصد الحلقات والتحديات.
- فحص الصوت والصور بالصرامة نفسها المطبقة على النص.
التوليد
- اختيار نموذج لكل مهمة مع إمكانية تبديل المزود من دون إعادة بناء.
- استخدام مخرجات منظمة حيثما أمكن بدل الثقة بنص حر.
- إشراف يدرك البث ويوقف الاستجابة في منتصفها عند انحرافها.
- منع وصول الأدوات والمتصفح وتنفيذ الشيفرة ما لم تُفحص كل خطوة بالسياسة.
المخرجات
- مصنف مخرجات مستقل عن النموذج الذي ولّدها.
- إعادة صياغة الإجابات الحدية بلغة تناسب العمر بدل رفض مسدود.
- إلزام المصادر للادعاءات الواقعية في الفئات الأكبر.
- فحوص للنبرة ترصد المجاملة والتلاعب والانحراف شبه الاجتماعي.
التشغيل
- سجل لكل جولة يتضمن النموذج والمطالبة والاستجابة والدرجات وقرارات السياسة.
- مسار تصعيد بشري للجولات عالية المخاطر مع SLA حقيقي.
- اختبارات تراجع خاصة بالأطفال عند كل تغيير للنموذج أو المطالبة.
- عرض نشاط يراه الوالدان مع حذف السجل وسحب الوصول.
- مفتاح إيقاف لكل نموذج وميزة، لا للبيئة فقط.
الحوكمة
- كتابة بطاقة النموذج وDPIA قبل الإطلاق.
- تقرير اختبار خصومي من جهة خارج الفريق الذي بنى المنتج.
- سياسة واضحة للاحتفاظ والحذف ورفض التدريب بلغة بسيطة.
- خريطة امتثال محدثة لـ COPPA وGDPR-K وقانون AI الأوروبي.
إن لم تستطع تحديد كل الخانات فلا يعني ذلك بالضرورة تأجيل الإطلاق؛ بل يجب أن تعرف ما الذي اخترت تركه وسببه وكيف تخفف الخطر. مجرد كتابة ذلك يفصل منتج الأطفال الجاد عن المنتج الذي يكتفي بالأمل.