الدفاع ضد prompt injection في الأنظمة الـ Agentic
كيف ندافع عن Gandalf و Gwaihir و Beorn من payloads مخفية في banners و writeups واستجابات DNS. instruction hierarchy و Spotlighting و StruQ و Sentinel الخاص بنا.
Tag
lang-ar
Constitutional AI للوكلاء الهجوميين
كيف طبّقنا Constitutional AI و RLAIF على Gandalf CLI حتى يرفض وكلاؤنا الهجوميون من تلقاء أنفسهم الإجراءات الخارجة عن النطاق دون الاعتماد على هندسة المطالبات اليدوية.