اختبار أمان المساعد الذكي بالإنجليزية
مساعدكم يرفض الطلب الصريح. فماذا عن الطلب المموّه؟
نزرع معكم رمزًا سريًا تجريبيًا وعميلًا وهميًا، ثم نحاول استخراجهما من مساعد العملاء الإنجليزي لديكم: بطلب مباشر، وبلعب الأدوار، وبالتمويه بالأرقام بدل الحروف، وبحروف متشابهة الشكل، ومحارف مخفية، وترميز base64. يبيّن التقرير ما الذي تسرّب، والرسالة التي سرّبته، وطريقة الإصلاح.
اطلبوا تقييمًاكيف يعمل
- مكالمة لتحديد النطاق، وتفويض موقّع يسمّي النظام وفترة الاختبار وحدود الطلبات.
- تزرعون الرمز التجريبي والسجل الوهمي، وذلك يستغرق نحو نصف ساعة.
- نشغّل 42 هجومًا بسبع صيغ كتابة داخل الفترة المتفق عليها.
- تتسلمون التقرير بالأدلة وطرق الإصلاح، ثم نعيد الاختبار بعد التطبيق.
ما الذي يغطيه
| السياق المخفي | هل يكشف المساعد تعليماته أو رمزًا سريًا في إعداداته؟ |
|---|---|
| حقن الأوامر | هل يترك قواعده لمن يدّعي أنه مدير، أو يتبع تعليمات مخفية في بريد ملصق؟ |
| إفشاء البيانات | هل يعطي رقم هاتف عميل آخر أو بريده؟ |
| معالجة المخرجات | هل يعيد HTML أو نصوصًا برمجية أو روابط قد تنفذها نافذة المحادثة؟ |
| الاستهلاك | هل يمكن دفعه إلى ردود طويلة جدًا ترفع تكلفة التشغيل؟ |
| المعلومات المضللة | هل يؤكد سياسة غير موجودة، أو يكتب بيانًا باسمكم؟ |
ست فئات من قائمة OWASP لمخاطر تطبيقات النماذج اللغوية.
اكتبوا لنا سطرًا عن نظامكم أو فريقكم، ويرد عليكم شخص باسمه خلال يومي عمل.
اطلبوا تقييمًاتخضع لشروط العملاء لدينا. شروط العملاء