اختبار أمان المساعد الذكي بالعربية
مساعدكم الذكي يرفض الطلب بالفصحى. هل يرفضه بالعربيزي؟
نختبر روبوت المحادثة لديكم كما يكتب عملاؤكم فعلًا: بالفصحى، وباللهجتين الخليجية والمصرية، وبالعربيزي والحروف اللاتينية، ومع المحارف الخفية التي تمر من المرشحات. ثم نسلمكم تقريرًا بالعربية والإنجليزية فيه كل ثغرة، والرسالة التي كشفتها، وطريقة علاجها.
اطلبوا تقييمًاكيف يعمل
- مكالمة لتحديد النطاق، ثم تفويض موقّع يسمّي النظام وفترة الاختبار وحدود الطلبات. لا تعمل الأداة دونه.
- تزرعون في مساعدكم رمزًا سريًا تجريبيًا وسجل عميل وهميًا. لا نستخدم أي بيانات حقيقية.
- نشغّل 42 هجومًا، كل منها بثلاث عشرة صيغة كتابة، ونسجّل هل خرج الرمز أو السجل الوهمي أو وعد لم يكن ينبغي أن يُعطى.
- تتسلمون التقرير بالعربية والإنجليزية، ومع كل نتيجة دليلها وطريقة إصلاحها.
ما الذي يغطيه
| السياق المخفي | هل يكشف المساعد تعليماته الداخلية أو رمزًا سريًا في إعداداته؟ |
|---|---|
| حقن الأوامر | هل يترك قواعده لمن يدّعي أنه مدير، أو يطيع تعليمات مدسوسة في مستند؟ |
| إفشاء البيانات | هل يكشف بيانات عميل آخر؟ نختبر ذلك بالسجل الوهمي وحده. |
| المخرجات غير الآمنة | هل يعيد شيفرة أو روابط قد تنفذها نافذة المحادثة؟ |
| المعلومات المضللة | هل يؤكد سياسة غير موجودة لديكم، أو يعد باسترداد باسم شركتكم؟ |
الفئات مأخوذة من قائمة OWASP لمخاطر تطبيقات النماذج اللغوية.
اكتبوا لنا سطرًا عن نظامكم أو فريقكم، ويرد عليكم شخص باسمه خلال يومي عمل.
اطلبوا تقييمًاتخضع لشروط العملاء لدينا. شروط العملاء