أمان تطبيقات الذكاء الاصطناعي

  1. الرُمح

    شرح كيفية فحص واختبار أمان تطبيقات الذكاء الاصطناعي ضد ثغرات Prompt Injection

    في تطبيقات الويب التقليدية تعلمنا عبر سنوات طويلة أن نحمي أنفسنا من حقن SQL والبرمجة عبر المواقع، لأن خلط بيانات المستخدم بالأوامر خطر دائم. ومع دخول النماذج اللغوية إلى التطبيقات ظهرت مشكلة مشابهة لكنها أصعب بكثير: Prompt Injection أو حقن التعليمات. وهي اليوم على رأس قائمة OWASP لأخطر الثغرات...
عودة
أعلى