أي من الخيارات التالية هي أمثلة على الهجمات العدائية على نظام الذكاء الاصطناعي ؟؟
الإجابة الصحيحة من خلال موقع بوابة الإجابات هي:
2. التهرب. 4. التسمم.
تُعرف الهجمات العدائية (Adversarial Attacks) بأنها محاولات متعمدة لخداع أنظمة الذكاء الاصطناعي وجعلها تتخذ قرارات خاطئة من خلال التلاعب بالبيانات. وإليك شرح مفصل للخيارين الصحيحين:
1. التسمم (Poisoning):
يحدث هذا الهجوم في مرحلة تدريب نظام الذكاء الاصطناعي. بدلاً من أن يتعلم النظام من بيانات صحيحة، يقوم المهاجم بـ "تسميم" مجموعة البيانات بإدخال معلومات خاطئة أو مضللة.
- كيف يعمل؟ يتم إدخال بيانات خبيثة في قاعدة البيانات التي يتدرب عليها النموذج، مما يجعل النظام يتبنى مفاهيم خاطئة.
- مثال: إذا أردنا تدريب نظام لتمييز الرسائل المزعجة (Spam)، يقوم المهاجم بإرسال آلاف الرسائل المزعجة ويصنفها على أنها "رسائل آمنة". هنا سيتعلم الذكاء الاصطناعي أن هذه الرسائل المزعجة هي في الواقع رسائل طبيعية، وبالتالي سيفشل في حجبها مستقبلاً.
2. التهرب (Evasion):يحدث هذا الهجوم بعد أن يكون النظام قد تم تدريبه وأصبح
قيد التشغيل (في مرحلة الاستخدام). هنا لا يغير المهاجم في تدريب النظام، بل يغير في "المدخلات" التي يراها النظام الآن ليخدعه.
- كيف يعمل؟ يقوم المهاجم بإضافة تعديلات بسيطة جداً وغير ملحوظة للبشر على البيانات (مثل إضافة ضجيج رقمي خفيف على صورة)، ولكن هذه التعديلات تكون كافية لجعل الذكاء الاصطناعي يخطئ في التصنيف.
- مثال: وضع ملصقات صغيرة ومحددة على إشارة "قف" (Stop Sign) في الشارع. بالنسبة للإنسان، ستبقى الإشارة واضحة أنها "قف"، ولكن بالنسبة لنظام القيادة الذاتية في السيارة، قد يرى هذه الملصقات كإشارة "تحديد سرعة"، مما يؤدي إلى عدم توقف السيارة.
الفرق الجوهري بينهما:- التسمم: استهداف لـ "عقل" النظام أثناء مرحلة التعلم (التدريب).
- التهرب: استهداف لـ "حواس" النظام أثناء مرحلة العمل (التنفيذ).
اذا كان لديك إجابة افضل او هناك خطأ في الإجابة علي سؤال أي من الخيارات التالية هي أمثلة على الهجمات العدائية على نظام الذكاء الاصطناعي ؟ اترك تعليق فورآ.
