قامت Microsoft بتحويل أداة تقييم مخاطر الأمان للذكاء الاصطناعي ، Counterfit ، مفتوحة المصدر ، مما يسمح لأي شخص بالبدء في استخدام الأداة مجانًا. حاليًا ، يمكن للمؤسسات استخدام Counterfit لأتمتة تقييمات مخاطر الأمان ، مما يضمن أن الحماية التي يستخدمونها تصل إلى نقطة الصفر.
طورت Microsoft في الأصل Counterfit كأداة داخلية يمكنها تقييم أمان أنظمة الذكاء الاصطناعي والتعلم الآلي بسرعة. بدأت حياتها كمجموعة من البرامج النصية قبل أن تتحول بسرعة إلى أتمتة عامة للذكاء الاصطناعي يمكن للمشغل استخدامها "لمهاجمة أنظمة ذكاء اصطناعي متعددة" في وقت واحد.
تستخدم Microsoft الآن Counterfit بانتظام كأداة أساسية في عمليات فريق الذكاء الاصطناعي الأحمر. نظرًا لأن Counterfit هي بيئة ونموذج وبيانات حيادية ، يمكن للأداة تقديم تقييم دقيق دون مقاومة.
الأداة نفسها مصممة للاستخدام من قبل محترفي الأمن. يستخدم Counterfit تدفقات عمل مماثلة لأدوات الفريق الأحمر الشائعة الأخرى مثل Metasploit أو PowerShell Empyre ، مع دعم مكثف للبرمجة النصية وخوارزميات الهجوم المحملة مسبقًا ومسح الثغرات الأمنية والتسجيل المتقدم والمزيد ، يتم الوصول إليها من خلال سطر الأوامر.
عملت Microsoft بشكل مكثف مع محترفي الأمان والمؤسسات الكبيرة لتطوير Counterfit بشكل أفضل أيضًا. على ال مدونة أمان Microsoftقالت ماتيلدا رود ، باحثة أولى في الأمن السيبراني بشركة إيرباص:
يتزايد استخدام الذكاء الاصطناعي في الصناعة ؛ من الأهمية بمكان التطلع إلى الأمام لتأمين هذه التكنولوجيا بشكل خاص لفهم أين يمكن أن تتحقق الهجمات الفضائية المميزة في مساحة المشكلة. إصدار أدوات مفتوحة المصدر من مؤسسة مثل Microsoft ليقوم ممارسو الأمان بتقييمها إن أمان أنظمة الذكاء الاصطناعي موضع ترحيب ودليل واضح على أن الصناعة تتعامل مع هذه المشكلة عنجد.
يمكنك العثور على المصدر المفتوح مايكروسوفت Counterfit على جيثب الرسمي.
متعلق ب: وظائف لم تعرفها من قبل تم تنفيذها بواسطة منظمة العفو الدولية
لماذا يعتبر Counterfit مفيد؟
حتى بالنسبة لشركة بحجم Microsoft ، فإن إكمال تقييمات الأمان الفعالة ليس بالأمر السهل ، لا سيما عندما تكون هذه الشركات ضخمة من قادة Fortune 500 والحكومات والمؤسسات غير الربحية والمزيد. وجدت دراسة سابقة لشركة Microsoft أن عددًا كبيرًا من الشركات غير قادرة على اختبار أنظمة الذكاء الاصطناعي الخاصة بها بدقة.
وجدنا أن 25 من أصل 28 شركة أشارت إلى أنها لا تمتلك الأدوات المناسبة لتأمين أنظمة الذكاء الاصطناعي الخاصة بهم وأن متخصصي الأمن يبحثون عن إرشادات محددة في هذا المجال.
يجعل Counterfit من السهل إكمال تلك التقييمات ، وأتمتة عملية التحليل والاختبار.
متعلق ب: طرق يمكنك من خلالها استخدام تقنية الذكاء الاصطناعي لتحسين عملك
علاوة على ذلك ، تم نشره مؤخرًا دراسة جارتنر أدرج اعتماد أمان الذكاء الاصطناعي كأحد أهم التدابير الأمنية التي يمكن للشركة اتخاذها لتحسين الحماية. أشارت الدراسة نفسها إلى أنه "بحلول عام 2024 ، ستنجح المنظمات التي تطبق ضوابط مخصصة لإدارة مخاطر الذكاء الاصطناعي في تجنب النتائج السلبية للذكاء الاصطناعي بمقدار الضعف مقارنة بتلك التي لا تفعل ذلك."
باختصار ، أن تصبح Counterfit أداة مفتوحة المصدر لتقييم أمن الذكاء الاصطناعي يجب أن تساعد في جعل العالم مكانًا أكثر أمانًا إلى حد ما.
هل يحتاج اشتراكك التالي في برنامج مكافحة الفيروسات إلى تضمين الذكاء الاصطناعي ، أم أنه مجرد كلمة طنانة أخرى للأمان؟
اقرأ التالي
- حماية
- أخبار التكنولوجيا
- المصدر المفتوح
- الأمن الإلكتروني
Gavin هو محرر Junior لـ Windows و Technology Explained ، وهو مساهم منتظم في Really Useful Podcast ، وكان محرر موقع MakeUseOf الشقيق الذي يركز على التشفير ، Blocks Decoded. حصل على بكالوريوس (مع مرتبة الشرف) في الكتابة المعاصرة مع ممارسات فنية رقمية نُهبت من تلال ديفون ، بالإضافة إلى أكثر من عقد من الخبرة المهنية في الكتابة. يستمتع بكميات وفيرة من الشاي وألعاب الطاولة وكرة القدم.
اشترك في نشرتنا الإخبارية
انضم إلى النشرة الإخبارية لدينا للحصول على نصائح تقنية ومراجعات وكتب إلكترونية مجانية وصفقات حصرية!
خطوة أخرى أيضا…!
يرجى تأكيد عنوان بريدك الإلكتروني في البريد الإلكتروني الذي أرسلناه لك للتو.
