كيف يستخدم المتسللون الذكاء الاصطناعي التوليدي في هجماتهم وما يمكننا فعله حيال ذلك

أصبح الذكاء الاصطناعي التوليدي في دائرة الضوء مؤخرًا. جلبت chatbot ChatGPT المدعوم بالذكاء الاصطناعي والأنظمة الأخرى المدعومة لمعالجة اللغة الطبيعية مثل VALL-E الذكاء الاصطناعي التوليدي لعامة الناس وأطلقت العنان لفوائدها وآثارها السيئة.

أحد الاهتمامات الأساسية حول الذكاء الاصطناعي التوليدي هو حقيقة أنه يمكن استخدامه لترقية عمليات الاستغلال الخبيثة والتوصل إلى هجمات إلكترونية أكثر تعقيدًا. إذن ، كيف يستخدم المتسللون الذكاء الاصطناعي التوليدي في هجماتهم ، وماذا يعني هذا لمستقبل الأمن السيبراني؟

ما هو الذكاء الاصطناعي التوليدي وكيف يعمل؟

كما يوحي اسمها ، فإن الذكاء الاصطناعي التوليدي هو نوع من الذكاء الاصطناعي قادر على إنشاء محتوى جديد - الصور والنصوص والصوت والبيانات التركيبية.

أحد الأمثلة الشهيرة هو ChatGPT ، وهو روبوت محادثة مدعوم بالذكاء الاصطناعي يمكنك من خلاله إجراء محادثات شبيهة بالبشر و احصل على بعض توصيات الأفلام الرائعة - هذا إذا كنت لا تستطيع التفكير في مهمة ذات مغزى أكبر لإرسال ChatGPT على.

دعنا نقدم لك فكرة أو اثنتين - يمكنك ذلك

احصل على ChatGPT لكتابة كل تلك الرسائل الإلكترونية الصعبة لك، يستخدم ChatGPT كأداة ترجمةوحتى حوّل ChatGPT إلى مساعدك في التخطيط للوجبات الصحية. الكل في الكل ، في غضون ثوانٍ ، يمكن أن يبتكر برنامج الدردشة هذا محتوى جديدًا ومقنعًا على ما يبدو ويقدمه بطريقة صحيحة من الناحية السياسية.

ومع ذلك ، لا يمكن للذكاء الاصطناعي التوليدي أن يكون مبدعًا بطريقة يستطيع الإنسان القيام بها حتى الآن. هذا لأنه يستخدم خوارزميات التعلم الآلي غير الخاضعة للإشراف وشبه الإشراف لمعالجة قدر هائل من البيانات وإنشاء مخرجات مخصصة.

على سبيل المثال ، إذا كنت ترغب في إنشاء لوحة تشبه بيكاسو من الذكاء الاصطناعي التوليدي مثل DALL-E 2 ، فسيتعين عليك كتابة وصفك في حقل معين - دعنا نقول "بيكاسو جيرنيكا ولكن مع القطط" - والتزم بزوج من ثواني. خلال ذلك الوقت ، سيطبق الذكاء الاصطناعي جميع السمات المحددة لأسلوب الفنان الذي تعلمه من قبل ، إضافة القطط الصغيرة لقياس جيد ، وتوصل إلى شيء أصلي - حصلنا على تلك الصورة التي يمكنك رؤيتها قليلاً فوق.

كيف يستخدم المتسللون الذكاء الاصطناعي التوليدي في هجماتهم؟

ينجذب الأشرار دائمًا إلى الخوارزميات الجيدة. لذلك ليس من المستغرب أنهم يستغلون الذكاء الاصطناعي التوليدي لتعزيز هجماتهم. من خلال استخدام أساليب ML مثل التعلم المعزز وشبكات الخصومة التوليدية ، يمكن لمجرمي الإنترنت التوصل إلى هجمات إلكترونية جديدة وأكثر تعقيدًا يمكنها اختراق المعايير الدفاعات السيبرانية.

أحد الأمثلة على هذا الانحراف هو روبوت الدردشة "المتطور" الخاص بـ OpenAI ، مثل يتم الاستفادة من ChatGPT بواسطة مجرمي الإنترنت لكتابة البرامج الضارة. في البداية ، بدا موقع ChatGPT ممتعًا وألعابًا ولكنه أصبح الآن مكشوفًا كواحد من التهديدات الرئيسية للأمان والخصوصية. إذا كنت تحب الدردشة مع ChatGPT ، فمن الذكاء أن تنتبه إلى الأشياء التي يمكن لمجرمي الإنترنت القيام بها باستخدام ChatGPT.

باختصار ، جعلت ChatGPT وأدوات الذكاء الاصطناعي الأخرى الحياة أسهل لمجرمي الإنترنت وأصعب على فرق الأمن. تتضمن بعض الطرق التي يستخدم بها المهاجمون عبر الإنترنت الذكاء الاصطناعي في هجماتهم ما يلي:

• إنشاء برامج ضارة أفضل وأكثر تعقيدًا: في أيدي المتسللين ، يمكن استخدام الذكاء الاصطناعي التوليدي لإنشاء سلالات من البرامج الضارة يصعب اكتشافها وتنفيذ الهجمات. بالاقتران مع نماذج الذكاء الاصطناعي ، يمكن للبرامج الضارة أن تخفي نيتها حتى تحقق الغرض السيئ منها.
• كتابة رسائل البريد الإلكتروني التصيدية المخصصة والمدعومة بالذكاء الاصطناعي: بمساعدة الذكاء الاصطناعي التوليدي ، لم تعد رسائل التصيد الاحتيالي تحتوي على علامات منبهة لعملية احتيال - مثل سوء التهجئة وسوء القواعد وقلة السياق. بالإضافة إلى ذلك ، باستخدام الذكاء الاصطناعي مثل ChatGPT ، يمكن للجهات الفاعلة في التهديد شن هجمات تصيد بسرعة وحجم غير مسبوقين.
• توليد بيانات مزيفة عميقة: لأنه يمكن أن يخلق تقليدًا مقنعًا للأنشطة البشرية - مثل الكتابة والكلام و الصور - يمكن استخدام الذكاء الاصطناعي التوليدي في أنشطة احتيالية مثل سرقة الهوية والاحتيال المالي و معلومات مضللة.
• تكسير الكابتشا وتخمين كلمة المرور: تستخدم من قبل المواقع والشبكات لتمشيط الروبوتات التي تسعى إلى الوصول غير المصرح به ، يمكن الآن تجاوز CAPTCHA من قبل المتسللين. من خلال استخدام ML ، يمكنهم أيضًا تنفيذ مهام متكررة أخرى مثل تخمين كلمات المرور وهجمات القوة الغاشمة.
• تخريب ML في اكتشاف التهديدات الإلكترونية: إذا كان نظام الأمان غارقًا في الكثير من الإيجابيات الخاطئة ، فيمكن للمخترق أن يفاجئه بهجوم إلكتروني حقيقي.

كيف يمكننا مكافحة التهديد التوليدي للذكاء الاصطناعي؟

نظرًا لأن الهجمات الإلكترونية أصبحت أكثر تعقيدًا وعواقبها أكثر خطورة ، ستتحول أنظمة الأمان التقليدية إلى أشياء من حقبة ماضية. مع القدرة على التعلم من الهجمات السابقة والتكيف ، يعد الذكاء الاصطناعي رصيدًا لا يقدر بثمن لكل من مجرمي الإنترنت وخصومهم.

استخدام الذكاء الاصطناعي في الأمن السيبراني له بعض المزايا الجدية مثل الكشف عن التهديدات بشكل أسرع ، وتحديد التهديدات ، والاستجابة للتهديدات - لذلك ، يبدو أن مكافحة النيران بالنيران هي الإجابة الصحيحة. قبل أن يتعلم مجرمو الإنترنت كيفية توجيه الضربات المدمرة للأفراد والشركات في جميع أنحاء في العالم ، يجب على محترفي الأمن السيبراني تعليم أنظمتهم التي تعمل بالذكاء الاصطناعي لحماية أنفسهم من هذه الهجمات.

ومع ذلك ، لا يعود الأمر كله إلى الذكاء الاصطناعي. بعد كل شيء ، يمكننا أيضًا تعزيز أماننا وخصوصيتنا من خلال طرق مجربة ومختبرة مثل المصادقة متعددة العوامل (MFA) ، وتكنولوجيا القياسات الحيوية ، واستخدام مدير كلمات المرور ، واستخدام أفضل أدوات التعاون المشفرة، وفطرة جيدة ، قديمة.

محاربة الذكاء الاصطناعي باستخدام الذكاء الاصطناعي

إذن ، هل سنشهد حروبًا للأمن السيبراني للذكاء الاصطناعي في المستقبل القريب؟ حسنًا ، لا نأمل ذلك. ومع ذلك ، مع استمرار تقدم الذكاء الاصطناعي وأصبح في متناول الجميع - مجرمو الإنترنت ومحترفو الأمن السيبراني على حد سواء - سيصبح دور الذكاء الاصطناعي والتعلم الآلي أكبر في السنوات القادمة.