الذكاء الاصطناعي (AI) لديه القدرة على تغيير طبيعة مجتمعنا. وإذا كانت أدوات الذكاء الاصطناعي التي لدينا حاليًا تحت تصرفنا تشير إلى ما سيحدث ، فلدينا الكثير لنتطلع إليه.
لدينا أيضًا الكثير لنكون حذرين منه. وهي تسليح الذكاء الاصطناعي من قبل مجرمي الإنترنت وغيرهم من الجهات الفاعلة المهددة. هذا ليس مصدر قلق نظري ، ولا حتى مولدات صور الذكاء الاصطناعي محصنة ضد إساءة الاستخدام.
ما هي مولدات صور الذكاء الاصطناعي؟ كيف يعملون؟
إذا سبق لك استخدام مُنشئ صور AI ، فلديك فكرة جيدة عما يدور حوله كل شيء. حتى لو لم تستخدم واحدة من قبل ، فمن المحتمل أن تصادف صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي على وسائل التواصل الاجتماعي وفي أماكن أخرى. يعمل البرنامج المشهور اليوم على مبدأ بسيط للغاية: يكتب المستخدم في النص ، ويقوم الذكاء الاصطناعي بإنشاء صورة بناءً على هذا النص.
ما يجري تحت غطاء المحرك أكثر تعقيدًا. أصبح الذكاء الاصطناعي أفضل بكثير في السنوات الأخيرة ، وأكثر من ذلك مولدات تحويل النص إلى صورة
في الوقت الحاضر ما يسمى نماذج الانتشار. هذا يعني أنهم "تم تدريبهم" على مدى فترة طويلة من الزمن على عدد هائل من النصوص والصور ، وهو ما يجعل إبداعاتهم مثيرة للإعجاب وواقعية بشكل مذهل.ما يجعل أدوات الذكاء الاصطناعي هذه أكثر إثارة للإعجاب هو حقيقة أنها لا تقوم فقط بتعديل الصور الموجودة أو دمج آلاف الصور في صورة واحدة ، بل تقوم أيضًا بإنشاء صور جديدة وأصلية من البداية. كلما زاد عدد الأشخاص الذين يستخدمون مولدات تحويل النص إلى صورة ، زادت المعلومات التي يتلقونها ، وتحسنت إبداعاتهم.
بعض من أشهرها مولدات الصور بالذكاء الاصطناعي هي Dream by WOMBOو DALL-E و Stable Diffusion و Midjourney و DeepAI و Fotor و Craiyon. تظهر شركات جديدة يسارًا ويمينًا ، ويطلق عمالقة التكنولوجيا - بما في ذلك Google - منتجاتهم الخاصة ، لذلك لا يمكننا إلا التكهن بما سيأتي به المستقبل.
4 طرق لجهات التهديد تسليح مولدات الصور بالذكاء الاصطناعي
مثل كل التقنيات تقريبًا ، يمكن أن يساء استخدام مولدات الصور بالذكاء الاصطناعي من قبل الجهات الفاعلة الحاقدة. في الواقع ، يتم استخدامها بالفعل لجميع أنواع الأغراض الشائنة. ولكن ما نوع عمليات الاحتيال والهجمات الإلكترونية التي يمكن أن ينفذها المجرم بمساعدة مولدات الصور التي تعمل بالذكاء الاصطناعي؟
1. هندسة اجتماعية
أحد الأشياء الواضحة التي يمكن أن يفعلها ممثلو التهديد باستخدام مولدات صور الذكاء الاصطناعي هو الانخراط في الهندسة الاجتماعية; على سبيل المثال ، إنشاء ملفات تعريف وسائط اجتماعية مزيفة. يمكن لبعض هذه البرامج إنشاء صور واقعية بشكل لا يصدق تشبه تمامًا الصور الحقيقية لأشخاص حقيقيين ، ويمكن للمخادع استخدام ملفات تعريف الوسائط الاجتماعية المزيفة هذه في الصيد.
على عكس صور الأشخاص الحقيقيين ، لا يمكن اكتشاف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خلال البحث العكسي عن الصور ، ولا يتعين على مجرم الإنترنت العمل مع عدد محدود من الصور لخداع هدفهم - باستخدام الذكاء الاصطناعي ، يمكنهم إنشاء ما يحلو لهم ، وبناء هوية مقنعة عبر الإنترنت من يخدش.
ولكن هناك أمثلة من الحياة الواقعية لممثلي التهديد الذين يستخدمون أدوات إنشاء الصور بالذكاء الاصطناعي لخداع الناس. في أبريل 2022 ، تيك تالكس تلقى المدون بن ديكنسون رسالة بريد إلكتروني من شركة محاماة تدعي أنه استخدم صورة بدون إذن. أرسل المحامون إشعارًا بانتهاك حقوق الطبع والنشر لقانون الألفية الجديدة لحقوق طبع ونشر المواد الرقمية عبر البريد الإلكتروني ، لإخبار ديكنسون بأنه بحاجة إلى إعادة الارتباط بعميلهم ، أو إزالة الصورة.
بحث ديكنسون في شركة المحاماة على Google ، ووجد الموقع الإلكتروني الرسمي. بدا كل شيء شرعيًا تمامًا. يحتوي الموقع حتى على صور لـ 18 محامياً ، كاملة مع سيرهم الذاتية ووثائق اعتمادهم. لكن أيا منها لم يكن حقيقيا. تم إنشاء جميع الصور بواسطة منظمة العفو الدولية ، وتم إرسال إخطارات انتهاك حقوق النشر المفترضة من قبل شخص يتطلع إلى ابتزاز الروابط الخلفية من المدونين المطمئنين ، كجزء من أسود غير أخلاقي قبعة SEO (تحسين محرك البحث) إستراتيجية.
2. الغش الخيرية
عندما ضربت الزلازل المدمرة تركيا وسوريا في فبراير 2023 ، عبر ملايين الأشخاص حول العالم عن تضامنهم مع الضحايا من خلال التبرع بالملابس والطعام والمال.
وفقا لتقرير من بي بي سي، استفاد المحتالون من ذلك ، باستخدام الذكاء الاصطناعي لإنشاء صور واقعية وطلب التبرعات. أظهر أحد المحتالين صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي للأطلال على TikTok Live ، وطلب من مشاهديهم التبرع. نشر آخر صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لرجل إطفاء يوناني ينقذ طفلًا مصابًا من تحت الأنقاض ، وطلب من أتباعه التبرع بعملة البيتكوين.
يمكن للمرء أن يتخيل فقط نوع عمليات الاحتيال الخيرية التي سيجريها المجرمون بمساعدة الذكاء الاصطناعي في المستقبل ، ولكن من الآمن افتراض أنهم سيتحسنون فقط في إساءة استخدام هذا البرنامج.
3. التزييف العميق والمعلومات المضللة
لطالما حذرت الحكومات ومجموعات النشطاء والمراكز البحثية من مخاطر تقنية التزييف العميق. تضيف مولدات الصور بالذكاء الاصطناعي مكونًا آخر لهذه المشكلة ، بالنظر إلى مدى واقعية إبداعاتهم. في الواقع ، في المملكة المتحدة ، هناك عرض كوميدي يسمى Deep Fake Neighbor Wars والذي يجد روح الدعابة في أزواج المشاهير غير المتوقعة. ما الذي يمنع وكيل المعلومات المضللة من إنشاء صورة مزيفة والترويج لها على وسائل التواصل الاجتماعي بمساعدة الروبوتات؟
يمكن أن يكون لهذا عواقب واقعية ، كما حدث تقريبًا في مارس 2022 ، عندما تم تداول مقطع فيديو مزيف يصور الرئيس الأوكراني فولوديمير زيلينسكي يطلب من الأوكرانيين الاستسلام ، الإذاعة الوطنية العامة. لكن هذا مجرد مثال واحد ، لأن الاحتمالات لا حصر لها تقريبًا ، وهناك طرق لا حصر لها ممثل التهديد يمكن أن يضر بسمعة شخص ما ، أو يروج لرواية كاذبة ، أو ينشر أخبارًا كاذبة بمساعدة الذكاء الاصطناعي.
4. إعلان الاحتيال
تريند مايكرو اكتشف الباحثون في عام 2022 أن المحتالين كانوا يستخدمون المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لإنشاء إعلانات مضللة والترويج للمنتجات المشبوهة. قاموا بإنشاء صور اقترحت أن المشاهير المشهورين يستخدمون منتجات معينة ، وأجروا حملات إعلانية بناءً على تلك الصور.
على سبيل المثال ، ظهر أحد الإعلانات عن "فرصة استشارة مالية" الملياردير إيلون ماسك ، المؤسس والرئيس التنفيذي لشركة Tesla. بالطبع ، لم يؤيد Musk المنتج المعني أبدًا ، لكن اللقطات التي تم إنشاؤها بواسطة AI جعلت الأمر يبدو بهذه الطريقة ، ومن المفترض أن يجذب المشاهدين المطمئنين للنقر على الإعلانات.
الذكاء الاصطناعي والأمن السيبراني: مشكلة معقدة نحتاج إلى معالجتها
للمضي قدمًا ، من المحتمل أن يعمل المنظمون الحكوميون وخبراء الأمن السيبراني معًا للتصدي للتهديد الناشئ للجرائم الإلكترونية التي تعمل بالذكاء الاصطناعي. ولكن كيف يمكننا تنظيم الذكاء الاصطناعي وحماية الأشخاص العاديين دون خنق الابتكار وتقييد الحريات الرقمية؟ هذا السؤال سوف يلوح في الأفق لسنوات قادمة.
حتى تحصل على إجابة ، افعل ما بوسعك لحماية نفسك: افحص بعناية أي معلومات تراها على الإنترنت ، وتجنبها مواقع الويب المشبوهة ، واستخدام برامج آمنة ، وتحديث أجهزتك باستمرار ، وتعلم استخدام الذكاء الاصطناعي ميزة.