قد تهلوس روبوتات المحادثة بالذكاء الاصطناعي ، وتعطي إجابات خاطئة بكل ثقة - والتي يمكن للقراصنة الاستفادة منها. وإليك كيف يستخدم الهاكرز الهلوسة كسلاح.

نماذج اللغة الكبيرة للذكاء الاصطناعي غير كاملة وفي بعض الأحيان تولد معلومات خاطئة. يمكن أن تشكل هذه الحالات ، التي تسمى الهلوسة ، تهديدًا إلكترونيًا للشركات والأفراد المتحمسين للذكاء الاصطناعي.

لحسن الحظ ، يمكنك زيادة الدفاعات ضد هلوسة الذكاء الاصطناعي من خلال زيادة الوعي والتخمين الصحي الثاني.

لماذا هلوسة الذكاء الاصطناعي؟

لا يوجد إجماع حول سبب هلوسة نماذج الذكاء الاصطناعي ، على الرغم من وجود بعض التخمينات المحتملة.

يتم تدريب الذكاء الاصطناعي من مجموعات بيانات ضخمة ، غالبًا ما تحتوي على عيوب مثل فجوات الفكر ، أو اختلاف بروز المحتوى ، أو التحيزات الضارة. يمكن أن يكون أي تدريب من مجموعات البيانات غير المكتملة أو غير الكافية هو أصل الهلوسة ، حتى لو تلقت التكرارات اللاحقة لمجموعة البيانات معالجة من علماء البيانات.

بمرور الوقت ، يمكن لعلماء البيانات جعل المعلومات أكثر دقة وإدخال معرفة إضافية لملء الشواغر وتقليل احتمالية الهلوسة. قد يخطئ المراقبون في تسمية البيانات. قد يحتوي كود البرمجة على أخطاء. يعد إصلاح هذه العناصر أمرًا ضروريًا لأن نماذج الذكاء الاصطناعي تتقدم بناءً على خوارزميات التعلم الآلي.

instagram viewer

تستخدم هذه الخوارزميات البيانات لاتخاذ القرارات. امتداد لهذا هو الشبكة العصبية للذكاء الاصطناعي ، والتي تخلق قرارات جديدة من تجربة التعلم الآلي إلى تشبه أصالة العقول البشرية بدقة اكثر. تحتوي هذه الشبكات على محولات تقوم بتحليل العلاقات بين نقاط البيانات البعيدة. عندما تنحرف المحولات ، قد تحدث الهلوسة.

كيف توفر هلوسة الذكاء الاصطناعي فرصًا للقراصنة

لسوء الحظ ، ليس من المعروف أن الذكاء الاصطناعي يهلوس ، وسيبدو الذكاء الاصطناعي واثقًا حتى عندما يكون خاطئًا تمامًا. يساهم كل هذا في جعل المستخدمين أكثر رضاءًا وثقةً بالذكاء الاصطناعي ، ويعتمد الفاعلون المهددون على سلوك المستخدم هذا لحملهم على تنزيل أو إطلاق هجماتهم.

على سبيل المثال ، قد يهلوس نموذج AI مكتبة أكواد مزيفة ويوصي المستخدمين بتنزيل تلك المكتبة. من المحتمل أن يستمر النموذج في التوصية بنفس هذه المكتبة المهلوسة للعديد من المستخدمين الذين يطرحون سؤالًا مشابهًا. إذا اكتشف المتسللون هذه الهلوسة ، فيمكنهم إنشاء نسخة حقيقية من المكتبة المتخيلة — لكنها مليئة بالشفرات والبرامج الضارة الخطيرة. الآن ، عندما تستمر منظمة العفو الدولية في التوصية بمكتبة الأكواد ، سيقوم المستخدمون غير المتعمدين بتنزيل كود المتسللين.

يعد نقل التعليمات البرمجية والبرامج الضارة من خلال الاستفادة من هلوسة الذكاء الاصطناعي خطوة تالية غير مفاجئة للجهات الفاعلة في التهديد. لا يُنشئ المتسللون بالضرورة عددًا لا يحصى من التهديدات الإلكترونية الجديدة - فهم يبحثون فقط عن طرق جديدة لتسليمها دون شك. تفترس هلوسة الذكاء الاصطناعي نفس السذاجة البشرية التي يعتمد عليها النقر على روابط البريد الإلكتروني (وهذا هو السبب الذي يجب عليك فعله استخدام أدوات التحقق من الارتباط للتحقق من عناوين URL).

قد ينتقل المتسللون إلى المستوى التالي أيضًا. إذا كنت تبحث عن مساعدة في الترميز وتنزيل الشفرة الخبيثة المزيفة ، فيمكن لممثل التهديد أيضًا جعل الشفرة تعمل بالفعل ، مع تشغيل برنامج ضار في الخلفية. فقط لأنها تعمل بالطريقة التي تتوقعها لا يعني أنها ليست خطيرة.

قد يشجعك نقص التعليم على تنزيل التوصيات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بسبب سلوك الطيار الآلي عبر الإنترنت. يتعرض كل قطاع لضغط ثقافي لاعتماد الذكاء الاصطناعي في ممارساته التجارية. تلعب عدد لا يحصى من المنظمات والصناعات البعيدة عن التكنولوجيا أدوات الذكاء الاصطناعي مع القليل من الخبرة وحتى المزيد من الأمن السيبراني المتناثر لمجرد البقاء في المنافسة.

كيفية البقاء في مأمن من هلوسة الذكاء الاصطناعي

التقدم يلوح في الأفق. كان إنشاء برامج ضارة باستخدام الذكاء الاصطناعي التوليدي أمرًا سهلاً قبل أن تعدل الشركات مجموعات البيانات والشروط والأحكام لمنع الأجيال غير الأخلاقية. بمعرفة نقاط الضعف الاجتماعية والتقنية والشخصية التي قد تكون لديك ضد هلوسة الذكاء الاصطناعي الخطيرة ، ما هي بعض الطرق للبقاء آمنًا؟

يمكن لأي شخص في الصناعة العمل على تحسين تكنولوجيا الشبكة العصبية والتحقق من المكتبة. يجب أن يكون هناك ضوابط وتوازنات قبل أن تصل الردود إلى المستخدمين النهائيين. على الرغم من كون هذا تقدمًا ضروريًا في الصناعة ، إلا أن لديك أيضًا دورًا تلعبه في حماية نفسك والآخرين من تهديدات الذكاء الاصطناعي المولدة.

متوسط ​​المستخدمين يمكنه التدرب على اكتشاف هلوسة الذكاء الاصطناعي بهذه الاستراتيجيات:

  • البحث عن الأخطاء الإملائية والنحوية.
  • معرفة متى لا يتوافق سياق الاستعلام مع سياق الاستجابة.
  • الإقرار بأن الصور المستندة إلى رؤية الكمبيوتر لا تتطابق مع كيفية رؤية عيون الإنسان للمفهوم.

كن حذرًا دائمًا عند تنزيل المحتوى من الإنترنت ، حتى عندما توصي منظمة العفو الدولية بذلك. إذا أوصت منظمة العفو الدولية بتنزيل التعليمات البرمجية ، فلا تفعل ذلك بشكل أعمى ؛ تحقق من أي مراجعات للتأكد من شرعية الشفرة ومعرفة ما إذا كان يمكنك العثور على معلومات عن المنشئ.

أفضل مقاومة ضد الهجمات القائمة على هلوسة الذكاء الاصطناعي هي التعليم. إن التحدث عن تجاربك وقراءة كيف تسبب الآخرون في حدوث هلوسات خبيثة ، سواء عن طريق الصدفة أو الاختبار المتعمد ، أمر لا يقدر بثمن في التنقل في الذكاء الاصطناعي في المستقبل.

تعزيز الأمن السيبراني للذكاء الاصطناعي

يجب أن تكون حريصًا فيما تطلبه عند التحدث إلى الذكاء الاصطناعي. قلل من احتمالية حدوث نتائج خطيرة من خلال كونك محددًا قدر الإمكان والتشكيك في أي شيء يظهر على الشاشة. اختبر الكود في بيئات آمنة وتحقق من صحة المعلومات الأخرى التي تبدو جديرة بالثقة. بالإضافة إلى ذلك ، يمكنك التعاون مع الآخرين ومناقشة تجاربك وتبسيط المصطلحات المتعلقة بالذكاء الاصطناعي يمكن أن تساعد الهلوسة وتهديدات الأمن السيبراني الجماهير على أن تكون أكثر يقظة ومرونة ضدها قراصنة.