نظرًا لأن نماذج لغة الذكاء الاصطناعي الحديثة مثل ChatGPT و Microsoft Bing Chat تصنع موجات حول العالم ، يشعر عدد من الأشخاص بالقلق من سيطرة الذكاء الاصطناعي على العالم.
في حين أننا لن نواجه SkyNet في المستقبل المنظور ، فإن الذكاء الاصطناعي يتحسن أكثر من البشر في العديد من الأشياء. وهنا يأتي دور مشكلة التحكم في الذكاء الاصطناعي.
شرح مشكلة التحكم في الذكاء الاصطناعي
تتمثل مشكلة التحكم في الذكاء الاصطناعي في فكرة أن الذكاء الاصطناعي سيصبح في النهاية أفضل في اتخاذ القرارات من البشر. وفقًا لهذه النظرية ، إذا لم يقم البشر بإعداد الأشياء بشكل صحيح مسبقًا ، فلن تكون لدينا فرصة لإصلاح الأشياء لاحقًا ، مما يعني أن الذكاء الاصطناعي سيكون له سيطرة فعالة.
البحث الحالي حول نماذج الذكاء الاصطناعي والتعلم الآلي (ML) هو ، على الأقل ، سنوات من تجاوز القدرات البشرية. ومع ذلك ، من المنطقي الاعتقاد أنه ، بالنظر إلى التقدم الحالي ، سيتجاوز الذكاء الاصطناعي البشر من حيث الذكاء والكفاءة.
هذا لا يعني أن نماذج الذكاء الاصطناعي والتعلم الآلي ليس لها حدود. هم ، بعد كل شيء ، ملزمون بقوانين الفيزياء والتعقيد الحسابي ، بالإضافة إلى قوة المعالجة للأجهزة التي تدعم هذه الأنظمة. ومع ذلك ، من الآمن افتراض أن هذه الحدود تتجاوز القدرات البشرية.
هذا يعني أن فائقة الذكاء يمكن أن تشكل أنظمة الذكاء الاصطناعي تهديدًا كبيرًا إذا لم يتم تصميمه بشكل صحيح مع وجود إجراءات وقائية للتحقق من أي سلوك شرير محتمل. يجب بناء مثل هذه الأنظمة من الألف إلى الياء لاحترام القيم الإنسانية والحفاظ على قوتها تحت السيطرة. هذا ما تعنيه مشكلة التحكم عندما تقول أنه يجب إعداد الأشياء بشكل صحيح.
إذا تجاوز نظام الذكاء الاصطناعي الذكاء البشري دون الضمانات المناسبة ، فقد تكون النتيجة كارثية. يمكن أن تتولى هذه الأنظمة التحكم في الموارد المادية حيث يتم تحقيق العديد من المهام بشكل أفضل أو أكثر كفاءة. نظرًا لأن أنظمة الذكاء الاصطناعي مصممة لتحقيق أقصى قدر من الكفاءة ، فقد يؤدي فقدان التحكم إلى عواقب وخيمة.
متى تنطبق مشكلة التحكم في الذكاء الاصطناعي؟
تكمن المشكلة الرئيسية في أنه كلما كان نظام الذكاء الاصطناعي أفضل ، كان من الصعب على المشرف البشري مراقبة التكنولوجيا لضمان إمكانية التحكم اليدوي بسهولة في حالة فشل النظام. بالإضافة إلى ذلك ، يكون الميل البشري للاعتماد على نظام آلي أعلى عندما يعمل النظام بشكل موثوق به في معظم الأوقات.
وخير مثال على ذلك هو مجموعة تسلا للقيادة الذاتية الكاملة (FSD). بينما يمكن للسيارة أن تقود بنفسها ، فإنها تتطلب من الإنسان أن يضع يديه على عجلة القيادة ، ويكون جاهزًا للسيطرة على السيارة في حالة حدوث عطل في النظام. ومع ذلك ، مع زيادة موثوقية أنظمة الذكاء الاصطناعي هذه ، سيبدأ حتى انتباه الإنسان الأكثر يقظة في التباين ، وسيزداد الاعتماد على النظام المستقل.
إذن ماذا يحدث عندما تبدأ السيارات في القيادة بسرعة لا يستطيع البشر مواكبة ذلك؟ سننتهي بالتخلي عن التحكم لأنظمة السيارة الذاتية ، مما يعني أن نظام الذكاء الاصطناعي سيكون متحكمًا في حياتك ، على الأقل حتى تصل إلى وجهتك.
هل يمكن حل مشكلة التحكم في الذكاء الاصطناعي؟
هناك إجابتان حول إمكانية حل مشكلة التحكم في الذكاء الاصطناعي أم لا. أولاً ، إذا فسرنا السؤال حرفياً ، فلا يمكن حل مشكلة التحكم. لا يوجد شيء يمكننا القيام به يستهدف بشكل مباشر الميل البشري إلى الاعتماد على نظام آلي عندما يعمل بشكل موثوق وأكثر كفاءة في معظم الأوقات.
ومع ذلك ، إذا تم حساب هذا الاتجاه باعتباره سمة من سمات هذه الأنظمة ، فيمكننا ابتكار طرق للتغلب على مشكلة التحكم. على سبيل المثال ، ملف صنع القرار الخوارزمي ومشكلة التحكم تقترح ورقة بحثية ثلاث طرق مختلفة للتعامل مع المأزق:
- يتطلب استخدام أنظمة أقل موثوقية أن يتعامل الإنسان بنشاط مع النظام لأن الأنظمة الأقل موثوقية لا تشكل مشكلة التحكم.
- انتظار نظام يتجاوز الكفاءة البشرية والموثوقية قبل النشر في العالم الحقيقي.
- لتنفيذ الأتمتة الجزئية فقط باستخدام تحليل المهام. هذا يعني أن أجزاء النظام التي لا تتطلب مشغلًا بشريًا لأداء مهمة مهمة هي فقط تلك الأجزاء من النظام. يطلق عليه نهج التخصيص الديناميكي / التكميلي للوظيفة (DCAF).
يضع نهج DCAF دائمًا عاملًا بشريًا على رأس نظام مؤتمت ، مما يضمن أن مدخلاتهم تتحكم في الأجزاء الأكثر أهمية في عملية صنع القرار في النظام. إذا كان النظام منخرطًا بشكل كافٍ لكي ينتبه المشغل البشري باستمرار ، فيمكن حل مشكلة التحكم.
هل يمكننا التحكم حقًا في الذكاء الاصطناعي؟
نظرًا لأن أنظمة الذكاء الاصطناعي أصبحت أكثر تقدمًا وقدرة وموثوقية ، فسوف نستمر في تفريغ المزيد من المهام عليها. ومع ذلك ، يمكن حل مشكلة التحكم في الذكاء الاصطناعي بالاحتياطات والضمانات المناسبة.
يعمل الذكاء الاصطناعي بالفعل على تغيير العالم بالنسبة لنا ، في الغالب نحو الأفضل. طالما بقيت التكنولوجيا تحت إشراف الإنسان ، فلا ينبغي أن يكون هناك أي شيء يدعو للقلق.
