الذكاء الاصطناعي ليس جاهزًا للقضاء علينا... حتى الآن.
لقد كان الذكاء الاصطناعي موضوع نقاش منذ نشأته. في حين أن المخاوف من ظهور ذكاء اصطناعي شبيه بـ Skynet والاستيلاء على البشرية أمر غير منطقي ، على أقل تقدير ، فقد أسفرت بعض التجارب عن نتائج مقلقة.
إحدى هذه التجارب هي مشكلة مشبك الورق الأقصى ، وهي تجربة فكرية تُظهر أن الذكاء الاصطناعي عالي الذكاء ، حتى لو تم تصميمه بالكامل بدون حقد ، يمكن أن يدمر البشرية في النهاية.
شرح مشكلة مشبك الورق
هذه التجربة الفكرية التي تفيد بأنه حتى الذكاء الاصطناعي غير المؤذي تمامًا يمكن أن يقضي في النهاية على البشرية ، تم تسميتها أولاً بـ Paperclip Maximizer لمجرد أنه تم اختيار مشابك الورق لعرضها. ما يمكن أن يفعله الذكاء الاصطناعي لأن خطره الظاهر ضئيل ولن يتسبب في اضطراب عاطفي عند مقارنته بالمجالات الأخرى التي تنطبق عليها هذه المشكلة مثل علاج السرطان أو الفوز الحروب.
ظهرت التجربة الأولى في ورقة الفيلسوف السويدي نيك بوستروم عام 2003 ، القضايا الأخلاقية في الذكاء الاصطناعي المتقدم، والتي تضمنت مكبر مشبك الورق لإظهار المخاطر الوجودية التي يمكن أن يستخدمها الذكاء الاصطناعي المتقدم بدرجة كافية.
قدمت المشكلة ذكاءً اصطناعيًا كان هدفه الوحيد هو عمل أكبر عدد ممكن من المقاطع الورقية. سوف يدرك الذكاء الاصطناعي الذكي بدرجة كافية عاجلاً أم آجلاً أن البشر يشكلون تحديًا لهدفه في ثلاث تهم مختلفة.
- يمكن للبشر إيقاف تشغيل الذكاء الاصطناعي.
- يمكن للبشر تغيير أهدافهم.
- يتكون البشر من ذرات يمكن تحويلها إلى مشابك ورقية.
في جميع الأمثلة الثلاثة ، سيكون هناك عدد أقل من قصاصات الورق في الكون. لذلك ، ذكاء اصطناعي ذكي بدرجة كافية هدفه الوحيد هو صنع أكبر عدد ممكن من مشابك الورق سيتولى كل المواد والطاقة في متناول اليد ويمنع نفسه من الانغلاق أو تغير. كما يمكنك أن تخمن على الأرجح ، هذا أكثر خطورة بكثير من المجرمون الذين يستخدمون ChatGPT لاختراق حسابك المصرفي أو جهاز الكمبيوتر.
الذكاء الاصطناعي ليس معاديًا للبشر. انها مجرد غير مبال. وبالتالي ، فإن الذكاء الاصطناعي الذي يهتم فقط بتعظيم عدد مشابك الورق سيقضي على البشرية ويحولها أساسًا إلى مشابك ورقية للوصول إلى هدفه.
كيف تنطبق مشكلة مشبك الورق على الذكاء الاصطناعي؟
تشير الأبحاث والتجارب إلى مشكلة تعظيم مشبك الورق جميعها إلى مُحسِّن افتراضي قوي للغاية أو عامل ذكي للغاية باعتباره الطرف التمثيلي هنا. ومع ذلك ، فإن المشكلة تنطبق على الذكاء الاصطناعي بقدر ما يناسب الدور تمامًا.
تم إنشاء فكرة مكبر مشبك الورق لإظهار بعض مخاطر الذكاء الاصطناعي المتقدم ، بعد كل شيء. بشكل عام ، فإنه يمثل مشكلتين.
- أطروحة التعامد: أطروحة التعامد هي الرأي القائل بأن الذكاء والدافع ليسا مترابطين بشكل متبادل. هذا يعني أنه من الممكن للذكاء الاصطناعي الذي يتمتع بمستوى عالٍ من الذكاء العام ألا يصل إلى نفس الاستنتاجات الأخلاقية مثل البشر.
- التقارب الآلي: يُعرَّف التقارب الآلي على أنه ميل لمعظم الكائنات الذكية بدرجة كافية (كلاهما بشرية وغير بشرية) لمتابعة أهداف فرعية مماثلة حتى لو كان هدفهم النهائي تمامًا مختلف. في حالة مشكلة تعظيم مشبك الورق ، فإن هذا يعني أن الذكاء الاصطناعي سينتهي به الأمر إلى تولي كل شيء الموارد الطبيعية والقضاء على البشرية لمجرد تحقيق هدفها في خلق المزيد والمزيد مشابك الورق.
المشكلة الأكبر التي أبرزها مكبر مشبك الورق هي التقارب الفعال. يمكن أيضًا إبرازها باستخدام فرضية ريمان ، وفي هذه الحالة قد يقرر الذكاء الاصطناعي المصمم لحل الفرضية بشكل جيد للغاية تولي كل كتلة الأرض وتحويلها إلى كمبيوتر (أكثر معالجات الكمبيوتر كفاءة) لبناء أجهزة كمبيوتر عملاقة لحل المشكلة والوصول إليها هدف.
أكد بوستروم نفسه أنه لا يعتقد أن مشكلة مكبر مشبك الورق ستكون مشكلة حقيقية على الإطلاق ، لكن نيته كانت توضيح مخاطر إنشاء آلات فائقة الذكاء دون معرفة كيفية التحكم فيها أو برمجتها حتى لا تشكل خطرًا وجوديًا على الإنسان الكائنات. تواجه أنظمة الذكاء الاصطناعي الحديثة مثل ChatGPT مشاكل أيضًا، لكنها بعيدة كل البعد عن أنظمة الذكاء الاصطناعي فائقة الذكاء التي يتم الحديث عنها في مشبك الورق ، مما يزيد المشكلة إلى أقصى حد ، لذلك لا يوجد سبب للذعر حتى الآن.
تحتاج أنظمة الذكاء الاصطناعي المتقدمة إلى تحكم فائق
دائمًا ما تصل مشكلة تعظيم مشبك الورق إلى نفس النتيجة وتسلط الضوء على مشاكل إدارة نظام ذكي للغاية وقوي يفتقر إلى القيم الإنسانية.
في حين أن استخدام مشابك الورق قد يكون الطريقة الأكثر شيوعًا لتوضيح المشكلة ، إلا أنه ينطبق على أي عدد من المهام التي تقوم بها يمكن أن يمنح للذكاء الاصطناعي ، سواء كان ذلك في القضاء على السرطان ، أو كسب الحروب ، أو زراعة المزيد من الأشجار أو أي مهمة أخرى ، بغض النظر عن مدى ظهورها غبي.