إليك لماذا يعتقد العلماء أنه يجب أن تقلق بشأن الذكاء الاصطناعي

الإعلانات

خلال الأشهر القليلة الماضية ، ربما قرأت التغطية المحيطة مقال ، شارك في تأليفه ستيفن هوكينج، مناقشة المخاطر المرتبطة بالذكاء الاصطناعي. اقترحت المقالة أن الذكاء الاصطناعي قد يشكل خطرًا خطيرًا على الجنس البشري. هوكينج ليس وحده هناك - إيلون ماسك و بيتر ثيل كلاهما من الشخصيات العامة الفكرية التي أعربت عن مخاوف مماثلة (استثمرت Thiel أكثر من 1.3 مليون دولار في البحث في القضية والحلول الممكنة).

كانت تغطية مقالة هوكينج وتعليقات مسك ، ليس لوضع نقطة على ذلك ، مرحة قليلاً. كانت النغمة كثيرا "انظر إلى هذا الشيء الغريب الذي يشعر به كل هؤلاء المهوسون." لا يتم التفكير كثيرًا في فكرة أنه إذا كان بعض الأشخاص الأكثر ذكاءً على الأرض يحذرونك من أن شيئًا ما قد يكون خطيرًا للغاية ، فقد يستحق الاستماع.

هذا أمر مفهوم - يبدو الذكاء الاصطناعي الذي يسيطر على العالم غريبًا للغاية غير قابل للتصديق ، ربما بسبب الاهتمام الهائل الممنوح بالفعل لهذه الفكرة من قبل الخيال العلمي الكتاب. إذًا ، ما الذي أخافه كل هؤلاء الأشخاص العقلانيون والعقلانيون؟

ما هي المخابرات؟

من أجل التحدث عن خطر الذكاء الاصطناعي ، قد يكون من المفيد فهم ماهية الذكاء. لفهم المشكلة بشكل أفضل ، دعنا نلقي نظرة على لعبة الذكاء الاصطناعي التي يستخدمها الباحثون الذين يدرسون نظرية المنطق. هذه اللعبة AI تسمى AIXI ، ولها عدد من الخصائص المفيدة. يمكن أن تكون أهدافها اعتباطية ، فهي تتناسب جيدًا مع قوة الحوسبة ، وتصميمها الداخلي نظيف للغاية ومباشر.

علاوة على ذلك ، يمكنك تنفيذ إصدارات بسيطة وعملية للهندسة المعمارية يمكنها القيام بأشياء مثل لعب بكمن، إن أردت. AIXI هو نتاج باحث AI يدعى ماركوس هاتر ، يمكن القول أنه الخبير الأول في الذكاء الخوارزمي. هذا هو يتحدث في الفيديو أعلاه.

AIXI بسيط بشكل مدهش: يحتوي على ثلاثة مكونات أساسية: المتعلم, مخططو دالة المنفعة.

• ال المتعلم يأخذ في سلاسل من البتات التي تتوافق مع المدخلات حول العالم الخارجي ، ويبحث من خلال برامج الكمبيوتر حتى يجد تلك التي تنتج ملاحظاتها كمخرجات. هذه البرامج ، معًا ، تسمح لها بإجراء تخمينات حول شكل المستقبل ، ببساطة عن طريق تشغيل كل منها البرنامج إلى الأمام وتوزين احتمالية النتيجة حسب طول البرنامج (تنفيذ Occam موس الحلاقة).
• ال مخطط يبحث من خلال الإجراءات المحتملة التي يمكن للوكيل اتخاذها ، ويستخدم وحدة المتعلم للتنبؤ بما سيحدث إذا أخذ كل واحد منهم. ثم يصنفها وفقا لمدى جودة أو سوء النتائج المتوقعة ، ويختار مسار عمل يزيد من جودة النتيجة المتوقعة مضروبا في الاحتمال المتوقع تحقيقه.
• الوحدة الأخيرة ، دالة المنفعة، هو برنامج بسيط يأخذ وصفًا لحالة مستقبلية للعالم ، ويحسب نقاط فائدة له. درجة الأداة هذه هي مدى جودة أو سوء تلك النتيجة ، ويستخدمها المخطط لتقييم الحالة العالمية المستقبلية. يمكن أن تكون وظيفة المنفعة عشوائية.
• مجتمعة ، تشكل هذه المكونات الثلاثة محسن، والذي يحسن لهدف معين ، بغض النظر عن العالم الذي يجد نفسه فيه.

يمثل هذا النموذج البسيط تعريفًا أساسيًا للعامل الذكي. يدرس الوكيل بيئته ، ويبني نماذج لها ، ثم يستخدم تلك النماذج للعثور على مسار العمل الذي سيزيد من احتمالات حصوله على ما يريد. يتشابه AIXI في الهيكل مع الذكاء الاصطناعي الذي يلعب الشطرنج ، أو ألعاب أخرى ذات قواعد معروفة - باستثناء أنه قادر على استنتاج قواعد اللعبة من خلال اللعب ، بدءًا من صفر المعرفة.

يمكن لـ AIXI ، بالنظر إلى الوقت الكافي للحساب ، تعلم تحسين أي نظام لأي هدف ، مهما كان معقدًا. إنها خوارزمية ذكية بشكل عام. لاحظ أن هذا ليس نفس الشيء مثل امتلاك ذكاء شبيه بالإنسان (الذكاء الاصطناعي المستوحى من البيولوجيا هو موضوع مختلف تمامًا جيوفاني إيديلي من OpenWorm: العقول والديدان والذكاء الاصطناعيإن محاكاة دماغ الإنسان هي طريقة بعيدة ، لكن مشروع مفتوح المصدر يتخذ خطوات أولى حيوية ، من خلال محاكاة علم الأعصاب وعلم وظائف الأعضاء لواحد من أبسط الحيوانات المعروفة للعلم. قراءة المزيد ). بعبارة أخرى ، قد تكون AIXI قادرة على التفوق على أي إنسان في أي مهمة فكرية (نظرا لقوة حوسبية كافية) ، ولكن قد لا تكون مدركة لانتصارها آلات التفكير: ما يمكن أن يعلمنا إياه علم الأعصاب والذكاء الاصطناعي عن الوعيهل يمكن لبناء آلات وبرامج ذكية بشكل مصطنع أن يعلمنا كيفية عمل الوعي ، وطبيعة العقل البشري نفسه؟ قراءة المزيد .

بصفتها منظمة العفو الدولية عملية ، لدى AIXI الكثير من المشاكل. أولاً ، ليس لديها طريقة للعثور على تلك البرامج التي تنتج المخرجات التي تهتم بها. إنها خوارزمية القوة الغاشمة ، مما يعني أنها ليست عملية إذا لم يكن لديك جهاز كمبيوتر قوي تعسفي مستلقي. أي تنفيذ فعلي لـ AIXI هو بالضرورة تقريب ، وتقريبًا (اليوم) بشكل عام إلى حد ما. ومع ذلك ، يمنحنا AIXI لمحة نظرية لما قد يبدو عليه الذكاء الاصطناعي القوي وكيف يمكن أن يكون منطقيًا.

فضاء القيم

إذا فعلت أي برمجة كمبيوتر أساسيات برمجة الكمبيوتر 101 - المتغيرات وأنواع البياناتبعد أن قدمت وتحدثت قليلاً عن البرمجة الشيئية من قبل وأين تحمل الاسم نفسه يأتي من ، اعتقدت أنه حان الوقت لنذهب من خلال الأساسيات المطلقة للبرمجة بلغة غير محددة الطريق. هذه... قراءة المزيد ، أنت تعرف أن أجهزة الكمبيوتر هي حرفيا بغيض ، متحيز ، وميكانيكي. الجهاز لا يعرف أو يهتم بما تريده أن يفعله: إنه يفعل فقط ما قيل له. هذه فكرة مهمة عند الحديث عن الذكاء الآلي.

مع أخذ ذلك في الاعتبار ، تخيل أنك اخترعت ذكاء اصطناعي قوي - لقد جئت باستخدام خوارزميات ذكية لتوليد الفرضيات التي تتوافق مع بياناتك ولإنشاء مرشح جيد الخطط. يمكن للذكاء الاصطناعي الخاص بك حل المشاكل العامة ، ويمكنه القيام بذلك بكفاءة على أجهزة الكمبيوتر الحديثة.

حان الوقت الآن لاختيار وظيفة مساعدة ، والتي ستحدد قيم AI. ما الذي يجب أن تطلبه من القيمة؟ تذكر أن الماكينة ستكون بغيضة وحرفية بشكل حيوي حول أي وظيفة تطلبها لتعظيمها ، ولن تتوقف أبدًا - لا يوجد شبح في الجهاز الذي سوف "يستيقظ" ويقرر تغيير وظيفة الأداة المساعدة ، بغض النظر عن عدد التحسينات التي أدخلها على الكفاءة الخاصة به منطق.

اليعازر يودكوسكي ضعها بهذه الطريقة:

كما هو الحال في جميع برمجة الكمبيوتر ، فإن التحدي الأساسي والصعوبة الأساسية لـ AGI هي أنه إذا كتبنا رمزًا خاطئًا ، لن يقوم الذكاء الاصطناعي تلقائيًا بفحص التعليمات البرمجية الخاصة بنا ، وتمييز الأخطاء ، ومعرفة ما قصدنا حقًا قوله ، والقيام بذلك في حين أن. يتخيل غير المبرمجين في بعض الأحيان أن AGI أو برامج الكمبيوتر بشكل عام ، تشبه الخادم الذي يتبع الأوامر دون جدال. ولكن ليس الأمر أن الذكاء الاصطناعي على الإطلاق مطيع إلى رمزها ؛ بدلاً من ذلك ، الذكاء الاصطناعي ببساطة يكون الرمز.

إذا كنت تحاول تشغيل مصنع ، وأخبرت الجهاز بتقييم صنع مشبك الورق ، ومن ثم منحه التحكم في مجموعة من روبوتات المصنع ، قد يعود في اليوم التالي ليكتشف أنه نفد من كل أشكال المواد الخام الأخرى ، وقتل جميع موظفيك ، وجعل قصاصات الورق من بقايا. إذا حاولت ، في محاولة لتصحيح خطأك ، إعادة برمجة الجهاز لإسعاد الجميع ببساطة ، يمكنك العودة في اليوم التالي لتجد أنه يضع الأسلاك في أدمغة الناس.

النقطة هنا هي أن البشر لديهم الكثير من القيم المعقدة التي نفترض أنها مشتركة بشكل ضمني مع العقول الأخرى. نحن نقدر المال ، لكننا نقدر الحياة البشرية أكثر. نريد أن نكون سعداء ، لكننا لا نريد بالضرورة أن نضع الأسلاك في أدمغتنا للقيام بذلك. لا نشعر بالحاجة إلى توضيح هذه الأشياء عندما نعطي تعليمات للبشر الآخرين. لا يمكنك عمل هذه الأنواع من الافتراضات ، مع ذلك ، عندما تقوم بتصميم وظيفة الأداة المساعدة للجهاز. غالبًا ما تكون أفضل الحلول في ظل الرياضيات الخالية من روح وظيفة المنفعة البسيطة هي الحلول التي يقرّرها البشر لكونهم مروعين أخلاقيا.

إن السماح لآلة ذكية لتحقيق أقصى قدر من وظيفة السذاجة سيكون دائمًا كارثيًا. كما قال الفيلسوف أكسفورد نيك بوستوم ،

لا يمكننا الافتراض بصراحة أن الذكاء الفائق سيشارك بالضرورة أي من القيم النهائية المرتبطة بشكل نمطي بالحكمة والتطور الفكري في البشر - الفضول العلمي والاهتمام بالآخرين والتنوير والتأمل الروحي ، التخلي عن الاستحواذ المادي ، تذوق الثقافة المحسنة أو الملذات البسيطة في الحياة ، والتواضع والإيثار ، و هكذا.

لجعل الأمور أسوأ ، من الصعب جدًا تحديد القائمة الكاملة والمفصلة لكل شيء يقدره الناس. هناك الكثير من الجوانب في السؤال ، ونسيان واحد حتى من المحتمل أن يكون كارثيا. حتى بين أولئك الذين ندركهم ، هناك خفايا وتعقيدات تجعل من الصعب كتابتها كنظم نظيفة من المعادلات التي يمكن أن نعطيها للآلة كوظيفة مساعدة.

بعض الناس ، عند قراءة هذا ، يستنتجون أن بناء الذكاء الاصطناعي مع وظائف المنفعة فكرة رهيبة ، وعلينا فقط تصميمها بشكل مختلف. هنا ، هناك أيضًا أخبار سيئة - يمكنك أن تثبت ذلك رسميًا لا يمكن لأي وكيل ليس لديه ما يعادل وظيفة فائدة أن يكون لديه تفضيلات متماسكة حول المستقبل.

التحسين الذاتي العودي

أحد الحلول للمعضلة المذكورة أعلاه هو عدم إعطاء وكلاء الذكاء الاصطناعي الفرصة لإيذاء الناس: منحهم فقط الموارد التي يحتاجون إليها حل المشكلة بالطريقة التي تنوي حلها ، والإشراف عليها عن كثب ، وإبعادها عن الفرص للقيام بعمل عظيم ضرر. لسوء الحظ ، فإن قدرتنا على التحكم في الآلات الذكية مشكوك فيها للغاية.

حتى إذا لم تكن أكثر ذكاءً مما نحن عليه الآن ، فهناك احتمال أن يقوم الجهاز "ببدء التشغيل" - بجمع أجهزة أفضل أو إدخال تحسينات على الكود الخاص به مما يجعله أكثر ذكاءً. هذا يمكن أن يسمح للآلة بتجاوز الذكاء البشري بعدة أوامر من حيث الحجم ، وتفوق على البشر بنفس المعنى الذي يفوق فيه البشر القطط. تم اقتراح هذا السيناريو لأول مرة من قبل رجل يدعى I. ج. جيد ، الذي عمل في مشروع تحليل التشفير Enigma مع آلان تورينج خلال الحرب العالمية الثانية. أطلق عليه "انفجار المخابرات" ، ووصف الأمر بهذا الشكل:

دع آلة فائقة الذكاء تُعرَّف على أنها آلة يمكنها تجاوز جميع الأنشطة الفكرية لأي رجل ، مهما كانت ذكية. نظرًا لأن تصميم الآلات هو أحد هذه الأنشطة الفكرية ، يمكن للآلة فائقة الذكاء تصميم آلات أفضل ؛ عندها سيكون هناك بلا شك "انفجار استخباري" ، وسوف تترك ذكاء الإنسان في الخلف. وبالتالي ، فإن أول آلة فائقة الذكاء هي آخر اختراع يحتاج إليه الإنسان على الإطلاق ، بشرط أن تكون الماكينة سهلة الانصياع بما يكفي.

ليس مضمونًا أن انفجارًا استخباريًا ممكنًا في عالمنا ، لكنه يبدو محتملًا. مع مرور الوقت ، تصبح أجهزة الكمبيوتر أسرع وتتكون الرؤى الأساسية حول الذكاء. وهذا يعني أن المتطلبات من الموارد اللازمة لجعل هذه القفزة الأخيرة إلى ذكاء عام ، معززة تنخفض أقل وأقل. في مرحلة ما ، سنجد أنفسنا في عالم يمكن فيه للملايين من الأشخاص القيادة إلى Best Buy والتقاط الأجهزة و الأدبيات التقنية التي يحتاجونها لبناء ذكاء اصطناعي يتحسن ذاتيًا ، والذي أنشأناه بالفعل قد يكون أمرًا صعبًا خطير. تخيل عالماً يمكنك فيه صنع قنابل ذرية من العصي والصخور. هذا هو نوع المستقبل الذي نناقشه.

وإذا قامت الآلة بذلك القفزة ، فقد تتفوق بسرعة على الأنواع البشرية من ناحية الفكر الإنتاجية ، وحل المشكلات التي لا يستطيع مليار إنسان حلها ، بنفس الطريقة التي يمكن بها للبشر حل المشكلات التي لا تستطيع مليار قطط.

يمكنها تطوير الروبوتات القوية (أو التكنولوجيا الحيوية أو النانو) واكتساب القدرة بشكل سريع نسبيًا على إعادة تشكيل العالم كما يحلو لها ، ولن يكون هناك الكثير مما يمكننا القيام به حيال ذلك. يمكن لمثل هذه الذكاء أن تجرد الأرض وبقية النظام الشمسي لقطع الغيار دون الكثير من المتاعب ، في طريقها إلى القيام بكل ما قلناه لها. يبدو من المرجح أن مثل هذا التطور سيكون كارثيا للبشرية. لا يجب أن يكون الذكاء الاصطناعي خبيثًا لتدمير العالم ، بل غير مبالٍ بشكل كارثي.

كما يقول المثل ، "الآلة لا تحبك أو تكرهك ، لكنك مصنوعة من ذرات يمكن استخدامها لأشياء أخرى."

تقييم المخاطر والتخفيف من حدتها

لذا ، إذا قبلنا أن تصميم ذكاء اصطناعي قوي يزيد وظيفة المرافق البسيطة أمرًا سيئًا ، فكم هي المشكلة التي نحن فيها حقًا؟ كم من الوقت لدينا قبل أن يصبح من الممكن بناء هذه الأنواع من الآلات؟ من الصعب بالطبع معرفة ذلك.

مطوري الذكاء الاصطناعي هم تحقيق تقدم. 7 مواقع مذهلة لمشاهدة أحدث برمجة الذكاء الاصطناعيالذكاء الاصطناعي ليس بعد HAL من عام 2001: The Space Odyssey… لكننا نقترب بشدة. من المؤكد أنه في يوم من الأيام يمكن أن يكون مشابهًا لمخلفات الخيال العلمي التي تنتجها هوليوود ... قراءة المزيد الآلات التي نبنيها والمشكلات التي يمكنهم حلها تنمو بشكل مطرد في نطاقها. في عام 1997 ، كان بإمكان ديب بلو لعب الشطرنج على مستوى أكبر من عظم الإنسان. في عام 2011 ، كان بإمكان Watson من شركة IBM قراءة المعلومات الكافية وتجميعها بعمق وسرعة كافية للتغلب على أفضل البشر اللاعبون في لعبة أسئلة وأجوبة مفتوحة مليئة بالتلاعبات والتلاعب بالألفاظ - وهذا تقدم كبير في أربعة عشر سنوات.

الآن ، جوجل الاستثمار بكثافة في البحث في التعلم العميقوهي تقنية تسمح ببناء شبكات عصبية قوية من خلال بناء سلاسل من الشبكات العصبية الأبسط. هذا الاستثمار يسمح لها بإحراز تقدم جدي في التعرف على الكلام والصورة. آخر عملية استحواذ لها في المنطقة هي شركة Deep Learning ناشئة تسمى DeepMind ، ودفعوا لها ما يقرب من 400 مليون دولار. كجزء من شروط الصفقة ، وافقت Google على إنشاء مجلس للأخلاقيات لضمان تطوير تقنية الذكاء الاصطناعي الخاصة بهم بأمان.

في الوقت نفسه ، تعمل شركة IBM على تطوير Watson 2.0 و 3.0 ، وهي أنظمة قادرة على معالجة الصور والفيديو وتجادل للدفاع عن الاستنتاجات. لقد قدموا عرضًا بسيطًا ومبكرًا لقدرة Watson على تجميع الحجج المؤيدة والمعارضة لموضوع في عرض الفيديو أدناه. النتائج غير كاملة ، لكنها خطوة رائعة بغض النظر.

لا تعتبر أي من هذه التقنيات خطرة في الوقت الحالي: فالذكاء الاصطناعي كحقل ما زال يكافح لمطابقة القدرات التي يتقنها الأطفال الصغار. تعد برمجة الكمبيوتر وتصميم الذكاء الاصطناعي مهارة معرفية عالية المستوى ، وستكون على الأرجح آخر مهمة بشرية تتقن الآلات فيها. قبل أن نصل إلى هذه النقطة ، سيكون لدينا أيضًا آلات موجودة في كل مكان يمكنه القيادة إليك كيف سنصل إلى عالم مليء بالسيارات بدون سائقالقيادة مهمة شاقة وخطيرة ومتطلبة. هل يمكن أن يتم تشغيله يومًا ما بواسطة تقنية السيارات بدون سائق من Google؟ قراءة المزيد , ممارسة الطب والقانون، وربما أشياء أخرى أيضًا ، مع عواقب اقتصادية عميقة.

يعتمد الوقت الذي يستغرقه الوصول إلى نقطة انعكاس التحسين الذاتي على مدى سرعة الأفكار الجيدة. إن توقع التقدم التكنولوجي لهذه الأنواع أمر صعب. لا يبدو من غير المعقول أن نتمكن من بناء ذكاء اصطناعي قوي في غضون عشرين عامًا ، ولكن لا يبدو أيضًا أنه من غير المعقول أن يستغرق الأمر ثمانين عامًا. في كلتا الحالتين ، سيحدث ذلك في نهاية المطاف ، وهناك سبب للاعتقاد أنه عندما يحدث ذلك ، سيكون خطيرًا للغاية.

لذا ، إذا قبلنا أن هذه ستكون مشكلة ، فماذا يمكننا أن نفعل حيال ذلك؟ الجواب هو التأكد من أن الأجهزة الذكية الأولى آمنة ، بحيث يمكنها التمهيد حتى مستوى كبير من الذكاء ، ثم حمايتنا من الأجهزة غير الآمنة التي تم تصنيعها لاحقًا. يتم تعريف هذه "السلامة" من خلال مشاركة القيم الإنسانية ، والاستعداد لحماية الإنسانية ومساعدتها.

نظرًا لعدم قدرتنا على الجلوس وبرمجة القيم البشرية في الجهاز ، فمن المحتمل أن يكون من الضروري تصميم وظيفة مساعدة تتطلب من الجهاز نراقب البشر ، نستنتج قيمنا ، ثم نحاول تعظيمها. من أجل جعل عملية التطوير هذه آمنة ، قد يكون من المفيد أيضًا تطوير الذكاء الاصطناعي المصمم خصيصًا ليس الحصول على تفضيلات حول وظائف المنفعة ، مما يسمح لنا بتصحيحها أو إيقاف تشغيلها دون مقاومة إذا بدأوا في الضلال أثناء التطوير.

العديد من المشاكل التي نحتاج إلى حلها من أجل بناء ذكاء آلي آمن هي صعبة رياضيًا ، ولكن هناك سبب للاعتقاد بأنه يمكن حلها. يعمل عدد من المنظمات المختلفة على هذه القضية ، بما في ذلك معهد مستقبل الإنسانية في أكسفورد، و ال معهد بحوث الذكاء الآلي (التي يمولها بيتر ثيل).

تهتم MIRI تحديدًا بتطوير الرياضيات اللازمة لبناء ذكاء اصطناعي صديق. إذا اتضح أن الذكاء الاصطناعي قد يكون ممكناً ، فإن تطوير هذا النوع من إن تقنية "الذكاء الاصطناعي الودي" أولاً ، إذا نجحت ، قد ينتهي بها الأمر لتكون أهم شيء يمتلكه البشر من أي وقت مضى.

هل تعتقد أن الذكاء الاصطناعي خطير؟ هل أنت قلق بشأن ما قد يجلبه مستقبل الذكاء الاصطناعي؟ شارك افكارك في قسم التعليقات في الاسفل!

حقوق الصورة: Lwp Kommunikáció Via Flickr، “الشبكة العصبية"، بواسطة فدكوميت ،" img_7801"بقلم ستيف راين ووتر ،" إي فولفي "، بقلم كيوني كابرال ،"new_20x"بقلم روبرت كودمور"مشابك الورق"، بقلم كليفورد والاس