ChatGPT هو روبوت محادثة جديد قوي يعمل بالذكاء الاصطناعي وسريع التأثير ، لكن الكثير من الناس أشاروا إلى أن لديه بعض المزالق الخطيرة. اسأله أي شيء تريده ، وستتلقى إجابة تبدو وكأنها كتبها إنسان ، بعد أن تعلمت معرفتها ومهاراتها الكتابية من كميات هائلة من المعلومات عبر الإنترنت.
ومع ذلك ، تمامًا مثل الإنترنت ، فإن الحقيقة والحقائق ليست دائمًا مسلمة و ChatGPT مذنب في فهمها بشكل خاطئ. مع تعيين ChatGPT لتغيير مستقبلنا ، إليك بعض أكبر المخاوف.
ما هو ChatGPT؟
ChatGPT هو نموذج تعلم لغة كبير تم تصميمه لتقليد المحادثة البشرية. يمكنه تذكر الأشياء التي قلتها له في الماضي وقادر على تصحيح نفسه عندما يكون مخطئًا.
يكتب بطريقة شبيهة بالبشر ولديه ثروة من المعرفة لأنه تم تدريبه على جميع أنواع النصوص من الإنترنت ، مثل ويكيبيديا ومشاركات المدونات والكتب والمقالات الأكاديمية.
من السهل التعلم كيفية استخدام ChatGPT، ولكن الأمر الأكثر صعوبة هو معرفة أكبر مشاكلها. فيما يلي بعض الأشياء التي تستحق المعرفة عنها.
1. ChatGPT ليس صحيحًا دائمًا
إنه فشل في الرياضيات الأساسية ، ولا يبدو أنه يجيب على أسئلة منطقية بسيطة ، بل وسيذهب إلى أبعد من مناقشة حقائق غير صحيحة تمامًا. كما يمكن أن يشهد مستخدمو وسائل التواصل الاجتماعي ، يمكن أن يخطئ ChatGPT في أكثر من مناسبة.
أوبن إيه آي يعرف عن هذا القيد ، ويكتب ما يلي: "يكتب ChatGPT أحيانًا إجابات تبدو معقولة ولكنها غير صحيحة أو غير منطقية." هذا "هلوسة" الحقيقة والخيال ، كما يسميها بعض العلماء ، خطيرة بشكل خاص عندما يتعلق الأمر بشيء مثل الطب نصيحة.
بخلاف مساعدي الذكاء الاصطناعي الآخرين مثل Siri أو Alexa ، لا تستخدم Chat GPT الإنترنت لتحديد الإجابات. بدلاً من ذلك ، يقوم ببناء جملة كلمة بكلمة ، واختيار "الرمز المميز" الأكثر احتمالاً الذي يجب أن يأتي بعد ذلك ، بناءً على التدريب الخاص به.
بعبارة أخرى ، يصل ChatGPT إلى إجابة عن طريق إجراء سلسلة من التخمينات ، وهو جزء من السبب الذي يجعله يجادل في الإجابات الخاطئة كما لو كانت صحيحة تمامًا.
في حين أنه أمر رائع في شرح المفاهيم المعقدة ، مما يجعله أداة قوية للتعلم ، فمن المهم عدم تصديق كل ما يقوله. ChatGPT ليس صحيحًا دائمًا — على الأقل ليس بعد.
2. التحيز موجود في النظام
تم تدريب ChatGPT على الكتابة الجماعية للبشر عبر العالم ، في الماضي والحاضر. هذا يعني أن نفس التحيزات الموجودة في البيانات يمكن أن تظهر أيضًا في النموذج.
في الواقع ، أظهر المستخدمون كيف يمكن لـ ChatGPT تقديم بعض الإجابات الرهيبة ، وبعضها ، على سبيل المثال ، يميز ضد المرأة. لكن هذا مجرد غيض من فيض. يمكن أن تنتج إجابات ضارة للغاية لمجموعة من مجموعات الأقليات.
اللوم لا يكمن ببساطة في البيانات أيضًا. يختار باحثو ومطورو OpenAI البيانات المستخدمة لتدريب ChatGPT. للمساعدة في معالجة ما تسميه OpenAI "السلوك المتحيز" ، فإنها تطلب من المستخدمين تقديم ملاحظات حول المخرجات السيئة.
مع احتمالية إلحاق الضرر بالناس ، يمكنك المجادلة بأنه لا ينبغي إطلاق ChatGPT للجمهور قبل دراسة هذه المشكلات وحلها.
تم إصدار روبوت محادثة مماثل لمنظمة العفو الدولية يسمى Sparrow (مملوك لشركة Google الأم ، Alphabet) في سبتمبر 2022. ومع ذلك ، فقد تم إبقاؤها خلف أبواب مغلقة بسبب مخاوف مماثلة من أنها قد تسبب ضررًا.
ربما كان ينبغي على ميتا أن يكون رأس التحذير أيضًا. عندما أصدرت Galactica ، نموذج لغة ذكاء اصطناعي تم تدريبه على أوراق أكاديمية ، تم استدعاؤه سريعًا بعد أن انتقده العديد من الأشخاص لإخراجهم نتائج خاطئة ومتحيزة.
3. تحدي للغة الإنجليزية في المدرسة الثانوية
يمكنك أن تطلب من ChatGPT تدقيق كتابتك أو الإشارة إلى كيفية تحسين فقرة. بدلاً من ذلك ، يمكنك إزالة نفسك من المعادلة تمامًا واطلب من ChatGPT كتابة شيء لك.
لقد جرب المعلمون تغذية مهام اللغة الإنجليزية إلى ChatGPT وتلقوا إجابات أفضل مما يمكن أن يفعله العديد من طلابهم. من كتابة رسائل الغلاف إلى وصف الموضوعات الرئيسية في عمل أدبي مشهور ، يمكن لـ ChatGPT القيام بذلك دون تردد.
هذا يطرح السؤال: إذا كان بإمكان ChatGPT الكتابة لنا ، فهل سيحتاج الطلاب إلى تعلم الكتابة في المستقبل؟ قد يبدو الأمر وكأنه سؤال وجودي ، ولكن عندما يبدأ الطلاب في استخدام ChatGPT للمساعدة في كتابة مقالاتهم ، سيتعين على المدارس التفكير في إجابة سريعة. من المقرر أن يؤدي الانتشار السريع للذكاء الاصطناعي في السنوات الأخيرة إلى إحداث صدمة في العديد من الصناعات ، والتعليم هو مجرد واحد منها.
4. يمكن أن يسبب ضررًا حقيقيًا
في وقت سابق ، ذكرنا كيف يمكن للمعلومات غير الصحيحة من ChatGPT أن تسبب ضررًا في العالم الحقيقي ، مع المثال الأكثر وضوحًا على أنه نصيحة طبية خاطئة.
هناك مخاوف أخرى أيضًا. تشكل حسابات وسائل التواصل الاجتماعي الوهمية مشكلة كبيرة على الإنترنت ومع ظهور روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ، ستصبح عمليات الاحتيال عبر الإنترنت أسهل في التنفيذ. يعد انتشار المعلومات المزيفة مصدر قلق آخر ، خاصةً عندما يجعل ChatGPT حتى الإجابات الخاطئة تبدو صحيحة بشكل مقنع.
تسبب المعدل الذي يمكن أن يقدم به ChatGPT إجابات غير صحيحة دائمًا في حدوث مشكلات لـ Stack Exchange ، وهو موقع ويب يمكن للمستخدمين من خلاله نشر الأسئلة والحصول على إجابات.
بعد فترة وجيزة من صدوره ، تم حظر إجابات ChatGPT من الموقع بسبب خطأ عدد كبير منها. بدون عدد كافٍ من المتطوعين البشريين لفرز الأعمال المتراكمة ، سيكون من المستحيل الحفاظ على مستوى عالٍ من الإجابات عالية الجودة ، مما يتسبب في إلحاق الضرر بموقع الويب.
5. OpenAI لديه كل القوة
مع القوة الكبيرة تأتي مسؤولية كبيرة ، و OpenAI تمتلك الكثير من القوة. إنها واحدة من أولى شركات الذكاء الاصطناعي التي هزت العالم حقًا ليس بنماذج واحدة ، ولكن متعددة للذكاء الاصطناعي ، بما في ذلك Dall-E 2 و GPT-3 والآن ، ChatGPT.
يختار OpenAI البيانات المستخدمة لتدريب ChatGPT وكيفية تعامله مع النتائج السلبية. وسواء اتفقنا مع الأساليب أم لا ، فسوف تستمر في تطوير هذه التكنولوجيا وفقًا لأهدافها الخاصة.
بينما تعتبر OpenAI السلامة أولوية عالية ، هناك الكثير مما لا نعرفه عن كيفية إنشاء النماذج. سواء كنت تعتقد أن الشفرة يجب أن تكون مفتوحة المصدر ، أو توافق على أنها يجب أن تحافظ على سرية أجزاء منها ، فليس هناك الكثير مما يمكننا فعله حيال ذلك.
في نهاية اليوم ، كل ما يمكننا فعله هو الثقة في أن OpenAI ستقوم بالبحث والتطوير واستخدام ChatGPT بشكل مسؤول. بدلاً من ذلك ، يمكننا أن ندافع عن المزيد من الأشخاص ليكون لهم رأي في الاتجاه الذي يجب أن يتجه إليه الذكاء الاصطناعي ، ومشاركة قوة الذكاء الاصطناعي مع الأشخاص الذين سيستخدمونه.
إذا كنت مهتمًا بما طورته OpenAI ، فراجع مقالاتنا على كيفية استخدام Dall-E 2 و كيفية استخدام GPT-3.
معالجة أكبر مشاكل الذكاء الاصطناعي
هناك الكثير مما يجب أن تكون متحمسًا بشأنه مع ChatGPT ، أحدث تطورات OpenAI. ولكن بالإضافة إلى الاستخدامات الفورية ، هناك بعض المشكلات الخطيرة التي تستحق الفهم.
تقر شركة OpenAI بأن ChatGPT يمكن أن تنتج إجابات ضارة ومتحيزة ، ناهيك عن قدرتها على مزج الحقيقة مع الخيال. مع مثل هذه التكنولوجيا الجديدة ، من الصعب التنبؤ بالمشكلات الأخرى التي ستنشأ. لذلك حتى ذلك الحين ، استمتع باستكشاف ChatGPT واحرص على عدم تصديق كل ما تقوله.
