اليوم ، يعتمد الملايين على ChatGPT كمورد مفيد ، سواء كان ذلك للعمل أو المتعة أو التعليم. ولكن هل يمكنك الاعتماد على روبوت المحادثة هذا المزود بالذكاء الاصطناعي لتقديم الحقائق دائمًا؟ هل يكذب ChatGPT ، أم أنه سيعطيك معلومات واقعية فقط؟

من أين تحصل ChatGPT على معلوماتها؟

في فترة التدريب ، تم تغذية ChatGPT بالبيانات من مصادر عبر الويب ، مثل مواقع الويب الحكومية والوكالات ، المجلات العلمية والدراسات والمقالات الإخبارية والبودكاست والمنتديات عبر الإنترنت والكتب وقواعد البيانات والأفلام والأفلام الوثائقية والاجتماعية وسائط.

على وجه التحديد ، تم تدريب ChatGPT-3 باستخدام قاعدة بيانات شاملة للمعلومات التي بلغت 570 جيجابايت من البيانات. كما ورد في مقال من التركيز على العلوم، 300 مليار كلمة من المعلومات تم إدخالها في نظام GPT-3 أثناء تطويره.

شيء جدير بالملاحظة هنا هو أن ChatGPT قد تم تغذيته بالبيانات التي كانت موجودة قبل عام 2021 فقط. هذا يعني أن الشات بوت لا يمكنه الإجابة على الأسئلة المتعلقة بالأحداث الأخيرة. كما أن ChatGPT ليس لديه إمكانية الوصول إلى الإنترنت. البيانات التي تم تغذيتها في التدريب هي النوع الوحيد الذي تستخدمه لتلبية مطالبات المستخدم.

instagram viewer

ولكن هل تقوم ChatGPT بتزويدك بالحقائق فقط ، أم أن بعض المعلومات الغامضة مختلطة مع ردودها؟ بالإضافة إلى ذلك ، هل يمكن أن يكذب ChatGPT عليك؟

هل تكذب ChatGPT؟

بينما يوفر ChatGPT غالبًا معلومات صادقة للمستخدمين ، إلا أنه يمتلك القدرة على "الكذب". بالطبع ، لا يقرر ChatGPT الكذب بشكل ضار على المستخدمين ، لأنه ببساطة لا يمكنه فعل ذلك. بعد كل شيء ، تعد ChatGPT أداة لمعالجة اللغة ، وليست تقليدًا لشخص واقعي حقيقي.

ومع ذلك ، لا يزال بإمكان ChatGPT تقنيًا أن تكمن من خلال ظاهرة تُعرف باسم هلوسة الذكاء الاصطناعي.

هلوسة الذكاء الاصطناعي يتضمن نظامًا للذكاء الاصطناعي يوفر معلومات تبدو معقولة أو معقولة ولكنها في الواقع ليست صحيحة على الإطلاق. في الواقع ، يمكن أن توفر الهلوسة بالذكاء الاصطناعي معلومات تفيد بأنه لم يتم إطعامها مطلقًا خلال فترة التدريب. بدلاً من ذلك ، يمكن أن يحدث ذلك عندما يوفر نظام الذكاء الاصطناعي معلومات لا علاقة لها بالمطالبة أو الطلب. قد يدعي نظام الذكاء الاصطناعي أنه إنسان في حالة هلوسة.

تقع أنظمة الذكاء الاصطناعي ، مثل روبوتات المحادثة ، في فخ الهلوسة لعدة أسباب: افتقارها إلى فهم العالم الحقيقي ، وأخطاء البرامج ، والقيود المفروضة على البيانات المقدمة.

كما ذكرنا سابقًا ، لا يمكن لـ ChatGPT توفير المعلومات إلا باستخدام البيانات المنشورة حتى عام 2021 ، مما يحد بالتأكيد من أنواع المطالبات التي يمكنه تلبيتها.

واحد من مشاكل ChatGPT الكبيرة هو أنه يمكن أن يقع أيضًا ضحية للتحيز عند إعطاء المعلومات للمستخدمين. حتى منشئو ChatGPT ذكروا أن نظام الذكاء الاصطناعي كان "متحيزًا سياسيًا ، ومهينًا" و "مرفوضًا بطريقة أخرى" في الماضي. كما ذكرت المستقل، يلتزم مطورو ChatGPT بمعالجة هذه المشكلة ، لكن هذا لا يعني أنها لم تعد تشكل خطرًا.

عندما سئل ، ذكر ChatGPT أن الأسباب التي قد توفر معلومات غير دقيقة تشمل ما يلي:

  • الغموض في السؤال (محفزات غامضة وغير واضحة) ؛
  • تم توفير معلومات غير كاملة ؛
  • تقديم معلومات متحيزة أو غير صحيحة ؛ أو،
  • القيود الفنية (بشكل رئيسي بسبب عدم الوصول إلى البيانات الحالية).

لذلك ، ذكرت ChatGPT نفسها أن هناك سيناريوهات لن توفر معلومات دقيقة للمستخدمين.

في رد آخر في نفس المحادثة ، صرح ChatGPT أنه "من الجيد دائمًا التحقق من أي معلومات [توفرها] مع مصادر أخرى."

هل يمكنك الوثوق بـ ChatGPT؟

لأنه يمكن أن يوفر معلومات خاطئة ، أنت بوضوح لا يمكن الوثوق بـ ChatGPT 100٪ من الوقت.

يمكنك تقليل مخاطر هلوسات روبوت الدردشة بالذكاء الاصطناعي من خلال تعيين معايير محددة حول كيفية إجابتك. ومع ذلك ، لا يوجد حتى الآن ما يضمن عدم تسرب بعض المعلومات الخاطئة عبر الثغرات.

لهذا السبب ، من الأفضل التحقق من أي معلومات يقدمها لك ChatGPT ، خاصة إذا كنت تطلب معلومات حول الأحداث الأخيرة. يمكن أن يساعدك التحقق من هذه البيانات من خلال الرجوع إلى مصادر أخرى في تحديد ما إذا كان ChatGPT محقًا فيما تقوله ويمكن أن يمنعك من اتخاذ قرارات غير حكيمة.

ChatGPT مفيد ولكنه ليس دائمًا صادقًا

لسوء الحظ ، لا يمكنك الاعتماد على ChatGPT لتقديم معلومات صادقة وغير متحيزة بنسبة 100٪ من الوقت. روبوت الدردشة هذا الذي يعمل بالذكاء الاصطناعي مفيد بلا شك ويمكنه مساعدتك بطرق مختلفة ، لكن الأمر يستحق دائمًا التحقق مما إذا كانت المعلومات التي يقدمها حقيقية أم لا.