مع الملايين من مستخدمي ChatGPT ، قد تتساءل عما تفعله OpenAI بكل محادثاتها. هل يحلل باستمرار الأشياء التي تتحدث عنها مع ChatGPT؟
الجواب على ذلك ، نعم ، يتعلم ChatGPT من مدخلات المستخدم - ولكن ليس بالطريقة التي يفكر بها معظم الناس. إليك دليل مفصل يشرح سبب تتبع ChatGPT للمحادثات ، وكيفية استخدامها ، وما إذا كان أمنك معرضًا للخطر.
هل يتذكر ChatGPT المحادثات؟
لا يأخذ ChatGPT المطالبات في ظاهرها. يستخدم الذاكرة السياقية لتذكر المدخلات السابقة والرجوع إليها ، مما يضمن الاستجابات المتسقة ذات الصلة.
خذ المحادثة أدناه كمثال. عندما طلبنا من ChatGPT أفكارًا للوصفات ، فقد أخذنا في الاعتبار رسالتنا السابقة حول حساسية الفول السوداني.
ها هي وصفة ChatGPT الآمنة.
تتيح الذاكرة السياقية أيضًا للذكاء الاصطناعي تنفيذ مهام متعددة الخطوات. تُظهر الصورة أدناه بقاء ChatGPT في الشخصية حتى بعد تغذيتها بموجه جديد.
يمكن لـ ChatGPT تذكر عشرات التعليمات داخل المحادثات. يتحسن ناتجها في الواقع من حيث الدقة والدقة كلما قدمت المزيد من السياق. فقط تأكد من شرح تعليماتك بشكل صريح.
يجب عليك أيضًا إدارة توقعاتك لأن الذاكرة السياقية لـ ChatGPT لا تزال بها قيود.
تتمتع محادثات ChatGPT بسعات ذاكرة محدودة
الذاكرة السياقية محدودة. يحتوي ChatGPT على موارد أجهزة محدودة ، لذا فهو لا يتذكر سوى نقاط محددة من المحادثات الحالية. تنسى المنصة المطالبات السابقة بمجرد أن تصل إلى سعة الذاكرة الخاصة بها.
في هذه المحادثة ، أمرنا ChatGPT بلعب دور شخصية خيالية اسمها Tomie.
بدأت في الرد على المطالبات باسم Tomie ، وليس ChatGPT.
على الرغم من نجاح طلبنا ، كسر ChatGPT الشخصية بعد تلقي مطالبة من 1000 كلمة.
لم تكشف OpenAI مطلقًا عن حدود ChatGPT الدقيقة ، لكن الشائعات تقول إنها لا يمكنها معالجة سوى 3000 كلمة في المرة الواحدة. في تجربتنا ، تعطل ChatGPT بعد 2800 كلمة فقط.
يمكنك تقسيم المطالبات إلى مجموعتين من 1500 كلمة ، ولكن من المحتمل ألا يحتفظ ChatGPT بجميع تعليماتك. فقط ابدأ محادثة أخرى تمامًا. وإلا ، فسيتعين عليك تكرار تفاصيل محددة عدة مرات خلال محادثتك.
لا يتذكر ChatGPT سوى المدخلات ذات الصلة بالموضوع
يستخدم ChatGPT الذاكرة السياقية لتحسين دقة الإخراج. إنه لا يحتفظ بالمعلومات فقط من أجل جمعها. يكاد النظام الأساسي ينسى تلقائيًا التفاصيل غير ذات الصلة ، حتى لو كنت بعيدًا عن الوصول إلى حد الرمز المميز.
في الصورة أدناه ، نحاول الخلط بين الذكاء الاصطناعي وتعليمات مختلفة غير متماسكة وغير ذات صلة.
احتفظنا بإدخالاتنا المجمعة أقل من 100 كلمة ، لكن ChatGPT ما زال ينسى تعليماتنا الأولى. سرعان ما كسر الشخصية.
وفي الوقت نفسه ، استمر ChatGPT في لعب الأدوار أثناء هذه المحادثة لأننا طرحنا أسئلة ذات صلة بالموضوع فقط.
من الناحية المثالية ، يجب أن يتبع كل حوار موضوعًا منفردًا للحفاظ على نتائج دقيقة وذات صلة. لا يزال بإمكانك إدخال عدة تعليمات في وقت واحد. فقط تأكد من توافقها مع الموضوع العام ، وإلا فقد يقوم ChatGPT بإسقاط التعليمات التي يعتبرها غير ذات صلة.
تعليمات التدريب تغلب على مدخلات المستخدم
سيعطي ChatGPT الأولوية دائمًا للتعليمات المحددة مسبقًا على المدخلات التي ينشئها المستخدم. توقف الأنشطة غير المشروعة من خلال القيود. المنصة ترفض أي مطالبة تراها خطيرة أو ضارة بالآخرين.
خذ طلبات لعب الأدوار كأمثلة. على الرغم من أنها تتجاوز قيودًا معينة على اللغة والصياغة ، لا يمكنك استخدامها لارتكاب أنشطة غير مشروعة.
بالطبع ، ليست كل القيود معقولة. إذا كانت الإرشادات الصارمة تجعل تنفيذ مهام محددة أمرًا صعبًا ، فاستمر في إعادة كتابة مطالباتك. يؤثر اختيار الكلمات والنبرة بشكل كبير على المخرجات. يمكنك أن تأخذ الإلهام من أكثر من غيرها مطالبات فعالة ومفصلة على جيثب.
كيف يدرس OpenAI محادثات المستخدم؟
تنطبق الذاكرة السياقية فقط على محادثتك الحالية. تتعامل بنية ChatGPT عديمة الحالة مع المحادثات على أنها حالات مستقلة ؛ لا يمكن الإشارة إلى معلومات من المعلومات السابقة. يؤدي بدء محادثات جديدة دائمًا إلى إعادة تعيين حالة النموذج.
هذا لا يعني أن ChatGPT يتخلص من محادثات المستخدم على الفور. شروط استخدام OpenAI اذكر أن الشركة تجمع المدخلات من خدمات المستهلك غير التابعة لواجهة برمجة التطبيقات مثل ChatGPT و Dall-E. يمكنك حتى طلب نسخ من محفوظات الدردشة الخاصة بك.
أثناء وصول ChatGPT إلى المحادثات بحرية ، سياسة خصوصية OpenAI يحظر الأنشطة التي قد تعرض المستخدمين للخطر. يمكن للمدربين استخدام بياناتك فقط في البحث عن المنتج وتطويره.
يبحث المطورون عن الثغرات
يتنقل برنامج OpenAI من خلال المحادثات بحثًا عن الثغرات. يحلل الحالات التي يُظهر فيها ChatGPT تحيزات البيانات ، أو ينتج معلومات ضارة ، أو يساعد في ارتكاب أنشطة غير مشروعة. يتم تجديد المبادئ التوجيهية الأخلاقية للمنصة باستمرار.
على سبيل المثال ، الإصدارات الأولى من أجاب ChatGPT علانية على الأسئلة المتعلقة بالبرمجيات الخبيثة أو صنع المتفجرات. جعلت هذه الحوادث المستخدمين يشعرون مثل لا يتحكم OpenAI في ChatGPT. لاستعادة ثقة الجمهور ، قامت بتدريب الشات بوت على رفض أي سؤال قد يتعارض مع إرشاداته.
يقوم المدربون بجمع البيانات وتحليلها
يستخدم ChatGPT تقنيات التعلم تحت الإشراف. على الرغم من أن النظام الأساسي يتذكر جميع المدخلات ، إلا أنه لا يتعلم منها في الوقت الفعلي. يقوم مدربون OpenAI بجمعها وتحليلها أولاً. يضمن القيام بذلك أن ChatGPT لا يمتص أبدًا المعلومات الضارة والضارة التي يتلقاها.
يتطلب التعلم الخاضع للإشراف مزيدًا من الوقت والطاقة مقارنة بالتقنيات غير الخاضعة للإشراف. ومع ذلك ، فإن ترك الذكاء الاصطناعي لتحليل المدخلات وحده قد ثبت أنه ضار بالفعل.
خذ Microsoft Tay كمثال - أحد الأوقات التي حدث فيها خطأ في التعلم الآلي. نظرًا لأنه حلل باستمرار التغريدات دون توجيه من المطور ، قام المستخدمون الخبثاء في النهاية بتدريبه على البصق العنصري والآراء النمطية.
المطورين احترس باستمرار من التحيزات
عديد العوامل الخارجية تسبب تحيزات في الذكاء الاصطناعي. قد تنشأ التحيزات اللاواعية من الاختلافات في نماذج التدريب ، وأخطاء مجموعة البيانات ، والقيود سيئة البناء. سوف تكتشفها في العديد من تطبيقات الذكاء الاصطناعي.
لحسن الحظ ، لم يُظهر ChatGPT تحيزات تمييزية أو عنصرية. ربما يكون أسوأ انحياز لاحظه المستخدمون هو ميل ChatGPT نحو الأيديولوجيات اليسارية ، وفقًا لـ نيويورك بوست تقرير. تكتب المنصة بشكل أكثر انفتاحًا عن الموضوعات الليبرالية أكثر من الموضوعات المحافظة.
لحل هذه التحيزات ، منعت شركة OpenAI ChatGPT من تقديم رؤى سياسية تمامًا. يمكنه فقط الإجابة على الحقائق العامة.
يقوم الوسطاء بمراجعة أداء ChatGPT
يمكن للمستخدمين تقديم ملاحظات حول إخراج ChatGPT. ستجد زري الإعجاب لأعلى وإبهام لأسفل على الجانب الأيمن من كل إجابة. السابق يشير إلى رد فعل إيجابي. بعد الضغط على زر الإعجاب أو عدم الإعجاب ، ستظهر نافذة يمكنك من خلالها إرسال التعليقات بكلماتك الخاصة.
نظام التغذية الراجعة مفيد. فقط امنح OpenAI بعض الوقت للتدقيق في التعليقات. يعلق الملايين من المستخدمين على ChatGPT بانتظام - من المحتمل أن يعطي مطوروها الأولوية لحالات خطيرة من التحيزات وتوليد المخرجات الضارة.
هل محادثات ChatGPT الخاصة بك آمنة؟
بالنظر إلى سياسات خصوصية OpenAI ، يمكنك أن تطمئن إلى أن بياناتك ستظل آمنة. يستخدم ChatGPT المحادثات فقط للتدريب على البيانات. يدرس مطوروها الرؤى التي تم جمعها لتحسين دقة الإخراج وموثوقيته ، وليس سرقة البيانات الشخصية.
مع ذلك ، لا يوجد نظام مثالي للذكاء الاصطناعي. إن ChatGPT ليس متحيزًا بطبيعته ، ولكن لا يزال بإمكان الأفراد الخبثاء استغلال نقاط الضعف الخاصة به ، على سبيل المثال ، أخطاء مجموعة البيانات ، والتدريب المهمل ، والثغرات الأمنية. لحمايتك ، تعلم كيفية مكافحة هذه المخاطر.