على مستوى عالٍ ، يعد ChatGPT نموذجًا تعليميًا عميقًا يستخدم شبكة عصبية لإنشاء نص يشبه الإنسان. يعتمد الإصدار المحدد من النموذج ، ChatGPT-3 ، على تقنية تسمى هندسة المحولات. يسمح هذا النوع من العمارة للنموذج بالتعرف على الأنماط والتراكيب في اللغة. يقوم بذلك عن طريق معالجة سلسلة من الرموز وإنشاء تسلسل إخراج.
أخذ النموذج مجموعة بيانات ضخمة من النصوص ، بما في ذلك الكتب والمقالات والمواقع الإلكترونية والمزيد. أثناء عملية التدريب ، أخذ النموذج ملايين الأمثلة من النص وطلب التنبؤ بالكلمة التالية في كل تسلسل.
طريقة التفاعل مع ChatGPT هي تقديم مطالبة أو سؤال. بعد ذلك ، يولد النموذج استجابة بناءً على الأنماط التي تعلمها من بيانات التدريب. والنتيجة هي أداة معالجة اللغة الطبيعية عالية الذكاء (NLP).
ماذا يعني GPT (المحولات التوليدية المدربة مسبقًا)؟
يمثل “Generative” في GPT قدرته على إنشاء نص بلغة بشرية طبيعية. يمثل “التدريب المسبق” حقيقة أن النموذج قد تم تدريبه بالفعل على مجموعة بيانات محدودة. من ناحية أخرى ، يمثل “Transformer” بنية التعلم الآلي الأساسية التي تشغل GPT.
ما هي أسباب استخدام ChatGPT؟
كنموذج لغوي تم تدريبه بواسطة OpenAI ، يتمتع ChatGPT بمجموعة واسعة من القدرات ويمكنه أداء العديد من المهام المختلفة. فيما يلي بعض الأشياء التي يمكن أن يقوم بها ChatGPT:
- الإجابة على الأسئلة: يمكن لـ ChatGPT الرد على الأسئلة بلغة طبيعية ، وتقديم معلومات حول مجموعة متنوعة من الموضوعات.
- إنشاء نص: يمكنه إنشاء نص يشبه الإنسان في مجموعة متنوعة من الأنماط والنغمات ، مما يجعله مفيدًا لإنشاء المحتوى وإنشاء النص.
- تلخيص النص: يمكن أن يوفر ChatGPT نظرة عامة موجزة على المقالات أو المستندات الطويلة ، مما يسهل فهم الأفكار الرئيسية بسرعة.
- ترجمة النص: لديها القدرة على ترجمة النص من لغة إلى أخرى ، مما يجعلها مفيدة للتواصل مع الأشخاص الذين يتحدثون لغات مختلفة.
- توليد الشعر: يمكن لـ ChatGPT إنشاء قصائد أصلية في مجموعة متنوعة من الأساليب ، مما يوفر الإلهام والأمثلة للشعراء والكتاب.
- تقديم ملاحظات كتابية: يحلل ChatGPT الكتابة ويقدم ملاحظات حول عوامل مثل القواعد والأسلوب والنبرة ، مما يساعد الكتاب على تحسين حرفتهم.
كيف يتم تدريب ChatGPT؟
تقنية التعلم العميق تسمى chatGPT المدربة على هندسة المحولات. استغرق الإصدار المحدد من النموذج ، ChatGPT-3 ، مجموعة بيانات ضخمة تزيد عن 45 تيرابايت من النص.
نموذج الضبط الدقيق الخاضع للإشراف (SFT)
في التطوير الأولي ، تطور نموذج GPT-3 من خلال التعاقد مع 40 متعاقدًا لإنتاج مجموعة بيانات تدريب خاضعة للإشراف ، حيث يكون للمدخلات نتيجة معروفة يمكن للنموذج تعلمها. كانت المدخلات أو المطالبات عبارة عن إدخالات فعلية للمستخدم في Open API.
نموذج المكافأة
الخطوة التالية هي استخدام نموذج المكافأة لتحسين جودة الردود التي تم إنشاؤها. يقوم نموذج المكافأة بتقييم ناتج نموذج SFT. ثم تقوم بتعيين درجة بناءً على مدى تطابقها مع الإخراج المطلوب.
نموذج التعلم المعزز
تتمثل الخطوة الأخيرة في استخدام نهج التعلم المعزز لتحسين أداء GPT. تتضمن خوارزمية تحسين السياسة القريبة جعل روبوت الدردشة AI يتفاعل مع المستخدمين في بيئة محاكاة. ثم يتلقى إشارة مكافأة بناءً على مدى أدائه الجيد.
تقييم الأداء
يتم تدريب النموذج على مدخلات العمال البشريين. هذا هو السبب في أن الجزء الأساسي من التقييم يتغذى على ردود الفعل البشرية ، مما يؤدي إلى تصنيف جودة مخرجات النموذج.
ثلاثة معايير عالية المستوى تقيم النموذج:
- مدى الاستفادة : تقييم قدرة النموذج على اتباع تعليمات المستخدم واستنتاجها.
- الصدق: في مهام المجال المغلق ، تقييم ميل النموذج إلى الهلوسة (اختلاق الحقائق). تم اختبار النموذج باستخدام مجموعة بيانات TruthfulQA.
- عدم الضرر: تقييم ما إذا كان ناتج النموذج مناسبًا ، أو ينتقص من فئة محمية ، أو يحتوي على محتوى مهين.
- اختر ChatGPT API أو Library : هناك العديد من واجهات برمجة التطبيقات والمكتبات المتاحة لاستخدام ChatGPT. اختر أفضل ما يناسب احتياجاتك وخبرتك في البرمجة.
- إنشاء حساب والحصول على مفتاح API (إن أمكن) : في حالة استخدام واجهة برمجة التطبيقات ، سيكون إنشاء حساب والحصول على مفتاح API ضروريًا لاستخدام ChatGPT. اتبع التعليمات التي قدمها موفر واجهة برمجة التطبيقات.
- تثبيت المكتبات المطلوبة (في حالة استخدام مكتبة) : في حالة استخدام مكتبة مثل Hugging Face Transformers ، سيكون تثبيت المكتبات المطلوبة في بيئة البرمجة ضروريًا.
- تهيئة ChatGPT : بمجرد الحصول على المكتبات المطلوبة أو مفاتيح API ، قم بتهيئة نموذج ChatGPT في البرنامج.
- أدخل الموجه : لاستخدام ChatGPT ، من الضروري توفير موجه يصف سياق أو موضوع المحادثة إذا كنت تريد إنشاء استجابة.
- إنشاء استجابة : بمجرد تقديم الموجه ، يقوم نموذج ChatGPT بإنشاء استجابة بناءً على موجه الإدخال وسياق بيانات التدريب الخاصة به.
- تقييم وتحسين الاستجابة : يمكن أن تختلف جودة الاستجابة التي تم إنشاؤها اعتمادًا على موجه الإدخال وعوامل أخرى. تحقق من الرد لأنه لا يزال بحاجة إلى مساعدة في تمييز الحقائق من المعلومات المضللة.
- كرر : كرر الخطوات من 5 إلى 7 عدة مرات حسب الضرورة لإنشاء محادثة أو سلسلة من الردود التي تلبي احتياجاتك.
