خريطة مفاهيم: كيف تعمل نماذج اللغة الكبيرة؟

استعرض دورة حياة النموذج ضمن خمس مجموعات موضوعية

ينظّم هذا المثال موضوع كيفية عمل نماذج اللغة الكبيرة ضمن خمسة فروع: التدريب، والبنية، والاستدلال، والقيود، وحالات الاستخدام. يضم كل فرع أربع ملاحظات موجزة. يتناول فرع التدريب التنبؤ بالرمز التالي، والضبط الدقيق، والتعلّم المعزز من الملاحظات البشرية (RLHF)، بينما يتناول فرع البنية المحوّلات والرموز ونافذة السياق والمعلمات.

ينتقل الاستدلال من تحويل المطالبة إلى رموز، إلى المرور الأمامي، ثم أخذ العينات وتوليد الرموز. وتسرد الفروع الأخرى أمثلة على القيود والاستخدامات، مثل مراجعة الشيفرة والتلخيص والترجمة والكتابة. غير أن هذه التسميات المختصرة لا تتضمن التفاصيل اللازمة لمقارنة نماذج بعينها.

تعامل مع الادعاءات المتعلقة بحجم الرمز والذاكرة وحجم التدريب والقدرة على الاستدلال بوصفها ملاحظات دراسية مبسطة ينبغي التحقق منها بالرجوع إلى النموذج محل النقاش. وعند طلب نسخة أكثر دقة، أضف اسم النموذج ومصادر المعلومات ومستوى الجمهور المستهدف.