حجم سياق استرجاع RAG

أدخل عدد الرموز المميزة (tokens) في استعلام المستخدم (queryTokens). هذا يمثل طول السؤال أو الأمر الذي ترسله إلى نموذج RAG. كلما زاد عدد الرموز، زاد حجم سياق الاستعلام، مما يؤثر على التكلفة والسرعة.

أدخل عدد المستندات المراد استرجاعها (topK). هذا هو عدد المستندات ذات الصلة التي سيجلبها نظام الاسترجاع. عادةً ما يتراوح بين 1 و 10، لكنه يعتمد على دقة النظام وطبيعة المهمة.

أدخل متوسط عدد الرموز المميزة في كل مستند (avgDocTokens). هذا يمثل متوسط طول المستندات في قاعدة المعرفة. قد يتراوح من بضع مئات (لمستندات قصيرة) إلى آلاف (لمستندات طويلة). يمكن حسابه بتحليل عينة من المستندات.

سيتم حساب إجمالي حجم سياق الاسترجاع (Retrieval Context Size) باستخدام الصيغة: إجمالي الرموز = queryTokens + (topK × avgDocTokens). هذا المجموع هو عدد الرموز التي سيتم تغذيتها لنموذج التوليد، ويجب أن لا يتجاوز حد السياق للنموذج.