استهلاك رموز استدعاء الدوال

خطوات الاستخدام

الخطوة 1: فهم مفهوم استهلاك الرموز (Tokens) في نماذج الذكاء الاصطناعي. عند استدعاء دالة (Function Calling) في نماذج مثل GPT، يتم تحويل كل جزء من الدالة (الاسم، الوصف، المعاملات) إلى رموز. هذه الرموز تستهلك من حصة الإدخال (Input Tokens) وتؤثر على التكلفة. لذلك، من الضروري حساب عدد الرموز المستهلكة بدقة لتحسين استخدام النموذج.

الخطوة 2: تحديد متوسط عدد الرموز لكل دالة (avgFunctionTokens). هذا الرقم يعتمد على تعقيد الدالة: كلما زادت المعاملات والوصف، زاد عدد الرموز. يمكنك تقدير هذا المتوسط عن طريق حساب عدد الرموز لعدة دوال باستخدام أداة الترميز (Tokenizer) مثل tiktoken لمكتبة OpenAI. الصيغة: avgFunctionTokens = (مجموع رموز دوال العينة) / عدد الدوال.

الخطوة 3: إدخال عدد الدوال (functions) ومتوسط الرموز لكل دالة. احسب رموز تعريف الدوال الإجمالية كالتالي: totalFunctionTokens = functions * avgFunctionTokens. هذا يمثل الرموز المستهلكة فقط لتعريف الدوال.

الأسئلة الشائعة

عند استدعاء دالة، يتم احتساب رموز الإدخال (Input Tokens) لكل من تعريفات الدوال واستفسار المستخدم. أما رموز الإخراج (Output Tokens) فتمثل رد النموذج الذي قد يكون استدعاء للدالة أو نصًا. معظم نماذج الدفع تحسب كلاً من الإدخال والإخراج بتعريفة مختلفة. لذلك، من المهم حساب الإجمالي، خاصة إذا كان النموذج يولد مخرجات طويلة. يمكن تقليل التكلفة بتحديد max_tokens للردود، أو استخدام دوال ذات تعريفات مختصرة. في بعض الحالات، يكون الإخراج أكبر بكثير من الإدخال، مما قد يزيد التكلفة بشكل مفاجئ.

لتقدير avgFunctionTokens بدقة، يُنصح بإنشاء عينة من الدوال التي تنوي استخدامها (على الأقل 3-5 دوال) وتحويل كل منها إلى رموز باستخدام مكتبة tiktoken (لنموذج GPT-3.5/4) أو أداة الترميز الخاصة بالنموذج. اتبع الخطوات: 1. اكتب تعريف الدالة كما سترسله إلى API. 2. استخدم tiktoken لحساب عدد الرموز (import tiktoken; enc = tiktoken.encoding_for_model('gpt-4'); tokens = enc.encode(json.dumps(function_definition)); length = len(tokens)). 3. احسب المتوسط. لاحظ أن تعريف الدالة يشمل الاسم والوصف والمعاملات وجميع الحقول. إذا كانت الدوال طويلة جدًا، يمكن ضغط الأوصاف أو استخدام أسماء مختصرة لتقليل الرموز.

كلما زاد عدد الدوال أو تعقيدها، زاد استهلاك رموز الإدخال، مما يقلل المساحة المتاحة للسياق (مثل المحادثة السابقة أو السياق العام). نماذج GPT-4 لها حد سياق يصل إلى 8192 أو 32768 رمزًا. إذا تجاوز الإدخال الإجمالي هذا الحد، سيتم اقتطاع الأجزاء الأقدم من السياق، مما قد يؤثر على جودة الرد. لذلك، يُفضل: استخدام دوال صغيرة ومركزة، وتحديد الأولويات بحيث توضع الدوال الأكثر استخدامًا أولاً، وتقييم الحاجة لكل دالة. كما يمكن استخدام تقنيات مثل 'تقليم السياق' (Context Pruning) لتقليل حجم الإدخال.

نعم، كل نموذج له طريقة ترميز خاصة به (Tokenizer) وقد يختلف عدد الرموز لنفس النص بين النماذج. على سبيل المثال، GPT-4 يستخدم ترميزًا أكثر كفاءة للنصوص الطويلة مقارنة بـ GPT-3.5، مما يعني أن نفس تعريف الدالة قد يستهلك رموزًا أقل في GPT-4. كما أن أسعار الرموز تختلف: GPT-4 أغلى بكثير من GPT-3.5 (قد يصل إلى 20-30 ضعفًا). لذلك، عند حساب التكلفة، يجب استخدام سعر النموذج الدقيق. يمكنك استخدام مكتبة tiktoken مع تحديد اسم النموذج للحصول على عدد الرموز الصحيح. ننصح باختبار كل نموذج بحسابات أولية لتجنب الفواتير غير المتوقعة.

استهلاك رموز استدعاء الدوال

أدخل القيم

خطوات الاستخدام

أمثلة محلولة

أمثلة محسوبة

الأسئلة الشائعة