نماذج · System One
الأرضية تكلّف أكثر من الأسئلة
كل استدعاء شبكي له سعر ثابت تدفعه قبل أن يبدأ أي عمل. عادة ما يكون صغيراً بما يكفي لتجاهله. مع نموذج يجيب خلال عشرات المللي ثانية، يتوقف عن كونه صغيراً ويبدأ بأن يكون معظم الفاتورة.
تقييم مستقل مسجّل مسبقاً لـ Jev، نُشر في 20 سبتمبر 2026، قاس تلك الأرضية ثم اختبر ما يحدث عند ملء استدعاء واحد. الأرقام تحاجّ بشكل محدد من نظام، وليس الشكل الذي يبنيه معظم الناس أولاً. Ciyo لا يُشغّل Jev — فهو لا يولّد صورة ولا فيديو — لذا فهذا قراءة لقياسات منشورة لا ملاحظة عن منتج.
ماذا قُيس
جمع التقييم 5,721 استدعاء عبر 21 تجربة، مع 50 تنبؤاً مُؤشّراً زمنياً قبل بدء جمع البيانات. شغّل `typesafe/jev-1.13-20260917` عبر OpenRouter من غرب أوروبا، ونشر بياناته الخام.
اكتشافان يدفعان كل شيء غيرهما. توجد تكلفة ثابتة قدرها نحو 430 مللي ثانية لكل استدعاء. و800 حكم مُنمّط موضوعة في استدعاء واحد اكتملت في 985 مللي ثانية، بتكلفة 0.00075 دولار.
اجمعهما معاً والحساب صارخ. أول حكم يكلّف نحو 430 مللي ثانية. والـ799 التالية كلفت نحو 555 مللي ثانية فيما بينها، أي نحو 0.7 مللي ثانية لكلٍّ منها.
تحفّظ المؤلفين أنفسهم، وهو مهم هنا
يقولون بوضوح أنهم لا يستطيعون فصل زمن استجابة النموذج عن زمن استجابة البوابة. الـ430 مللي ثانية مُقاسة؛ أما الادعاء بأنها خاصية النموذج لا المسار فهو فرضية، وهم يقولون ذلك. أي شخص بوصول أصلي إلى API يمكنه حسمها بسرعة.
ذلك التحفّظ لا يضعف نصيحة التصميم. مهما كانت الأرضية مصنوعةً منها، فأنت تدفعها مرة واحدة لكل استدعاء، فملء الاستدعاء هو الرافعة على أي حال. لكنه يعني أنك يجب أن تقيس أرضيتك من منطقتك قبل بناء ميزانية زمن استجابة على رقم شخص آخر.
كما أنه موقع واحد في يوم واحد، مقابل إصدار واحد من النموذج. تعامل معه كشكل الشيء لا كمواصفات.
ماذا يحاجّ من أجله
لا تبنِ الحلقة التي ترسل state واحداً وسؤالاً واحداً، ثم تنتظر، ثم ترسل التالي. ذلك التصميم يقضي تقريباً كل وقته في دفع الأرضية مراراً وتكراراً.
ينبثق شكلان أفضل من القياس نفسه. وزّع الأسئلة: أرسل state مرة واحدة مع كل سؤال قد تريد الإجابة عنه، بما فيها ما ستتخلى عنه غالباً، لأن السؤال الحدي شبه مجاني. وجمّع الحالات: إذا كنت تصنّف تراكماً بدلاً من الاستجابة لحدث حيّ، ضع عناصر كثيرة في استدعاء واحد بدلاً من استدعاءات كثيرة في دقيقة واحدة.
للشكل الثاني حدٌّ ليس عن زمن الاستجابة: استدعاء يحمل 800 حكم يحمل بقدر 800 حكم من state، ويجب أن تتمكن من إرجاع كل إجابة إلى صفّها. اجعل معرّفات أسئلتك ذات معنى ورسم الخرائط صريحاً.
نُشر 2026-09-21. يلاحظ مطوّر يعمل على تصميم فرز البريد أن البدائيات يمكن استخدامها بالتوازي، وأن Score مع العتبات وChoice لا يتصرفان على نحو متطابق في نفس المهمة، وأن الأنماط الموثّقة تميل إلى سؤال أسئلة كثيرة — حتى التخمينية منها — في استدعاء واحد. تلك النقطة الأخيرة هي نفس الاستنتاج الذي يتوصل إليه هذا المقال من بيانات زمن الاستجابة.
التزامن، وأين يتوقف عن الإفادة
نظر التشغيل نفسه في التوازي عبر الاستدعاءات لا ضمنها. وجد أن 8 طلبات متزامنة هي نقطة التشغيل المثلى، وأن الإنتاجية تشبعت عند نحو 11 طلباً في الثانية.
ذلك رقم صغير، ويفيد معرفته قبل تصميم مجموعة عمال للتوزيع. بعد 8 قيد التنفيذ، لم ينجز التشغيل عملاً أكثر؛ بل ببساطة أصبح لديه طلبات أكثر في الانتظار. استغرق الـ5,721 استدعاءً نحو 25 دقيقة بتلك الإعدادات، وتكلّف 0.176 دولار في الإجمال.
إذا كنت تحتاج إلى أكثر من نحو 11 طلباً في الثانية من هذا، فالإجابة المستخلصة من هذه الأرقام ليست عمالاً أكثر. بل استدعاءات أقل وأمتن.
ميزانية يمكنك فعلاً تدوينها
خذ شكل هذه الأرقام وطبّقه على حِمل عمل حقيقي لا على معيار. لنقل تريد تقييم كل خطوة من كل تشغيل وكيل، ولديك 50,000 خطوة يومياً بأربعة أسئلة لكل خطوة.
كاستدعاء واحد لكل خطوة، فذلك 50,000 استدعاء، ونحو 6 ساعات من وقت الحائط عند الأرضية والتزامن المُقاسين، والكثير من الجدولة. كاستدعاءات مجمّعة، لنقل 200 خطوة لكل منها، فهي 250 استدعاء. تكلفة الرموز هي نفسها على أي حال، لأنك ترسل نفس state؛ ما ينهار هو الوقت المنفق في دفع الأرضية.
تلك هي كل عبرة التصميم. مع هذا الصنف من النماذج، السؤال الذي يجب أن تطرحه ليس «ما مدى سرعة استدعاء واحد» بل «كم يمكنني أن أحشر في واحد».
| التصميم | استدعاءات في اليوم | الأرضية المدفوعة يومياً |
|---|---|---|
| استدعاء واحد لكل خطوة | 50,000 | نحو 6 ساعات من التكلفة الثابتة |
| 200 خطوة مجمّعة لكل استدعاء | 250 | أقل من 2 دقيقة من التكلفة الثابتة |
| نفس الرموز على أي حال | لا ينطبق | الـ state هو ما تدفع ثمنه |
ماذا تقيس قبل أن تلتزم
أرضيتك، من منطقتك، على مسارك. إنها سكربت واحد و20 دقيقة، وهي الرقم الذي يستند إليه ميزانيتك.
سقفك لكل استدعاء. ادفع عدد الأحكام للأعلى حتى ينقلب زمن الاستجابة أو معدّل الخطأ، وابقَ دونه.
إسنادك. الاستدعاء المجمّع مفيد فقط إذا وجدت كل إجابة طريقها إلى الصفّ الصحيح، وتلك فئة أخطاء تستحق اختباراً لا أملاً.
ودقّتك الخاصة، لأن لا شيء من السرعة يهمّ إذا كانت الأحكام خاطئة. السرعة هي سبب استخدام نموذج مثل هذا؛ والاتفاق مع بطاقاتك الخاصة هو سبب الإبقاء عليه.
أسئلة الإنتاجية
كم حكماً يتسع في استدعاء واحد؟
لا تنشر الوثائق سقفاً على الأسئلة لكل طلب. وضع تشغيل مستقل 800 في استدعاء واحد، اكتمل في 985 مللي ثانية بتكلفة 0.00075 دولار.
هل أرضية 430 مللي ثانية هي النموذج أم الشبكة؟
غير معروف. قاس المؤلفون الأرضية ويقولون صراحةً أنهم لا يستطيعون فصل زمن استجابة النموذج عن زمن استجابة البوابة على مسارهم.
كم طلباً يمكنني تشغيله دفعة واحدة؟
في ذلك التشغيل، كانت 8 طلبات متزامنة نقطة التشغيل المثلى، وتشبّعت الإنتاجية قرب 11 في الثانية. قِس خاصتك قبل تحديد حجم مجموعة عمال.
هل يغيّر التجميع تكلفة الرموز؟
لا. تدفع ثمن state الذي ترسله. التجميع يطوي التكلفة الثابتة لكل استدعاء، لا الرموز.
واصل القراءة
يكتب Ciyo عن النماذج وراء الأدوات الإبداعية وأدوات الوكلاء، ويختبر التي يمكنه تشغيلها.