اربط نموذج ذكاء اصطناعي بـ BenchQuorum

يحتاج BenchQuorum إلى نموذج ليخطط خطواته ويكتب الملفات. أنت تختار أين يعمل هذا النموذج: مزوّد ذكاء اصطناعي سحابي عبر نقطة نهاية API قياسية، أو نموذج على جهازك، أو النموذج المدمج. يحدد اختيارك أي نص يغادر جهازك.

ثلاث طرق لربط نموذج

مزوّد ذكاء اصطناعي سحابي

يناسب المزوّد السحابي الأعمال الصعبة متعددة الخطوات، وتربطه عبر نقطة نهاية API قياسية بمفتاحك الخاص. يبقى مفتاحك محلياً. تذهب طلباتك إلى ذلك المزوّد، فلا تلصق شيئاً من جهاز لا يجوز لك مشاركته، وتذكّر أن المزوّد قد يحاسبك على الاستخدام بشكل منفصل.

نموذج على جهازك

يناسب النموذج المحلي على جهازك العمل الخاص والأجهزة غير المتصلة بالإنترنت. مع النموذج المحلي لا يغادر شيء الجهاز، لأن الطلبات لا تصل إلى أي نقطة نهاية أخرى. والمقابل هو العتاد: قد يحتاج النموذج الصغير إلى مراجعة أكبر منك، وقد يحتاج الكبير إلى جهاز قادر على تشغيله.

النموذج المدمج

لا يحتاج النموذج المدمج إلى إعداد نقطة نهاية، لذا هو مكان مناسب للبدء حين لا يكون لديك مزوّد بعد. ابدأ صغيراً. تراجع مع ذلك كل diff يقترحه وكل أمر قبل أن تقبله، تماماً كما مع النموذج السحابي أو المحلي، لأن جودة النماذج تتفاوت ولا شيء صحيح افتراضياً.

اضغط Test قبل أن تبدأ

يفحص زر Test نقطة النهاية التي أدخلتها. يعرض زمن الاستجابة ونافذة السياق، أي مقدار النص الذي يستطيع النموذج الاحتفاظ به دفعة واحدة. الاستجابة البطيئة أو النافذة الصغيرة تنبّهك مبكراً إلى أن سكربتاً طويلاً وملف نتائج طويلاً قد لا يتسعان.

اختر النموذج المناسب للخطوة

استخدم نموذجاً أكبر لإعادة الهيكلة والمنطق الذي يمتد عبر عدة ملفات، ونموذجاً أصغر للتعديلات البسيطة مثل إصلاح سطر واحد في bench.py أو إضافة عمود إلى results.csv. ينبغي أن يتبع الحجم المهمة. وعندما تكون خطوة واحدة صعبة، يرسل run_on_model تلك الخطوة وحدها إلى نموذج أكبر، فيبقى باقي المحادثة على النموذج الأصغر.

تتفاوت جودة النماذج، لذا اقرأ كل diff. يتوقف Ask first قبل كل تغيير، فتجد لحظة لمطابقة أمر أو تعديل ملف مع الأرقام التي قستها. لا تقبل أبداً نتيجة لم تنظر فيها.