المرحلة 01
إنشاء أثر التتبع وسياق الطلب
OpenQCore · Realtime Runtime
الجيل الأول · نواة تنفيذ منخفضة الكمون
Realtime Runtime.
تنفيذ ذكاء اصطناعي بزمن استجابة منخفض.
Realtime Runtime هو العمود الفقري لتنفيذ OpenQCore في أنظمة الدردشة الإنتاجية، ويجمع بين التحقق من الصحة، والتحكم في ضغط التدفق، وإزالة التكرار، والأقفال الموزعة، وتنظيم استجابات مرنة ومقاومة للأعطال.
استراتيجية التحميل
داعم لإدارة ضغط التدفق
أنماط التنفيذ
بث وبدون بث
ضوابط السلامة
قفل + قاطع الدائرة + منع التكرار
الاحتفاظ بالرسائل
حفظ دائم للمستخدم والمساعد
دورة حياة الطلب
تنفيذ حتمي من نقطة الدخول حتى التنظيف.
كل طلب يمر بدورة محمية تشمل: التحقق، حماية من التحميل الزائد، فحص التكرار، الحصول على القفل، تنفيذ وقت التشغيل، التخزين الدائم، وتنظيف حتمي.
المرحلة 02
تتبع الطلب المعلق وتقييم حمل النظام
المرحلة 03
التحقق من الحمولة والمرفقات وصلاحية الجلسة
المرحلة 04
حفظ آخر رسالة للمستخدم (إن وُجدت جلسة)
المرحلة 05
التحقق من التكرار للطلبات غير المتدفقة
المرحلة 06
الحصول على قفل موزع وتنفيذ وقت التشغيل
المرحلة 07
حفظ رسالة المساعد وتخزين الاستجابة في ذاكرة التخزين المؤقت
المرحلة 08
تحرير القفل وإزالة التتبع من المعلق في كتلة finally
مستوى التحكم في وقت التشغيل
آليات أساسية للمرونة تحافظ على استقرار التنفيذ.
تكامل قاطع الدائرة
تنفيذ وقت التشغيل مدرك لقاطع الدائرة لعزل الأعطال في المكونات الطرفية وحماية توفر النظام بأكمله.
القفل الموزع
مفتاح قفل نطاقي يمنع معالجة مكررة متزامنة لنفس هوية الطلب.
إدارة الضغط العكسي
يتم تتبع الطلبات المعلقة باستمرار وتؤدي حالات الحمل الحرجة إلى رفض مُتحكم به برمز 503.
مسارات التنفيذ
مسارات استجابة مختلفة لأهداف زمن الاستجابة المتفاوتة.
مسار البث
- •محسّن لتسليم التوكنات فورًا
- •يعيد StreamingResponse مباشرةً
- •يتجاوز مسار إرجاع ذاكرة التخزين المؤقت لمنع التكرار
- •يبقى محميًا بالتحقق والقفل والتنظيف
المسار غير المتدفّق
- •يفحص ذاكرة التخزين المؤقت لإلغاء التكرار قبل التنفيذ
- •يشغّل بيئة التشغيل ويستخرج المحتوى/الحمولة النهائية
- •يحفظ مخرجات المساعد لضمان استمرارية الجلسة
- •يخزن مخرجات النموذج في ذاكرة التخزين المؤقت لإلغاء التكرار عند الإمكان
الرصد والسلامة
عمليات قابلة للتتبّع وسلوك وقت تشغيل قابل للقياس.
- •تسجيل منظم للأحداث (البدء، الاكتمال، التنظيف، الأخطاء)
- •نشر Trace ID و Request ID مع كل تنفيذ
- •عدادات قياس للطلبات، حالات الرفض، وفئات الأخطاء
- •مطابقة HTTPException مع تحكم مضبوط في حالات الاستجابة
- •ضمان إنهاء نهائي لتحرير الأقفال وإتمام عمليات التنظيف المعلقة
نفّذ أحمال الذكاء الاصطناعي الإنتاجية بثقة في الزمن الحقيقي.
اعتمد بنية وقت تشغيل مصممة لتأخّر منخفض، إنهاء حتمي لعمليات التنظيف، تدفّق تحكّم قوي، وموثوقية تشغيلية.