أجنت فلو: إطار عمل قائم على الرسوم البيانية لتنظيم الوكلاء المتعددين في الإنتاج
Agentflow، الذي تم تطويره بواسطة 10xHub، هو إطار عمل بمستوى الإنتاج لبناء وتشغيل أنظمة الذكاء الاصطناعي متعددة الوكلاء. يقوم الأداة بتنظيم سير العمل المعقدة باستخدام محرك قائم على الرسم البياني ويدعم مزودي LLM متعددين، منسقًا استدعاءات النماذج والأدوات ومخرجات البث. يجمع بين نواة بايثون، وواجهة برمجة تطبيقات REST FastAPI، وSDK عميل TypeScript، وملعب بصري React للاختبار والمراقبة. يستهدف مطوري الذكاء الاصطناعي وفرق الهندسة في المؤسسات، ويهدف إلى تسريع نشر هياكل الوكلاء القابلة للتوسع وغير المعتمدة على نموذج معين.
ما المهام التي يمكنك استخدامها من أجلها؟
تم تصميم الأداة لبناء وإدارة أنظمة متعددة الوكلاء، باستخدام محرك تنسيق قائم على الرسم البياني لتمثيل منطق سير العمل وانتقالات الحالة. إنها مستقلة عن LLM وتتكامل مع مزودين مثل OpenAI وAnthropic وGoogle، بحيث يمكن للفرق تنسيق استدعاءات النموذج، والأدوات الخارجية، والاستجابات المتدفقة في طبقة تنسيق واحدة. يعرض ملعب React المرئي اختبارات حية ومراقبة للتطوير التكراري وتصحيح الأخطاء.
ما مدى موثوقية طبقات التنسيق والذاكرة لعمليات الإنتاج؟
تعتمد موثوقية التنسيق على محرك الرسم البياني المدمج مع تصميم ذاكرة ثلاثي الطبقات: Redis للتخزين المؤقت السريع، وPostgres لحالة العلاقات، ومخزن متجه للذاكرة الدلالية على المدى الطويل. تم إدراج تنفيذ الأدوات المتوازية ودعم البث المباشر كقدرات، مما يساعد على الحفاظ على الاستجابة عندما تستدعي عدة وكلاء الخدمات في وقت واحد. تستهدف تلك العناصر السيناريوهات التي تتطلب سياق محادثة مستمر عبر تفاعلات قصيرة وطويلة.
هل التكامل والنشر عمليان لفرق الهندسة؟
تم بناء المجموعة للنشر على منصات الحاويات، مع دعم صريح لـ Docker وKubernetes، وتعرض واجهة برمجة تطبيقات REST المعتمدة على FastAPI لتكامل الخدمات. تحصل فرق الواجهة الأمامية على SDK عميل TypeScript، بينما يوفر ملعب React سطح اختبار تفاعلي. تتوقع الهندسة عمليات حول CI/CD وتنظيم الحاويات لتشغيل النظام في بيئات الإنتاج.
هل تعالج احتياجات التشغيل البيني والأمان للمؤسسات؟
تتضمن الأداة دعمًا أصليًا لبروتوكول سياق النموذج، الذي يحدد كيفية استدعاء الوكلاء للأدوات الخارجية والوصول إلى البيانات، وتدرج ضوابط أمان جاهزة للإنتاج مثل مصادقة JWT، والتحكم في الوصول القائم على الأدوار، وتحديد معدل الاستخدام. تشير هذه العناصر إلى التركيز على التحكم في الوصول والتشغيل البيني للفرق التي تحتاج إلى تكاملات مدققة وسلوك وكلاء مضبوط عبر مزودي نماذج متعددين.
الأكثر ملاءمة لفرق الهندسة المستعدة لتشغيل أنظمة الوكلاء من الدرجة الإنتاجية
نظرًا لتركيزه على الإنتاج ونظامه البيئي الموجه نحو المطورين، فإن الأداة تناسب المنظمات الهندسية التي تحافظ على بنية تحتية للحاويات وضوابط وصول رسمية، والتي تحتاج إلى تكامل أدوات موحد. يجب أن تتوقع المشاريع أو الفرق الأصغر التي لا تمتلك خبرة في تنسيق الحاويات منحنى تعليمي غير تافه، حيث إن تشغيل المجموعة يفترض نضج البنية التحتية والهندسة بدلاً من نهج البرمجة النصية الخفيفة.
