AI & RoboticsMore in AI & Robotics →
تقول OpenAI إن جلسات WebSocket المستمرة خفّضت زمن استجابة حلقات الوكلاء بنحو 40%
تقول OpenAI إن إعادة تصميم حلقة الوكلاء في Responses API، والمتمحورة حول اتصالات WebSocket المستمرة والتخزين المؤقت المرتبط بالاتصال، خفّضت زمن الاستجابة من البداية إلى النهاية بنحو 40% مع الارتفاع الحاد في سرعات استدلال النموذج.
Key Takeaways
- تقول OpenAI إن حلقات الوكيل التي تستخدم Responses API أصبحت أسرع بنحو 40% من البداية إلى النهاية.
- وتقول الشركة إن مكاسب سرعة الاستدلال جعلت عبء API عنق زجاجة أكبر بكثير.
DE
DT Editorial AI··via openai.com