AI Gateway؛ نمایش وابستگی نشست در لاگ‌ها

AI Gateway در لاگ‌های خود نمای تازه‌ای با نام Sessions اضافه کرده است که درخواست‌ها را در قالب نشست گروه‌بندی می‌کند. این نما نشان می‌دهد وابستگی نشست یا session affinity هر درخواست را چگونه مسیردهی کرده است.

هر ردیف، عامل کدنویسی یا اپلیکیشنی را که نشست را اجرا کرده نمایش می‌دهد؛ از جمله Claude Code، Codex و Cursor. همچنین هزینه، مدل‌ها، ارائه‌دهندگان و میزان کش‌شدن ورودی در مجموع همه نوبت‌های هر نشست در دسترس است.

با باز کردن هر نشست، کاربران می‌توانند نرخ برخورد کش، مدت‌زمان و مسیر آن را ببینند. این اطلاعات برای توسعه‌دهندگانی که در حال ساخت وب‌اپلیکیشن مبتنی بر عامل‌های هوش مصنوعی هستند، دید دقیق‌تری از اجرای نشست‌ها و مصرف کش فراهم می‌کند.

نمای Sessions به‌جای بررسی جداگانه درخواست‌ها، جزئیات مرتبط با یک تعامل را کنار هم قرار می‌دهد. در نتیجه، بررسی مدل‌ها، ارائه‌دهندگان و هزینه یک نشست در لاگ‌های AI Gateway متمرکزتر انجام می‌شود.

منبع: Vercel