API Gateway گوگل از استریم برای اپ‌های هوش مصنوعی پشتیبانی می‌کند

گوگل پشتیبانی از استریم را برای API Gateway در قالب پیش‌نمایش عمومی عرضه کرد. این قابلیت، مدل سنتی درخواست و پاسخ را برای اپلیکیشن‌های بلادرنگ و سرویس‌های هوش مصنوعی گسترش می‌دهد و امکان ارسال تدریجی پاسخ مدل‌ها، فرایندهای چندمرحله‌ای ایجنت‌ها و نشست‌های تعاملی را فراهم می‌کند.

توسعه‌دهندگان اکنون می‌توانند endpointهای استریم را پشت API Gateway قرار دهند، بی‌آن‌که کنترل‌های فعلی مانند احراز هویت، اعمال API Key و مشاهده‌پذیری را از دست بدهند. این قابلیت از SSE، انتقال قطعه‌ای و استریم پاسخ HTTP، WebSocket و gRPC پشتیبانی می‌کند؛ هر اتصال نیز حداکثر تا یک ساعت باز می‌ماند.

این تغییر به اصلاح مشخصات فعلی API یا استفاده از افزونه و annotation ویژه نیاز ندارد. اعتبارسنجی JWT، احراز هویت حساب سرویس برای بک‌اندها، یکپارچگی با Cloud Logging و Cloud Monitoring، مسیردهی درخواست و الگوهای مسیر همچنان کار می‌کنند. برای تیم‌های سازنده وب‌اپلیکیشن، این یعنی مدیریت متمرکزتر APIهای تعاملی و هوش مصنوعی.

گوگل همچنین نام میزبان قابل‌پیش‌بینی برای دروازه‌ها معرفی کرده است: GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev. API Gateway می‌تواند درخواست‌ها را از یک endpoint سازگار با OpenAI به مدل‌های Gemini، Claude یا OpenAI gpt-oss هدایت کند. در دوره پیش‌نمایش، فعال‌سازی استریم هنگام ساخت gateway با گزینه –enable-streaming ضروری است؛ ضمن اینکه معیار تأخیر، مدت کل استریم را می‌سنجد و نه زمان رسیدن نخستین بایت.

منبع: InfoQ