هوش مصنوعی و MCP در WSO2
کنترل ترافیک مدل‌های زبانی و ابزارهای عامل‌ها، با همان سیاست‌هایی که برای APIهای دیگر دارید.
خلاصه: دروازه هوش مصنوعی (AI Gateway) در WSO2 API Manager ترافیک مدل‌های زبانی را با سقف مصرف، حفاظ ایمنی، حافظه نهان معنایی و مسیریابی چندمدلی کنترل می‌کند و APIهای REST را از راه MCP در اختیار عامل‌های هوشمند می‌گذارد.
مدل زبانی هم یک API است
وقتی هر تیم مستقیم به یک مدل وصل می‌شود، کلیدها پراکنده می‌شوند، هزینه از دست می‌رود و داده حساس بی‌کنترل بیرون می‌رود. دروازه هوش مصنوعی در WSO2 API Manager این ترافیک را به یک لایه مرکزی می‌آورد.
مقاله کامل
قابلیت‌های دروازه هوش مصنوعی
مسیریابی چندمدلی (Multi-model)
جابه‌جایی میان مدل‌ها و ارائه‌دهندگان با راهبردهای Round-robin و Failover.
سقف مصرف بر اساس توکن
کنترل هزینه و تفکیک مصرف میان بخش‌ها و برنامه‌ها.
حفاظ‌های ایمنی (Guardrails)
اعتبارسنجی معنایی پرامپت، ماسک اطلاعات شخصی و بررسی طرح JSON.
حافظه نهان معنایی (Semantic Cache)
کاهش هزینه و تأخیر برای پرسش‌های مشابه.
ارائه‌دهندگان مدل
OpenAI، Azure AI، AWS Bedrock، Anthropic، Mistral و Gemini.
لاگ و تحلیل
ثبت مصرف و تحلیل آگاه از MCP (ابزارها و فراخوانی‌ها) در ۴.۷.
عرضه ابزارها به عامل‌ها
MCP (Model Context Protocol) روش استاندارد صدا زدن ابزار و سرویس توسط عامل‌های هوشمند است.
تبدیل API به سرور MCP
APIهای REST موجود بدون بازنویسی برای عامل‌ها قابل دسترس می‌شوند (۴.۶ به بعد).
مرکز MCP (MCP Hub)
فهرست جست‌وجوپذیر سرورهای MCP در پرتال توسعه‌دهنده.
حاکمیت و امنیت MCP
احراز هویت، مجوز و محدودیت نرخ برای ترافیک MCP و قواعد حاکمیتی در ۴.۷.
نمونه کاربردها
دسترسی کنترل‌شده به مدل‌های زبانی
همه برنامه‌ها و عامل‌های سازمان از یک AI Gateway به مدل‌ها دسترسی می‌گیرند؛ با سقف مصرف، ثبت لاگ و ماسک اطلاعات حساس.
عرضه ابزارهای سازمان به عامل‌ها
سرویس‌های موجود به‌صورت سرور MCP در دسترس عامل‌ها قرار می‌گیرد، با همان احراز هویت و سیاست‌هایی که برای APIهای دیگر دارید.
پیش از شروع، تعیین کنید چه داده‌ای مجاز است به مدل برسد و مدل بیرونی باشد یا داخلی. ویژگی‌ها به نسخه وابسته است؛ پیشنهاد ما شروع با یک نمونه اولیه (PoC) کوچک است.
منابع رسمی WSO2 (به انگلیسی): صفحه رسمی WSO2 API Manager · مستندات API Manager · کد منبع (GitHub). ویژگی‌ها به نسخه بستگی دارد؛ پیش از تصمیم، مستندات همان نسخه را ببینید.
برای نمونه اولیه AI Gateway صحبت کنیم
کاربرد مورد نظرتان را بگویید تا امکان‌سنجی و نمونه اولیه را همراه هم بررسی کنیم.