Ҳуши сунъӣ ва MCP дар WSO2
Назорати трафики моделҳои забонӣ ва абзорҳои агентҳо бо ҳамон сиёсатҳое, ки барои API-ҳои дигар доред.
Хулоса: Дарвозаи ҳуши сунъӣ (AI Gateway) дар WSO2 API Manager трафики моделҳои забониро бо ҳадди истеъмол, ҳифзҳои ёрирасон, кэши маъноӣ ва масирдиҳии чандмодела назорат мекунад ва API-ҳои REST-ро тавассути MCP дар ихтиёри агентҳои ҳушманд мегузорад.
Модели забонӣ ҳам як API аст
Вақте ки ҳар даста мустақиман ба як модел мепайвандад, калидҳо пароканда мешаванд, хароҷот аз назорат мебарояд ва маълумоти ҳассос бе назорат берун меравад. Дарвозаи ҳуши сунъӣ дар WSO2 API Manager ин трафикро ба як қабати марказӣ меорад.
Мақолаи пурраИмкониятҳои дарвозаи ҳуши сунъӣ
Масирдиҳии чандмодела (Multi-model)
Гузариш миёни моделҳо ва таъминкунандагон бо стратегияҳои Round-robin ва Failover.
Ҳадди истеъмол бар асоси токен
Назорати хароҷот ва ҷудокунии истеъмол миёни бахшҳо ва барномаҳо.
Ҳифзҳои ёрирасон (Guardrails)
Санҷиши маъноии prompt, пинҳонкунии маълумоти шахсӣ ва санҷиши тарҳи JSON.
Кэши маъноӣ (Semantic Cache)
Коҳиши хароҷот ва таъхир барои пурсишҳои монанд.
Таъминкунандагони модел
OpenAI, Azure AI, AWS Bedrock, Anthropic, Mistral ва Gemini.
Лог ва таҳлил
Сабти истеъмол ва таҳлили огоҳ аз MCP (абзорҳо ва садозадан) дар 4.7.
Пешниҳоди абзорҳо ба агентҳо
MCP (Model Context Protocol) — усули стандартии садо задани абзорҳо ва хидматҳо аз ҷониби агентҳои ҳушманд.
Табдили API ба сервери MCP
API-ҳои REST-и мавҷуд бе азнавнависӣ барои агентҳо дастрас мешаванд (аз 4.6 сар карда).
Маркази MCP (MCP Hub)
Феҳристи ҷустуҷӯшавандаи серверҳои MCP дар портали барномасозон.
Идоракунӣ ва амнияти MCP
Тасдиқи ҳувият, иҷозат ва маҳдудияти суръат барои трафики MCP ва қоидаҳои идоракунӣ дар 4.7.
Намунаҳои истифода
Дастрасии назоратшаванда ба моделҳои забонӣ
Ҳамаи барномаҳо ва агентҳои созмон ба моделҳо тавассути як AI Gateway дастрасӣ мегиранд; бо ҳадди истеъмол, сабти лог ва пинҳонкунии маълумоти ҳассос.
Пешниҳоди абзорҳои созмон ба агентҳо
Хидматҳои мавҷуд ҳамчун сервери MCP барои агентҳо дастрас мешаванд, бо ҳамон тасдиқи ҳувият ва сиёсатҳое, ки барои API-ҳои дигар доред.
Пеш аз оғоз муайян кунед, ки кадом маълумот иҷозат дорад ба модел бирасад ва модел берунӣ бошад ё дохилӣ. Хусусиятҳо ба нусха вобастаанд; пешниҳоди мо оғоз бо намунаи аввалияи (PoC) хурд аст.
Манбаъҳои расмии WSO2 (ба забони англисӣ): Саҳифаи расмии WSO2 API Manager · Ҳуҷҷатҳои API Manager · Рамзи манбаъ (GitHub). Имкониятҳо ба нусха вобастаанд; пеш аз қарор ҳуҷҷатҳои ҳамон нусхаро бинед.
Дар бораи намунаи аввалияи AI Gateway суҳбат мекунем
Истифодаи дилхоҳатонро бигӯед, то имконпазирӣ ва намунаи аввалияро якҷоя баррасӣ кунем.