Portkey AI Gateway
P
Portkey AI Gateway
簡介 :
Portkey的AI網關是應用程序和託管LLM之間的接口。它使用統一的API對OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等的API請求進行了優化,從而實現了流暢的路由。該網關快速、輕量,內置重試機制,支持多模型負載均衡,確保應用程序的可靠性和性能。
需求人群 :
["通過統一的API使用各種LLM","提高應用程序的穩定性","優化不同LLM的使用","平滑遷移到新的LLM"]
總訪問量: 474.6M
佔比最多地區: US(18.64%)
本站瀏覽量 : 122.5K
使用場景
使用OpenAI SDK通過網關調用不同的LLM
配置回退策略防止請求失敗
為應用配置多個API密鑰實現負載均衡
產品特色
統一的API簽名
多模型支持
自動重試
負載均衡
容錯回退
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase