promptic
P
Promptic
簡介 :
promptic是一個輕量級、基於裝飾器的Python庫,它通過litellm簡化了與大型語言模型(LLMs)交互的過程。使用promptic,你可以輕鬆創建提示,處理輸入參數,並從LLMs接收結構化輸出,僅需幾行代碼。
需求人群 :
目標受眾是希望簡化與大型語言模型交互的開發者和研究人員。promptic通過提供簡潔的API和自動處理LLM響應的功能,非常適合需要快速實現和部署LLM解決方案的用戶。
總訪問量: 474.6M
佔比最多地區: US(19.34%)
本站瀏覽量 : 51.6K
使用場景
創建一個查詢美國總統的函數。
使用Pydantic模型獲取國家首都的查詢結果。
即時流式傳輸響應,用於生成詩歌。
產品特色
使用裝飾器和函數文檔字符串輕鬆定義提示。
自動將函數參數插入提示,使用文檔字符串中的{argument_name}佔位符。
支持Pydantic模型,指定預期的輸出結構,promptic將確保LLM的響應符合定義的模式。
通過設置stream=True調用裝飾函數,即時接收LLM響應。
簡化LLM交互,無需記住OpenAPI響應對象或其他LLM特定細節的形狀。
提供易於理解和可靠的代碼庫,利用litellm的強大功能,確保與廣泛的LLMs兼容。
使用教程
安裝promptic庫。
導入promptic庫中的llm裝飾器。
定義一個函數,使用@llm裝飾器,並在函數文檔字符串中編寫提示。
在函數中使用參數,這些參數將自動插入到提示中。
調用函數並傳遞所需的參數。
處理函數返回的結構化輸出。
(可選)使用Pydantic模型來定義和驗證輸出結構。
(可選)設置stream=True以流式傳輸LLM響應。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase