promptic
P
Promptic
简介 :
promptic是一个轻量级、基于装饰器的Python库,它通过litellm简化了与大型语言模型(LLMs)交互的过程。使用promptic,你可以轻松创建提示,处理输入参数,并从LLMs接收结构化输出,仅需几行代码。
需求人群 :
目标受众是希望简化与大型语言模型交互的开发者和研究人员。promptic通过提供简洁的API和自动处理LLM响应的功能,非常适合需要快速实现和部署LLM解决方案的用户。
总访问量: 474.6M
占比最多地区: US(19.34%)
本站浏览量 : 53.3K
使用场景
创建一个查询美国总统的函数。
使用Pydantic模型获取国家首都的查询结果。
实时流式传输响应,用于生成诗歌。
产品特色
使用装饰器和函数文档字符串轻松定义提示。
自动将函数参数插入提示,使用文档字符串中的{argument_name}占位符。
支持Pydantic模型,指定预期的输出结构,promptic将确保LLM的响应符合定义的模式。
通过设置stream=True调用装饰函数,实时接收LLM响应。
简化LLM交互,无需记住OpenAPI响应对象或其他LLM特定细节的形状。
提供易于理解和可靠的代码库,利用litellm的强大功能,确保与广泛的LLMs兼容。
使用教程
安装promptic库。
导入promptic库中的llm装饰器。
定义一个函数,使用@llm装饰器,并在函数文档字符串中编写提示。
在函数中使用参数,这些参数将自动插入到提示中。
调用函数并传递所需的参数。
处理函数返回的结构化输出。
(可选)使用Pydantic模型来定义和验证输出结构。
(可选)设置stream=True以流式传输LLM响应。
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase