核心组件

模型包装器

内部结构：创建连接->提示词模板->语言模型->输出解析

1.创建大模型连接

image.png

2.提示词模板

作用：将提示词内容进行参数化

image.png

常用提示词模板：

image.png

1.字符串提示词模板

image.png

2.对话提示词模板：

image.png

3.少量样本提示词模板

image.png

image.png

image.png

半格式化提示词（相对于全参数化提示词-初始化了全部参数化，半参数化只初始化部分参数）

image.png

2.输出解析器

image.png

如：

1.csv解析器：

image.png

2.日期解析器

日期解析器。 image.png

3.json解析器

image.png

数据连接

作用：数据交互与处理

链

作用：将组件组合形成端到端的应用

image.png

image.png

记忆

**作用：**多次运行持久化应用状态

代理

作用：拓展模型推理能力，用于复杂的应用调用序列。

回调

**作用：**大模型阶段工作后后运行某些操作，如日志记录，监控，等用处不大。

发布为服务

image.png

请求：

image.png

打开调试

image.png