大模型技术

技术

82 篇文章
0 min 平均阅读
12 - Validation & Retry (验证和重试)

12 - Validation & Retry (验证和重试)核心概念验证和重试 = 确保 LLM 应用的可靠性和数据质量在生产环境中,需要处理三类问题:网络错误 - 临时性连接问题(用 with_retry())模型故障 - 主模型不可用(用 with_fallbacks())输出质量 - LLM...

Structured Output.py

# 核心概念 # Structured Output = 将 LLM 的自然语言输出转为结构化 Python 对象 # 在 LangChain 1.0 中,使用 with_structured_output() 方法结合 Pydantic 模型,可以确保 LLM 返回符合预定义模式的数据。 # 基...

Middleware Basics.py

# Middleware(中间件)= Agent 执行过程中的钩子函数 # 在 LangChain 1.0 中,中间件是处理 Agent 生命周期的标准方式。 # 基本用法 # 创建自定义中间件 import sys import os from openai import chat sys....

10 - Middleware Basics (中间件基础)

10 - Middleware Basics (中间件基础)核心概念Middleware(中间件)= Agent 执行过程中的钩子函数在 LangChain 1.0 中,中间件是处理 Agent 生命周期的标准方式。基本用法创建自定义中间件from langchain.agents.middlewa...

check_point.py

# 核心概念 # Checkpointing = 将对话状态持久化到数据库 # InMemorySaver → 内存中(程序退出即丢失) # SqliteSaver/ → SQLite 数据库(持久化存储) # 基本用法 # InMemorySaver 的限制 import sy...

09 - Checkpointing (检查点持久化)

09 - Checkpointing (检查点持久化)核心概念Checkpointing = 将对话状态持久化到数据库InMemorySaver → 内存中(程序退出即丢失)SqliteSaver → SQLite 数据库(持久化存储)基本用法InMemorySaver 的限制from langgr...