项目结构llamaindex-rag-example/├── data/ # 存放待处理的原始文档（如PDF/TXT/Markdown等）├── storage_exp/ # 持久化存储向量索引的目录（自动生成）├── 01_build.py # ...
大模型代码
标签：大模型代码下的所有文章
24 篇文章
0 min 平均阅读
LangGraph# 什么是 LangGraph？ # LangGraph 是一个用于构建状态化、多步骤 AI 应用的框架。它使用图（Graph） 的概念来组织工作流： # 节点（Nodes）：图中的处理单元，可以是 LLM 调用、工具执行或自定义函数 # 边（Edges）：连接节点的路径，定义执行...
数据向量化#读取 现有json文件，不需要分割的数据直接构建 import json from langchain_experimental.text_splitter import SemanticChunker from langchain_community.vectorstores impo...
Mac 使用transformers 库运行本地大模型使用全记录下载大模型到本地//创建本地运行虚拟环境 conda create --name vllm_dev python=3.12 conda activate vllm_dev //刚开始想用 vllm 运行模型，但是发现这个模型很小，改用t...
# 核心概念 # 验证和重试 = 确保 LLM 应用的可靠性和数据质量 # 在生产环境中，需要处理三类问题： # 网络错误 - 临时性连接问题（用 with_retry()） # 模型故障 - 主模型不可用（用 with_fallbacks()） # 输出质量 - LLM 输...
# 核心概念 # Structured Output = 将 LLM 的自然语言输出转为结构化 Python 对象 # 在 LangChain 1.0 中，使用 with_structured_output() 方法结合 Pydantic 模型，可以确保 LLM 返回符合预定义模式的数据。 # 基...
""" LangChain 1.0 - Middleware Basics (中间件基础) ============================================== 本模块重点讲解： 1. 什么是中间件（Middleware） 2. before_...
# Middleware（中间件）= Agent 执行过程中的钩子函数 # 在 LangChain 1.0 中，中间件是处理 Agent 生命周期的标准方式。 # 基本用法 # 创建自定义中间件 import sys import os from openai import chat sys....
""" LangChain 1.0 - Checkpointing (检查点持久化) ========================================= 本模块重点讲解： 1. SqliteSaver - SQLite 持久化（LangGraph 提供...
# 核心概念 # Checkpointing = 将对话状态持久化到数据库 # InMemorySaver → 内存中（程序退出即丢失） # SqliteSaver/ → SQLite 数据库（持久化存储） # 基本用法 # InMemorySaver 的限制 import sy...