现代基于大模型的Agent介绍现代基于大模型的Agent(简称LLM-based Agent,即大模型智能体),是2022年底大语言模型(LLM)爆发后逐步成熟的新型智能系统,以大语言模型为核心“大脑”,整合感知、记忆、规划、工具调用、反思等能力,打破了传统AI的场景局限,实现了从“被动文本生成”到...
大模型文档
技术
MCP上下文协议(Model Context Protocol)全面介绍MCP(Model Context Protocol,模型上下文协议)是Anthropic于2024年底推出的开放标准,核心定位是统一大语言模型(LLM)与外部数据、工具的交互接口,打破模型与外部系统的连接壁垒,实现“模型—数据...
Function Call(函数调用)全面介绍一、什么是Function Call在大模型应用场景中,Function Call(函数调用)是指大模型根据用户的自然语言请求,主动生成结构化指令,调用外部工具、API或自定义函数的能力。它打破了大模型“仅能生成自然语言”的局限,让AI从“被动应答”升级...
RAG(检索增强生成)全面介绍RAG,全称Retrieval-Augmented Generation(检索增强生成),是一种融合“信息检索”与“语言生成”的技术,核心作用是为大语言模型(LLM)提供实时、权威的外部知识支撑,解决大模型天然存在的知识短板,让生成的答案更准确、可追溯、有依据。简单来说...
LoRA与QLoRA详解LoRA(Low-Rank Adaptation,低秩适配)和QLoRA(Quantized LoRA,量化低秩适配)均是大模型微调的高效方法,核心目标是在降低显存消耗、控制训练成本的同时,保留模型原有能力并完成特定任务适配,二者本质是“基础方法+优化升级”的关系,下面分别详...
大模型微调核心知识文档一、文档说明本文档系统性梳理大模型微调的基础概念、核心分类、主流技术方案、完整流程、硬件要求及常见问题,兼顾理论性与实用性,适合AI应用开发、模型落地相关从业者入门学习,也可作为技术参考与存档使用。文档内容通俗易懂,避免过度晦涩的专业术语,同时保留核心技术细节,助力读者快速掌握...
1. 什么是 Prompt Engineering?提示工程 是设计和优化输入指令(Prompt),以引导大语言模型(如 GPT-4、Claude 等)生成准确、相关、高质量输出的实践科学。通俗理解:AI 像一个极度“字面”但知识渊博的助手。Prompt Engineering 就是教会你如何写一份...
Prompt 万能模板库一、通用万能黄金模板(所有场景通用)你现在扮演【专业角色】 背景:【任务背景/需求场景】 任务:【明确要做什么事】 要求: 1. 【风格要求】 2. 【字数/篇幅要求】 3. 【输出格式:Markdown/列表/表格/分点】 4. 【禁止事项:不要废话、不要客套、不要解释原理...
2.1 什么是 Token?Token 是大语言模型处理文本的最小基本单位。模型不直接识别原始字符,而是先将文本切分成一个个 Token,再进行后续的处理与理解。中文示例:“我喜欢吃苹果” → ["我", "喜欢", "吃", "苹果"](共4个Token)英文示例:“ChatGPT” → 可能被拆...
什么是 LLM?一、定义LLM 是 Large Language Model 的缩写,中文全称为 大语言模型。它是一类基于深度学习技术构建的、规模极其庞大的人工智能模型。其核心能力是理解自然语言、生成自然语言文本,并在此基础之上展现出逻辑推理、知识问答、代码编写等复杂能力。可以用一句话概括:LLM ...