技术

技术

160 篇文章
0 min 平均阅读
Prompt 模板

Prompt 万能模板库一、通用万能黄金模板(所有场景通用)你现在扮演【专业角色】 背景:【任务背景/需求场景】 任务:【明确要做什么事】 要求: 1. 【风格要求】 2. 【字数/篇幅要求】 3. 【输出格式:Markdown/列表/表格/分点】 4. 【禁止事项:不要废话、不要客套、不要解释原理...

Mac 搭建PHP快速开发环境

安装 PHP添加 PHP 扩展仓库brew tap shivammathur/php 安装指定版本的 PHPbrew install shivammathur/php/php@8.1 安装扩展brew install shivammathur/php/php@8.1-mongodb 配置环境变量na...

LangChain -提示词模版.py

介绍Prompt Template(提示词模板)组件 核心作用:解决提示词硬编码的问题,实现提示词的模板化、参数化,提升复用性,支持动态传入变量,适配不同问题场景。Codeimport os from dotenv import load_dotenv from langchain_openai i...

vLLm运行模型显存不够的问题

vLLM运行模型显存不足的原因及解决方法在使用vLLM部署大语言模型时,显存不足是最常见的报错(如提示“Free memory on device cuda:0 is less than desired GPU memory utilization”),其核心是GPU显存无法满足模型运行、优化策略及...

WSL 迁移到D盘

WSL迁移到D盘默认WSL安装的Ubuntu系统会放到c盘,由于我们还要安转vllm及大模型文件,所以我们把系统迁移到D盘,避免过多占用C盘文件查看已安装的系统PS C:UsersT-mac> wsl -l适用于 Linux 的 Windows 子系统分发:Ubuntu (默认)docker-...