AI-Python文档

标签:AI-Python文档下的所有文章

16 篇文章
0 min 平均阅读
vLLm运行模型显存不够的问题

vLLM运行模型显存不足的原因及解决方法在使用vLLM部署大语言模型时,显存不足是最常见的报错(如提示“Free memory on device cuda:0 is less than desired GPU memory utilization”),其核心是GPU显存无法满足模型运行、优化策略及...

vllm安装运行本地大模型 - windows篇

vllm安装运行本地大模型 - windows篇前言目前 vLLM 对 Windows 的原生支持(Native Windows Support)非常有限且处于早期实验阶段,而在 WSL2 环境下则非常成熟和稳定,所以在windows电脑上运行vllm,尽可能的需要安装wsl2WSL安装及相关命令官...

vLLM 大模型开发全栈学习指南

vLLM 大模型开发全栈学习指南本指南面向具备 Python 基础和大模型核心概念(Transformer、Attention、Quantization)的开发人员,旨在帮助大家从零开始掌握 vLLM 框架,实现高性能推理服务的搭建、二次开发与深度调优,全程注重实操性与实用性,避免冗余的学术化表述,...

Ollama 本地大模型学习与实战指南

Ollama 本地大模型学习与实战指南目标读者:有一定技术基础(了解终端/命令行、基本编程概念)但从未接触过 Ollama 的开发者1. 简介1.1 什么是 Ollama?Ollama 是一款轻量级的开源工具,专为在本地环境中轻松运行、管理和定制大型语言模型(LLM)而设计。它将复杂的大模型部署流程...

第3周 - pandas 数据清洗与处理实战手册

pandas 数据清洗与处理实战手册(求职导向)本手册聚焦数据分析师(侧重数据清洗与处理)岗位的实战需求,围绕真实业务场景(电商、用户行为、CRM等),系统讲解 pandas 核心应用,所有内容均服务于企业实际工作任务,可作为求职前技能强化资料。第一章 数据读取与初步探查(实战第一步)1.1 业务背...

第2周 Python pandas 从零到精通自学手册

Python pandas 从零到精通自学手册本手册专为掌握 Python 基础语法(变量、循环、函数、列表、字典)但无 pandas 经验的学习者设计,按“基础→进阶→实战”逻辑分章节讲解,内容详尽、可落地,适合反复查阅自学。第1章:pandas 简介与安装1.1 核心概念pandas 是 Pyt...