本页长期有效 · 建议 Ctrl+D 收藏
全部工具
本地 AI 部署包
大模型 · AI 绘画 · 语音识别 · 全程离线
适用环境：Windows / macOS / Linux · 建议 8GB 以上显存
一键安装命令
Windows 10/11 自带 winget。按 Win + X 打开「终端(管理员)」，逐条粘贴执行。
# Ollama（一条命令跑本地大模型）
irm https://ollama.com/install.ps1 | iex
# 装完后拉模型（按显存选）
ollama run qwen2.5:7b # 8GB 显存
ollama run qwen2.5:3b # 4GB 显存
ollama run deepseek-r1:7b # 推理模型
显存对照表
| 显存 | 推荐模型 | 体验 |
|---|
4 GB | qwen2.5:3b / llama3.2:3b | 能用，速度一般 |
6-8 GB | qwen2.5:7b / deepseek-r1:7b | 流畅，推荐配置 |
12 GB | qwen2.5:14b | 效果好，速度可接受 |
24 GB | qwen2.5:32b / llama3.1:70b(量化) | 接近云端体验 |
无独显 | qwen2.5:1.5b（CPU 运行） | 慢，但能跑 |
操作步骤
1先看自己的硬件
按 Ctrl+Shift+Esc 打开任务管理器 → 性能 → GPU，看「专用 GPU 内存」。
这就是你的显存，决定了能跑多大的模型。
2安装 Ollama
PowerShell 执行第一条命令，或者去官网下载安装包。
装完在终端输入 ollama -v 确认版本，有输出就是装好了。
3拉取并运行模型
按显存对照表选模型，执行 ollama run qwen2.5:7b。
首次会下载模型文件（7B 约 4.7GB），下载完自动进入对话界面。
4换成图形界面（可选）
Ollama 装完后可以配 Open WebUI 或 Chatbox 之类的界面，操作更像 ChatGPT。
或者直接用 LM Studio，它自带界面，不用命令行。
5AI 绘画（需要 N 卡）
Stable Diffusion WebUI 对显存要求较高，建议 8GB 以上。
下载整合包 → 解压 → 运行启动脚本 → 浏览器打开 127.0.0.1:7860。
首次启动会下载模型，耐心等待。
常见问题
Q：提示 out of memory / 显存不足
A：换更小的模型（7b → 3b），或加量化参数。Ollama 默认用 Q4 量化，显存还是不够就用 1.5b 版本。
Q：下载模型特别慢
A：模型托管在国外服务器。可以设置代理，或从国内镜像站下载 GGUF 文件后手动导入。
Q：没有独立显卡能跑吗
A：能，但只能跑 1.5b 这种小模型，而且速度慢（每秒几个字）。体验不好，建议至少有个 6GB 显存的卡。
Q：和在线 AI 比效果差多少
A：7B 模型接近 GPT-3.5 水平，日常问答、写文案够用。复杂推理和代码还是 32B 以上或云端模型更强。
Q：模型文件存在哪，占多少空间
A：默认在 C:\Users\用户名\.ollama\models。7B 模型约 4.7GB，装多了很占空间，建议改到其他盘。
本页所列工具均为官方正版软件，来源可查，可放心安装。
本站不托管安装包，下载均指向官方来源；使用 winget 可直接从官方源安装。
如遇问题，请联系客服并提供订单号。