一份写给"完全不懂技术"的老师们的操作手册
跟着做,就能让 AI 课堂不再为 Token 花钱
其实,这个问题有一个彻底的解法:把 AI 大模型直接安装在自己的电脑上(这就叫"本地部署")。模型装在自己电脑里,用多少次都不花钱,学生数据一步都不出学校——这就是标题里说的"Token 自由"。
本教程会手把手带你完成整个过程。你不需要懂任何编程,只需要会开机、会上网、会打字,遇到英文界面也不用怕——每一步该点哪里、该输入什么,教程里全部用中文讲清楚了。
安装 Ollama(装好"发动机")→ 验证安装成功 → 下载一个 AI 大模型 → 确认模型能被调用 → 在 QuickClass 里填 3 个空 → 测试成功,开始自由使用!
① Ollama——一个免费的"AI 模型管家"软件。它负责帮你下载、保管、运行 AI 大模型。你可以把它理解成"AI 界的应用商店 + 播放器"。
② 大语言模型——就是 DeepSeek、千问、Kimi 这类 AI 的大脑本身。模型装在自己电脑上,就不再需要花钱买别家的服务。
③ Token——AI 服务商的"计费单位"。AI 每读一句话、写一句话,都在消耗 Token。用本教程的方法,Token 消耗永远免费。
④ 命令提示符(CMD)——Windows 自带的"黑窗口",输入特定文字命令让电脑干活。别怕,本教程只用到 3 条命令,照着复制粘贴就行。
Ollama 的官网网址是 ollama.com。如果记不住网址,也可以打开百度或必应等搜索引擎,搜索"ollama"关键词找到官网(认准 ollama.com 开头的链接)。
打开 Ollama 官网后,在首页点击 Download(下载)按钮,进入下载页面:
▲ Ollama 官网首页。点击左下角黑色"Download"按钮
下载页会显示三个系统选项(macOS / Linux / Windows)。本文以 Windows 系统为例:点选 Windows 图标,然后点击 Download for Windows 按钮下载安装包。
▲ 点选 Windows 图标后,点击"Download for Windows"按钮
Ollama 仅支持 Windows 10 及更高版本的 Windows 系统。如果电脑还是 Windows 7 / 8,需要先升级系统。
在桌面左下角"开始"按钮上点右键 → 选"系统" → 页面里就能看到 Windows 版本号(如 Windows 10 / Windows 11)。
找到刚下载好的安装文件 OllamaSetup.exe(一般在"下载"文件夹里),双击运行。
安装文件比较大(约 1.5GB),如果电脑性能较弱,解压和运行可能花费较长时间,请耐心等待,不要中途关机。
看到安装窗口后,点击 Install(安装)按钮开始安装:
▲ Ollama 安装窗口。点击右下角"Install"按钮
Ollama 会默认安装在 C 盘,且安装时不能修改安装位置。如果你的系统盘(C 盘)空间比较紧张,请留意后面的"模型默认下载位置修改方法"(见第 6 章常见问题),学会把动辄好几个 GB 的模型文件放到其他盘。
安装完成后会弹出欢迎窗口,点击 Continue(继续)按钮:
▲ 安装完成的欢迎界面。点击底部"Continue"按钮
接下来 Ollama 会请你注册账号。不需要注册、不需要登录——直接点击按钮下面那行小字:"No thanks, I'll use Ollama locally"("不用了,我将在本地使用 Ollama"),选择本地使用。
▲ 点击下方灰色链接"No thanks, I'll use Ollama locally",跳过注册
Ollama 安装完成后没有传统的软件界面(不会弹出一个大窗口),它只在后台默默运行,任务栏右下角会出现一个羊驼图标。看到下面这样的提示页,就说明安装成功了:
▲ 出现此页面 = Ollama 已安装并在后台运行
因为 Ollama 没有可视界面,后续下载模型、运行模型、删除模型等操作,都需要借助"命令提示符"(就是那个黑窗口),用命令行来完成。别慌,第 3 章就教你打开它。
按键盘上的 Win 键(键盘左下角,Windows 徽标键,也就是开始菜单键),或者直接点击屏幕左下角的开始菜单图标,然后输入 cmd 三个字母,点击搜索结果中的"命令提示符":
▲ 按 Win 键 → 输入 cmd → 点击"命令提示符"→"打开"
它就是大家常说的"黑窗口",是 Windows 自带的命令工具。我们以后对 Ollama 说话(下载模型、运行模型)都要通过它。打开后它会显示一行类似 C:\Users\你的用户名> 的文字,末尾有一个闪烁的光标,等你输入命令。
在黑窗口里输入 ollama(就这 6 个字母),然后按 Enter 回车键。
如果出现下面这样的信息(显示了 Ollama 的版本号 0.33.2 和一个功能菜单),就表示 Ollama 已经安装好了,可以使用了!
▲ 看到"Ollama 0.33.2"版本号 = 安装成功
细心的老师会注意到,这个画面里还列出了一些智能体工具(如 Claude Code、OpenCode 等)的快捷安装入口,可以用 ↑↓ 方向键选择、Enter 回车键快速安装。本教程不涉及智能体工具的安装,所以请按 Esc 键退出这个菜单,回到普通的命令行状态。
"AI 模型管家"Ollama 已经安装成功,并且确认它能听懂你的指挥了!接下来,我们请它搬一个"AI 大脑"进你的电脑。
打开 Ollama 官网(ollama.com),在首页左上角点击 Models(模型),查看可供选择的模型:
▲ 点击首页左上角"Models"进入模型库
模型页面中可以看到每个模型的相关信息。请根据自己电脑的性能选择合适的模型——参数量太大的模型,电脑性能达不到是运行不起来的(就像小马拉大车,跑不动)。
运行本地大模型,速度最快的方式是使用独立显卡。显卡的显存大小和核心性能,直接决定大模型的运行速度。
显存参考标准(教学常用模型):
| 模型参数量 | 至少需要显存 | 说明 |
|---|---|---|
| 7B | 8G | 无独显/小显存电脑的起步选择 |
| 9B | 12G | 模型全部装进显存,还要留出装对话上下文的空间 |
显存不够会怎样?Ollama 会"智能地"把装不下的部分转移到电脑内存里运行。虽然也能跑,但内存速度远低于显存,模型速度会极大降低,严重时甚至无法运行。所以请一定按显卡能力选择模型大小,性能不足时 Ollama 仍可运行,但速度会受到很大限制。
怎么查自己电脑的显存?按 Ctrl+Shift+Esc 打开任务管理器 → 点"性能" → 点"GPU",看"专用 GPU 内存"。如果列表里没有 GPU,或只有很小的共享内存,说明电脑没有独立显卡——只能靠内存跑模型,建议选 7B 及以下的小模型(内存不低于 16GB),速度会有一定限制。
模型名字里的 9B、35B、397B,指的是模型的参数量(B = 十亿),数字越大模型越"聪明",但对电脑要求也越高。参数量越大,模型文件越大,需要的显存/内存越多。选型口诀:8G 显存选 7B,12G 显存可跑 9B;没有独立显卡的电脑靠内存运行,建议选 7B 及以下小模型;显存/内存都充裕(如 24G 显存、32GB 以上内存),再考虑更大参数的模型。如果运行卡顿,优先换更小参数的模型。
本文以参数量为 9B 的 ornith-1.5 模型为例。点击"ornith-1.5"进入详情页,能看到它各个版本的大小、参数、上下文长度,以及多模态能力:
▲ ornith-1.5 详情页:9B 版 6.6GB、35B 版 23GB、397B 版 242GB——参数量与体积成正比
如图所示,运行 ornith-1.5 9B 模型的命令是 ollama run ornith-1.5:9b。
打开命令提示符,直接输入(或复制粘贴)下面这条命令,然后回车:
Ollama 会自动下载模型并运行。下载模型的时间会比较漫长(取决于网速和模型大小),请耐心等待:
▲ 下载中:进度条慢慢走,会显示已下载大小和预计剩余时间
看到进度条走完、出现 success 字样,模型就下载完成了。稍等片刻、等模型加载完,就可以直接在命令行和模型对话了(窗口出现 >>> Send a message 提示时,输入任何一句话试试,比如"你好"):
▲ 出现"success"字样 = 模型下载完成,进入对话状态
在对话状态下输入 /bye 回车即可退出,回到普通命令行。退出对话不会关闭 Ollama,它仍在后台待命。
Ollama 的默认端口是 11434。端口可以理解为 Ollama 对外服务的"窗口编号",QuickClass 之后就是通过这个端口来找到它的。
打开浏览器,在地址栏输入 127.0.0.1:11434 并访问(127.0.0.1 代表"本台电脑自己")。如果页面显示 "Ollama is running",就表示 Ollama 可以通过 11434 端口被调用了:
▲ 看到"Ollama is running"= 端口服务正常
你的电脑现在拥有一个免费、私有、随时可用的 AI 大脑了!最后一步,就是在 QuickClass 平台和它"牵上线"。
运行 QuickClass,在浏览器地址栏访问 127.0.0.1:3000,使用教师账号登录:
▲ QuickClass 教师端工作台(登录后界面)
点击左侧菜单最下方的系统设置,展开AI 服务设置。我们需要设置 3 个选项:
| 设置项 | 填什么 | 为什么这么填 |
|---|---|---|
| API Base URL | 127.0.0.1:11434/v1 |
本地 Ollama 的访问地址和端口,末尾加 /v1 是平台约定的接口格式 |
| API Key | ollama |
本地模型没有设密码,但这一项不能空着,随手填"ollama"即可 |
| AI 模型 | ornith-1.5:9b |
填你实际下载的模型名称(必须一字不差,和第 4 章下载时输入的一致) |
← 表格较宽,手机上可左右滑动查看 →
填好 3 个选项后,点击 测试连接 按钮。页面上部出现"连接成功"字样,表示本地部署的 Ollama 模型已经可以被 QuickClass 调用了:
▲ 三项配置填好,点击"测试连接"出现"连接成功"
测试连接成功后,务必点击"保存配置"按钮,配置才会正式生效。只测试不保存 = 白忙一场。
至此,你电脑上运行的 QuickClass 平台就可以调用本地部署的大语言模型了——Token 自由,正式达成!
老师们可以根据自己电脑的性能,选择下载和运行合适的模型。还有一个好消息:模型下载好之后,日常使用时不需要再用 ollama 命令去手动运行它——只要在 QuickClass 里设置好模型名称,平台调用时,Ollama 会自动加载模型并运行。也就是说,你平时只需开机 → 打开 QuickClass → 直接上课即可。
| 步骤 | 做了什么 | 打个比方 |
|---|---|---|
| 1 | 从官网下载 OllamaSetup.exe | 把"发动机"的包裹买回家 |
| 2 | 安装 Ollama,选择本地使用 | 把发动机装进自己的车 |
| 3 | 黑窗口输入 ollama 验证 | 点火试机 |
| 4 | ollama run 下载模型,浏览器验证 11434 端口 | 加满免费燃料,确认油路通畅 |
| 5 | QuickClass 填 3 个空 → 测试 → 保存 | 把车和导航系统连起来 |
Ollama 安装后没有传统界面,它在后台默默运行。你看任务栏右下角的通知区(可能收进小箭头里),能看到一个羊驼图标,那就是它。它平时不需要你管,只有下载/删除模型时才需要打开"黑窗口"操作。
可以。Ollama 默认把模型放在 C 盘的用户目录下,但允许用"系统环境变量"修改默认下载位置。操作方法(Windows):
① 在桌面"此电脑"图标上点右键 → 属性 → 高级系统设置 → 环境变量;
② 在"用户变量"里新建一个变量,变量名为 OLLAMA_MODELS,变量值填你想存放模型的路径,例如 D:\OllamaModels;
③ 点确定保存,然后退出并重启 Ollama(右键任务栏羊驼图标 → Quit Ollama,再从开始菜单重新打开),之后下载的模型就会存到新位置。
注意:修改前已下载的模型不会自动搬家,需要重新下载或手动复制过去。
模型文件动辄几个 GB,下载慢通常是网络原因。可以:
① 避开用网高峰期(如上班时段),换到清晨或深夜下载;
② 确认电脑没有同时进行其他大流量下载;
③ 卡住不动超过 10 分钟,可以按 Ctrl+C 取消,重新执行同一条 ollama run 命令——Ollama 会断点续传,已下载的部分不用重来。
按顺序排查:
① 检查三项内容是否抄写正确:地址是 127.0.0.1:11434/v1(带 /v1);模型名和下载时一字不差(英文冒号);
② 打开浏览器访问 127.0.0.1:11434,看不到"Ollama is running"说明 Ollama 没在运行——从开始菜单重新启动 Ollama;
③ 检查电脑防火墙/杀毒软件是否拦截了 11434 端口,临时关闭测试;
④ 全部无误仍失败,重启电脑后再试一次。
本地模型的速度主要取决于电脑硬件,尤其是显卡和显存。可以尝试:
① 换更小参数的模型(如 9B → 7B),速度会明显提升;
② 检查电脑是否配有独立显卡、显存是否够用(7B 至少 8G 显存、9B 至少 12G)。没有独立显卡或显存不足时,模型会有一部分转移到内存里运行,速度会极大降低——这是硬件限制,属于正常现象,缓解办法就是换更小的模型;
③ 上课前先手动运行一次模型让它"热身"(黑窗口执行一次对话再退出);
④ 确认上课时没有其他占内存/显存的大程序(如视频剪辑软件、大型游戏)在运行;
⑤ 班级人数多时,在 AI 服务设置中适当调高"AI 并发限制"(小班课 10-20、中班课 20-40、大班课 40-100)。
打开命令提示符(黑窗口):
查看已下载的模型列表:
删除指定模型(腾出硬盘空间):
例如删除本教程的示例模型:ollama rm ornith-1.5:9b。
是的,模型文件在新电脑上需要重新下载(除非你把模型文件夹整个拷贝过去,并按 Q2 的方法指向该文件夹)。新电脑上完整流程是:装 Ollama → 黑窗口执行 ollama run 模型名 → QuickClass 填 3 个空。整个过程熟练后约 20 分钟(不含模型下载时间)。
要客观看待:大参数本地模型(35B 级别以上)已能胜任课堂对话、题目解析、学情分析等教学场景;小模型在复杂推理上会弱一些。建议的搭配策略是:日常课堂活动、学生伴学用本地模型(量大、免费、数据不出校);偶尔需要高质量复杂分析时,再临时切回付费 API。QuickClass 的 AI 服务设置里随时可以切换,两边不冲突。
| 场景 | 要做什么 |
|---|---|
| 每天上课 | 开机 → 打开 QuickClass → 直接用(Ollama 会自动加载模型,无需手动运行) |
| Ollama 没在运行(Q4 排查时发现) | 开始菜单搜 Ollama → 打开即可 |
| 想新增一个模型 | 黑窗口执行 ollama run 新模型名,下载完去 QuickClass 改"AI 模型"配置 |
| 硬盘不够了 | ollama list 查看列表 → ollama rm 模型名 删除不用的 |
按本教程操作时如果遇到文档没覆盖的问题,请记下:① 卡在第几章第几步;② 黑窗口/页面上的报错原文(拍照即可),向学校信息化管理员或培训讲师反馈,能大幅加快解决速度。