Ollama 入门:接入游戏 NPC
在本地安装 Ollama、拉取开源模型并调用 API,产出可接入游戏 NPC 对话与测试流程的本地推理服务。
- 1
安装本地推理环境
打开官网 ollama.com,进入 Download,按系统下载 macOS、Windows 或 Linux 安装包并完成安装;随后打开终端输入 ollama,确认服务已启动。
- 2
拉取对话模型
在终端运行 ollama pull llama3.2,等待模型下载完成;再输入 ollama run llama3.2,输入问题测试回复,正式项目中不必重复下载。
- 3
启动并检查接口
保持 Ollama 服务运行,在浏览器访问 http://localhost:11434/api/tags;若返回模型列表,说明本地 API 已可用,可供游戏客户端或后端调用。
- 4
封装 NPC 请求
在项目后端用 Python 编写请求,向 http://localhost:11434/api/chat 发送 JSON,传入 model、messages 和 stream=false;解析返回的 message.content 作为 NPC 台词。
- 5
加入游戏上下文
构造 messages:system 描述 NPC 身份、性格与安全边界,user 放入玩家输入;限制输出长度,再将结果写入游戏事件系统或对话组件。
- 6
联调并优化体验
运行游戏测试不同玩家输入,记录首字延迟、回复长度和异常情况;将模型名写入配置,并降低 max_tokens、上下文长度,控制本机显存与内存占用。
💡 实用技巧
- 先用小模型验证整条调用链
- 固定模型名和提示词模板
- 为 NPC 设置短回复与超时
- 开发机与团队服务分开部署
⚠️ 常见坑
- 模型名必须与已拉取名称一致
- 不要把本地端口直接暴露到公网
常见问题
Q:安装后怎么确认 Ollama 已正常运行?
打开终端输入 ollama,确认服务已启动;再访问 http://localhost:11434/api/tags,若返回已拉取的模型列表,说明本地 API 可用。
Q:NPC 请求里的模型名应该怎么填写?
先执行 ollama pull llama3.2 下载模型,调用 /api/chat 时将 model 设为 llama3.2;名称必须与已拉取的模型一致,否则请求会失败。
Q:怎样让 NPC 回复更快、资源占用更低?
先用 llama3.2 等小模型验证调用链,再通过 max_tokens 限制长度、缩短上下文,并记录首字延迟;正式项目中固定模型名和提示词模板。