Ollama 是本地运行大语言模型的工具，提供一条命令拉起模型的命令行体验与本地接口服务，官网提供模型库、安装包与开发文档。
站内模型库按参数规模与用途分类，主流通用模型可直接拉取；文档说明模型定制文件、量化版本选择与兼容接口，桌面端支持图形界面与模型管理。
适合在本地做原型验证与隐私敏感数据处理的开发者，适合离线环境与内网部署场景，也适合学习者理解推理服务的请求结构与流式输出机制。
与云端接口相比，本地推理无按次计费、数据不出机，但受显存限制、吞吐较低；与专业推理框架相比，Ollama 上手更简单，高并发与多卡调度能力较弱，长上下文场景也更吃内存。
使用提示：模型量化等级直接影响显存占用与回答质量，七十亿参数模型建议八吉字节以上显存；首次拉取体积较大，内网环境需预先配置镜像源。