一、Ollama介绍

Ollama 是一个轻量级、开源的工具，主要用于在本地设备（如电脑、服务器）上快速部署、运行和管理大语言模型（LLM），无需复杂的配置，适合开发者和普通用户快速体验开源模型。

它的核心特点包括：
简单易用：通过命令行即可操作，支持一行命令下载、启动模型（如 ollama run llama2 即可运行 LLaMA 2 模型），无需手动处理模型文件、依赖配置等复杂步骤。
支持主流开源模型：内置了对多种热门开源大模型的支持，如 LLaMA 2、Mistral、Phi-2、Gemini 开源版、Qwen（通义千问）等，用户可直接调用，也支持自定义模型。
本地化运行：模型完全在本地设备运行，数据不经过第三方服务器，适合对隐私敏感的场景（如处理本地文档、内部数据等）。
轻量化设计：体积小，资源占用相对可控，普通电脑（甚至笔记本）也能运行中小型模型（如 7B 参数模型），同时支持 GPU 加速（需显卡支持）以提升性能。
扩展能力：提供 API 接口，方便开发者将本地模型集成到自己的应用、脚本或工具中（如结合 LangChain 构建 RAG 系统、开发聊天机器人等）。

二、Ollama安装

网速慢自己翻墙

下载好安装包后，自己丢到一个其他盘去，不然安装是默认C盘无法修改的

然后启动CMD命令窗口

js
OllamaSetup.exe /DIR=E:\AI\Ollama

回车然后就会装在该目录下。

安装好后，更改模型的路径

可以去官网这里找你要下载安装的大模型