Ollama

• Ollama 文档

安装

brew install --cask ollama

常用命令

ollama --help

# 运行与下载
ollama run <model_name>
# 示例: ollama run qwen2.5:7b

# 仅下载/更新模型，但不运行
ollama pull <model_name>

# 查看本地已下载的所有模型列表
ollama list

# 查看当前正在运行的模型及其内存占用
ollama ps

# 删除指定的本地模型，释放硬盘空间
ollama rm <model_name>
# 示例: ollama rm qwen2.5:7b

# 复制一个本地模型
ollama cp <source_model> <target_model>

# 启动 Ollama 服务
# （Mac 环境下安装后通常已在后台自动运行，仅在服务意外停止时手动执行）
ollama serve

拓展：llama.cpp

llama.cpp 是 Ollama 底层使用的高性能 C++ 实现。