Ollama 快速入门

curl -fsSL https://ollama.com/install.sh | sh

brew install ollama

ollama --version

ollama run llama3

# Meta Llama 3（8B）—— 通用能力均衡ollama run llama3# Qwen 2.5（中文能力强）ollama run qwen2.5# DeepSeek Coder（代码能力突出）ollama run deepseek-coder# Gemma 2（Google 出品）ollama run gemma2# Mistral（轻量高效）ollama run mistral

ollama run qwen2.5:7b      # 7B 参数，约 4.7 GBollama run qwen2.5:14b     # 14B 参数，约 9 GBollama run qwen2.5:32b     # 32B 参数，需要较好硬件

# 查看已下载的模型ollama list# 删除模型ollama rm qwen2.5:7b# 查看模型信息ollama show qwen2.5:7b

curl http://localhost:11434/api/chat -d '{  "model": "qwen2.5",  "messages": [    {"role": "user", "content": "用一句话解释什么是 Docker"}  ]}'

curl http://localhost:11434/api/generate -d '{  "model": "qwen2.5",  "prompt": "写一段 Python 快速排序代码"}'

curl http://localhost:11434/v1/chat/completions \  -H "Content-Type: application/json" \  -d '{    "model": "qwen2.5",    "messages": [      {"role": "user", "content": "Hello"}    ]  }'

from openai import OpenAIclient = OpenAI(    base_url="http://localhost:11434/v1",    api_key="ollama"  # 任意值即可)response = client.chat.completions.create(    model="qwen2.5",    messages=[        {"role": "user", "content": "你好"}    ])print(response.choices[0].message.content)

FROM qwen2.5# 设置系统提示词SYSTEM 你是一个专业的 Go 语言开发者，回答简洁，给出代码示例。# 设置温度参数PARAMETER temperature 0.7

ollama create go-expert -f Modelfileollama run go-expert

# Linux / macOSollama serve# Windows 检查服务状态# 或在系统服务中确认 Ollama 已启动

nvidia-smi

安装:  curl -fsSL https://ollama.com/install.sh | sh    Linux/WSL2  brew install ollama                                macOS模型:  ollama run qwen2.5          运行模型（自动下载）  ollama list                 查看已安装模型  ollama rm model             删除模型  ollama show model           查看模型信息  ollama create name -f file  自定义模型API:  localhost:11434             Ollama 服务地址  /api/chat                  对话接口  /api/generate              生成接口  /v1/chat/completions       OpenAI 兼容接口Python:  base_url="http://localhost:11434/v1"  api_key="ollama"            任意值