Ollama 快速上手教程（GitHub README 中文整理）

Ollama 是什么

Ollama 是一个开源的本地大模型运行工具，让你能在自己的电脑上轻松运行和管理各种开源 AI 模型（如 Gemma、Llama 等）。它由 llama.cpp 项目提供底层支持，无需 GPU 也能运行，适合个人开发者、AI 爱好者和隐私敏感场景使用。

能干什么

• 本地运行大模型：在命令行或 API 中直接与模型对话，数据不出本机
• 集成到开发工具：支持 Claude Code、Codex、Copilot CLI、OpenCode 等编程助手
• 搭建 AI 助手：通过 OpenClaw 集成到 WhatsApp、Telegram、Slack、Discord 等聊天平台
• 提供 REST API：方便其他应用（如 Web 界面、Python/JS 项目）调用模型能力
• 管理模型库：从官方模型库下载、导入、自定义模型（支持 Modelfile）

怎么装

macOS / Linux

curl -fsSL https://ollama.com/install.sh | sh

Windows

irm https://ollama.com/install.ps1 | iex

Docker

docker pull ollama/ollama

编程语言库

• Python：pip install ollama
• JavaScript：npm i ollama

怎么用（第一个例子）

1. 启动并运行模型

在终端输入以下命令，会自动下载并运行 Gemma 4 模型：

ollama run gemma4

进入交互界面后，直接输入问题即可对话。

2. 通过 REST API 调用

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "为什么天空是蓝色的？"
  }],
  "stream": false
}'

3. 用 Python 调用

from ollama import chat

response = chat(model='gemma4', messages=[
  {
    'role': 'user',
    'content': '为什么天空是蓝色的？',
  },
])
print(response.message.content)

4. 用 JavaScript 调用

import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma4",
  messages: [{ role: "user", content: "为什么天空是蓝色的？" }],
});
console.log(response.message.content);

社区资源

热门 Web 界面（推荐国产替代）

• Open WebUI：可扩展的自托管 AI 界面
• Lobe Chat：现代聊天框架，支持插件生态
• NextChat：跨平台 ChatGPT 风格 UI
• Chatbox：桌面和 Web AI 客户端

官方社区

• Discord：discord.gg/ollama
• Reddit：reddit.com/r/ollama

更多文档

• CLI 参考
• REST API 参考
• 模型导入指南
• Modelfile 参考

翻译整理自 GitHub README，原文：https://github.com/ollama/ollama