Jan AI 使用教程：从入门到上手

什么是 Jan AI

Jan AI 是一个开源的桌面端 LLM 客户端，由越南团队 Jan AI 开发。它的核心设计理念是“数据本地、隐私优先”——所有对话记录、模型文件、设置参数都存储在你自己电脑上，不会上传到任何云端服务器。你可以在 Windows、macOS 或 Linux 上安装它，像使用普通聊天软件一样和 AI 对话，但背后运行的是你本地下载的开源模型（比如 Llama、Mistral、Phi 等）。如果你需要更强的算力，它也支持接入云端的 API 服务（比如 OpenAI 兼容接口），但这是可选项，默认情况下完全离线工作。

核心功能怎么用

Jan 的功能主要分两块：本地模型和云模型。

本地模型：安装后，你可以在应用内的“模型中心”浏览和下载开源模型。下载完成后，直接选择模型开始对话。所有推理都在本机 CPU/GPU 上完成，数据不会离开你的电脑。适合处理敏感文档、私人笔记或需要完全离线的场景。注意，模型大小从 1B 到 70B 不等，参数量越大越吃显存和内存，建议根据你电脑配置选择（比如 8GB 显存可以跑 7B 模型，16GB 可以跑 13B）。

云模型：如果你需要更强的推理能力（比如 GPT-4 级别），可以配置 OpenAI 兼容的 API 密钥。在设置里填入 API 地址和密钥即可。但要注意，国内用户访问 OpenAI 等海外服务存在网络限制，建议优先考虑国产替代方案（如阿里通义千问的 API、百度文心一言的 API 等），它们同样兼容 OpenAI 格式，延迟更低且无需特殊网络环境。

其他实用功能：支持多轮对话历史保存、对话导出为 Markdown/JSON、自定义系统提示词、调整温度/最大 Token 等参数。你还可以通过插件系统扩展功能，比如安装“代码解释器”插件让模型执行 Python 代码。

第一次上手步骤

1. 下载安装：去 Jan AI 官网（jan.ai）下载对应系统的安装包。Windows 用户选 .exe，macOS 选 .dmg，Linux 选 .AppImage 或 .deb。安装过程无特殊操作，一路下一步即可。
2. 启动并选择模型：打开 Jan，你会看到一个空白的聊天界面。点击左侧“模型”标签，进入模型中心。这里会列出可下载的开源模型，比如 Llama 3.1 8B、Mistral 7B、Phi-3 Mini 等。点击你想要的模型右侧的“下载”按钮，等待下载完成（模型文件通常 4-8GB，请确保硬盘有足够空间）。
3. 开始对话：下载完成后，返回聊天界面，在顶部下拉菜单选择你刚下载的模型。在输入框打字，按回车发送。第一次对话时，模型会加载到内存中，可能需要几十秒，之后响应速度会快很多。
4. 调整设置（可选）：点击左下角齿轮图标进入设置，你可以修改默认模型、调整上下文长度（影响模型能记住多少历史对话）、开启 GPU 加速（如果电脑有独立显卡）。如果遇到显存不足，可以降低“最大 Token”或选择更小的模型。
5. 配置云模型（可选）：在设置里找到“API 配置”，填入你的 API 地址和密钥。注意，国内用户如果使用国产 API，地址通常是“https://dashscope.aliyuncs.com/compatible-mode/v1”这类格式。配置好后，在聊天界面选择“云模型”即可使用。

适合什么场景

• 隐私敏感场景：比如律师、医生、财务人员处理客户隐私数据，或者你写日记、做心理咨询时不想让对话记录上传到任何服务器。
• 离线工作环境：出差、飞机上、没有稳定网络的场景，本地模型可以完全离线运行。
• 模型探索与实验：想对比不同开源模型的效果、测试本地推理性能、或者做二次开发，Jan 提供了干净的界面和参数调整入口。
• 轻度日常使用：如果你只是写写邮件、总结文档、翻译文字，本地小模型（如 Phi-3 Mini 3.8B）已经够用，响应速度也很快。

价格说明

Jan AI 本身完全免费，没有隐藏收费。你只需要支付电费和硬件成本（如果跑本地模型，推荐至少 16GB 内存 + 8GB 显存）。如果使用云模型，则需要自己购买 API 额度，费用取决于你选的云服务商（比如阿里通义千问的 API 按 token 计费，千次对话大约几毛钱到几块钱）。总的来说，Jan 是零门槛工具，花销完全由你选择的模型和硬件决定。