Cohere教程:加拿大企业 LLM——Command R 系列主打 RAG 检索。
Cohere 是一家总部位于加拿大的 AI 公司,主打企业级大语言模型(LLM)。它不像 ChatGPT 那样面向普通聊天用户,而是更侧重给开发者、企业提供底层能力。其核心产品是 Command R 系列模型,专为 RAG(检索增强生成)场景设计——简单说,就是让 AI 在回答问题时,能主动去查你给的资料库,而不是只凭训练数据瞎编。目前 Cohere 提供三个主要功能:Command R(生成和对话)、Rerank(排序优化搜索结果)、Embeddings(把文本转成向量用于检索)。
Command R 是主力模型,支持多轮对话、代码生成、翻译等常见任务。调用时只需传入用户消息,它就能返回连贯回答。关键参数包括 temperature(控制随机性,0-1)、max_tokens(限制输出长度)。例如,用 Python SDK 调用:
import cohere
co = cohere.Client('你的API密钥')
response = co.generate(
model='command-r',
prompt='用中文解释什么是RAG',
max_tokens=200
)
print(response.generations[0].text)
Rerank 是 Cohere 的杀手锏。当你从数据库里检索出上百条相关文本,Rerank 能根据用户问题重新排序,把最相关的几条顶到前面。用法很简单:传入查询语句和文档列表,返回排序后的索引和置信度分数。这在构建企业知识库问答时特别有用——先靠关键词或向量检索粗筛,再用 Rerank 精排。
Embeddings 用来把文本转成向量。你可以把公司文档、客服记录都向量化存入数据库。查询时,把用户问题也转成向量,然后计算相似度找到最匹配的文档。Cohere 提供多种嵌入模型,比如 embed-english-v3.0 和 embed-multilingual-v3.0(支持中文)。
pip install cohere(Python 环境)。import cohere
co = cohere.Client('你的API密钥')
response = co.chat(
model='command-r',
message='你好,请用一句话介绍自己'
)
print(response.text)
运行后如果看到 AI 回复,就说明成功了。接下来可以试试 Rerank:准备一个文档列表,比如 ["苹果是水果", "苹果是公司", "苹果是红色"],然后问“苹果公司”,Rerank 会把第二条排第一。
Cohere 采用按 token 计费,免费套餐提供一定额度(具体额度随政策调整),超过后需付费。付费套餐起价按 token 数算,Command R 和 Embeddings 价格不同。例如,Command R 的输入和输出 token 分别计费,Embeddings 按向量维度收费。具体价格需查看官网定价页(国内访问受限,可看国产替代的类似定价)。注意:免费套餐有速率限制,高并发场景需升级付费。