



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'cohere/command-r-plus',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="cohere/command-r-plus",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

产品详情
🤖 Command R+ 概述:面向企业人工智能的强大 LLM
由……揭晓 凝聚 在 2024年4月8日, Command R+ 这代表着专为企业解决方案量身定制的大型语言模型(LLM)的重大飞跃。这款尖端模型拥有强大的架构,旨在利用检索增强生成(RAG)和复杂的多步骤工具使用等先进功能,提升复杂业务运营的效率和精确度。
💻 主要功能和特性
- 🔥 参数数量: 建造得令人印象深刻 1040亿个参数从而能够高效完成复杂任务并进行细致入微的理解。
- 📜 扩展上下文窗口: 拥有卓越的上下文长度 128,000 个Tokens从而能够更深入地记住上下文,并进行更连贯、更持久的互动。
- 🌐 多语言能力: 针对卓越性能进行了优化 十种关键语言 (英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、阿拉伯语和简体中文),训练数据涵盖另外 13 种语言。
- 🔍 脚踏实地的一代: 通过根据外部文档片段生成内容,提供准确且可验证的回复,并包含集成引用。
- 🔧 高级工具使用: 支持单声道和多声道 多步骤工具使用从而能够与外部 API 和数据库无缝交互,实现复杂的自动化。
🏪 理想的企业应用
Command R+ 专为应对严苛的企业环境而精心打造。其强大的功能使其在各个行业都表现出色,例如: 客户支持、财务、人力资源和市场营销它在需要复杂推理和广泛自动化的场景中表现尤为出色,能够简化操作并增强决策能力。
📈 技术规格及性能
建筑与培训:
利用优化 自回归Transformer架构Command R+ 经过监督式微调 (SFT) 和偏好训练。这一严谨的过程使其输出与人类对实用性和安全性的偏好相一致。它使用多样化的多领域数据集进行训练,知识更新至 [日期]。 2024年8月。
Cohere 通过这种多元化的数据策略优先考虑减少偏见,并持续进行评估,以确保在实际部署中的公平性。
性能基准:
- ✓ MMLU 准确度: 取得了令人瞩目的成就 75% 在 MMLU 基准测试中。
- ⏱ 处理速度: 输出大约 每秒 66.5 个令牌。
- ⏰ 平均延迟: 响应迅速,平均延迟约为 0.30秒 (到达第一个令牌的时间)。
- 🚀 吞吐量提升: 大约 吞吐量提高 50%。 与前代产品相比,硬件要求相似。
📊 Command R+ 与领先 LLM
Command R+展现出强大的竞争力,在性能和成本效益之间取得了极佳的平衡。 多语言翻译它的 BLEU 得分达到 35.9,几乎与……相当 GPT-4 涡轮增压 (36.6)且显著优于 Mistral-Large(31.4)。 检索增强生成(RAG) 在各项任务中,Command R+ 的准确率达到 71.5%,超过了 Mistral-Large (60.7%),紧随 GPT-4 Turbo (76.7%) 之后。此外,它的 工具使用 成功率达到 74.5%,超过了 Mistral-Large 的 63.1%,接近 GPT-4 Turbo 的 73.7%。
🔗 集成与伦理人工智能
API访问和文档:
Command R+ 可轻松获取 AI/ML API平台 在标识符“cohere/command-r-plus”下。
对于开发人员而言,全面 API 文档 便于无缝集成和使用。
伦理人工智能与许可:
Cohere 非常重视 数据隐私和安全伦理考量至关重要,我们将持续努力确保模型不会将训练数据中的偏见传播出去。商业使用权通过 Cohere 的 API 服务授予。
💬 常见问题解答 (FAQ)
问:Command R+ 的主要用途是什么?
答:Command R+ 专为高级企业应用而设计,尤其适用于需要复杂推理、检索增强生成 (RAG) 和多步骤工具使用的领域,例如客户支持、财务和人力资源。
问:命令 R+ 的上下文长度是多少?
答:该模型支持高达 128,000 个标记的上下文长度,使其能够处理和理解非常长的输入,并生成详细的、具有上下文感知能力的响应。
问:Command R+ 支持多少种语言?
答:Command R+ 针对十种主要语言(英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、阿拉伯语和简体中文)进行了性能优化,并整合了来自十三种其他语言的训练数据。
问:什么是“接地气一代”?
A:基于上下文的生成是指 Command R+ 能够根据外部文档片段生成响应,提供带有集成引用的可验证信息,从而提高准确性和可信度。
问:Command R+ 是否适合商业用途?
答:是的,Command R+ 的商业使用权可通过 Cohere 的 API 服务获得,使其成为希望集成高级 LLM 功能的企业的可行解决方案。



登录