



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'databricks/dolly-v2-3b',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="databricks/dolly-v2-3b",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")
- API 操练场(Playground)

在集成之前,请在沙箱环境中测试所有 API 模型。
我们提供 300 多种模型供您集成到您的应用程序中。


产品详情
Dolly v2 (3B):Databricks 出品的强大指令跟随型 LLM
Dolly v2 (3B),一种先进的指令跟踪大型语言模型,是由 Databricks公司 并于[日期]正式发布 2023年4月12日被指定为 Dolly-v2-3b该模型经过精心设计,能够根据用户指令理解并执行各种语言任务。它基于 Pythia-2.8b 模型,并通过对大约 进行微调而得到显著增强。 15,000 个高质量的指令/回答对确保生成高度相关且准确的输出结果。
✨Dolly v2 (3B) 的主要功能
- 精确微调: 采用约 15k 个指令/响应对进行优化,以实现卓越的指令遵循性和质量。
- 多任务表现: 能够胜任各种任务,例如头脑风暴、文本分类、闭卷和开卷问答、内容生成、信息提取和摘要。
- 商业就绪许可: 在宽松的条件下可用 CC-BY-SA 许可使其适用于商业应用。
- 可扩展选项: 对于更广泛的需求,还有更大的型号 dolly-v2-7b 和 dolly-v2-12b 可供选择。
🎯预期应用和语言支持
Dolly v2 (3B) 专为各种用途而设计 自然语言处理(NLP)任务这些功能包括创意头脑风暴、分类、回答问题(既包括基于给定上下文的问题,也包括基于一般知识的问题)、生成新文本、提取特定信息以及精简冗长内容。对于需要可靠且一致地遵循指令的应用来说,它是一个绝佳的选择,但用户应该注意,它并非最先进的模型。
语言重点: 该模型的主要支持语言是 英语虽然处理其他语言是可能的,但由于其训练数据集中以英语内容为主,准确率可能会降低。
🧠技术规格
建筑学
Dolly v2 (3B) 以坚固耐用为基础 Pythia-2.8b 模型利用强大的 基于Transformer的架构 因其在理解和生成复杂语言模式方面的有效性而闻名。
训练数据: Dolly v2 (3B) 官方博客文章
该模型强大的指令执行能力通过训练得到提升。 databricks-dolly-15k 数据集这个独特的数据集包含大约 15,000 个指令/响应对该模型由 Databricks 员工精心生成,涵盖了头脑风暴、分类、问答和摘要等多个领域,与 InstructGPT 论文中讨论的原则相一致。
- 来源: 公共互联网,包括维基百科。
- 尺寸: 约 15,000 个指令/响应对。
- 知识门槛: 该模型的知识库更新至…… 2023年4月。
- 多样性与偏见: 该数据集可能存在 Databricks 员工固有的偏见和特定兴趣,并且由于部分数据来源于公共互联网数据,因此可能带有现有的社会偏见。
📊绩效洞察
Dolly v2 (3B) 在指令执行任务中表现出色,显著超越了其基础模型 Pythia-2.8b。在参数范围内与其他模型进行基准测试时,它也能取得具有竞争力的结果。然而,它并非旨在与 GPT-4 或 LLaMA-3 等规模更大、最先进的模型竞争。
- 准确性: 虽然该模型总体上是有效的,但它在处理高度复杂的语法提示、复杂的编程问题、精确的数学运算、细致的事实准确性以及准确处理日期和时间时可能会遇到挑战。
- 速度: 该程序针对 GPU 上的高效推理进行了优化,但实际运行速度会因具体的硬件配置而有很大差异。
- 鲁棒性: 虽然能够处理各种各样的指令,但在特别复杂或模糊的情况下,偶尔也可能会出错。
🛠️使用指南
Dolly v2 (3B) 旨在通过传统的 API 调用或 SDK 无缝集成到各种应用程序中。开发人员可以利用其指令执行功能来完成多种自然语言处理 (NLP) 任务。如需完整的代码示例和详细的集成说明,建议查阅 Databricks 官方文档或相关的开源代码库。
⚠️伦理考量
Databricks 致力于推进有益、公正且无害的人工智能技术发展。然而,与所有人工智能模型一样,Dolly v2 (3B) 也存在固有的局限性。它可能会生成反映训练数据中固有偏见的输出结果,从而导致内容带有偏见或无意中造成伤害。我们强烈建议用户在实际应用中部署和使用该模型时,实施完善的审核机制和伦理保障措施。
⚖️许可信息
Dolly v2 (3B) 根据以下条款分发: CC-BY-SA 许可 (知识共享署名-相同方式共享)。这是一个宽松的开源许可,明确允许: 商业用途从而促进其被广泛采用并无缝集成到各种商业产品和服务中。
❓常见问题解答 (FAQ)
Q1:什么是 Dolly v2 (3B)?
A1: Dolly v2 (3B) 是由 Databricks 开发的大型指令遵循语言模型,旨在根据用户提供的指令执行各种 NLP 任务。
Q2:Dolly v2 (3B) 可以用于商业项目吗?
A2: 当然。Dolly v2 (3B) 采用 CC-BY-SA 许可协议发布,该协议明确允许将其用于商业应用和产品。
Q3:Dolly v2 (3B) 的主要优势是什么?
A3: 它的主要优势包括强大的指令遵循能力、在各种 NLP 任务(如摘要和问答)中的多功能性,以及其开源特性,使其能够被广泛采用。
Q4:Dolly v2 (3B) 的已知局限性有哪些?
A4: 它可能无法处理高度复杂的语法、编程问题、复杂的数学运算以及精确的事实回忆,并且可能继承训练数据中的偏差。与规模更大的模型相比,它并非最先进的模型。
Q5:Dolly v2 (3B) 支持哪些语言?
A5: 该模型主要支持英语。虽然它也能处理其他语言,但由于其训练数据以英语为主,准确率和流畅度可能会降低。



登录