



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'lmsys/vicuna-7b-v1.5',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="lmsys/vicuna-7b-v1.5",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

产品详情
Vicuna v1.5 (7B) 概述
基本信息
- 型号名称: Vicuna v1.5 (7B)
- 开发者/创建者: LMSYS
- 发布日期: 初步研究成果已发表 2023年12月
- 版本: 1.5
- 型号: 基于自回归语言模型 变压器架构
概述
Vicuna v1.5 是一款先进的大型语言模型 (LLM),旨在增强聊天助手的对话能力。它利用了 监督式教学微调 和 带人工反馈的强化学习(RLHF) 以实现卓越的指令遵循和对话表现。
主要特点
- 🗣️ 增强对话能力: 改进了多轮对话处理,使交互更加自然。
- ✅ 精确指令如下: 经过精心调整,能够准确、细致地遵循指示。
- 👤 人类偏好一致性: 与人工评价高度一致,确保用户满意度。
- 💪 性能稳健: 在各项指标上均取得具有竞争力和稳定性的成绩。
预期用途
Vicuna v1.5 非常适合交互式聊天助手、虚拟客服代理以及任何需要强大功能的应用程序。 先进的对话式人工智能它在需要细致入微的理解和产生类似人类反应的场景中表现尤为出色。
语言支持
该模型主要支持 英语 但也可根据需要进行微调或改编为其他语言,具有一定的灵活性。
技术细节
建筑学
Vicuna v1.5 构建于强大的 变压器架构特别是从以下方面进行了微调 LLaMA-13B 型变压器模型以其 自我注意机制这使得文本处理和生成更加高效。
训练数据
作为精细调整后的版本 呼叫 2Vicuna v1.5 受益于监督式微调。全面的训练数据集包含约 125,000 次对话 主要来源 ShareGPT.com。
该数据集包含各种类型的对话,确保涵盖广泛的主题和对话风格。
知识门槛: 该模型的知识更新至…… 2021年9月。
多样性与偏见: 尽管我们努力通过多样化的数据来源来尽量减少偏差,但原始训练数据中固有的偏差可能仍然存在。我们正在持续努力消除这些偏差。
绩效指标
Vicuna v1.5 在多个关键基准测试中表现出强劲而稳定的性能:
- 📊 MMLU(5 发): 52.1
- 🎯 TruthfulQA(0 次拍摄): 0.35
- ⭐ MT-Bench 得分(GPT-4 评判): 6.39
- ✔️ 准确性: 使用困惑度和人类偏好一致性等指标进行评估。
- ⚡ 速度: 针对实时推理进行了优化,这对于响应式交互式应用程序至关重要。
- 🛡️ 鲁棒性: 能够有效处理各种输入信息,并能很好地概括不同主题。
用法
代码示例
开发者可以使用标准 API 调用将 Vicuna v1.5 集成到他们的应用程序中。以下是一个 API 代码片段示例(实际实现细节可能因平台而异):
伦理考量
Vicuna v1.5 的开发非常注重…… 减少偏见 并确保公平、负责任地使用。我们强烈鼓励开发者以合乎道德的方式使用该模型,并时刻注意任何人工智能生成内容中固有的潜在偏见。
许可
Vicuna v1.5 型号现已上市 包括商业用途和非商业用途具体的许可协议详见其官方存储库,用户应查阅这些协议以确保合规。
结论
Vicuna v1.5 (7B) 它是一款功能强大、经过精细调校的语言模型,专为提升对话式人工智能应用而打造。其强大的Transformer架构、在各种数据集上的广泛训练以及与人类偏好的高度契合,使其成为一款…… 多功能且有效的工具 适用于希望将复杂的语言功能集成到其项目中的开发人员。
常见问题解答 (FAQ)
Q1: Vicuna v1.5 (7B) 是什么?
A1:Vicuna v1.5 (7B) 是由 LMSYS 开发的高级大型语言模型 (LLM),基于 Transformer 架构,并从 LLaMA-13B 中进行了微调,旨在增强对话式 AI 应用。
Q2:Vicuna v1.5 的主要特点是什么?
A2:主要特点包括增强的对话能力、精确的指令执行能力、与人类偏好的高度契合以及在各种基准测试中表现出色。
Q3:Vicuna v1.5 的训练数据来自哪里?
A3:它是在 Llama 2 的基础上进行微调,并使用大约 125,000 条主要来源于以下来源的对话进行训练: ShareGPT.com涵盖各种主题和对话风格。
Q4:Vicuna v1.5 是否适合商业用途?
A4:是的,Vicuna v1.5 可用于商业和非商业用途。用户应参考其官方仓库中提供的具体许可协议。
Q5:Vicuna v1.5 的知识门槛是多少?
A5:该模型的知识更新至 2021 年 9 月。



登录