企业API定制计划
AI应用开发服务
AI智能翻译API
AI SEO/GEO 服务
网络爬虫服务
登录
const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'togethercomputer/guanaco-13b',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="togethercomputer/guanaco-13b",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")
- API 操练场（Playground）
在集成之前，请在沙箱环境中测试所有 API 模型。
我们提供 300 多种模型供您集成到您的应用程序中。
产品详情
发现 原驼-13BGuanaco-13B 是一款先进的开源大型语言模型 (LLM)，经过精心调校，旨在创建高质量的多语言聊天机器人。它基于强大的 LLaMA 基础模型构建，性能可与 ChatGPT 和 BARD 等领先的商业系统相媲美，是研究人员和开发人员的宝贵工具。
✨ Guanaco-13B 的主要特点
- 开源自然： 可免费用于研究和实验。
- 高效的微调： 利用 4 位 QLoRA 对庞大的 OASST1 数据集进行微调。
- 模型多功能性： 提供多种尺寸（7B、13B、33B、65B 参数），满足各种计算需求。此特定版本为 13B。
- 多语言支持： 针对高资源语言进行了优化，有助于全球聊天机器人的开发。
- 竞争表现： 在LLM领域，其成果可与商业巨头相媲美。
🚀 预期使用场景
Guanaco-13B 是专门为……而设计的 人工智能研究人员和开发人员它使他们能够以经济高效的方式，利用尖端、高质量的多语言聊天机器人系统开展本地化实验。其开源特性促进了人工智能社区的创新与合作。
💡 技术规格
架构概述
Guanaco-13B 型号的架构根植于 LLaMA基础模型它通过在所有层集成 LoRA（低秩自适应）适配器（秩为 64）来增强其功能，从而优化其性能和效率。
训练数据和微调
该模型在以下方面进行微调： OASST1（Open Assistant Supervised Task 1）数据集虽然该数据集包含多种语言，但它尤其侧重于资源丰富的语言。OASST1 数据集由人类编写的对话组成，对于 Guanaco-13B 学习和生成自然、引人入胜的对话模式至关重要。用于微调此特定版本的数据集的具体规模尚未公开。
知识门槛与偏见
现有文档中并未明确提供Guanaco-13B的具体知识截止日期。由于Guanaco-13B是在类似OASST1的多语言数据集上进行训练的，因此它有可能表现出…… 减少偏差 与基于单语数据训练的模型相比，该模型具有优势。然而，该数据集固有的对高资源语言的侧重可能仍然会引入一些特定于语言的偏差。
性能基准测试
Guanaco-13B 已证明 竞争绩效指标在 Vicuna 和 OpenAssistant 等公认的基准测试中，其性能与 ChatGPT 和 BARD 等商业系统相当。
🛠️ 使用方法及指南
API 使用示例
// 使用假设的 API 端点的示例import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer YOUR_API_KEY" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "告诉我一个关于长颈鹿的趣闻。"} ] } response = requests.post(url, headers=headers, json=data) print(response.json())伦理考量与许可
虽然Guanaco-13B的开发者尚未公开其使用的具体伦理准则，但强烈建议用户遵守这些准则。 一般人工智能伦理原则该模型根据以下条款发布： 开源许可主要用于研究和非商业用途，但文档中未详细说明具体的许可类型。用户应针对任何特定部署情况核实当前的许可条款。
❓ 常见问题解答 (FAQ)
问：什么是Guanaco-13B？
答：Guanaco-13B 是一个基于 LLaMA 架构的开源、经过微调的大型语言模型 (LLM)，旨在创建高质量的多语言聊天机器人。
问：Guanaco-13B 可以免费使用吗？
答：是的，它以开源许可证发布，主要用于研究和非商业实验。具体的商业用途可能需要查阅详细的许可证条款。
问：Guanaco-13B 使用了哪些数据集进行训练？
A：Guanaco-13B 使用 OASST1（Open Assistant Supervised Task 1）数据集进行了微调，该数据集包含人类编写的对话，并且是多语言的。
问：Guanaco-13B 与 ChatGPT 等商业模型相比如何？
答：Guanaco-13B 在各种基准测试中都展现出了与 ChatGPT 和 BARD 等商业系统相媲美的性能，提供了一个强大的开源替代方案。
问：Guanaco-13B 可以支持多种语言吗？
答：是的，它提供多语言支持，重点支持高资源语言，这得益于它在 OASST1 数据集上的微调。
