在

出去

聊天

禁用

原驼（33B）

Guanaco-33B 是一个开源的高质量聊天机器人模型，它通过在 OASST1 上使用 4 位 QLoRA 对 LLaMA 进行微调而开发。该模型仅用于研究目的。

新会员可获赠价值 1 美元的免费Tokens

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'togethercomputer/guanaco-33b',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="togethercomputer/guanaco-33b",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

一个 API 包含 300 多个 AI 模型

节省20%费用并获赠价值1美元的Tokens

获取 API 密钥探索模型

API 操练场（Playground）

在集成之前，请在沙箱环境中测试所有 API 模型。

我们提供 300 多种模型供您集成到您的应用程序中。

原驼（33B）

产品详情

✨ Guanaco-33B：一款功能强大的开源对话式人工智能语言学习模型

这 原驼-33B 该模型是一款高质量的开源大型语言模型 (LLM)，专为高级聊天机器人应用而设计。由……开发 蒂姆·德特默斯 并于 2023年4月这个拥有330亿个参数的模型是LLaMA架构的精细化版本。由于其创新性地使用了……，它实现了与ChatGPT等商业聊天机器人极具竞争力的性能。 4 位 QLoRA。

主要型号细节：

• 型号名称： 原驼
• 开发者/创建者： 蒂姆·德特默斯
• 发布日期： 2023年4月
• 版本： 33B 参数
• 型号： 基于文本的大型语言模型（LLM）

🚀 核心功能与技术创新

Guanaco-33B 融合了多项先进功能，从而提高了其效率和性能：

• 多语言能力： 接受过全面的培训 OASST1 数据集它在高资源语言方面表现出色，同时支持多种语言输入。
• 高效使用适配器： 采用 LoRa 适配器 r=64 配置与 LLaMA 基础模型的所有层无缝集成。
• 4 位 QLoRA 微调： 采用 4 位 QLoRA 和 NormalFloat4 数据类型，优化基础模型和适配器，以减少内存占用并加快实验速度。
• 轻量级检查点： 提供仅适配器检查点，大大降低了本地实验和开发的门槛。

🧠 架构、培训和数据洞察

Guanaco-33B 型号基于坚固耐用的 LLaMA建筑，一个广为人知的基于Transformer的语言模型。它的微调过程依赖于一个关键数据集：

训练数据：

• 数据集来源： 仅在以下平台进行微调 OASST1 数据集，一个协作式、多语言的开源助手对话集合。
• 规模与范围： 包含超过 10万次对话 支持多种语言，实现多样化和开放式的对话功能。
• 多样性与偏见： OASST1 的多语言特性有助于减轻固有的偏见，并增强其处理各种输入的能力，尽管完整的数据集细节尚未公开。
• 知识门槛： Guanaco-33B 的确切知识截止日期尚未公开披露，这与其作为开源项目的持续开发相一致。

💡 预期用途、道德准则和许可

Guanaco-33B 的主要开发用途是 研究目的用户必须意识到，与许多实验性人工智能模型一样，它有时可能会产生一些被认为有问题的输出结果。

重要信息：

• 语言支持： 高资源语言表现出最佳性能，这反映了其训练数据的构成。
• 伦理框架： Anthropic出版社已出版 伦理准则 在其开发和使用过程中，强调透明度、问责制，并防止潜在的滥用。
• 许可证详情： Guanaco-33B 型号的运行方式是 Apache 2 许可证这使得该模型可广泛应用于商业和非商业领域。然而，获取底层LLaMA模型权重需要单独的许可协议。

📊 性能指标与基准测试

Guanaco-33B 已在多个基准测试中经过严格评估，其中包括著名的 Anthropic Chatbot Leaderboard。在这些平台上，它始终表现出色。 强劲的竞争表现 与 ChatGPT 和Google的 BARD 等领先的商业 AI 模型相比，值得注意的是，其性能会因特定语言环境和当前评估基准未涵盖的任务而有所不同。

🖥️ API 集成示例

对于希望将 Guanaco-33B 集成到其应用程序中的开发人员，以下是一个标准的 API 使用示例：

data-name = "open-ai.chat-completion" data-model = "togethercomputer/guanaco-33b" >

❓ 常见问题解答 (FAQ)

问题1： Guanaco-33B是什么？它的独特之处是什么？

Guanaco-33B 是由 Tim Dettmers 开发的开源文本语言学习模型 (LLM)，拥有 330 亿个参数。它的独特之处在于，它基于 LLaMA 模型，并使用 4 位 QLoRA 算法进行了微调，在研究领域可提供与商业聊天机器人相媲美的性能。

Q2： Guanaco-33B 是用什么类型的数据进行训练的？

它基于 OASST1 数据集进行了微调，该数据集是一个包含超过 10 万个开源助手对话的多语言集合，使其具备了广泛的对话能力。

Q3： Guanaco-33B 可以用于商业项目吗？

Guanaco-33B 模型本身采用 Apache 2 许可证，允许商业和非商业用途。但是，使用其底层 LLaMA 模型权重需要遵守额外的许可要求。

第四季度：它的性能与其他聊天机器人相比如何？

Guanaco-33B 在包括 Anthropic Chatbot Leaderboard 在内的各种基准测试中，都展现出了与 ChatGPT 和 BARD 等商业聊天机器人相匹敌的性能。

Q5：使用 Guanaco-33B 是否存在任何伦理方面的考虑？

是的，它主要用于研究，用户应该意识到可能存在的问题。Anthropic 已发布伦理准则，重点关注透明度、问责制和防止滥用，用户应该遵守这些准则。

了解如何利用 AICC API 实现公司转型

探索如何利用 AICC API 革新您的业务！解锁强大的工具，实现流程自动化、增强决策能力并打造个性化的客户体验。

联系销售

一个 API
300多个人工智能模型

节省20%的费用