企业API定制计划
AI应用开发服务
AI智能翻译API
AI SEO/GEO 服务
网络爬虫服务
登录
const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'togethercomputer/Koala-7B',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="togethercomputer/Koala-7B",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")
- API 操练场（Playground）
在集成之前，请在沙箱环境中测试所有 API 模型。
我们提供 300 多种模型供您集成到您的应用程序中。
产品详情
✨ 隆重推出 Koala (7B)：一款功能强大的开源聊天机器人 LLM
考拉（7B） 是由著名的 伯克利人工智能研究实验室于 2023年4月1.0 版本模型经过专门设计，旨在提供高质量的聊天机器人性能，使其成为 ChatGPT 等现有专有模型的有力竞争者。它主要面向致力于拓展高级对话式人工智能应用边界的研究人员和开发人员。
考拉的主要特征（7B）：
- 高质量性能： 展现出与 ChatGPT 等领先模型相媲美的能力。
- 开源可用性： 可免费用于广泛的研究和开发项目。
- 高效架构： 具有强大的功能 70亿参数架构。
- 精心微调： 受益于使用精心挑选的高质量数据集进行训练。
- 预期用途： 主要为了 研究目的 并作为高级对话式人工智能的基础。
- 语言支持： 目前主要使用英语，未来有扩展为多语言的潜力。
⚙️ 技术细节和培训方法
深入探究其核心，考拉（7B）从根本上来说是基于著名的 LLaMA建筑具体而言，它以拥有70亿个参数的版本作为基础模型。这种强大的 基于Transformer的架构 已成为大型语言模型实现最先进性能的行业标准。
训练数据和微调过程：
如原文所述 技术细节 为了完善文档，Koala 基于精心整理的数据集进行了细致的微调，该数据集总计约 128,000 个样本该数据集规模相对较小，凸显了其微调过程的高效性。该数据集包含：
- Anthropic协会的“有益且无害”（HH）数据集： 包含 67,000 个人类-人工智能对话样本，重点关注有益和安全的互动。
- OpenAssistant对话： 收集了来自 Open-Assistant 项目的 9,000 个样本，该项目致力于创建开源 AI 助手。
- 斯坦福羊驼数据： 包含 52,000 个使用创新自学技术生成的指导性演示。
虽然 Koala (7B) 的具体知识库截止日期并未明确说明，但鉴于其发布时间为 2023 年 4 月，可以合理假设该模型的知识库延伸至 2023 年 4 月。 2023年初。
关于多样性和偏见的重要说明： 对于研究人员和开发人员来说，至关重要的是要认识到 Koala 继承了其基础 LLaMA 模型和用于微调的数据集中存在的潜在偏差。 全面评估和缓解策略 在敏感或关键应用中部署 Koala (7B) 之前，强烈建议进行以下操作。
📊 性能指标与稳健性
Koala (7B) 在各种标准基准测试中持续表现出令人印象深刻的性能，展现了其作为高质量对话式 AI 模型的能力。
准确度基准：
- 人工评价： 在盲测中，人类评估者更倾向于 Koala 的回答，而不是 ChatGPT 的回答。 50%的病例表明性能确实相当。
- TruthfulQA： 考拉获得了……的分数 47% 在这个基准测试中，它超越了 GPT-3.5，并且非常接近 GPT-4 的性能。
- MMLU（大规模多任务语言理解）： 该模型得分 43.3%全面展现了其广博的知识和强大的推理能力，涵盖了广泛的任务。
虽然没有明确提供 Koala (7B) 的具体推理速度指标，但作为一个拥有 70 亿个参数的模型，通常预期其推理速度会更快。 推理效率更高、速度更快。 与功能类似的大型机型相比，其性能更出色。此外，它在 TruthfulQA 和 MMLU 等多种基准测试中表现出色且稳定，也证明了其卓越的性能。 泛化能力和鲁棒性 涵盖各种主题和查询类型。
💡 使用、许可和道德准则
负责任的部署和许可：
Koala (7B) 的官方文档或 GitHub 存储库中通常会提供代码示例和详细的使用说明，使开发人员能够将其无缝地集成到他们的 AI 项目中。
尽管针对 Koala (7B) 制定的明确伦理准则可能没有详尽的文档记录，但强烈建议用户遵守普遍认可的人工智能伦理原则。这些原则包括：
- 负责任地使用： 确保以合乎道德且有益的方式部署该模型。
- 对偏见的认识： 积极承认并努力减轻模型可能存在的固有偏见。
- 隐私与数据保护： 优先考虑用户隐私，并确保采取强有力的数据保护措施。
- 透明度： 明确标明内容是由人工智能生成或辅助生成的。
考拉（7B）型号是根据以下条款发布的： 开源许可该机构积极促进人工智能社区内研究、开发和创新的广泛开展。这一承诺与BAIR实验室推进开放式人工智能研究的愿景相契合。
❓关于考拉（7B）的常见问题解答
Q1：什么是 Koala（7B）？它是谁开发的？
Koala (7B) 是一款开源的大型语言模型 (LLM)，设计用于打造高质量的聊天机器人。它由伯克利人工智能研究 (BAIR) 实验室开发，并于 2023 年 4 月发布。
Q2：考拉（7B）是免费的吗？
是的，Koala (7B) 是以开源许可证发布的，因此可以免费用于各种研究和开发目的。
Q3：Koala (7B) 与 ChatGPT 相比表现如何？
在盲测中，Koala 的回答在 50% 的情况下优于 ChatGPT 的回答，表明两者具有相当的高质量性能和能力。
Q4：Koala（7B）使用了哪些类型的数据进行微调？
它基于大约 128,000 个样本进行了微调，结合了 Anthropic 的 Helpful and Harmless (HH) 数据集、Open-Assistant 对话和 Stanford Alpaca 数据等数据集。
Q5：使用考拉（7B）时应遵循哪些伦理准则？
用户应遵守人工智能伦理原则，包括负责任地使用人工智能、了解并减轻潜在的偏见、考虑隐私和数据保护以及对人工智能生成的内容保持透明。
