32K

在

出去

聊天

禁用

Mixtral-8x7B v0.1

AI 模型 Mixtral-8x7B v0.1 API 是一款尖端、先进的系统，旨在准确分析和处理多个领域的数据。

新会员可获赠价值 1 美元的免费Tokens

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({ apiKey: '', baseURL: 'https://api.ai.cc/v1' });

const main = async () => {
  const prompt = `
All of the states in the USA:
- Alabama, Mongomery;
- Arkansas, Little Rock;
`;
  const response = await api.completions.create({
    prompt,
    model: 'mistralai/Mixtral-8x7B-v0.1',
  });
  const text = response.choices[0].text;

  console.log('Completion:', text);
};

main();

                                        from openai import OpenAI

client = OpenAI(
    api_key="",
    base_url="https://api.ai.cc/v1",
)


def main():
    response = client.completions.create(
        model="mistralai/Mixtral-8x7B-v0.1",
        prompt="""
  All of the states in the USA:
  - Alabama, Mongomery;
  - Arkansas, Little Rock;
  """,
    )

    completion = response.choices[0].text
    print(f"Completion: {completion}")


main()

Docs

一个 API 包含 300 多个 AI 模型

节省20%费用并获赠价值1美元的Tokens

获取 API 密钥探索模型

Mixtral-8x7B v0.1

产品详情

✨ Mixtral 8x7B V0.1 已经极大地重塑了人工智能和机器学习的格局。稀疏混合专家模型该模型由创新团队精心打造，密斯特拉尔人工智能这款产品堪称真正的颠覆者。这篇全面的概述深入探讨了其独特的规格、卓越的功能，以及它与其他领先型号的对比。要开始探索这项尖端技术，请务必提前预订。 API密钥。

了解 Mixtral 8x7B V0.1

Mistral AI 致力于通过具有影响力和创新性的开放模型赋能开发者，这一坚定不移的承诺已得到充分体现。 Mixtral 8x7B V0.1这个模型是公开组，高质量、精简的专家组合旨在突破人工智能的极限。

🚀卓越性能：它性能优于 Llama 2 70B 等型号。在各项基准测试中，均取得了令人印象深刻的成绩。推理速度提高六倍Mixtral 8x7B V0.1 不仅是目前市面上最强劲的轻量级型号，而且还具有一定的容错性。 Apache 2.0 许可证它还提供了无与伦比的性价比，通常性能达到或超过 GPT3.5 等模型的水平在大多数标准基准测试中均表现优异。

Mixtral 8x7B V0.1 架构的图示概述。

Mixtral 8x7B V0.1 的主要功能

Mixtral 8x7B V0.1 拥有一系列令人印象深刻的功能，使其在同类产品中脱颖而出：

✔️ 大型上下文处理：高效地管理以下情境 32k Tokens使其能够稳健地处理大型数据集。
🌐 多语言支持：支持多种语言，包括英语、法语、意大利语、德语和西班牙语非常适合各种全球应用。
💻 高级代码生成：在以下方面表现出色代码生成使其成为开发人员的首选。
🎯 指令微调：可以精细调整为指令遵循模型，并取得显著的成绩 MT-Bench 测试结果为 8.3。

💡深入探讨稀疏架构：混合专家模型

从本质上讲， Mixtral 8x7B V0.1 利用稀疏混合专家（MoE）网络这种精密的纯解码器模型具有一个前馈模块，可以智能地从一个池中进行选择。 8 个不同的参数组，通常被称为“专家”。

对于每一层和每一个令牌，一个专门的路由器网络会动态地选择这两位专家处理令牌，然后将它们的输出相加组合。这项创新技术使模型能够显著提高增加其总参数数量同时，Mixtral 还精心控制成本和延迟。因此，Mixtral 拥有…… 总共 467 亿个参数然而仅利用每个令牌包含 129 亿个参数确保其处理信息和生成输出的速度和成本效益达到 12.9B 型号的水平。

📈 与竞争对手的性能基准比较

在直接比较中，混合型始终匹配或性能优于 Llama 2 系列和 GPT3.5 基础模型在大多数基准测试中均表现出色。值得注意的是，Mixtral 的表现尤为突出。减少对烧烤基准的偏见与 Llama 2 相比，它还表明在 BOLD 基准测试中，Llama 2 的情绪更为积极。同时保持每个维度内相似的方差。

🎯 专业指导，遵循模型

除了基础的 Mixtral 8x7B 之外，密斯特拉尔人工智能也已发布 Mixtral 8x7B 指令该专用模型已通过以下方式进行了严格优化监督式微调和直接偏好优化（DPO）确保准确执行指令。在挑战中 MT-Bench它取得了令人印象深刻的分数 8.3巩固了其作为最佳开源模型的地位，其性能可与……相媲美 GPT3.5。

📝 理解提示结构

基础的 Mixtral 8x7B 模型具有高度的适应性，并且不强制执行僵化的提示结构。它的设计旨在逻辑地扩展输入序列或促进输入。零样本和少样本学习为进一步定制提供了极佳的基础。

相比之下，指导版采用清晰简洁的对话形式，以达到最佳效果：

 [INST] 初始用户指导 [/INST] 初始模型响应[INST] 后续用户指导 [/INST] 

严格遵循此结构对于取得最佳效果至关重要。我们将指导您如何使用Transformers库中提供的聊天模板轻松复制这种指导性提示格式。

🚀 Mixtral 8x7B V0.1 引领人工智能的未来

随着……的引入 Mixtral 8x7B V0.1，密斯特拉尔人工智能不可否认，它在人工智能和机器学习领域取得了重大突破。其强大的功能、卓越的性价比和用户友好性，必将彻底改变全球开发者使用和集成人工智能模型的方式。你准备好开启这段旅程了吗？获得你的 API密钥现在释放这项先进技术的强大力量！

❓ 常见问题解答 (FAQ)

问： Mixtral 8x7B V0.1是什么？

一个： Mixtral 8x7B V0.1 是由 Mistral AI 开发的一款开源、高质量的稀疏专家混合模型 (MoE)。与其他模型（例如 Llama 2 70B 和 GPT3.5）相比，它旨在提供更优异的性能和成本效益。

问：它的“稀疏混合专家”架构是如何运作的？

一个：这是一个仅包含解码器的模型，其前馈模块会为每一层和每个词元选择两个“专家”（从 8 个不同的参数组中选择）。这使得它总共可以使用 467 亿个参数，但每个词元仅使用 129 亿个参数，从而优化了速度和成本。

问： Mixtral 8x7B V0.1 的主要优势是什么？

一个：主要优势包括推理速度比 Llama 2 70B 快 6 倍，性能与 GPT3.5 相当/更优，采用宽松的 Apache 2.0 许可证，可处理 32k 个标记上下文，支持多语言，代码生成能力强，并可针对指令执行进行微调。

问：是否有附带说明书的版本？

一个：是的，Mistral AI 发布了 Mixtral 8x7B Instruct，它通过监督微调和直接偏好优化 (DPO) 针对指令跟踪进行了优化，在 MT-Bench 上获得了 8.3 分。

问：我该如何开始使用 Mixtral 8x7B V0.1？

一个：你可以通过获取你的 API密钥。

API 操练场（Playground）

集成前，请在沙盒环境中测试所有 API 模型。我们提供 300 多个模型供您集成到应用中。

免费试用

一个 API
300多个人工智能模型

节省20%的费用