32K

在

出去

聊天

禁用

Mistral (7B) 指令 v0.3

Mistral 7B Instruct v0.3 API 指令模型，具有扩展词汇量、高级分词器和函数调用，可实现更高级的语言生成和理解。

新会员可获赠价值 1 美元的免费Tokens

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'mistralai/Mistral-7B-Instruct-v0.3',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="mistralai/Mistral-7B-Instruct-v0.3",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

一个 API 包含 300 多个 AI 模型

节省20%费用并获赠价值1美元的Tokens

获取 API 密钥探索模型

Mistral (7B) 指令 v0.3

产品详情

🚀 Mistral 7B Instruct v0.3：面向指令任务的高级人工智能模型

这 Mistral-7B-Instruct-v0.3 该模型代表了指令调优型大型语言模型的最新发展，专为提升语言生成和理解能力而设计。该模型由 Mistral AI 与 Hugging Face 合作开发，并于 2024 年 5 月 22 日正式发布，版本号为 v0.3。

关键信息

型号名称： Mistral-7B-Instruct-v0.3
开发者： Mistral AI 与 Hugging Face 合作
发布日期： 2024年5月22日
版本： v0.3（最新版）
型号： 聊天优化语言模型

⚙️ Mistral-7B-Instruct-v0.3 的核心功能

这款高级模型配备了众多功能，旨在为各种语言任务提供卓越的性能：

扩展词汇： 支持多达 32,768 个词元，从而能够更广泛、更细致地理解语言输入。
版本 3 分词器： 采用了改进的分词器，提高了语言处理的效率和准确性。
函数调用功能： 该模型的突出特点是能够在语言处理过程中执行预定义的功能，从而为更动态的交互和应用铺平道路。
指令微调： 专为指令式任务量身定制，确保对用户提示做出高度情境化和精确的响应。

💡 预期应用及语言支持

Mistral-7B-Instruct-v0.3 型号用途广泛，适用于多种应用场景，包括：

自然语言理解与生成： 擅长理解和创作类人文本的任务。
基于指令的任务： 非常适合需要精确指令来指导模型输出的应用场景。
实时数据处理： 支持需要快速、智能处理的动态交互场景。

医疗保健应用亮点： 这款功能强大的解决方案计算成本低，非常适合快速响应患者咨询，因此对患者教育极具价值。访问[链接]了解更多关于生成式人工智能在医疗保健领域的应用和案例。人工智能在医疗保健领域的应用：生成式人工智能的应用及示例。

由于其扩展的词汇表和先进的分词器，该模型还具有强大的功能。 多语言支持从而扩大其全球适用性。

💻 技术规格

深入研究 Mistral-7B-Instruct-v0.3 背后的架构和训练方法，可以发现其精巧的设计：

架构概述

该模型建立在稳健的基础上。 变压器架构它利用了诸如以下方面的先进机制： 分组查询注意力机制（GQA） 为了显著加快推理速度和 滑动窗口注意力（SWA） 高效处理长文本序列。关键参数继承自 Mistral-7B-v0.1，包括：

暗淡： 4096
n_layers： 32
头部尺寸： 128
隐藏维度： 14336
n_heads： 32
n_kv_heads： 8
窗口大小： 4096
context_len： 8192
词汇量： 32,000

训练数据与知识

这 Mistral-7B-Instruct-v0.3 它基于广泛且多样化的数据集进行训练。这种广泛的数据来源确保了其在各种主题和领域拥有全面的知识和强大的性能，从而增强了其理解和响应能力。

数据来源及规模： 虽然没有具体说明训练规模，但训练包含了来自常用基准测试和公开可用数据的大量数据集，以实现广泛的语言覆盖。
知识门槛： 该模型的知识库更新至其发布日期为止。 2024年5月22日。
多样性与偏见： 我们已投入大量精力来收集多样化的数据集，以尽量减少固有偏差。然而，我们建议用户仍需谨慎对待训练数据来源本身可能存在的潜在偏差。

📊 性能与基准测试

Mistral-7B-Instruct-v0.3 在多项关键指标上均表现出色：

准确性： 在生成上下文相关且连贯的文本方面具有很高的准确性，尤其是在遵循用户指示时。
速度： 采用零拷贝技术，确保快速推理速度，使其非常适合需要即时响应的实时应用。
鲁棒性： 表现出对各种输入信息的强大适应能力，并能有效地将知识推广到广泛的主题和语言中。

与其他型号的比较

表现优于 Llama 2 13B： Mistral-7B 在多项基准测试中均表现出优于 Llama 2 13B 的性能，包括复杂推理、数学问题解决和代码生成任务。
7B/13B类别的领导者： 与 7B 和 13B 参数范围内的其他型号相比，它在基于指令的任务上取得了优异的性能。

🚀 Mistral-7B-Instruct-v0.3 入门指南

Mistral-7B-Instruct-v0.3 模型的集成和使用设计得非常简单：

代码示例和SDK

 import openai client = openai.OpenAI( base_url="https://api.endpoints.anyscale.com/v1", api_key="ANYSCALE_API_KEY") chat_completion = client.chat.completions.create( model="mistralai/Mistral-7B-Instruct-v0.3", messages=[{"role": "user", "content": "Hello world!"}], max_tokens=100 ) print(chat_completion.choices[0].message.content)

（注：提供的代码片段仅为用法演示，实际实现细节可能有所不同。）

教程与指南

如需更深入的指南和教程，请浏览以下内容： Mistral-7B 概述可在人工智能/机器学习学院获取。

💬 支持与社区参与

与其他用户和开发者交流，讨论问题，解决问题，分享见解：

加入关于此话题的积极讨论。拥抱脸讨论区适用于 Mistral-7B-Instruct-v0.3。

🛡️ 伦理使用及注意事项

负责任地部署人工智能模型至关重要。Mistral-7B-Instruct-v0.3 的用户应注意以下事项：

缺乏内置审核机制： 该模型本身不包含审核机制。对于需要过滤或适当输出的环境，用户必须自行实现强大的审核层。
用户责任： 用户必须采取额外的安全措施并遵守人工智能伦理准则，以防止生成或传播不当或有害内容。

📄 许可信息

Mistral-7B-Instruct-v0.3 采用宽松许可协议发布：

许可证类型： 根据以下规定发布 Apache 2.0 许可证这使得其用途广泛，包括商业和非商业应用。

❓ 常见问题解答 (FAQ)

Q1: Mistral-7B-Instruct-v0.3 是什么？

一个： 这是一个由 Mistral AI 开发的先进的、针对指令调整的大型语言模型，于 2024 年 5 月 22 日发布。它旨在增强语言生成、理解和基于指令的任务，具有扩展的词汇量和函数调用能力。

Q2：与之前的版本相比，v0.3 的主要改进有哪些？

一个： v0.3 版本引入了 32,768 个标记的扩展词汇表、改进的 3 版标记器以及关键的函数调用功能，所有这些都有助于在基于指令的任务中实现卓越的性能。

Q3：Mistral-7B-Instruct-v0.3 可以用于商业用途吗？

一个： 是的，该模型以 Apache 2.0 许可证发布，允许商业和非商业用途，为开发者和企业提供了很大的灵活性。

Q4：该模型是否内置内容审核功能？

一个： 不，Mistral-7B-Instruct-v0.3 不包含原生审核机制。用户在需要过滤或适当内容输出的环境中部署该模型时，需自行负责实施安全措施和审核工具。

Q5：它与 Llama 2 13B 等其他类似尺寸的型号相比如何？

一个： Mistral-7B 在各种基准测试中表现出优异的性能，包括推理、数学和代码生成，其性能优于 Llama 2 13B 和同参数类别的其他模型，尤其是在基于指令的任务方面。

API 操练场（Playground）

集成前，请在沙盒环境中测试所有 API 模型。我们提供 300 多个模型供您集成到应用中。

免费试用

一个 API
300多个人工智能模型

节省20%的费用