131K

在

出去

聊天

禁用

Llama 3.2 3B 指令涡轮

Llama 3.2 3B Instruct Turbo：Meta 的高效多语言语言模型，适用于各种 NLP 任务，兼顾性能和计算需求。

新会员可获赠价值 1 美元的免费Tokens

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'meta-llama/Llama-3.2-3B-Instruct-Turbo',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="meta-llama/Llama-3.2-3B-Instruct-Turbo",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

一个 API 包含 300 多个 AI 模型

节省20%费用并获赠价值1美元的Tokens

获取 API 密钥探索模型

Llama 3.2 3B 指令涡轮

产品详情

介绍 Llama 3.2 3B 指令涡轮一个来自[此处应填写公司名称]的尖端大型语言模型（LLM）。元该版本 3.2 于 2024 年 9 月发布。 文本到文本语言模型 它经过精心设计，在保持卓越计算效率的同时，还能提供出色的指令执行性能。它是一款轻量级、高质量的解决方案，尤其擅长多语言任务。

✨ 主要功能

💻 30亿个参数： 实现了显著的计算效率和稳健的性能。
💭 指令遵循优化： 擅长理解和执行复杂的用户指令。
🌍 多语言支持： 在多种语言上均表现出色。
📱 轻量级架构： 非常适合边缘计算和移动人工智能应用。
🔧 高度可定制： 可灵活集成到特定行业需求中。

🚀 预期使用场景

Llama 3.2 3B Instruct Turbo 是一款功能全面的工具，适用于各种自然语言处理 (NLP) 应用，包括：

• 高级对话生成
• 高效文本摘要
• 高质量翻译服务
• 精确实体提取
• 动态环境下的实时文本分析
• 用于设备端处理的边缘和移动人工智能应用
• 智能多语言对话代理

🌐 广泛的语言支持

该模型强大的多语言性能体现在其在多种主要语言的基准测试得分上，包括：

• 英语
• 西班牙语
• 法语
• 德语
• 意大利语
• 葡萄牙语
• 泰国
• 不

💡 技术概述

建筑学

Llama 3.2 3B Instruct Turbo 利用了优化的 Transformer 架构和自回归语言建模，并融合了以下技术：

• 32.1亿个参数： 精确配置参数数量以实现最佳效率。
• 群组查询注意力（GQA）： 增强可扩展性和推理速度。
• 共享嵌入： 优化模型的体积和性能。
• 128k 上下文长度： 能够深入理解和处理更长的输入信息。

训练数据和流程

Llama 3.2 在一个庞大的数据集上进行了预训练，该数据集包含多达 1000 个样本。 9万亿个Tokens 数据来源于公开的在线资源。这套复杂的训练方案包括：

纳入源自 Llama 3.1 8B 和 70B 模型的 logits。
经过精心筛选后实施知识提炼。
多轮调整，包括：
- 监督式微调 (SFT)
- 拒绝抽样（RS）
- 直接偏好优化（DPO）

数据来源： 采用公开可访问的在线数据进行全新混合，训练期间使用高达 9T 个Tokens。

知识门槛： 该模型的信息截至目前为止 2023年12月。

多样性与偏见： 它在各种语言中始终表现出色，这凸显了训练数据集的高度多样性，从而最大限度地减少了固有的偏差。

📊 性能基准测试

Llama 3.2 3B Instruct Turbo 在各项基准测试中均展现出卓越的性能。以下是其性能的直观展示：

多语言性能（MMLU 基准）

• 西班牙语： 55.1%
• 法语： 54.6%
• 德语： 53.3%

模型比较

• 准确性： 取得强劲 63.4% 在 MMLU 基准测试中，与 Llama 3.1 8B (69.4%) 等更大的模型相比，其性能具有很强的竞争力。
• 速度： 拥有令人印象深刻的输出速度 每秒 131.7 个令牌速度明显快于平均水平。
• 鲁棒性： 它在多种语言和任务中始终表现出色，凸显了其优秀的泛化能力。

🔨 整合与指南

代码示例

开发者可以轻松集成 Llama 3.2 3B Instruct Turbo。以下示例代码片段展示了如何在类似 OpenAI 的 API 结构中使用它：

🛡️ 道德使用政策

负责任地部署人工智能至关重要。Llama 3.2 3B Instruct Turbo 的使用条款严格禁止：

• 生成恶意代码或以任何方式干扰计算机系统。
• 规避使用限制或预先设定的安全措施。
• 参与任何非法活动。
• 对个人构成伤害风险的活动。

📜 许可信息

Llama 3.2 模型是根据特定的许可协议分发的。欧盟境内的开发者和组织必须注意一项重要的商业用途限制：

在欧盟境内禁止商业用途：根据 Llama 3.2 可接受使用政策，位于以下地点的个人和组织： 欧盟目前尚未被授权将这些模型用于商业用途。

如需详细了解可接受的使用方式和完整的许可条款，请查阅官方文件。 Llama 3.2 使用政策。

❓ 常见问题解答 (FAQ)

Q1：什么是 Llama 3.2 3B Instruct Turbo？

它是由 Meta 开发的紧凑而强大的大型语言模型，针对指令执行和多语言任务处理进行了优化，能够高效运行。该模型专为各种平台上的自然语言处理应用而设计。

Q2：该模型的主要优势是什么？

它的主要优势包括：参数数量适中（30亿），效率高；强大的多语言支持；高速输出；以及适用于边缘和移动人工智能环境，具有强大的定制潜力。

Q3：Llama 3.2 3B Instruct Turbo 有效支持哪些语言？

该模型在英语、西班牙语、法语、德语、意大利语、葡萄牙语、泰语和印地语等多种语言中表现出色，基准测试也证实了这一点。

Q4：Llama 3.2 3B Instruct Turbo 在欧盟是否允许商业用途？

不。根据 Llama 3.2 可接受使用政策，欧盟境内的组织和个人目前被禁止将 Llama 3.2 模型用于商业用途。

Q5：Llama 3.2 3B Instruct Turbo 的知识截止日期是什么时候？

该模型的训练数据包含截至 2023 年 12 月的信息。因此，其知识库不会延续到该日期之后。

API 操练场（Playground）

集成前，请在沙盒环境中测试所有 API 模型。我们提供 300 多个模型供您集成到应用中。

免费试用

一个 API
300多个人工智能模型

节省20%的费用