在

出去

聊天

禁用

Gemma 2 (9B)（已弃用）

Google Gemma 2 (9B) API 代表着在开发高效、强大的语言模型方面迈出了重要一步。

新会员可获赠价值 1 美元的免费Tokens

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'google/gemma-2-9b-it',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="google/gemma-2-9b-it",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

一个 API 包含 300 多个 AI 模型

节省20%费用并获赠价值1美元的Tokens

获取 API 密钥探索模型

Gemma 2 (9B)（已弃用）

产品详情

Google Gemma 2 (9B)：开创高效的开源人工智能

Gemma 2 (9B) 代表了Google在易于使用且功能强大的人工智能领域的最新突破。这款将于 2024 年发布的 90 亿参数语言模型重新定义了性能预期，其性能足以媲美更大型的模型，同时保持了实用高效的资源占用。 开放模式Gemma 2 (9B) 普及了最先进的文本处理技术，使广泛的开发者社区能够在各种应用程序中进行创新。

✨ 模型概览：

型号名称： Google Gemma 2 (9B)
开发者： Google
发布日期： 2024
版本： 2
型号： 文本（语言模型）

推动Gemma 2性能的关键创新

Gemma 2 (9B) 集成了多项尖端功能，这些功能对其卓越的效率和强大的性能至关重要：

交错的局部-全局注意力： 该机制通过有效处理细致、直接的细节和更广泛的总体信息，显著提高了对上下文的理解能力。
群组查询注意事项： 一种专门的注意力机制，增强了模型处理复杂查询和识别各种文本输入中复杂关系的能力。
知识提炼培训： 一种复杂的训练方法，使 Gemma 2 能够从更大、更复杂的模型中获取知识，同时保持紧凑高效的架构。
尺寸虽小，性能却无与伦比： 因“尺寸小巧但性能卓越”而备受赞誉，使其成为比尺寸大两到三倍的同类产品更具竞争力和效率的替代品。
开源框架： 其开放性促进了全球开发者生态系统内的广泛采用、协作和持续创新。

技术架构与性能洞察

建筑创新

Gemma 2 (9B) 的强大高效性能是通过多项复杂的架构增强精心设计的：

交错的局部-全局注意力： 这项关键技术，其灵感来源于诸如以下方面的研究： Beltagy 等人 (2020a) – “Longformer：长文档转换器”这对于高效的上下文处理至关重要。它使模型能够同时把握文本中直接（局部）和更广泛的（全局）上下文细微差别，从而实现更全面的理解。
群组查询注意事项： 在开创性工作的基础上，例如 Ainslie 等人 (2023) – “GQA：从多头检查点训练通用多查询注意力模型”这种机制显著增强了模型处理复杂查询和更有效地辨别各种文本数据集中错综复杂关系的能力。
知识提炼培训： 与前代产品对下一个Tokens的预测不同，Gemma 2 (9B) 利用了知识蒸馏——一种由……开创的方法。 Hinton等人（2015）——“提炼神经网络中的知识”这种创新方法使模型能够有效地从更大、更复杂的“教师”模型中学习，从而保持更小、更易于管理的规模，同时优化性能和资源效率。

绩效指标

Gemma 2 (9B) 因其出色的表现而备受赞誉 “就其体型而言，这是最佳表现” 并提供 “比体积大2-3倍的同类产品更具竞争力的替代品”这种卓越的效率使其成为计算资源至关重要的应用的理想选择，同时又无需在输出质量或功能上做出任何妥协。

实施 Gemma 2 (9B)

代码示例

将 Gemma 2 (9B) 集成到您的应用程序中非常简单。以下示例展示了您如何与该模型交互，例如在聊天完成场景中：

# 通过 API 集成 Gemma 2 (9B) 的示例 Python 代码from openai import OpenAI client = OpenAI(api_key="YOUR_API_KEY") # 替换为您的实际 API 密钥response = client.chat.completions.create( model="google/gemma-2-9b-it", messages=[ {"role": "system", "content": "您是一位乐于助人的 AI 助手。"}, {"role": "user", "content": "请告诉我 Gemma 2 (9B) 的主要功能。"} ], max_tokens=150 ) print(response.choices[0].message.content)

（此代码片段是一个示例，展示了如何与 Gemma 2 (9B) 的 API 进行交互。原文引用的是一个通用的 `snippet` 标签。）

💡 伦理考量

鉴于任何大型语言模型都具备强大的功能，我们强烈建议开发人员在整个实现生命周期中优先考虑伦理因素。以下几点至关重要：

减轻偏见： 主动识别、测试和解决模型输出中存在的潜在偏见，以确保所有交互的公平性、公正性和包容性。
打击虚假信息： 实施强有力的保障措施和验证机制，以确保模型的响应准确、真实，并且不会无意中传播虚假或误导性信息。
提倡负责任的使用： 在严格遵守既定的人工智能伦理原则并对社会福祉做出积极贡献的应用和环境中部署 Gemma 2 (9B)。

许可信息

Gemma 的使用受特定条款约束。建议开发者和用户仔细阅读官方条款。 Gemma 使用条款有关完整的许可详情和义务。

🚀 结论：未来是高效且开放的。

Google Gemma 2 (9B) 标志着语言模型领域的一个重要里程碑。其巧妙的架构和精密的训练技术使其能够在极其紧凑的体积内实现卓越的性能。这使其成为致力于集成 Google 编程语言的开发者和组织极具吸引力和实用性的解决方案。 高质量的语言处理能力 同时优化计算资源和部署效率。

对于软件开发人员而言，Gemma 2 (9B) 提供了无与伦比的强大功能与实用性平衡。其固有的开源特性进一步增强了其多功能性，便于进行广泛的定制和微调，以完美契合特定的应用程序需求。它真正代表了…… 功能强大、适应性强且必不可少的工具 在当代自然语言处理工具包中。

常见问题解答 (FAQ)

问：什么是 Google Gemma 2 (9B)？

答：Gemma 2 (9B) 是Google于 2024 年推出的 90 亿参数语言模型。它的设计目标是在保持实用规模的同时，提供与规模更大的模型相媲美的性能，使其成为人工智能开发的高效开源解决方案。

问：Gemma 2 (9B) 体积虽小，但性能却如何实现？

答：它利用了交错式局部-全局注意力机制和组查询注意力机制等先进的架构创新。至关重要的是，它采用知识蒸馏技术进行训练，该技术使其能够有效地从更大、更复杂的模型中学习，同时保持紧凑高效。

问：Gemma 2 (9B) 是否可供开源使用？

答：是的，Gemma 2 (9B) 是一个开放模型。这意味着开发者社区可以广泛使用它，并对其进行改编和创新，但需遵守其特定的使用条款。

问：对于开发者而言，使用 Gemma 2 (9B) 的主要优势是什么？

答：开发者受益于其高性能、适中的体积和开源灵活性的完美结合。这使其成为将高级语言处理集成到应用程序中的理想选择，尤其是在计算资源效率至关重要的情况下，并且允许进行广泛的定制以满足特定项目需求。

问：我可以在哪里找到Gemma的官方使用条款和许可信息？

答：您可以在 Google AI 网站上找到并查看 Gemma 的官方完整使用条款。 ai.google.dev/gemma/terms。

API 操练场（Playground）

集成前，请在沙盒环境中测试所有 API 模型。我们提供 300 多个模型供您集成到应用中。

免费试用

一个 API
300多个人工智能模型

节省20%的费用