



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'zero-one-ai/Yi-34B-Chat',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="zero-one-ai/Yi-34B-Chat",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

产品详情
✨ 使用 Yi 系列 LLM 提升您的 AI 解决方案
这 易系列车型 代表了大型语言模型 (LLM) 的新标杆,其卓越的性能在全球范围内得到认可。架构设计真正 双语模特它们经过基于庞大的 3TB 多语言语料库的严格训练。这种广泛的训练赋予了 Yi 系列无与伦比的能力:
- • 语言理解: 对不同语言环境的深刻理解。
- • 常识推理: 具备强大的推理和理解日常知识的能力。
- • 阅读理解: 具备从文本中提取和解读信息的卓越能力。
亲身体验这些高级法学硕士课程的全部潜力。我们诚邀您莅临我们专属的体验中心,试听易经系列课程。 AI API 游乐场。
💡 Yi-34B 型号的主要应用场景
这 Yi-34B型 专为交互式和对话式人工智能的强大性能而设计。其精细化的功能使其非常适合各个领域的各种应用:
- 💬 客户服务聊天机器人: 通过智能、响应迅速的客户支持系统提升用户体验。
- ⚙️ 技术支持自动化: 为技术咨询提供高效、准确的解决方案。
- 📚 教育辅导: 提供个性化的学习辅导和学业指导。
- ✍️ 创意写作支持: 帮助内容创作者产生想法、撰写和完善文字作品。
🔍 Yi-34B 在 LLM 领域:Mixtral 和 ChatGPT
虽然本概述中没有提供 Yi-34B 与其他知名模型(如 Mixtral 或 ChatGPT)之间的直接、全面的基准比较,但了解 Yi-34B 的战略定位非常重要。
如前所述, Yi-34B 主要针对客户服务聊天机器人和交互式应用程序进行了优化和应用。其中包括技术支持、教育辅导和创意写作等专业角色。其优势在于针对这些特定、高参与度场景的精细化功能,尤其体现在其双语能力上。对于寻求针对这些用例的专注、强大且多语言解决方案的组织而言,Yi-34B 是一个极具吸引力且高效的选择。
⚙️ 优化 Yi-34B:最佳实践和技巧
为了微调 Yi-34B 模型的输出并确保其满足您的特定要求,请考虑实施以下专家建议:
- 🌡️ 温度设置: Yi-34B 默认情况下可以生成极具创意(或“热门”)的输出图像。我们建议调整温度。 约0.5 为了在创造力和稳定性之间取得平衡。
- 🔁 重复处罚: 为防止模型生成重复的短语或句子,请设置重复惩罚。 介于 1.1 和 1.2 之间。
- 🎯 最小概率(min_p): 为了避免过于笼统或缺乏创意的一句话回复,请进行配置。 min_p 介于 0.05 和 0.1 之间。
- 📝 说明模板: 该模型在使用时始终表现良好 “ChatML”指令模板 提示。
- 🛑 自定义停止字符串: 如果你注意到该模型经常输出
在答案的最后,使用作为自定义终止符,以确保输出更清晰。 - ➡️ 句首标记 (BOS): 对于某些 Yi 型号,性能可以通过以下方式得到提升: 取消选中“将 bos_token 添加到提示符的开头” 选项。
💻 API 集成示例
将 Yi-34B 集成到您的应用程序中非常简单。以下是一个典型的聊天自动完成 API 代码片段:
有关更详细的示例、身份验证过程和高级配置,请参阅我们全面的 API 文档。
❓ 常见问题解答 (FAQ)
Yi 系列模型的特点是采用双语设计,并在 3T 的大规模多语言语料库上进行训练,从而在语言理解、常识推理和阅读理解方面表现出色。
Yi-34B 主要用于各行各业的客户服务聊天机器人和交互、技术支持、教育辅导和创意写作辅助。
为了优化响应,请考虑将温度调整到 0.5 左右,将重复惩罚值设置为 1.1-1.2 之间,并将 Min_p 设置为 0.05-0.1 之间。使用“ChatML”指令模板也非常有效。
当然。Yi-34B 被设计成双语模型,并在 3T 多语言语料库上进行训练,因此它能够很好地理解和生成多种语言的内容,使其成为各种语言应用的理想选择。
您可以在我们的专属区域轻松试用 Yi 系列机型并体验其功能。 AI API 游乐场。



登录