



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'Qwen/Qwen2-72B-Instruct',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="Qwen/Qwen2-72B-Instruct",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Подробная информация о товаре
✨ Представляем Qwen 2 Instruct (72B): Новая эра языковых моделей
Долгожданный Квен 2 Вышла новая серия, представляющая собой значительный шаг вперед по сравнению со своим предшественником, Qwen 1.5. Вариант 72B Instruct выделяется расширенными возможностями в различных областях, устанавливая новые стандарты в лингвистической компетентности и понимании контекста. Эта мощная модель разработана для достижения самых современных результатов в широком спектре приложений, что делает ее незаменимым инструментом как для разработчиков, так и для исследователей.
🚀 Ключевые архитектурные и производительные улучшения
Qwen 2 основана на надежной архитектуре Transformer и включает в себя передовые функции, оптимизирующие эффективность и концентрацию внимания:
- Расширенный уровень владения языком: Теперь модель поддерживает впечатляющие 27 дополнительных языков, что значительно расширяет область ее применения по всему миру.
- Огромная длина контекста: Qwen 2 может похвастаться впечатляющей поддержкой контекстной длины в 128 000 токенов, что позволяет осуществлять более комплексное и контекстно насыщенное взаимодействие без «слепых зон» при обработке больших объемов входных данных.
- Передовая архитектура: Включает в себя такие инновации, как активация SwiGLU, смещение внимания QKV, групповое внимание к запросам (GQA) и сочетание внимания с использованием скользящего окна для достижения превосходной производительности.
- Внимание, универсальный групповой запрос! GQA — это значительное улучшение по сравнению с Qwen 1.5, обеспечивающее повсеместное применение для повышения скорости и снижения потребления памяти во время выполнения вычислений.
- Улучшение экспертных знаний в предметной области: Демонстрирует улучшенные результаты в таких важных областях, как программирование, математика и сложные задачи на логическое мышление.
💡 Универсальные варианты использования Qwen 2 72B Instruct
Мощные возможности Qwen 2 72B Instruct делают его пригодным для широкого спектра применений:
Генерация текста и чат-боты
Благодаря своим внушительным размерам и превосходным возможностям генерации языка, Qwen 2 72B Instruct является отличным выбором для разработки привлекательных и контекстно-ориентированных чат-ботов. Он обеспечивает естественное, человекоподобное общение на различные темы.
Генерация с расширенным извлечением (RAG) и вызов функций
Qwen 2 превосходно справляется с задачами, требующими расширения функциональности за счет генерации информации, обеспечивая надежные результаты с минимальным количеством ошибок. Кроме того, его умение использовать внешние инструменты (например, вызовы функций) делает его идеальной основой для создания сложных агентов искусственного интеллекта, эффективно взаимодействующих с реальным миром.
Модерация контента 🛡️
Благодаря мощному языковому распознаванию, Qwen 2 72B Instruct очень эффективен для модерации контента. Он может выявлять и фильтровать неприемлемый контент на нескольких языках, успешно конкурируя с лучшими моделями, такими как... ГПТ-4 в задачах обеспечения безопасности и превосходит по характеристикам другие модели, такие как Mistral-8x22B.
Многоязычные приложения 🌐
Демонстрируя превосходные возможности на 12 языках, Qwen 2 72B Instruct прошел обширное обучение более чем на 27 языках (включая западноевропейские, восточноевропейские, ближневосточные, восточноазиатские, юго-восточноазиатские и южноазиатские). Он умело обрабатывает сложные контексты (до 128 000 токенов через YARN) и эффективно управляет переключением кодов, оказываясь бесценным инструментом для решения разнообразных лингвистических и культурных задач. Как отмечено в нашем сравнении, "Сравнение Qwen 2 и LLama 3«Она демонстрирует замечательные результаты даже при работе с тонкими, культурно-специфическими подсказками, что делает ее незаменимым инструментом для работы с группами, говорящими на азиатских языках».
📈 Как Qwen 2 72B Instruct выглядит на фоне конкурентов
Qwen 2 72B Instruct стабильно превосходит конкурентов, таких как Llama 3 70B, в классических тестах, таких как GSM8K и MATH. В таких важных областях, как обнаружение мошенничества и порнографии, его производительность сопоставима с лидерами отрасли, такими как GPT-4 и Mistral. Примечательно, что Qwen 2 демонстрирует повышенное соответствие предпочтениям человека в тесте AlignBench и предлагает существенное контекстное окно в 128 000 пикселей, что позиционирует его как одного из ведущих претендентов на рынке искусственного интеллекта.
⚙️ Инструкция по началу работы с Qwen 2 72B
Доступ к API: Интегрируйте Qwen 2 в свои приложения, выполнив следующие действия: регистрация для доступа к API ИИ/машинного обучения на этом сайте.
Локальное развертывание: Для экспериментов с инструкцией Qwen 2 72B локально убедитесь, что у вас установлена последняя версия библиотеки Huggingface Transformers (версия 4.37.0 или более поздняя). Обратите внимание на следующее: generation_config.json Файл в репозитории модели содержит настройки, особенно касающиеся переключения кода.
📄 Лицензионное соглашение
Инструктор Qwen 2-72B работает в соответствии с Лицензия Тонги ЦяньвэньПодробную информацию можно найти на GitHub или в репозитории Hugging Face. Хотя коммерческое использование, как правило, бесплатно, для продуктов или услуг с более чем 100 миллионами активных пользователей в месяц необходимо связаться с разработчиками для получения явного разрешения.
✅ Заключение: Сила Qwen 2
Qwen 2 значительно превосходит своего предшественника, предлагая беспрецедентные многоязычные возможности на 27 языках и надежную поддержку контекста в 128 000 символов для сложных задач. Его превосходство охватывает самые разные области применения, от разработки сложных чат-ботов и модерации критически важного контента до сложной многоязычной обработки. Бенчмаркинг подтверждает его сильные конкурентные позиции, делая Qwen 2 бесценным активом для широкого спектра задач в области искусственного интеллекта. Расширенная доступность как через API, так и через варианты локальной установки еще больше укрепляет его позиции как передовой языковой модели.
🖥️ Пример API
📊 Сравнение моделей ИИ
Если вы хотите сравнить эту модель с другими ИИ, посмотрите это сравнение:
❓ Часто задаваемые вопросы (FAQ) о Qwen 2 72B Instruct
В: В чём заключаются основные улучшения Qwen 2 по сравнению с Qwen 1.5?
A: Qwen 2 значительно расширяет языковую поддержку, добавляя 27 новых языков, увеличивает длину контекста до впечатляющих 128 000 токенов и включает в себя передовые архитектурные особенности, такие как универсальное внимание к групповым запросам (Group Query Attention), для повышения эффективности и производительности.
В: Может ли Qwen 2 72B Instruct эффективно обрабатывать многоязычные задачи?
А: Безусловно. Qwen 2 обучен на более чем 27 языках, превосходно работает в многоязычных контекстах и особенно силен в обработке переключения кодов и нюансов в азиатских языковых группах, что делает его очень универсальным для глобального применения.
В: Для каких типов задач лучше всего подходит Qwen 2 72B Instruct?
A: Qwen 2 72B Instruct идеально подходит для сложных чат-ботов, генерации дополненной информации (RAG), вызова расширенных функций для агентов ИИ, надежной модерации контента на разных языках и широкого спектра сложных многоязычных приложений.
В: Чем Qwen 2 отличается от других ведущих моделей, таких как Llama 3 или GPT-4?
A: Qwen 2 72B Instruct в целом превосходит Llama 3 70B в классических тестах и демонстрирует сопоставимую производительность с GPT-4 и Mistral в критически важных задачах, таких как обнаружение мошенничества, а также предлагает большое контекстное окно в 128 000 символов и превосходное соответствие предпочтениям человека.
В: Каковы условия лицензирования для коммерческого использования Qwen 2-72B Instruct?
A: Инструкция Qwen 2-72B использует лицензию Tongyi Qianwen. Она бесплатна для коммерческого использования, но если ваш продукт или услуга охватит более 100 миллионов активных пользователей в месяц, вам необходимо связаться с разработчиками для получения специального разрешения.
Игровая площадка для ИИ



Авторизоваться