



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'mistralai/mistral-tiny',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="mistralai/mistral-tiny",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Подробная информация о товаре
Представляем Mistral Tiny: вашу облегченную языковую модель для эффективного искусственного интеллекта.
Mistral Tiny, разработанный компанией Mistral AI и официально выпущен в Октябрь 2024 г. (Версия 1.0) — это передовая, легковесная языковая модель, разработанная для обеспечения исключительной эффективности в различных задачах, связанных с текстом. Эта текстовая модель специально оптимизирована для эффективной работы в условиях ограниченных ресурсов, обеспечивая высокую производительность даже при ограниченных вычислительных ресурсах.
Основная информация:
- ✨ Название модели: Мистраль Тайни
- 👩💻 Разработчик/Создатель: Mistral AI
- 🗓️ Дата выпуска: Октябрь 2024 г.
- 🔄 Версия: 1.0
- 📝 Тип модели: Текст
Основные возможности и характеристики
Основные характеристики:
- 📏 Размер модели: Компактный 106,6 миллионов параметров.
- 💾 Требуемый объем видеопамяти: Только 0,4 ГБчто делает его невероятно доступным для устройств с ограниченными ресурсами.
- 📖 Длина контекста: Поддерживает расширенную максимальную длину контекста. 131 072 токенов, что обеспечивает всестороннюю обработку контекста.
- ⚙️ Класс токенизатора: Использует LlamaTokenizer с размером словаря. 32 000 токенов.
- 🛠️ Структура обучения: Создан на основе архитектуры MistralForCausalLM, совместим с версией Transformers 4.39.1.
Области применения:
Mistral Tiny идеально подходит для приложений, требующих быстрой реакции и обработки с низкой задержкой, что делает его идеальным для:
- Чат-боты
- Автоматизированная генерация контента
- Образовательные инструменты
- Эффективное суммирование текста
- Надежные задачи автозавершения кода
Многоязычная поддержка:
Данная модель предлагает надежную языковую поддержку, включая Английский, французский, немецкий, испанский и итальянскийрасширяя сферу его применения по всему миру.
Техническая архитектура и обучение
Обзор архитектуры:
Компания Mistral Tiny использует сложную технологию. Архитектура трансформатораРазработан для оптимальной производительности:
- 🧱 Слои: 12 слоев
- 🧠 Внимание, головы! 12 кнопок внимания на слой
- 📏 Скрытый размер: 768 размеров
- ↔️ Средний размер: 3072 размеров
Эта архитектура объединяет передовые методы внимания, такие как Внимание с помощью скользящего окна (SWA) для эффективного управления длинными последовательностями и поддержания контекстной согласованности.
Критерий отбора обучающих данных и знаний:
Модель была тщательно обучена на разнообразном наборе данных, включающем в себя более 7 триллионов токенов Этот обширный учебный корпус охватывает различные области знаний и обеспечивает прочное понимание языка и контекста. Минимальный уровень знаний для Mistral Tiny составляет... Сентябрь 2023 г..
Разнообразие и смягчение предвзятости:
Компания Mistral AI уделяет первостепенное внимание созданию разнообразного обучающего набора данных для активного снижения предвзятости, связанной с полом, расой и идеологией. В основе разработки модели лежит повышение ее применимости в широком спектре контекстов и тем, что способствует справедливости и инклюзивности.
Показатели производительности:
- 🎯 Точность: Достигает уровня точности, превышающего 85% в задачах на понимание языка.
- 📉 Показатель перплексии: Демонстрирует низкий показатель перплексии, что указывает на высокие прогностические возможности и высокую уверенность в генерации естественного языка.
- 🏆 Результат F1: Поддерживает показатель F1 выше определенного уровня. 0,75 в задачах классификации текста.
Результаты сравнительного анализа:
- 📈 ММЛУ (Массовое многозадачное понимание языка): Демонстрирует высокие результаты в выполнении разнообразных задач на понимание языка.
- 💻 Контрольная оценка HumanEval (для программирования): Обеспечивает конкурентоспособные позиции среди моделей аналогичного размера, демонстрируя свои возможности в генерации и понимании кода.
Mistral Tiny против других моделей Mistral
Mistral Tiny выделяется как компактная и эффективная языковая модель, специально разработанная для скорости и экономичности в простых приложениях. Точность выполнения простых задач превышает 85%., оно предлагает исключительную ценность для конкретных сценариев использования.
- ➡️ Мистраль Малый: Эта модель подходит для выполнения больших объемов задач с умеренной задержкой, обеспечивая точность 72,2% В ходе сравнительных тестов достигается баланс между производительностью и использованием ресурсов.
- ➡️ Большой Мистраль: Отлично справляется со сложными задачами, обладает развитыми аналитическими способностями и предоставляет всестороннюю многоязычную поддержку. точность 84,0%.Разработан для экстремально сложных условий эксплуатации.
- ➡️ Для исключительно сложных приложений, требующих высококачественного программирования и сложных логических рассуждений, рассмотрите следующие варианты: Микстраль 8x7B, что обеспечивает до В 6 раз более быстрая обработка результатов.
(Источник:) Инструкция Mixtral 8x7B v0.1)
Как пользоваться Mistral Tiny
Примеры кода и доступ к API:
Mistral Tiny легко доступен на Платформа API для ИИ/машинного обучения под идентификатором "мистралай/мистраль-тини"Благодаря этой бесшовной интеграции разработчики могут быстро встраивать Mistral Tiny в свои проекты.
Подробные инструкции по внедрению, исчерпывающие примеры кода и конечные точки API см. в полном списке необходимых документов. Документация по API AI.cc.
Информация об этике и лицензировании
Этические принципы:
Mistral AI придерживается строгих этических принципов, содействуя ответственному использованию и развитию ИИ. Организация уделяет первостепенное внимание прозрачности в отношении возможностей и ограничений модели, активно поощряя разработчиков тщательно обдумывать этические последствия внедрения технологий ИИ в реальные приложения.
Лицензирование:
Выпуск Mistral Tiny осуществляется с разрешения правообладателя. Лицензия Apache 2.0Такой подход с открытым исходным кодом предоставляет права как на коммерческое, так и на некоммерческое использование, что значительно способствует сотрудничеству в сообществе, инновациям и широкому внедрению в различных отраслях.
Готовы освоить возможности Mistral Tiny?
Воспользуйтесь API Mistral Tiny и начните создавать свои инновационные и эффективные приложения уже сегодня.
Получите Mitral Tiny API здесь!Часто задаваемые вопросы (FAQ)
В: Для чего в первую очередь предназначен Mistral Tiny?
A: Mistral Tiny — это легковесная языковая модель, оптимизированная для эффективного создания текста, его суммирования и автозавершения кода. Она особенно эффективна в средах с ограниченными ресурсами, требующих быстрой реакции и низкой задержки, таких как чат-боты и образовательные инструменты.
В: Каковы основные технические характеристики Mistral Tiny?
A: Он имеет 106,6 миллионов параметров, требует всего 0,4 ГБ видеопамяти, поддерживает обширную длину контекста в 131 072 токена и использует LlamaTokenizer с словарем из 32 000 токенов для надежной обработки языка.
В: Чем отличается Mistral Tiny от Mistral Small или Mistral Large?
A: Mistral Tiny разработан для быстрой и экономичной работы с простыми задачами (точность более 85%). Mistral Small справляется с большими объемами задач с умеренной задержкой (точность 72,2%), а Mistral Large превосходно справляется со сложными задачами, предлагая расширенные возможности анализа и многоязычную поддержку (точность 84,0%).
В: Под какой лицензией выпущена игра Mistral Tiny?
A: Mistral Tiny распространяется под лицензией Apache 2.0, которая предоставляет широкие права на коммерческое и некоммерческое использование, способствуя открытому сотрудничеству и инновациям.
В: Какие языки поддерживает Mistral Tiny?
А: Модель поддерживает множество языков, что делает её универсальной для глобальной аудитории. К ним относятся английский, французский, немецкий, испанский и итальянский.
Игровая площадка для ИИ



Авторизоваться