



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'togethercomputer/guanaco-13b',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="togethercomputer/guanaco-13b",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Подробная информация о товаре
Обнаружить Гуанако-13БGuanaco-13B — это передовая, оптимизированная с открытым исходным кодом, разработанная для создания высококачественных многоязычных чат-ботов. Созданная на основе надежной базовой модели LLaMA, Guanaco-13B демонстрирует производительность, сопоставимую с ведущими коммерческими системами, такими как ChatGPT и BARD, что делает ее бесценным инструментом для исследователей и разработчиков.
✨ Основные характеристики Guanaco-13B
- Природа открытого исходного кода: Доступно для исследований и экспериментов в свободном доступе.
- Эффективная тонкая настройка: Используется 4-битная тонкая настройка QLoRA на обширном наборе данных OASST1.
- Универсальность модели: Доступен в нескольких размерах (7, 13, 33, 65 параметров), удовлетворяющих различным вычислительным потребностям. Данная конкретная версия предназначена для... 13Б.
- Многоязычная поддержка: Оптимизирован для языков программирования с высокими требованиями к ресурсам, что облегчает разработку чат-ботов по всему миру.
- Конкурентные показатели: Достигает результатов, сопоставимых с результатами коммерческих гигантов в сфере магистерских программ.
🚀 Предполагаемые варианты использования
Guanaco-13B специально разработан для исследователи и разработчики ИИЭто позволяет им проводить экономически эффективные и локальные эксперименты с передовыми, высококачественными многоязычными системами чат-ботов. Открытый исходный код способствует инновациям и сотрудничеству внутри сообщества искусственного интеллекта.
💡 Технические характеристики
Обзор архитектуры
Архитектурные корни модели Guanaco-13B уходят в... Базовая модель LLaMA. Она расширяет свои возможности за счет интеграции адаптеров LoRA (Low-Rank Adaptation) на всех уровнях, с рангом 64, оптимизируя свою производительность и эффективность.
Тренировочные данные и тонкая настройка
Модель проходит тонкую настройку на Набор данных OASST1 (Open Assistant Supervised Task 1)Этот набор данных, хотя и многоязычный, уделяет значительное внимание языкам с высоким уровнем развития. Состоящий из диалогов, написанных людьми, OASST1 имеет решающее значение для того, чтобы язык Guanaco-13B мог обучаться и генерировать естественные, привлекательные диалоговые модели. Точный размер набора данных, использованного для тонкой настройки этой конкретной версии, не был публично раскрыт.
Пороговые значения знаний и предвзятость
Конкретная дата окончания обучения для Guanaco-13B явно не указана в доступной документации. Благодаря обучению на многоязычном наборе данных, таком как OASST1, Guanaco-13B потенциально может продемонстрировать уменьшенное смещение По сравнению с моделями, обученными на моноязычных данных. Однако присущая набору данных ориентация на языки с высоким уровнем распространения может все же вносить некоторые языковые искажения.
Сравнительный анализ производительности
Гуанако-13B продемонстрировал показатели конкурентоспособности, что позволяет им конкурировать с коммерческими системами, такими как ChatGPT и BARD, на признанных бенчмарках, таких как Vicuna и OpenAssistant.
🛠️ Правила использования и рекомендации
Пример использования API
// Пример использования гипотетической конечной точки API import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer YOUR_API_KEY" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "Расскажите мне интересный факт о жирафах."} ] } response = requests.post(url, headers=headers, json=data) print(response.json()) Этические аспекты и лицензирование
Хотя разработчики Guanaco-13B не опубликовали конкретные этические рекомендации по его использованию, пользователям настоятельно рекомендуется их соблюдать. общие этические принципы искусственного интеллектаМодель выпущена под эгидой... лицензия с открытым исходным кодомВ основном для исследовательских и некоммерческих целей, хотя точный тип лицензии в документации не указан. Пользователям следует проверить действующие условия лицензирования для конкретного варианта развертывания.
❓ Часто задаваемые вопросы (FAQ)
В: Что такое гуанако-13B?
A: Guanaco-13B — это модель обработки больших языков (LLM) с открытым исходным кодом, основанная на архитектуре LLaMA и предназначенная для создания высококачественных многоязычных чат-ботов.
В: Можно ли использовать Guanaco-13B бесплатно?
А: Да, он распространяется под лицензией с открытым исходным кодом, в основном для исследовательских и некоммерческих экспериментов. Для конкретного коммерческого использования может потребоваться ознакомление с подробными условиями лицензии.
В: Какие наборы данных использовались для обучения Guanaco-13B?
A: Модель Guanaco-13B была доработана с использованием набора данных OASST1 (Open Assistant Supervised Task 1), который состоит из написанных людьми диалогов и является многоязычным.
В: Чем Guanaco-13B отличается от коммерческих моделей, таких как ChatGPT?
A: Guanaco-13B продемонстрировал конкурентоспособные результаты по сравнению с коммерческими системами, такими как ChatGPT и BARD, в различных тестах, предлагая собой достойную альтернативу с открытым исходным кодом.
В: Может ли Guanaco-13B поддерживать несколько языков?
А: Да, он предлагает многоязычную поддержку с упором на языки с большим объемом ресурсов, что стало возможным благодаря тонкой настройке на наборе данных OASST1.
Игровая площадка для ИИ



Авторизоваться