qwen-bg
max-ico04
2K
В
Вне
max-ico02
Чат
max-ico03
запрещать
Гуанако (13B)
Guanaco-13B: Модель многоязычного чат-бота с открытым исходным кодом на основе LLaMA, эффективная 4-битная тонкая настройка QLoRA, конкурентоспособные результаты в бенчмарках.
Новые участники получат бесплатные токены номиналом 1 доллар.
Text to Speech
                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'togethercomputer/guanaco-13b',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();
                                
                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="togethercomputer/guanaco-13b",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")
Docs

Один API, более 300 моделей ИИ.

Сэкономьте 20% на расходах и получите бесплатные токены на 1 доллар.
qwenmax-bg
изображение
Гуанако (13B)

Подробная информация о товаре

Обнаружить Гуанако-13БGuanaco-13B — это передовая, оптимизированная с открытым исходным кодом, разработанная для создания высококачественных многоязычных чат-ботов. Созданная на основе надежной базовой модели LLaMA, Guanaco-13B демонстрирует производительность, сопоставимую с ведущими коммерческими системами, такими как ChatGPT и BARD, что делает ее бесценным инструментом для исследователей и разработчиков.

✨ Основные характеристики Guanaco-13B

  • Природа открытого исходного кода: Доступно для исследований и экспериментов в свободном доступе.
  • Эффективная тонкая настройка: Используется 4-битная тонкая настройка QLoRA на обширном наборе данных OASST1.
  • Универсальность модели: Доступен в нескольких размерах (7, 13, 33, 65 параметров), удовлетворяющих различным вычислительным потребностям. Данная конкретная версия предназначена для... 13Б.
  • Многоязычная поддержка: Оптимизирован для языков программирования с высокими требованиями к ресурсам, что облегчает разработку чат-ботов по всему миру.
  • Конкурентные показатели: Достигает результатов, сопоставимых с результатами коммерческих гигантов в сфере магистерских программ.

🚀 Предполагаемые варианты использования

Guanaco-13B специально разработан для исследователи и разработчики ИИЭто позволяет им проводить экономически эффективные и локальные эксперименты с передовыми, высококачественными многоязычными системами чат-ботов. Открытый исходный код способствует инновациям и сотрудничеству внутри сообщества искусственного интеллекта.

💡 Технические характеристики

Обзор архитектуры

Архитектурные корни модели Guanaco-13B уходят в... Базовая модель LLaMA. Она расширяет свои возможности за счет интеграции адаптеров LoRA (Low-Rank Adaptation) на всех уровнях, с рангом 64, оптимизируя свою производительность и эффективность.

Тренировочные данные и тонкая настройка

Модель проходит тонкую настройку на Набор данных OASST1 (Open Assistant Supervised Task 1)Этот набор данных, хотя и многоязычный, уделяет значительное внимание языкам с высоким уровнем развития. Состоящий из диалогов, написанных людьми, OASST1 имеет решающее значение для того, чтобы язык Guanaco-13B мог обучаться и генерировать естественные, привлекательные диалоговые модели. Точный размер набора данных, использованного для тонкой настройки этой конкретной версии, не был публично раскрыт.

Пороговые значения знаний и предвзятость

Конкретная дата окончания обучения для Guanaco-13B явно не указана в доступной документации. Благодаря обучению на многоязычном наборе данных, таком как OASST1, Guanaco-13B потенциально может продемонстрировать уменьшенное смещение По сравнению с моделями, обученными на моноязычных данных. Однако присущая набору данных ориентация на языки с высоким уровнем распространения может все же вносить некоторые языковые искажения.

Сравнительный анализ производительности

Гуанако-13B продемонстрировал показатели конкурентоспособности, что позволяет им конкурировать с коммерческими системами, такими как ChatGPT и BARD, на признанных бенчмарках, таких как Vicuna и OpenAssistant.

🛠️ Правила использования и рекомендации

Пример использования API

// Пример использования гипотетической конечной точки API import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer YOUR_API_KEY" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "Расскажите мне интересный факт о жирафах."} ] } response = requests.post(url, headers=headers, json=data) print(response.json())

Этические аспекты и лицензирование

Хотя разработчики Guanaco-13B не опубликовали конкретные этические рекомендации по его использованию, пользователям настоятельно рекомендуется их соблюдать. общие этические принципы искусственного интеллектаМодель выпущена под эгидой... лицензия с открытым исходным кодомВ основном для исследовательских и некоммерческих целей, хотя точный тип лицензии в документации не указан. Пользователям следует проверить действующие условия лицензирования для конкретного варианта развертывания.

❓ Часто задаваемые вопросы (FAQ)

В: Что такое гуанако-13B?
A: Guanaco-13B — это модель обработки больших языков (LLM) с открытым исходным кодом, основанная на архитектуре LLaMA и предназначенная для создания высококачественных многоязычных чат-ботов.

В: Можно ли использовать Guanaco-13B бесплатно?
А: Да, он распространяется под лицензией с открытым исходным кодом, в основном для исследовательских и некоммерческих экспериментов. Для конкретного коммерческого использования может потребоваться ознакомление с подробными условиями лицензии.

В: Какие наборы данных использовались для обучения Guanaco-13B?
A: Модель Guanaco-13B была доработана с использованием набора данных OASST1 (Open Assistant Supervised Task 1), который состоит из написанных людьми диалогов и является многоязычным.

В: Чем Guanaco-13B отличается от коммерческих моделей, таких как ChatGPT?
A: Guanaco-13B продемонстрировал конкурентоспособные результаты по сравнению с коммерческими системами, такими как ChatGPT и BARD, в различных тестах, предлагая собой достойную альтернативу с открытым исходным кодом.

В: Может ли Guanaco-13B поддерживать несколько языков?
А: Да, он предлагает многоязычную поддержку с упором на языки с большим объемом ресурсов, что стало возможным благодаря тонкой настройке на наборе данных OASST1.

Игровая площадка для ИИ

Перед интеграцией протестируйте все модели API в тестовой среде. Мы предоставляем более 300 моделей для интеграции в ваше приложение.
Попробуйте бесплатно
api-right-1
модель-bg02-1

Один API
Более 300 моделей ИИ

Сэкономьте 20% на расходах