Вне

Чат

запрещать

Гуанако (33B)

Guanaco-33B — это высококачественная модель чат-бота с открытым исходным кодом, разработанная путем тонкой настройки LLaMA на OASST1 с использованием 4-битного QLoRA. Она предназначена для исследовательских целей.

Новые участники получат бесплатные токены номиналом 1 доллар.

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'togethercomputer/guanaco-33b',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="togethercomputer/guanaco-33b",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

Один API, более 300 моделей ИИ.

Сэкономьте 20% на расходах и получите бесплатные токены на 1 доллар.

Получить ключ API Изучите модели

Гуанако (33B)

Подробная информация о товаре

✨ Guanaco-33B: Мощная LLM-программа с открытым исходным кодом для разговорного ИИ

Он Гуанако-33Б Эта модель выделяется как высококачественная, открытая языковая модель (LLM), разработанная для сложных приложений чат-ботов. Разработана компанией... Тим Деттмерс и выпущен в Апрель 2023 г.Эта модель с 33 миллиардами параметров представляет собой доработанную версию архитектуры LLaMA. Благодаря инновационному использованию... 4-битный QLoRA.

Основные характеристики модели:

• Название модели: Гуанако
• Разработчик/Создатель: Тим Деттмерс
• Дата выпуска: Апрель 2023 г.
• Версия: Параметры 33B
• Тип модели: Текстовая большая языковая модель (LLM)

🚀 Основные характеристики и технические инновации

Guanaco-33B включает в себя ряд передовых функций, которые способствуют его эффективности и высокой производительности:

• Многоязычная компетентность: Прошел обучение по комплексной программе. набор данных OASST1Она превосходно работает с языками с большим количеством ресурсов, поддерживая при этом разнообразные языковые средства.
• Эффективное использование адаптера: Использует адаптеры LoRA с r=64 Конфигурация, органично интегрированная во все уровни базовой модели LLaMA.
• 4-битная тонкая настройка QLoRA: Использует 4-битный QLoRA с типом данных NormalFloat4, оптимизируя базовую модель и адаптеры для уменьшения объема используемой памяти и ускорения экспериментов.
• Упрощенные контрольно-пропускные пункты: Предлагает контрольные точки, требующие только адаптеров, что значительно снижает барьер для локальных экспериментов и разработок.

🧠 Архитектура, обучение и анализ данных

Модель Guanaco-33B построена на основе надежной конструкции. Архитектура LLaMA, широко известная языковая модель на основе трансформеров. Процесс её тонкой настройки опирается на ключевой набор данных:

Тренировочные данные:

• Источник набора данных: Доработано исключительно на набор данных OASST1, это совместная многоязычная коллекция диалогов с голосовым помощником с открытым исходным кодом.
• Масштаб и охват: Состоит из более чем 100 000 разговоров на различных языках, что обеспечивает разнообразные и открытые возможности для диалога.
• Разнообразие и предвзятость: Многоязычный характер OASST1 помогает смягчить присущие ему искажения и повышает его способность обрабатывать разнообразные входные данные, хотя полные характеристики набора данных не являются общедоступными.
• Порог знаний: Точная дата прекращения распространения знаний о проекте Guanaco-33B не разглашается, что соответствует его непрерывному развитию как проекта с открытым исходным кодом.

💡 Назначение, этические нормы и лицензирование

Проект Guanaco-33B разработан в первую очередь для цели исследованияПользователям крайне важно понимать, что, как и многие экспериментальные модели ИИ, она может время от времени выдавать результаты, которые можно считать проблематичными.

Важная информация:

• Языковая поддержка: Оптимальная производительность наблюдается в языках с большим объемом ресурсов, что отражает состав их обучающих данных.
• Этические принципы: Издание Anthropic опубликовало этические принципы за его разработку и использование, с акцентом на прозрачность, подотчетность и защиту от потенциального неправомерного использования.
• Подробности лицензии: Модель Guanaco-33B работает в соответствии с Лицензия Apache 2Это позволяет использовать модель в самых разных коммерческих и некоммерческих целях. Однако доступ к базовым весам модели LLaMA требует заключения отдельных лицензионных соглашений.

📊 Показатели производительности и сравнительный анализ

Guanaco-33B прошел строгую оценку по нескольким бенчмаркам, включая престижный рейтинг Anthropic Chatbot Leaderboard. На этих платформах он неизменно демонстрирует... высокие конкурентные показатели При сравнении с ведущими коммерческими моделями ИИ, такими как ChatGPT и BARD от Google, следует отметить, что его производительность может варьироваться в зависимости от конкретного языкового контекста и задач, не охваченных текущими оценочными тестами.

🖥️ Пример интеграции API

Для разработчиков, желающих интегрировать Guanaco-33B в свои приложения, вот стандартный пример использования API:

data-name = "open-ai.chat-completion" data-model = "togethercomputer/guanaco-33b" >

❓ Часто задаваемые вопросы (FAQ)

В1: Что такое Guanaco-33B и что делает его уникальным?

Guanaco-33B — это текстовая модель логического мышления с открытым исходным кодом, содержащая 33 миллиарда параметров, разработанная Тимом Деттмерсом. Ее уникальность заключается в том, что она была доработана на основе модели LLaMA с использованием 4-битного алгоритма QLoRA, что обеспечивает конкурентоспособную производительность по сравнению с коммерческими чат-ботами для исследовательских целей.

В2: На каких данных обучалась модель Guanaco-33B?

Он был доработан на наборе данных OASST1, представляющем собой многоязычную коллекцию из более чем 100 000 диалогов с голосовыми помощниками с открытым исходным кодом, что обеспечивает его широкие возможности в области диалогового взаимодействия.

Q3: Можно ли использовать месторождение Гуанако-33Б в коммерческих проектах?

Сама модель Guanaco-33B распространяется под лицензией Apache 2, которая разрешает как коммерческое, так и некоммерческое использование. Однако использование весов базовой модели LLaMA требует соблюдения дополнительных лицензионных требований.

Q4: Как его производительность соотносится с другими чат-ботами?

Чат-бот Guanaco-33B продемонстрировал конкурентоспособные результаты по сравнению с коммерческими чат-ботами, такими как ChatGPT и BARD, в различных тестах, включая таблицу лидеров антропологических чат-ботов.

В5: Существуют ли какие-либо этические соображения, связанные с использованием Guanaco-33B?

Да, это в первую очередь для исследовательских целей, и пользователи должны знать о потенциально проблемных результатах. Организация Anthropic выпустила этические руководства, направленные на обеспечение прозрачности, подотчетности и предотвращение злоупотреблений, которым следует следовать.