Fora

Bater papo

desativar

Guanaco (13B)

Guanaco-13B: Modelo de chatbot multilíngue de código aberto baseado em LLaMA, com ajuste fino eficiente de QLoRA de 4 bits e desempenho competitivo em benchmarks.

Tokens de $1 grátis para novos membros

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'togethercomputer/guanaco-13b',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="togethercomputer/guanaco-13b",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

Uma API com mais de 300 modelos de IA

Economize 20% nos custos e ganhe tokens grátis de $1.

Obter chave de API Explorar modelos

Guanaco (13B)

Detalhes do produto

Descobrir Guanaco-13BGuanaco-13B é um modelo de linguagem de código aberto avançado e otimizado, projetado para criar chatbots multilíngues de alta qualidade. Construído sobre o robusto modelo base LLaMA, o Guanaco-13B oferece desempenho comparável a sistemas comerciais líderes como ChatGPT e BARD, tornando-se uma ferramenta indispensável para pesquisadores e desenvolvedores.

✨ Principais características do Guanaco-13B

Natureza de código aberto: Disponível gratuitamente para pesquisa e experimentação.
Ajuste fino eficiente: Utiliza o ajuste fino QLoRA de 4 bits no extenso conjunto de dados OASST1.
Versatilidade do modelo: Disponível em vários tamanhos (parâmetros 7B, 13B, 33B, 65B), atendendo a diversas necessidades computacionais. Esta versão em particular é 13B.
Suporte multilíngue: Otimizado para idiomas com muitos recursos, facilitando o desenvolvimento global de chatbots.
Desempenho competitivo: Apresenta resultados comparáveis aos de gigantes comerciais na área de LLM.

🚀 Casos de uso pretendidos

O Guanaco-13B foi projetado especificamente para Pesquisadores e desenvolvedores de IAIsso lhes permite realizar experimentos locais e com boa relação custo-benefício com sistemas de chatbot multilíngues de ponta e alta qualidade. Sua natureza de código aberto fomenta a inovação e a colaboração dentro da comunidade de IA.

💡 Especificações Técnicas

Visão geral da arquitetura

O modelo Guanaco-13B tem suas raízes arquitetônicas no modelo base LLaMAAprimora suas capacidades por meio da integração de adaptadores LoRa (Low-Rank Adaptation) em todas as camadas, com classificação 64, otimizando seu desempenho e eficiência.

Dados de treinamento e ajuste fino

O modelo passa por ajustes finos no Conjunto de dados OASST1 (Open Assistant Supervised Task 1)Este conjunto de dados, embora multilíngue, dá grande ênfase a idiomas com muitos recursos. Composto por conversas escritas por humanos, o OASST1 é crucial para permitir que o Guanaco-13B aprenda e gere padrões de diálogo naturais e envolventes. O tamanho exato do conjunto de dados usado para o ajuste fino desta versão específica não foi divulgado publicamente.

Limites de conhecimento e vieses

A data limite específica para o conhecimento do Guanaco-13B não é explicitamente fornecida na documentação disponível. Devido ao seu treinamento em um conjunto de dados multilíngue como o OASST1, o Guanaco-13B tem potencial para demonstrar viés reduzido Em comparação com modelos treinados em dados monolíngues, o foco inerente do conjunto de dados em idiomas com muitos recursos ainda pode introduzir alguns vieses específicos de cada idioma.

Análise comparativa de desempenho

Guanaco-13B demonstrou métricas de desempenho competitivo, equiparando-se a sistemas comerciais como ChatGPT e BARD em benchmarks reconhecidos como Vicuna e OpenAssistant.

🛠️ Uso e Diretrizes

Exemplo de uso da API

// Exemplo usando um endpoint de API hipotético import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer YOUR_API_KEY" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "Conte-me uma curiosidade sobre girafas."} ] } response = requests.post(url, headers=headers, json=data) print(response.json())

Considerações éticas e licenciamento

Embora diretrizes éticas específicas para o uso do Guanaco-13B não tenham sido divulgadas publicamente por seus desenvolvedores, os usuários são fortemente encorajados a aderir a elas. princípios éticos gerais da IAO modelo é lançado sob um licença de código aberto, principalmente para fins de pesquisa e não comerciais, embora o tipo exato de licença não esteja detalhado na documentação. Os usuários devem verificar os termos de licenciamento vigentes para qualquer implementação específica.

❓ Perguntas frequentes (FAQ)

P: O que é Guanaco-13B?
A: Guanaco-13B é um modelo de linguagem de grande porte (LLM) de código aberto e altamente otimizado, baseado na arquitetura LLaMA, projetado para a criação de chatbots multilíngues de alta qualidade.

P: O Guanaco-13B é de uso gratuito?
R: Sim, ele é distribuído sob uma licença de código aberto, destinada principalmente à pesquisa e experimentação não comercial. Para uso comercial específico, pode ser necessário verificar os termos detalhados da licença.

P: Quais conjuntos de dados foram usados para treinar o Guanaco-13B?
A: O Guanaco-13B foi ajustado usando o conjunto de dados OASST1 (Open Assistant Supervised Task 1), que consiste em conversas escritas por humanos e é multilíngue.

P: Como o Guanaco-13B se compara a modelos comerciais como o ChatGPT?
A: O Guanaco-13B demonstrou desempenho competitivo com sistemas comerciais como ChatGPT e BARD em vários benchmarks, oferecendo uma forte alternativa de código aberto.

P: O Guanaco-13B suporta vários idiomas?
A: Sim, oferece suporte multilíngue, com foco em idiomas com muitos recursos, possibilitado pelo seu ajuste fino no conjunto de dados OASST1.

Playground de IA

Teste todos os modelos de API no ambiente de sandbox antes de integrá-los. Oferecemos mais de 300 modelos para integrar ao seu aplicativo.

Experimente grátis

Uma API
Mais de 300 modelos de IA

Economize 20% nos custos