32 mil

Fora

Bater papo

desativar

Instruções DBRX

API DBRX Instruct: Modelo de linguagem aberto de última geração da Databricks, com recursos avançados e desempenho superior em benchmarks do setor.

Tokens de $1 grátis para novos membros

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'databricks/dbrx-instruct',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="databricks/dbrx-instruct",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

Uma API com mais de 300 modelos de IA

Economize 20% nos custos e ganhe tokens grátis de $1.

Obter chave de API Explorar modelos

Instruções DBRX

Detalhes do produto

💻 Apresentando o DBRX Instruct: Uma Nova Era de Mestrados em Direito Abertos

DBRX Instruct, desenvolvido por DatabricksO Instruct, versão 1.0, é um modelo de linguagem de grande porte (LLM) inovador, projetado para estabelecer novos padrões de desempenho e eficiência. Lançado em 2023, este modelo utiliza uma arquitetura sofisticada para oferecer recursos superiores em um amplo espectro de tarefas de processamento de linguagem natural.

● Nome do modelo: DBRX
● Desenvolvedor/Criador: Databricks
● Data de lançamento: 2023
● Versão: 1.0 Instruir
● Tipo de modelo: Modelo de Linguagem Amplo (LLM)

🔥 Principais destaques arquitetônicos e de desempenho

Em sua essência, o DBRX Instruct utiliza um Arquitetura de Mistura de Especialistas (MoE) de granularidade finaEste design inovador incorpora um total de 132 bilhões de parâmetros, com ativação dinâmica de 36 bilhões de parâmetros para qualquer entrada, garantindo eficiência e desempenho ideais.

✨ Principais funcionalidades:

✓ Sistema MoE avançado: Apresenta 16 especialistas capazes de selecionar 4, oferecendo 65 vezes mais combinações possíveis de especialistas do que outros modelos MoE abertos proeminentes.
✓ Ampla quantidade de dados de treinamento: Pré-treinado em um impressionante conjunto de 12 trilhões de tokens de dados de texto e código meticulosamente selecionados.
✓ Domínio do benchmark: Demonstra desempenho excepcional em áreas críticas, incluindo conhecimento geral, raciocínio de senso comum, programação e raciocínio matemático.
✓ Desempenho superior aos concorrentes: Supera consistentemente os principais modelos abertos, como Mixtral Instruct e Code Llama (70B), em diversas avaliações.

📜 Casos de uso pretendidos e suporte multilíngue

O DBRX Instruct foi projetado como um Mestrado em Direito de propósito geral, tornando-o incrivelmente versátil para uma infinidade de aplicações de processamento de linguagem natural (PLN).

💬 Ideal para:

✍ Geração de texto: Elaborar textos coerentes e contextualizados.
❓ Perguntas e Respostas: Fornecer respostas precisas e esclarecedoras às perguntas.
💻 Geração de código: Gerar trechos de código de alta qualidade e resolver desafios de programação.
🔢 Raciocínio Matemático: Excelente desempenho em tarefas que exigem conhecimentos matemáticos complexos.

Além disso, o DBRX Instruct se destaca como um modelo multilíngue, capaz de processar e gerar conteúdo em um amplo espectro de idiomas, ampliando sua aplicabilidade global.

🔗 Análise Detalhada: Especificações Técnicas e Desempenho

Arquitetura

O DBRX Instruct é construído sobre uma base Arquitetura LLM baseada em transformadores e somente decodificador, treinado usando o objetivo de previsão do próximo token. Sua configuração MoE de granularidade fina envolve 16 especialistas distintos, selecionando dinamicamente 4 para cada consulta de entrada para otimizar o processamento.

Qualidade dos dados de treinamento

As robustas capacidades do modelo derivam de seu pré-treinamento em 12 trilhões de tokens de dados de texto e código meticulosamente selecionados.Com um comprimento máximo de contexto de 32.000 tokens, estima-se que este conjunto de dados tenha pelo menos o dobro da qualidade dos dados usados para a família de modelos MPT, garantindo uma compreensão abrangente e uma grande capacidade de geração de conhecimento.

📈 Métricas de desempenho vs. Modelos líderes:

O DBRX Instruct demonstra consistentemente desempenho superior em comparação com outros modelos open source líderes em testes de desempenho padrão:

MMLU: 73,7% (Instruções DBRX) vs. 71,4% (Mixtral Instruct)
HellaSwag 10 doses: 89,0% (Instruções DBRX) vs. 87,6% (Mixtral Instruct)
WinoGrande: 81,8% (Instruções DBRX) vs. 81,1% (Mixtral Instruct)
Desafio Databricks: 66,8% (Instruções DBRX) vs. 60,7% (Mixtral Instruct)
HumanEval: 70,1% (Instruções DBRX) vs. 54,8% (Mixtral Instruct)
GSM8k: 66,9% (Instruções DBRX) vs. 61,1% (Mixtral Instruct)

💡 Primeiros passos com o DBRX Instruct

Acesso à API

O DBRX Instruct foi projetado para fácil integração via API. Um exemplo de trecho de API (por exemplo, `open-ai.chat-completion` com `databricks/dbrx-instruct`) demonstra sua usabilidade intuitiva para desenvolvedores.

📝 Informações sobre licenciamento

O DBRX Instruct está disponível para uso sob o Licença de Modelo Aberto do Databricks, promovendo amplo acesso e inovação.

💬 Perguntas Frequentes (FAQ)

P: O que é o modelo DBRX Instruct?

A: O DBRX Instruct é um modelo de linguagem de grande porte (LLM, na sigla em inglês) poderoso e de código aberto, desenvolvido pela Databricks, conhecido por sua arquitetura de Mistura de Especialistas (MoE, na sigla em inglês) de granularidade fina e alto desempenho em diversas tarefas de PNL (Processamento de Linguagem Natural).
P: Em que o DBRX Instruct se diferencia de outros LLMs?

A: Ele usa uma arquitetura MoE exclusiva com 16 especialistas (selecionando 4 por entrada), oferecendo significativamente mais combinações de especialistas e superando os principais modelos abertos, como Mixtral Instruct e Code Llama (70B), em benchmarks importantes.
P: Quais são as principais aplicações do DBRX Instruct?

A: É uma linguagem de programação de propósito geral, ideal para geração de texto, resposta a perguntas, geração de código e tarefas que exigem fortes habilidades de programação e raciocínio matemático.
P: O DBRX Instruct é multilíngue?

A: Sim, o DBRX Instruct suporta uma ampla variedade de idiomas, tornando-o adequado para aplicações globais.
P: Sob qual licença o DBRX Instruct está disponível?

A: O DBRX Instruct é distribuído sob a Licença de Modelo Aberto da Databricks.

Playground de IA

Teste todos os modelos de API no ambiente de sandbox antes de integrá-los. Oferecemos mais de 300 modelos para integrar ao seu aplicativo.

Experimente grátis

Uma API
Mais de 300 modelos de IA

Economize 20% nos custos