



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'databricks/dbrx-instruct',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="databricks/dbrx-instruct",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Detalles del producto
💻 Presentamos DBRX Instruct: Una nueva era de programas de máster en derecho abiertos.
DBRX Instruct, desarrollado por Databrickses un innovador modelo de lenguaje a gran escala (LLM, por sus siglas en inglés) diseñado para establecer nuevos estándares en rendimiento y eficiencia. Lanzado en 2023, este modelo Instruct versión 1.0 aprovecha una arquitectura sofisticada para ofrecer capacidades superiores en un amplio espectro de tareas de procesamiento del lenguaje natural.
- ● Nombre del modelo: DBRX
- ● Desarrollador/Creador: Databricks
- ● Fecha de lanzamiento: 2023
- ● Versión: 1.0 Instruir
- ● Tipo de modelo: Modelo de lenguaje a gran escala (LLM)
🔥 Aspectos arquitectónicos y de rendimiento clave
En esencia, DBRX Instruct utiliza un Arquitectura de mezcla de expertos (MoE) de grano finoEste diseño innovador incorpora un total de 132 mil millones de parámetros, con una activación dinámica de 36 mil millones de parámetros para cualquier entrada dada, lo que garantiza una eficiencia y un rendimiento óptimos.
✨ Características principales:
- ✓ Sistema avanzado MoE: Incluye 16 expertos capaces de seleccionar 4, lo que ofrece 65 veces más combinaciones posibles de expertos que otros modelos MoE abiertos destacados.
- ✓ Amplios datos de entrenamiento: Preentrenado con la impresionante cantidad de 12 billones de tokens de datos de texto y código meticulosamente seleccionados.
- ✓ Dominio de referencia: Demuestra un desempeño excepcional en parámetros críticos que incluyen conocimientos generales, razonamiento de sentido común, programación y razonamiento matemático.
- ✓ Supera a sus competidores: Supera sistemáticamente a los principales modelos abiertos, como Mixtral Instruct y Code Llama (70B), en diversas evaluaciones.
📜 Casos de uso previstos y soporte multilingüe
DBRX Instruct está diseñado como un Máster en Derecho de propósito general, lo que la hace increíblemente versátil para multitud de aplicaciones de procesamiento del lenguaje natural (PLN).
💬 Ideal para:
- ✍ Generación de texto: Elaborar textos coherentes y contextualmente relevantes.
- ❓ Preguntas y respuestas: Proporcionar respuestas precisas y esclarecedoras a las consultas.
- 💻 Generación de código: Generar fragmentos de código de alta calidad y resolver desafíos de programación.
- 🔢 Razonamiento matemático: Destacar en tareas que requieren una comprensión matemática compleja.
Además, DBRX Instruct destaca como un modelo multilingüe, capaz de procesar y generar contenido en un amplio espectro de idiomas, lo que mejora su aplicabilidad global.
🔗 Análisis en profundidad: Especificaciones técnicas y rendimiento
Arquitectura
DBRX Instruct está construido sobre una base Arquitectura LLM basada en transformador y solo con decodificador, entrenado utilizando el objetivo de predicción del siguiente token. Su configuración de MoE de grano fino involucra a 16 expertos distintos, seleccionando dinámicamente 4 para cada consulta de entrada para optimizar el procesamiento.
Calidad de los datos de capacitación
Las sólidas capacidades del modelo provienen de su preentrenamiento en 12 billones de tokens de datos de texto y código meticulosamente seleccionados.Con una longitud máxima de contexto de 32.000 tokens, se estima que este conjunto de datos tiene al menos el doble de calidad que los datos utilizados para la familia de modelos MPT, lo que garantiza una gran capacidad de comprensión y generación.
📈 Métricas de rendimiento frente a modelos líderes:
DBRX Instruct demuestra sistemáticamente un rendimiento superior frente a otros modelos abiertos líderes en pruebas de referencia estándar:
- MMLU: 73,7% (Instrucciones de DBRX) frente al 71,4% (Instrucción Mixtral)
- HellaSwag 10 disparos: 89,0% (Instrucciones de DBRX) frente al 87,6% (Instrucción Mixtral)
- WinoGrande: 81,8% (Instrucciones de DBRX) frente al 81,1% (Instrucción Mixtral)
- Desafío de Databricks: 66,8% (Instrucciones de DBRX) frente al 60,7% (Instrucción Mixtral)
- Evaluación humana: 70,1% (Instrucciones de DBRX) frente a 54,8% (Instrucción Mixtral)
- GSM8k: 66,9% (Instrucciones de DBRX) frente al 61,1% (Instrucción Mixtral)
💡 Primeros pasos con DBRX Instruct
Acceso a la API
DBRX Instruct está diseñado para una fácil integración a través de API. Un ejemplo de fragmento de API (por ejemplo, `open-ai.chat-completion` con `databricks/dbrx-instruct`) demuestra su facilidad de uso para los desarrolladores.
📝 Información sobre licencias
DBRX Instruct está disponible para su uso bajo el Licencia de modelo abierto de Databricks, promoviendo un amplio acceso y la innovación.
💬 Preguntas frecuentes (FAQ)
-
P: ¿Qué es el modelo DBRX Instruct?
A: DBRX Instruct es un potente modelo de lenguaje a gran escala (LLM, por sus siglas en inglés) de código abierto desarrollado por Databricks, conocido por su arquitectura de mezcla de expertos (MoE, por sus siglas en inglés) de grano fino y su sólido rendimiento en diversas tareas de PNL.
-
P: ¿En qué se diferencia DBRX Instruct de otros programas de Maestría en Derecho (LLM)?
A: Utiliza una arquitectura MoE única con 16 expertos (seleccionando 4 por entrada), lo que ofrece muchas más combinaciones de expertos y supera a los principales modelos abiertos como Mixtral Instruct y Code Llama (70B) en pruebas de rendimiento clave.
-
P: ¿Cuáles son las principales aplicaciones de DBRX Instruct?
A: Es un LLM de propósito general, ideal para la generación de texto, la respuesta a preguntas, la generación de código y tareas que requieren sólidas capacidades de programación y razonamiento matemático.
-
P: ¿DBRX Instruct es multilingüe?
R: Sí, DBRX Instruct admite una amplia gama de idiomas, lo que lo hace adecuado para aplicaciones globales.
-
P: ¿Bajo qué licencia está disponible DBRX Instruct?
R: DBRX Instruct se distribuye bajo la Licencia de Modelo Abierto de Databricks.
Campo de juegos de IA



Acceso