32K

Aus

Chat

deaktivieren

DBRX-Anweisung

DBRX Instruct API: Databricks' hochmodernes, offenes Großsprachenmodell mit fortschrittlichen Funktionen und überlegener Leistung bei Branchen-Benchmarks.

Gratis-Tokens im Wert von 1 $ für neue Mitglieder

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'databricks/dbrx-instruct',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="databricks/dbrx-instruct",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

Eine API für über 300 KI-Modelle

Sparen Sie 20 % der Kosten und erhalten Sie 1 $ gratis!

API-Schlüssel abrufen Modelle entdecken

DBRX-Anweisung

Produktdetails

💻 Wir stellen DBRX Instruct vor: Eine neue Ära offener LLMs

DBRX Instruct, entwickelt von DatabricksInstruct ist ein bahnbrechendes, großes Sprachmodell (LLM), das neue Maßstäbe in Leistung und Effizienz setzt. Die 2023 veröffentlichte Version 1.0 des Instruct-Modells nutzt eine hochentwickelte Architektur, um überragende Fähigkeiten für ein breites Spektrum von Aufgaben der natürlichen Sprachverarbeitung zu bieten.

● Modellname: DBRX
● Entwickler/Ersteller: Databricks
● Veröffentlichungsdatum: 2023
● Version: 1.0 Anweisung
● Modelltyp: Großes Sprachmodell (LLM)

🔥 Wichtigste architektonische und leistungstechnische Highlights

Im Kern verwendet DBRX Instruct ein feinkörnige Mixture-of-Experts (MoE)-ArchitekturDieses innovative Design umfasst insgesamt 132 Milliarden Parameter, wobei für jede Eingabe 36 Milliarden Parameter dynamisch aktiviert werden, um optimale Effizienz und Leistung zu gewährleisten.

✨ Kernfunktionen:

✓ Fortschrittliches MoE-System: Verfügt über 16 Experten, von denen jeweils 4 ausgewählt werden können, und bietet damit 65-mal mehr mögliche Expertenkombinationen als andere namhafte Open-MoE-Modelle.
✓ Umfangreiche Trainingsdaten: Vorab trainiert mit beeindruckenden 12 Billionen Tokens aus sorgfältig kuratierten Text- und Codedaten.
✓ Benchmark-Dominanz: Zeigt überragende Leistungen in allen wichtigen Bereichen, darunter Allgemeinwissen, logisches Denken, Programmierung und mathematisches Denken.
✓ Übertrifft die Konkurrenz: Übertrifft in diversen Evaluierungen durchweg führende Open-Source-Modelle wie Mixtral Instruct und Code Llama (70B).

📜 Vorgesehene Anwendungsfälle & Mehrsprachige Unterstützung

DBRX Instruct ist als ... konzipiert. allgemeiner LLMDadurch ist es unglaublich vielseitig für eine Vielzahl von Anwendungen im Bereich der natürlichen Sprachverarbeitung (NLP).

💬 Ideal für:

✍ Textgenerierung: Verfassen von kohärenten und kontextuell relevanten Texten.
❓ Fragenbeantwortung: Genaue und aufschlussreiche Antworten auf Anfragen liefern.
💻 Codegenerierung: Hochwertige Code-Snippets generieren und Programmierherausforderungen lösen.
🔢 Mathematisches Denken: Hervorragende Leistungen bei Aufgaben, die ein komplexes mathematisches Verständnis erfordern.

Darüber hinaus zeichnet sich DBRX Instruct durch Folgendes aus: mehrsprachiges Modell, das in der Lage ist, Inhalte in einem breiten Spektrum von Sprachen zu verarbeiten und zu generieren, wodurch seine globale Anwendbarkeit erhöht wird.

🔗 Detailanalyse: Technische Daten & Leistung

Architektur

DBRX Instruct basiert auf einem transformatorbasierte, nur aus Decodern bestehende LLM-ArchitekturDas Modell wurde mithilfe der Vorhersage des nächsten Tokens trainiert. Sein fein abgestuftes MoE-Setup umfasst 16 verschiedene Experten, von denen dynamisch 4 für jede Eingabeanfrage ausgewählt werden, um die Verarbeitung zu optimieren.

Qualität der Trainingsdaten

Die robusten Fähigkeiten des Modells beruhen auf seinem Vortraining auf 12 Billionen Tokens sorgfältig kuratierter Text- und CodedatenMit einer maximalen Kontextlänge von 32.000 Tokens dürfte dieser Datensatz mindestens doppelt so hochwertig sein wie die Daten, die für die MPT-Modellfamilie verwendet werden, wodurch ein umfassendes Verständnis und eine hohe Generierungskapazität gewährleistet werden.

📈 Leistungskennzahlen im Vergleich zu führenden Modellen:

DBRX Instruct zeigt bei Standard-Benchmarks durchweg eine überlegene Leistung gegenüber anderen führenden Open-Source-Modellen:

MMLU: 73,7 % (DBRX-Anweisung) gegenüber 71,4 % (Mixtral Instruct)
HellaSwag 10-Schuss: 89,0 % (DBRX-Anweisung) gegenüber 87,6 % (Mixtral Instruct)
WinoGrande: 81,8 % (DBRX-Anweisung) gegenüber 81,1 % (Mixtral Instruct)
Databricks-Herausforderung: 66,8 % (DBRX-Anweisung) gegenüber 60,7 % (Mixtral Instruct)
HumanEval: 70,1 % (DBRX-Anweisung) gegenüber 54,8 % (Mixtral Instruct)
GSM8k: 66,9 % (DBRX-Anweisung) gegenüber 61,1 % (Mixtral Instruct)

💡 Erste Schritte mit DBRX Instruct

API-Zugriff

DBRX Instruct ist für die einfache Integration über eine API konzipiert. Ein Beispiel-API-Snippet (z. B. `open-ai.chat-completion` mit `databricks/dbrx-instruct`) demonstriert die unkomplizierte Bedienbarkeit für Entwickler.

📝 Lizenzinformationen

DBRX Instruct ist unter folgender Bedingung verfügbar: Databricks Open Model License, Förderung eines breiten Zugangs und von Innovationen.

💬 Häufig gestellte Fragen (FAQ)

F: Was ist das DBRX-Instruktionsmodell?

A: DBRX Instruct ist ein leistungsstarkes Open-Source-LLM (Large Language Model), das von Databricks entwickelt wurde und für seine feingranulare Mixture-of-Experts-Architektur (MoE) sowie seine starke Leistung bei verschiedenen NLP-Aufgaben bekannt ist.
F: Worin unterscheidet sich DBRX Instruct von anderen LLMs?

A: Es verwendet eine einzigartige MoE-Architektur mit 16 Experten (4 pro Eingabe werden ausgewählt), bietet deutlich mehr Expertenkombinationen und übertrifft führende offene Modelle wie Mixtral Instruct und Code Llama (70B) bei wichtigen Benchmarks.
F: Was sind die Hauptanwendungen von DBRX Instruct?

A: Es handelt sich um einen universell einsetzbaren LLM, der sich ideal für Textgenerierung, Fragebeantwortung, Codegenerierung und Aufgaben eignet, die starke Programmier- und mathematische Denkfähigkeiten erfordern.
F: Ist DBRX Instruct mehrsprachig?

A: Ja, DBRX Instruct unterstützt eine breite Palette von Sprachen und eignet sich daher für globale Anwendungen.
F: Unter welcher Lizenz ist DBRX Instruct erhältlich?

A: DBRX Instruct wird unter der Databricks Open Model License veröffentlicht.

KI-Spielplatz

Testen Sie alle API-Modelle in der Sandbox-Umgebung, bevor Sie sie integrieren. Wir bieten über 300 Modelle zur Integration in Ihre App an.

Kostenlos testen

Eine API
Mehr als 300 KI-Modelle

Sparen Sie 20 % der Kosten