qwen-bg
max-ico04
2K
Dans
Dehors
max-ico02
Chat
max-ico03
désactiver
Guanaco (13B)
Guanaco-13B : Modèle de chatbot multilingue open source basé sur LLaMA, réglage fin QLoRA 4 bits efficace, performances de référence compétitives.
Jetons gratuits de 1 $ pour les nouveaux membres
Text to Speech
                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'togethercomputer/guanaco-13b',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();
                                
                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="togethercomputer/guanaco-13b",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")
Docs

Une seule API pour plus de 300 modèles d'IA

Économisez 20 % sur les coûts et recevez des jetons gratuits d'une valeur de 1 $.
qwenmax-bg
image
Guanaco (13B)

Détails du produit

Découvrir Guanaco-13BGuanaco-13B est un modèle de langage étendu (LLM) open source avancé et finement optimisé, conçu pour exceller dans la création de chatbots multilingues de haute qualité. Basé sur le modèle robuste LLaMA, il offre des performances comparables à celles des principaux systèmes commerciaux tels que ChatGPT et BARD, ce qui en fait un outil précieux pour les chercheurs et les développeurs.

✨ Principales caractéristiques du Guanaco-13B

  • Nature open source : Librement disponible pour la recherche et l'expérimentation.
  • Réglage fin efficace : Utilise un réglage fin QLoRA 4 bits sur le vaste ensemble de données OASST1.
  • Polyvalence du modèle : Disponible en plusieurs tailles (7B, 13B, 33B, 65B de paramètres), répondant à divers besoins de calcul. Cette version particulière est 13B.
  • Assistance multilingue : Optimisé pour les langages à ressources élevées, facilitant le développement global des chatbots.
  • Performance concurrentielle : Offre des résultats comparables à ceux des géants du secteur du LLM.

🚀 Cas d'utilisation prévus

Le Guanaco-13B est spécialement conçu pour Chercheurs et développeurs en IAElle leur permet de mener des expériences locales et économiques avec des systèmes de chatbots multilingues de pointe et de haute qualité. Son caractère open source favorise l'innovation et la collaboration au sein de la communauté de l'IA.

💡 Spécifications techniques

Aperçu de l'architecture

Le modèle Guanaco-13B s'inspire architecturalement du Modèle de base LLaMAIl améliore ses capacités grâce à l'intégration d'adaptateurs LoRA (Low-Rank Adaptation) sur toutes les couches, avec un rang de 64, optimisant ainsi ses performances et son efficacité.

Données d'entraînement et réglage fin

Le modèle fait l'objet d'un réglage fin sur le Ensemble de données OASST1 (Open Assistant Supervised Task 1)Ce jeu de données, bien que multilingue, privilégie les langues disposant de ressources importantes. Composé de conversations rédigées par des humains, OASST1 est essentiel pour permettre à Guanaco-13B d'apprendre et de générer des dialogues naturels et captivants. La taille exacte du jeu de données utilisé pour l'optimisation de cette version n'a pas été divulguée publiquement.

Seuil de connaissance et biais

La date limite de connaissances précise pour Guanaco-13B n'est pas explicitement fournie dans la documentation disponible. Du fait de son entraînement sur un ensemble de données multilingue comme OASST1, Guanaco-13B a ​​le potentiel de présenter biais réduit Comparativement aux modèles entraînés sur des données monolingues, l'orientation intrinsèque de l'ensemble de données vers des langues disposant de ressources importantes pourrait néanmoins introduire certains biais spécifiques à chaque langue.

Analyse comparative des performances

Guanaco-13B a ​​démontré indicateurs de performance concurrentielle, égalant les systèmes commerciaux tels que ChatGPT et BARD sur des benchmarks reconnus comme Vicuna et OpenAssistant.

🛠️ Utilisation et directives

Exemple d'utilisation de l'API

// Exemple utilisant un point de terminaison d'API hypothétique import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer VOTRE_CLÉ_API" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "Racontez-moi une anecdote amusante sur les girafes."} ] } response = requests.post(url, headers=headers, json=data) print(response.json())

Considérations éthiques et licences

Bien que les développeurs de Guanaco-13B n'aient pas publié de directives éthiques spécifiques concernant son utilisation, les utilisateurs sont fortement encouragés à s'y conformer. Principes éthiques généraux de l'IALe modèle est commercialisé sous une licence. licence open-sourceCette licence est principalement destinée à la recherche et à des fins non commerciales, bien que le type de licence précis ne soit pas détaillé dans la documentation. Il est conseillé aux utilisateurs de vérifier les conditions de licence en vigueur pour chaque déploiement.

❓ Foire aux questions (FAQ)

Q : Qu'est-ce que le Guanaco-13B ?
A: Guanaco-13B est un modèle de langage étendu (LLM) open source et finement paramétré, basé sur l'architecture LLaMA, conçu pour créer des chatbots multilingues de haute qualité.

Q : Guanaco-13B est-il gratuit à utiliser ?
R : Oui, il est distribué sous une licence libre, principalement pour la recherche et l'expérimentation non commerciale. Pour toute utilisation commerciale spécifique, il est nécessaire de consulter les conditions détaillées de la licence.

Q : Quels jeux de données ont été utilisés pour entraîner Guanaco-13B ?
A: Guanaco-13B a ​​été affiné à l'aide de l'ensemble de données OASST1 (Open Assistant Supervised Task 1), qui se compose de conversations écrites par des humains et est multilingue.

Q : Comment Guanaco-13B se compare-t-il aux modèles commerciaux comme ChatGPT ?
A: Guanaco-13B a ​​démontré des performances compétitives avec des systèmes commerciaux comme ChatGPT et BARD sur divers benchmarks, offrant une alternative open-source solide.

Q : Le Guanaco-13B peut-il prendre en charge plusieurs langues ?
R : Oui, il offre une prise en charge multilingue, avec un accent sur les langues disposant de ressources importantes, grâce à son réglage fin sur l'ensemble de données OASST1.

Terrain de jeu de l'IA

Testez tous les modèles d'API dans l'environnement de test avant de les intégrer. Nous proposons plus de 300 modèles à intégrer à votre application.
Essai gratuit
api-droite-1
modèle-bg02-1

Une API
Plus de 300 modèles d'IA

Économisez 20 % sur vos coûts