qwen-bg
ico máximo04
2K
En
Afuera
ico-máximo02
Charlar
ico-máximo03
desactivar
Guanaco (13B)
Guanaco-13B: Modelo de chatbot multilingüe de código abierto basado en LLaMA, ajuste fino QLoRA de 4 bits eficiente y rendimiento de referencia competitivo.
Fichas de $1 gratis para nuevos miembros
Text to Speech
                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'togethercomputer/guanaco-13b',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();
                                
                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="togethercomputer/guanaco-13b",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")
Docs

Más de 300 modelos de IA para OpenClaw y agentes de IA

Ahorra un 20% en costes y obtén fichas gratis de 1 $.
qwenmax-bg
imagen
Guanaco (13B)

Detalles del producto

Descubrir Guanaco-13BGuanaco-13B es un modelo de lenguaje a gran escala (LLM) avanzado, de código abierto y optimizado, diseñado para crear chatbots multilingües de alta calidad. Basado en el robusto modelo LLaMA, Guanaco-13B ofrece un rendimiento comparable al de sistemas comerciales líderes como ChatGPT y BARD, lo que lo convierte en una herramienta invaluable para investigadores y desarrolladores.

✨ Características principales de Guanaco-13B

  • Naturaleza de código abierto: Disponible gratuitamente para investigación y experimentación.
  • Ajuste fino eficiente: Utiliza el ajuste fino QLoRA de 4 bits en el extenso conjunto de datos OASST1.
  • Versatilidad del modelo: Disponible en varios tamaños (parámetros de 7B, 13B, 33B, 65B), para satisfacer diversas necesidades computacionales. Esta versión en particular es 13B.
  • Soporte multilingüe: Optimizado para idiomas con gran cantidad de recursos, lo que facilita el desarrollo global de chatbots.
  • Rendimiento competitivo: Ofrece resultados a la altura de los gigantes comerciales en el ámbito de los másteres en derecho (LLM).

🚀 Casos de uso previstos

Guanaco-13B está diseñado específicamente para Investigadores y desarrolladores de IALes permite realizar experimentos locales y rentables con sistemas de chatbot multilingües de vanguardia y alta calidad. Su naturaleza de código abierto fomenta la innovación y la colaboración dentro de la comunidad de IA.

💡 Especificaciones técnicas

Descripción general de la arquitectura

El modelo Guanaco-13B tiene sus raíces arquitectónicas en el LLaMA base modelMejora sus capacidades mediante la integración de adaptadores LoRA (Low-Rank Adaptation) en todas las capas, con un rango de 64, optimizando así su rendimiento y eficiencia.

Datos de entrenamiento y ajuste fino

El modelo se somete a un ajuste fino en el Conjunto de datos OASST1 (Open Assistant Supervised Task 1)Este conjunto de datos, si bien es multilingüe, se centra principalmente en lenguas con abundantes recursos. Compuesto por conversaciones escritas por humanos, OASST1 es fundamental para que Guanaco-13B aprenda y genere patrones de diálogo naturales y atractivos. El tamaño exacto del conjunto de datos utilizado para el ajuste de esta versión específica no se ha divulgado públicamente.

Límites de conocimiento y sesgos

La fecha límite de conocimiento específica para Guanaco-13B no se proporciona explícitamente en la documentación disponible. Debido a su entrenamiento en un conjunto de datos multilingüe como OASST1, Guanaco-13B tiene el potencial de exhibir sesgo reducido en comparación con los modelos entrenados con datos monolingües. Sin embargo, el enfoque inherente del conjunto de datos en lenguas con muchos recursos aún podría introducir algunos sesgos específicos de cada idioma.

Evaluación comparativa del rendimiento

Guanaco-13B ha demostrado métricas de desempeño competitivo, comparando sistemas comerciales como ChatGPT y BARD con puntos de referencia reconocidos como Vicuna y OpenAssistant.

🛠️ Uso y directrices

Ejemplo de uso de la API

// Ejemplo usando un punto final de API hipotético import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer YOUR_API_KEY" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "Cuéntame un dato curioso sobre las jirafas."} ] } response = requests.post(url, headers=headers, json=data) print(response.json())

Consideraciones éticas y licencias

Aunque los desarrolladores de Guanaco-13B no han publicado directrices éticas específicas para el uso de Guanaco-13B, se recomienda encarecidamente a los usuarios que se adhieran a ellas. Principios éticos generales de la IA. El modelo se lanza bajo un licencia de código abiertoPrincipalmente para fines de investigación y no comerciales, aunque el tipo de licencia exacto no se detalla en la documentación. Los usuarios deben verificar los términos de licencia vigentes para cada implementación específica.

❓ Preguntas frecuentes (FAQ)

P: ¿Qué es el guanaco-13B?
A: Guanaco-13B es un modelo de lenguaje grande (LLM) de código abierto y optimizado, basado en la arquitectura LLaMA, diseñado para crear chatbots multilingües de alta calidad.

P: ¿El uso de Guanaco-13B es gratuito?
R: Sí, se distribuye bajo una licencia de código abierto, principalmente para investigación y experimentación no comercial. Para uso comercial específico, es posible que deba consultar los términos detallados de la licencia.

P: ¿Qué conjuntos de datos se utilizaron para entrenar a Guanaco-13B?
A: Guanaco-13B se ajustó utilizando el conjunto de datos OASST1 (Open Assistant Supervised Task 1), que consiste en conversaciones escritas por humanos y es multilingüe.

P: ¿Cómo se compara Guanaco-13B con modelos comerciales como ChatGPT?
A: Guanaco-13B ha demostrado un rendimiento competitivo con sistemas comerciales como ChatGPT y BARD en varios benchmarks, ofreciendo una sólida alternativa de código abierto.

P: ¿Puede Guanaco-13B admitir varios idiomas?
R: Sí, ofrece soporte multilingüe, con especial atención a los idiomas con mayor número de recursos, gracias a su optimización en el conjunto de datos OASST1.

Campo de juegos de IA

Pruebe todos los modelos de API en el entorno de pruebas antes de integrarlos. Ofrecemos más de 300 modelos para integrar en su aplicación.
Pruébalo gratis
api-right-1
modelo-bg02-1

Más de 300 modelos de IA para
OpenClaw y agentes de IA

Ahorre un 20% en costos