Afuera

Charlar

desactivar

Guanaco (13B)

Guanaco-13B: Modelo de chatbot multilingüe de código abierto basado en LLaMA, ajuste fino eficiente de QLoRA de 4 bits, rendimiento de referencia competitivo.

Tokens gratis de $1 para nuevos miembros

Text to Speech

Javascript

Python

                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'togethercomputer/guanaco-13b',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();

                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="togethercomputer/guanaco-13b",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")

Docs

Una API con más de 300 modelos de IA

Ahorre un 20% en costos y $1 en tokens gratis

Obtener clave API Explorar modelos

Guanaco (13B)

Detalle del producto

Descubrir Guanaco-13BUn modelo de lenguaje extenso (LLM) avanzado, de código abierto y optimizado, diseñado para destacar en la creación de chatbots multilingües de alta calidad. Basado en el robusto modelo base LLaMA, Guanaco-13B ofrece un rendimiento comparable al de sistemas comerciales líderes como ChatGPT y BARD, lo que lo convierte en una herramienta invaluable para investigadores y desarrolladores.

✨ Características principales de Guanaco-13B

Naturaleza de código abierto: Disponible gratuitamente para investigación y experimentación.
Ajuste fino eficiente: Utiliza el ajuste fino QLoRA de 4 bits en el extenso conjunto de datos OASST1.
Versatilidad del modelo: Disponible en varios tamaños (parámetros 7B, 13B, 33B y 65B), que satisfacen diversas necesidades computacionales. Esta versión en particular es 13B.
Soporte multilingüe: Optimizado para lenguajes con altos recursos, facilitando el desarrollo de chatbots globales.
Rendimiento competitivo: Ofrece resultados comparables con los gigantes comerciales en el espacio LLM.

🚀 Casos de uso previstos

Guanaco-13B está diseñado específicamente para Investigadores y desarrolladores de IALes permite realizar experimentos locales y rentables con sistemas de chatbots multilingües de vanguardia y alta calidad. Su código abierto fomenta la innovación y la colaboración dentro de la comunidad de IA.

💡 Especificaciones técnicas

Descripción general de la arquitectura

El modelo Guanaco-13B tiene sus raíces arquitectónicas en el LLaMA base model. Mejora sus capacidades mediante la integración de adaptadores LoRA (Low-Rank Adaptation) en todas las capas, con un rango de 64, optimizando su rendimiento y eficiencia.

Datos de entrenamiento y ajuste fino

El modelo se está perfeccionando en el Conjunto de datos OASST1 (Tarea supervisada 1 del asistente abierto)Este conjunto de datos, si bien multilingüe, se centra en los idiomas con altos recursos. Compuesto por conversaciones escritas por humanos, OASST1 es crucial para que Guanaco-13B aprenda y genere patrones de diálogo naturales y atractivos. El tamaño exacto del conjunto de datos utilizado para ajustar esta versión específica no se ha detallado públicamente.

Límites de conocimiento y sesgos

La fecha límite de conocimiento específico para Guanaco-13B no se proporciona explícitamente en la documentación disponible. Debido a su entrenamiento en un conjunto de datos multilingüe como OASST1, Guanaco-13B tiene el potencial de exhibir sesgo reducido en comparación con los modelos entrenados con datos monolingües. Sin embargo, el enfoque inherente del conjunto de datos en idiomas con muchos recursos aún podría introducir algunos sesgos específicos del idioma.

Evaluación comparativa del rendimiento

Guanaco-13B ha demostrado métricas de rendimiento competitivo, que combina sistemas comerciales como ChatGPT y BARD con puntos de referencia reconocidos como Vicuna y OpenAssistant.

🛠️ Uso y pautas

Ejemplo de uso de API

// Ejemplo usando un punto final de API hipotético import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer YOUR_API_KEY" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "Cuéntame un dato curioso sobre las jirafas."} ] } response = requests.post(url, headers=headers, json=data) print(response.json())

Consideraciones éticas y licencias

Si bien los desarrolladores no han publicado pautas éticas específicas para el uso de Guanaco-13B, se recomienda encarecidamente a los usuarios que las respeten. principios éticos generales de la IAEl modelo se lanza bajo una licencia de código abierto, principalmente para fines de investigación y no comerciales, aunque el tipo de licencia exacto no se detalla en la documentación. Los usuarios deben verificar los términos de licencia vigentes para cualquier implementación específica.

❓ Preguntas frecuentes (FAQ)

P: ¿Qué es Guanaco-13B?
A: Guanaco-13B es un modelo de lenguaje grande (LLM) optimizado y de código abierto basado en la arquitectura LLaMA, diseñado para crear chatbots multilingües de alta calidad.

P: ¿Guanaco-13B es de uso gratuito?
R: Sí, se publica bajo una licencia de código abierto, principalmente para investigación y experimentación no comercial. Para usos comerciales específicos, podría ser necesario consultar los términos detallados de la licencia.

P: ¿Qué conjuntos de datos se utilizaron para entrenar Guanaco-13B?
A: Guanaco-13B fue perfeccionado utilizando el conjunto de datos OASST1 (Open Assistant Supervised Task 1), que consta de conversaciones escritas por humanos y es multilingüe.

P: ¿Cómo se compara Guanaco-13B con modelos comerciales como ChatGPT?
R: Guanaco-13B ha demostrado un rendimiento competitivo con sistemas comerciales como ChatGPT y BARD en varios puntos de referencia, ofreciendo una sólida alternativa de código abierto.

P: ¿Guanaco-13B puede admitir varios idiomas?
R: Sí, ofrece soporte multilingüe, con un enfoque en idiomas con altos recursos, gracias a su ajuste en el conjunto de datos OASST1.

Patio de juegos de IA

Pruebe todos los modelos de API en el entorno de pruebas antes de integrarlos. Ofrecemos más de 300 modelos para integrar en su aplicación.

Pruébalo gratis

Una API
Más de 300 modelos de IA

Ahorre un 20% en costos