



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'togethercomputer/guanaco-13b',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="togethercomputer/guanaco-13b",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Detalles del producto
Descubrir Guanaco-13BGuanaco-13B es un modelo de lenguaje a gran escala (LLM) avanzado, de código abierto y optimizado, diseñado para crear chatbots multilingües de alta calidad. Basado en el robusto modelo LLaMA, Guanaco-13B ofrece un rendimiento comparable al de sistemas comerciales líderes como ChatGPT y BARD, lo que lo convierte en una herramienta invaluable para investigadores y desarrolladores.
✨ Características principales de Guanaco-13B
- Naturaleza de código abierto: Disponible gratuitamente para investigación y experimentación.
- Ajuste fino eficiente: Utiliza el ajuste fino QLoRA de 4 bits en el extenso conjunto de datos OASST1.
- Versatilidad del modelo: Disponible en varios tamaños (parámetros de 7B, 13B, 33B, 65B), para satisfacer diversas necesidades computacionales. Esta versión en particular es 13B.
- Soporte multilingüe: Optimizado para idiomas con gran cantidad de recursos, lo que facilita el desarrollo global de chatbots.
- Rendimiento competitivo: Ofrece resultados a la altura de los gigantes comerciales en el ámbito de los másteres en derecho (LLM).
🚀 Casos de uso previstos
Guanaco-13B está diseñado específicamente para Investigadores y desarrolladores de IALes permite realizar experimentos locales y rentables con sistemas de chatbot multilingües de vanguardia y alta calidad. Su naturaleza de código abierto fomenta la innovación y la colaboración dentro de la comunidad de IA.
💡 Especificaciones técnicas
Descripción general de la arquitectura
El modelo Guanaco-13B tiene sus raíces arquitectónicas en el LLaMA base modelMejora sus capacidades mediante la integración de adaptadores LoRA (Low-Rank Adaptation) en todas las capas, con un rango de 64, optimizando así su rendimiento y eficiencia.
Datos de entrenamiento y ajuste fino
El modelo se somete a un ajuste fino en el Conjunto de datos OASST1 (Open Assistant Supervised Task 1)Este conjunto de datos, si bien es multilingüe, se centra principalmente en lenguas con abundantes recursos. Compuesto por conversaciones escritas por humanos, OASST1 es fundamental para que Guanaco-13B aprenda y genere patrones de diálogo naturales y atractivos. El tamaño exacto del conjunto de datos utilizado para el ajuste de esta versión específica no se ha divulgado públicamente.
Límites de conocimiento y sesgos
La fecha límite de conocimiento específica para Guanaco-13B no se proporciona explícitamente en la documentación disponible. Debido a su entrenamiento en un conjunto de datos multilingüe como OASST1, Guanaco-13B tiene el potencial de exhibir sesgo reducido en comparación con los modelos entrenados con datos monolingües. Sin embargo, el enfoque inherente del conjunto de datos en lenguas con muchos recursos aún podría introducir algunos sesgos específicos de cada idioma.
Evaluación comparativa del rendimiento
Guanaco-13B ha demostrado métricas de desempeño competitivo, comparando sistemas comerciales como ChatGPT y BARD con puntos de referencia reconocidos como Vicuna y OpenAssistant.
🛠️ Uso y directrices
Ejemplo de uso de la API
// Ejemplo usando un punto final de API hipotético import requests url = "https://api.example.com/v1/chat/completions" headers = { "Content-Type": "application/json", "Authorization": "Bearer YOUR_API_KEY" } data = { "model": "togethercomputer/guanaco-13b", "messages": [ {"role": "user", "content": "Cuéntame un dato curioso sobre las jirafas."} ] } response = requests.post(url, headers=headers, json=data) print(response.json()) Consideraciones éticas y licencias
Aunque los desarrolladores de Guanaco-13B no han publicado directrices éticas específicas para el uso de Guanaco-13B, se recomienda encarecidamente a los usuarios que se adhieran a ellas. Principios éticos generales de la IA. El modelo se lanza bajo un licencia de código abiertoPrincipalmente para fines de investigación y no comerciales, aunque el tipo de licencia exacto no se detalla en la documentación. Los usuarios deben verificar los términos de licencia vigentes para cada implementación específica.
❓ Preguntas frecuentes (FAQ)
P: ¿Qué es el guanaco-13B?
A: Guanaco-13B es un modelo de lenguaje grande (LLM) de código abierto y optimizado, basado en la arquitectura LLaMA, diseñado para crear chatbots multilingües de alta calidad.
P: ¿El uso de Guanaco-13B es gratuito?
R: Sí, se distribuye bajo una licencia de código abierto, principalmente para investigación y experimentación no comercial. Para uso comercial específico, es posible que deba consultar los términos detallados de la licencia.
P: ¿Qué conjuntos de datos se utilizaron para entrenar a Guanaco-13B?
A: Guanaco-13B se ajustó utilizando el conjunto de datos OASST1 (Open Assistant Supervised Task 1), que consiste en conversaciones escritas por humanos y es multilingüe.
P: ¿Cómo se compara Guanaco-13B con modelos comerciales como ChatGPT?
A: Guanaco-13B ha demostrado un rendimiento competitivo con sistemas comerciales como ChatGPT y BARD en varios benchmarks, ofreciendo una sólida alternativa de código abierto.
P: ¿Puede Guanaco-13B admitir varios idiomas?
R: Sí, ofrece soporte multilingüe, con especial atención a los idiomas con mayor número de recursos, gracias a su optimización en el conjunto de datos OASST1.
Campo de juegos de IA



Acceso