



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'databricks/dolly-v2-3b',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="databricks/dolly-v2-3b",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Detalle del producto
Dolly v2 (3B): Un potente LLM de seguimiento de instrucciones de Databricks
Muñeca v2 (3B), un modelo de lenguaje grande de seguimiento de instrucciones avanzado, fue desarrollado por Databricks, Inc. y lanzado oficialmente el 12 de abril de 2023. Designado como Muñeca-v2-3bEste modelo está diseñado meticulosamente para comprender y ejecutar diversas tareas lingüísticas según las instrucciones del usuario. Se basa en el modelo Pythia-2.8b, mejorado significativamente mediante ajustes precisos en aproximadamente 15.000 pares de instrucciones/respuestas de alta calidad, garantizando una generación de resultados altamente relevante y precisa.
✨Capacidades clave de Dolly v2 (3B)
- Ajuste fino de precisión: Optimizado con ~15 000 pares de instrucciones/respuestas para lograr una calidad y adherencia a las instrucciones superiores.
- Rendimiento de tareas versátil: Altamente capaz en diversas tareas como lluvia de ideas, clasificación de textos, respuesta a preguntas con libro cerrado y libro abierto, generación de contenido, extracción de información y resumen.
- Licencia comercial lista: Disponible bajo una licencia permisiva Licencia CC-BY-SA, lo que lo hace adecuado para aplicaciones comerciales.
- Opciones escalables: También están disponibles variantes más grandes, dolly-v2-7b y dolly-v2-12b, para requisitos más amplios.
🎯Aplicaciones previstas y compatibilidad de idiomas
Dolly v2 (3B) está diseñado específicamente para un amplio espectro de Tareas de procesamiento del lenguaje natural (PLN)Estas incluyen lluvia de ideas creativa, categorización, respuesta a preguntas (tanto con contexto como con conocimientos generales), generación de texto nuevo, extracción de información específica y condensación de contenido extenso. Es una excelente opción para aplicaciones que exigen un seguimiento de instrucciones fiable y consistente, aunque los usuarios deben tener en cuenta que no se considera un modelo de vanguardia.
Enfoque del lenguaje: El idioma principal de soporte del modelo es InglésSi bien es posible procesar otros idiomas, la precisión podría verse disminuida debido al contenido predominante en inglés en su conjunto de datos de entrenamiento.
🧠Especificaciones técnicas
Arquitectura
Dolly v2 (3B) está respaldada por el robusto Modelo Pythia-2.8b, aprovechando un poderoso Arquitectura basada en transformadores reconocido por su eficacia para comprender y generar patrones de lenguaje complejos.
Datos de entrenamiento: Entrada oficial del blog de Dolly v2 (3B)
Las sólidas capacidades de seguimiento de instrucciones del modelo se perfeccionan mediante el entrenamiento en el conjunto de datos databricks-dolly-15kEste conjunto de datos único, que comprende aproximadamente 15.000 pares de instrucciones/respuestasFue generado meticulosamente por empleados de Databricks. Abarca una amplia gama de dominios, como lluvia de ideas, clasificación, respuesta a preguntas y resumen, en consonancia con los principios descritos en el documento InstructGPT.
- Fuente: Internet público, incluida Wikipedia.
- Tamaño: Aproximadamente 15.000 pares instrucción/respuesta.
- Nivel de conocimiento: La base de conocimientos del modelo está actualizada hasta Abril de 2023.
- Diversidad y sesgo: El conjunto de datos puede presentar sesgos e intereses específicos inherentes a los empleados de Databricks y, al derivarse en parte de datos públicos de Internet, puede contener sesgos sociales existentes.
📊Perspectivas de rendimiento
Dolly v2 (3B) demuestra un rendimiento robusto en tareas de seguimiento de instrucciones, superando notablemente a su modelo base, Pythia-2.8b. Ofrece resultados competitivos al compararlo con otros modelos dentro de su rango de parámetros. Sin embargo, no está diseñado para competir con modelos de vanguardia mucho más grandes, como GPT-4 o LLaMA-3.
- Exactitud: Si bien en general es eficaz, el modelo puede enfrentar desafíos con indicaciones sintácticas altamente complejas, problemas de programación intrincados, operaciones matemáticas precisas, precisión fáctica matizada y manejo preciso de fechas y horas.
- Velocidad: Optimizado para una inferencia eficiente en GPU, su velocidad operativa real puede variar significativamente según configuraciones de hardware específicas.
- Robustez: Capaz de gestionar una amplia gama de instrucciones, aunque ocasionalmente puede producir errores en escenarios excepcionalmente complejos o ambiguos.
🛠️Instrucciones de uso
Dolly v2 (3B) está diseñado para una integración fluida en diversas aplicaciones mediante llamadas API convencionales o SDK. Los desarrolladores pueden aprovechar sus capacidades de seguimiento de instrucciones para una gran variedad de tareas de PLN. Para obtener ejemplos de código completos e instrucciones de integración detalladas, se recomienda consultar la documentación oficial de Databricks o los repositorios de código abierto pertinentes.
⚠️Consideraciones éticas
Databricks está profundamente comprometido con el desarrollo de tecnologías de IA útiles, honestas e inofensivas. Sin embargo, como todos los modelos de inteligencia artificial, Dolly v2 (3B) presenta limitaciones inherentes. Puede generar resultados que reflejen sesgos presentes en sus datos de entrenamiento, lo que podría generar contenido sesgado o inadvertidamente dañino. Se recomienda encarecidamente a los usuarios implementar sistemas de moderación robustos y medidas de seguridad éticas al implementar y utilizar el modelo en aplicaciones reales.
⚖️Información de licencia
Dolly v2 (3B) se distribuye bajo la Licencia CC-BY-SA (Creative Commons Atribución-CompartirIgual). Se trata de una licencia permisiva de código abierto que permite expresamente uso comercial, facilitando así una amplia adopción y una integración perfecta en diversos productos y servicios comerciales.
❓Preguntas frecuentes (FAQ)
P1: ¿Qué es Dolly v2 (3B)?
A1: Dolly v2 (3B) es un modelo de lenguaje grande que sigue instrucciones, desarrollado por Databricks, diseñado para realizar varias tareas de PNL basadas en instrucciones proporcionadas por el usuario.
P2: ¿Se puede utilizar Dolly v2 (3B) para proyectos comerciales?
A2: Por supuesto. Dolly v2 (3B) se publica bajo la licencia CC-BY-SA, que permite explícitamente su uso en aplicaciones y productos comerciales.
P3: ¿Cuáles son las principales fortalezas de Dolly v2 (3B)?
A3: Sus principales puntos fuertes incluyen capacidades robustas de seguimiento de instrucciones, versatilidad en una amplia gama de tareas de PNL (como resumen y control de calidad) y su naturaleza de código abierto, lo que permite una amplia adopción.
P4: ¿Cuáles son las limitaciones conocidas de Dolly v2 (3B)?
A4: Puede presentar dificultades con una sintaxis muy compleja, problemas de programación, operaciones matemáticas complejas, una memoria factual precisa y puede heredar sesgos de sus datos de entrenamiento. No se considera un modelo de vanguardia en comparación con alternativas más amplias.
Q5: ¿Qué idiomas admite Dolly v2 (3B)?
A5: El modelo admite principalmente inglés. Si bien puede procesar otros idiomas, la precisión y la fluidez podrían verse reducidas debido a que sus datos de entrenamiento se centran en el inglés.
Patio de juegos de IA



Acceso