



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'lmsys/vicuna-7b-v1.5',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="lmsys/vicuna-7b-v1.5",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Detalhes do produto
Visão geral da Vicuna v1.5 (7B)
Informações básicas
- Nome do modelo: Vicunha v1.5 (7B)
- Desenvolvedor/Criador: LMSYS
- Data de lançamento: Pesquisa inicial apresentada em Dezembro de 2023
- Versão: 1,5
- Tipo de modelo: Um modelo de linguagem autorregressivo baseado em arquitetura de transformador
Visão geral
Vicuna v1.5 é um modelo de linguagem de grande porte (LLM) avançado, projetado para aprimorar as capacidades de conversação de assistentes de bate-papo. Ele utiliza ajuste fino por instrução supervisionada e Aprendizagem por reforço com feedback humano (RLHF) Para alcançar um desempenho superior no seguimento de instruções e no diálogo.
Principais características
- 🗣️ Habilidades de Conversação Aprimoradas: Melhoria no processamento de diálogos com múltiplas interações para uma experiência mais natural.
- ✅ Seguir as instruções precisas: Ajustado com precisão para uma adesão rigorosa e cheia de nuances às instruções.
- 👤 Alinhamento com as preferências humanas: Apresenta alto grau de concordância com as avaliações humanas, garantindo a satisfação do usuário.
- 💪 Desempenho robusto: Obtém resultados competitivos e consistentes em diversos indicadores.
Uso pretendido
Vicuna v1.5 é ideal para assistentes de bate-papo interativos, agentes virtuais de atendimento ao cliente e qualquer aplicação que exija alto desempenho. IA conversacional sofisticadaDestaca-se particularmente em cenários que exigem compreensão refinada e geração de respostas semelhantes às humanas.
Suporte linguístico
O modelo apoia principalmente Inglês mas oferece flexibilidade para ajustes ou adaptações a outros idiomas, conforme necessário.
Detalhes técnicos
Arquitetura
Vicuna v1.5 é construído sobre a robusta base arquitetura de transformador, especificamente ajustado a partir do Modelo LLaMA-13BO modelo de transformador é conhecido por sua mecanismos de autoatenção, que permitem o processamento e a geração eficientes de texto.
Dados de treinamento
Como uma versão refinada de Ligue para 2A versão 1.5 do Vicuna se beneficiou do ajuste fino por instrução supervisionada. O conjunto de dados de treinamento abrangente inclui aproximadamente 125.000 conversas provenientes principalmente de ShareGPT.com.
Este conjunto de dados abrange uma mistura diversificada de diálogos, garantindo um amplo espectro de tópicos e estilos de conversação.
Nível de conhecimento limite: O conhecimento do modelo está atualizado até Setembro de 2021.
Diversidade e Viés: Embora sejam feitos esforços para minimizar o viés por meio de diversas fontes de dados, vieses inerentes aos dados de treinamento originais ainda podem estar presentes. Esforços contínuos de mitigação estão em andamento.
Métricas de desempenho
A versão 1.5 do Vicuna demonstra um desempenho forte e robusto em diversos benchmarks importantes:
- 📊 MMLU (5 tiros): 52.1
- 🎯 TruthfulQA (0-shot): 0,35
- ⭐ Pontuação MT-Bench (avaliada pelo GPT-4): 6,39
- ✔️ Precisão: Avaliado usando métricas como perplexidade e alinhamento com as preferências humanas.
- ⚡ Velocidade: Otimizado para inferência em tempo real, essencial para aplicações interativas e responsivas.
- 🛡️ Robustez: Lida eficazmente com uma ampla gama de entradas e generaliza bem em diversos tópicos.
Uso
Exemplos de código
Os desenvolvedores podem integrar o Vicuna v1.5 em seus aplicativos usando chamadas de API padrão. Abaixo está um exemplo de um possível trecho de API (os detalhes reais da implementação podem variar de acordo com a plataforma):
Considerações éticas
Vicuna v1.5 foi desenvolvido com forte ênfase em minimizando os vieses e garantindo um uso justo e responsável. Os desenvolvedores são fortemente encorajados a usar o modelo de forma ética e a permanecerem cientes dos potenciais vieses inerentes a qualquer conteúdo gerado por IA.
Licenciamento
O modelo Vicuna v1.5 está disponível para uso comercial e não comercialOs detalhes dos contratos de licenciamento específicos estão disponíveis no repositório oficial, e os usuários devem revisá-los para garantir a conformidade.
Conclusão
Vicunha v1.5 (7B) surge como um modelo de linguagem poderoso e refinado, desenvolvido especificamente para aprimorar aplicações de IA conversacional. Sua arquitetura robusta de transformadores, treinamento extensivo em diversos conjuntos de dados e forte alinhamento com as preferências humanas o posicionam como um Ferramenta versátil e eficaz Para desenvolvedores que desejam integrar recursos linguísticos sofisticados em seus projetos.
Perguntas frequentes (FAQs)
Q1: O que é Vicuna v1.5 (7B)?
A1: Vicuna v1.5 (7B) é um modelo de linguagem grande avançado (LLM) desenvolvido pela LMSYS, baseado na arquitetura transformer e ajustado a partir do LLaMA-13B, projetado para aprimorar aplicações de IA conversacional.
Q2: Quais são as principais funcionalidades do Vicuna v1.5?
A2: As principais características incluem habilidades de conversação aprimoradas, seguimento preciso de instruções, forte alinhamento com as preferências humanas e desempenho robusto em diversos parâmetros de avaliação.
Q3: De onde o Vicuna v1.5 obtém seus dados de treinamento?
A3: Foi aprimorado a partir do Llama 2 e treinado com aproximadamente 125.000 conversas provenientes principalmente de ShareGPT.com, abrangendo diversos tópicos e estilos de conversa.
Q4: O Vicuna v1.5 é adequado para uso comercial?
A4: Sim, o Vicuna v1.5 está disponível para uso comercial e não comercial. Os usuários devem consultar os contratos de licença específicos fornecidos em seu repositório oficial.
Q5: Qual é o nível de conhecimento mínimo exigido para o Vicuna v1.5?
A5: O conhecimento do modelo está atualizado até setembro de 2021.
Playground de IA



Conecte-se