



const { OpenAI } = require('openai');
const api = new OpenAI({
baseURL: 'https://api.ai.cc/v1',
apiKey: '',
});
const main = async () => {
const result = await api.chat.completions.create({
model: 'databricks/dolly-v2-7b',
messages: [
{
role: 'system',
content: 'You are an AI assistant who knows everything.',
},
{
role: 'user',
content: 'Tell me, why is the sky blue?'
}
],
});
const message = result.choices[0].message.content;
console.log(`Assistant: ${message}`);
};
main();
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cc/v1",
api_key="",
)
response = client.chat.completions.create(
model="databricks/dolly-v2-7b",
messages=[
{
"role": "system",
"content": "You are an AI assistant who knows everything.",
},
{
"role": "user",
"content": "Tell me, why is the sky blue?"
},
],
)
message = response.choices[0].message.content
print(f"Assistant: {message}")

Подробная информация о товаре
🌟 Dolly v2 (7B): LLM с открытым исходным кодом, основанный на следовании инструкциям.
Dolly v2 (7B) — это инновационная большая языковая модель, следующая инструкциям разработано DatabricksВыпущенная 12 апреля 2023 года, эта модель построена на архитектуре Pythia-6.9b и была доработана на значительном наборе данных, содержащем приблизительно 15 000 пар «инструкция/ответ». Примечательно, что Dolly v2 (7B) — это лицензировано для коммерческого использованиячто делает его мощным и доступным инструментом для широкого спектра задач обработки естественного языка.
💡 Ключевая информация
- Название модели: Долли v2 (7B)
- Разработчик/Создатель: Databricks
- Дата выпуска: 12 апреля 2023 г.
- Версия: 2.0
- Тип модели: Большая языковая модель, позволяющая следовать инструкциям
✅ Основные возможности и функции
Эта модель выделяется по нескольким причинам:
- • Следование инструкциям: Отлично понимает и выполняет четкие инструкции.
- • Открытый исходный код: Способствует прозрачности и развитию, ориентированному на потребности местного сообщества.
- • Коммерчески лицензировано: Разрешено к использованию в коммерческих приложениях в соответствии с лицензией Apache 2.0.
- • Высококачественное обучение: Тщательно настроено на специально подобранном наборе данных для обеспечения превосходного соблюдения инструкций.
- • Компактный размер: Обладая приблизительно 6,9 миллиардами параметров, он обеспечивает хороший баланс производительности и эффективности использования ресурсов.
🛠️ Предполагаемые области применения
Dolly v2 (7B) — универсальная программа, которую можно применять для решения самых разных задач обработки естественного языка, включая:
- ▪️ Мозговой штурм и генерация идей
- ▪️ Классификация текста
- ▪️ Ответы как на закрытые, так и на открытые вопросы
- ▪️ Создание креативных и содержательных текстов
- ▪️ Извлечение информации из документов
- ▪️ Краткое изложение объемных текстов
Языковая поддержка: Данная модель в первую очередь предназначена для решения задач, требующих знания английского языка.
⚙️ Технические характеристики
Архитектура
Dolly v2 (7B) построена на основе надежной Архитектура Pythia-6.9b, хорошо зарекомендовавшая себя модель на основе трансформатора, известная своей масштабируемостью и производительностью.
обучающие данные
Источник и размер данных: Модель прошла доработку с использованием запатентованной технологии. набор данных databricks-dolly-15kЭтот высококачественный набор данных содержит приблизительно 15 000 пар «инструкция/ответ», тщательно сгенерированных сотрудниками Databricks.
Порог знаний: Основополагающие знания Dolly v2 (7B) получены на этапе предварительного обучения Pythia-6.9b и значительно расширены благодаря возможностям следования инструкциям, разработанным в процессе тонкой настройки.
Показатели эффективности
Хотя Dolly v2 (7B) не предназначена для достижения самых высоких результатов в тестах на более крупных и сложных моделях, она неизменно демонстрирует... Удивительно высокое качество выполнения инструкций.Ниже приведены некоторые результаты сравнительных тестов:
| Бенчмарк | Счет |
|---|---|
| ARC (25 выстрелов) | 0,392 |
| HellaSwag (10 выстрелов) | 0.633838 |
| MMLU (5 выстрелов) | 0.406997 |
| TruthfulQA (0-shot) | 0.444444 |
Сравнение с другими моделями
Хотя Dolly v2 (7 млрд) может и не превосходить значительно более крупные модели, такие как GPT-3 (175 млрд параметров), по результатам бенчмарков, она предлагает убедительные результаты. баланс между высокой производительностью и управляемыми требованиями к ресурсамчто делает его весьма практичным для многих применений.
🚀 Инструкция по применению
Пример кода
⚖️ Этические соображения
При разработке Dolly v2 (7B) были учтены строгие этические соображения. Используемые обучающие данные не содержат непристойных материалов, защищенной интеллектуальной собственности или личной информации, касающейся непубличных лиц. Однако важно отметить, что модель может отражать предвзятость Присутствуют в данных, сгенерированных сотрудниками Databricks. Пользователям следует проявлять осторожность и внимательность в отношении потенциальных искажений в результатах моделирования.
📄 Информация о лицензировании
Dolly v2 (7B) выпущена под брендом Лицензия Apache 2.0Эта разрешительная лицензия предоставляет пользователям гибкость как для исследовательских, так и для коммерческих приложений, способствуя широкому распространению и инновациям. Более подробную информацию о происхождении Dolly v2 можно найти в [ссылка на источник]. Анонс Databricks Dolly v2.
⚠️ Ограничения Dolly v2 (7B)
Несмотря на свою мощь, Dolly v2 (7B) имеет определенные ограничения, о которых следует помнить:
- • Не является передовой технологией: Она не предназначена для конкуренции с производительностью более современных или значительно более крупных архитектурных моделей.
- • Сложные задания: Могут возникнуть трудности с подсказками, имеющими очень сложный синтаксический характер.
- • Специализированные задачи: Обладает ограниченными способностями в решении задач программирования и выполнении сложных математических операций.
- • Фактическая точность: Может приводить к фактическим ошибкам или проявлять галлюцинации, требующие человеческого контроля.
- • Искажения данных: Отражает потенциальные искажения, присущие обучающим данным, генерируемым сотрудниками Databricks.
❓ Часто задаваемые вопросы (FAQ)
В1: Что такое Dolly v2 (7B)?
A1: Dolly v2 (7B) — это большая языковая модель, отслеживающая инструкции, разработанная Databricks на основе модели Pythia-6.9b и доработанная на 15 000 парах инструкция/ответ.
В2: Можно ли использовать Dolly v2 (7B) для коммерческих проектов?
A2: Да, Dolly v2 (7B) распространяется под лицензией Apache 2.0, которая разрешает как исследовательское, так и коммерческое использование.
В3: Каковы основные области применения Dolly v2 (7B)?
A3: Он предназначен для решения различных задач обработки естественного языка, включая мозговой штурм, классификацию, ответы на вопросы (закрытые и открытые), генерацию текста, извлечение информации и составление резюме.
В4: Чем Dolly v2 (7B) отличается от более крупных моделей, таких как GPT-3?
A4: Хотя Dolly v2 (7B) может и не превзойти такие модели, как GPT-3, в чистых тестах производительности, он предлагает хороший баланс производительности и значительно меньших требований к ресурсам, что делает его практичным выбором для многих приложений.
В5: Есть ли какие-либо этические проблемы, связанные с Dolly v2 (7B)?
A5: Модель была разработана с учетом этических соображений, исключая непристойность, интеллектуальную собственность и непубличные персональные данные из обучающих данных. Однако она все еще может отражать предвзятость со стороны сотрудников Databricks, которые создавали данные для тонкой настройки.
Игровая площадка для ИИ



Авторизоваться