ENRussian
English Chinese French German Portuguese Spanish Russian
авторизоватьсяАвторизоваться
Попробуйте бесплатно
qwen-bg
max-ico04
В
Вне
max-ico02
Чат
max-ico03
запрещать
Llama Guard 3 11B Vision Turbo
Llama Guard 3 Vision — это многомодальная модель обеспечения безопасности контента, предназначенная для обнаружения вредоносных текстовых и графических подсказок, гарантирующая ответственное использование искусственного интеллекта.
Новые участники получат бесплатные токены номиналом 1 доллар.
Text to Speech
Javascript
Python 
                                        const { OpenAI } = require('openai');

const api = new OpenAI({
  baseURL: 'https://api.ai.cc/v1',
  apiKey: '',
});

const main = async () => {
  const result = await api.chat.completions.create({
    model: 'meta-llama/Llama-Guard-3-11B-Vision-Turbo',
    messages: [
      {
        role: 'system',
        content: 'You are an AI assistant who knows everything.',
      },
      {
        role: 'user',
        content: 'Tell me, why is the sky blue?'
      }
    ],
  });

  const message = result.choices[0].message.content;
  console.log(`Assistant: ${message}`);
};

main();
                                
                                        import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.ai.cc/v1",
    api_key="",    
)

response = client.chat.completions.create(
    model="meta-llama/Llama-Guard-3-11B-Vision-Turbo",
    messages=[
        {
            "role": "system",
            "content": "You are an AI assistant who knows everything.",
        },
        {
            "role": "user",
            "content": "Tell me, why is the sky blue?"
        },
    ],
)

message = response.choices[0].message.content

print(f"Assistant: {message}")
Docs

Один API, более 300 моделей ИИ.

Сэкономьте 20% на расходах и получите бесплатные токены на 1 доллар.
Получить ключ API Изучите модели
qwenmax-bg
изображение
Llama Guard 3 11B Vision Turbo

Подробная информация о товаре

ⓘ Обзор: Llama Guard 3 11B Vision

Llama Guard 3 11B Vision — это передовой многомодальный классификатор безопасности контента, разработанный компанией МетаВыпущено в 6 декабря 2023 г.Данная версия модели Llama 3.2 специально разработана для повышения безопасности приложений, использующих большие языковые модели (LLM), путем обнаружения вредоносного контента как в текстовых, так и в графических входных данных и ответах.

  • ✓ Название модели: Llama Guard 3 11B Vision
  • ✓ Разработчик: Мета
  • ✓ Дата выпуска: 6 декабря 2023 г.
  • ✓ Тип модели: Мультимодальный (текст и изображение) классификатор безопасности контента

🔍 Ключевые особенности для повышения безопасности LLM

Эта модель вносит существенный вклад в модерацию контента, особенно в сложных многомодальных сценариях, обеспечивая более безопасное взаимодействие с ИИ.

  • Обнаружение вредоносного контента: Выявляет неприемлемый или небезопасный контент как в текстовом, так и в графическом формате, обеспечивая безопасность взаимодействия с пользователями LLM.
  • Оптимизировано для анализа изображений: Превосходно подходит для ситуаций, когда визуальный контекст имеет решающее значение для точной классификации безопасности.
  • Подробные данные по безопасности: Генерирует текстовые результаты, указывающие на уровни безопасности и конкретные категории нарушенного контента, для получения полезной информации.
  • Превосходные характеристики: Превосходит ведущие модели, такие как GPT-4o и GPT-4o mini, в классификации ответов, демонстрируя значительно более низкий уровень ложноположительных результатов.

💬 Назначение и языковая поддержка

Llama Guard 3 11B Vision в первую очередь предназначен для сценариев использования, требующих надежного обнаружения вредоносного контента в многомодальных входных данных и ответах. Это незаменимый инструмент для разработчиков и организаций, стремящихся обеспечить безопасность и этичное использование своих приложений LLM.

  • 💬 Основное применение: Защита приложений LLM от вредоносного мультимодального контента.
  • 💬 Оптимизированный язык: Разработан и оптимизирован в первую очередь для английский язык.

📚 Подробный технический анализ

Понимание архитектуры и методики обучения позволяет оценить надежность и расширенные возможности системы Llama Guard 3 11B Vision.

Архитектура

Модель построена на основе Предварительно обученная модель Llama-3.2-11Bкоторый был тщательно оптимизирован специально для задач классификации контента по безопасности, используя свои мощные базовые возможности для достижения высочайшей точности.

Стратегия использования обучающих данных

В тренировочной программе использовалась сложная система. гибридный набор данныхЭтот набор данных объединяет как данные, созданные людьми, так и данные, сгенерированные синтетическими методами, что обеспечивает всестороннее освещение различных опасных сценариев и повышает применимость в реальных условиях. Он включает в себя:

  • Подсказки, созданные человеком в паре с различными соответствующими изображениями.
  • Доброкачественные и нарушающие правила модели ответы Создано с использованием собственных моделей Llama и передовых методов взлома для имитации реальных враждебных атак.

Источник данных и размер

Набор данных отличается исключительным разнообразием и включает в себя широкий спектр пар «подсказка-изображение». Эти пары тщательно размечены либо людьми-аннотаторами, либо опытными специалистами. Модель Llama 3.1 405BДанные охватывают все категории опасности, определенные [название категории]. MLCommons, обеспечивая широкую и всестороннюю базу для обучения. Для обработки изображений компьютерный кодировщик эффективно масштабирует изображения на 4 фрагмента, каждый размером 560x560 пикселей.

Многообразие и смягчение предвзятости

Приверженность принципам многообразия: В процессе отбора данных приоритет отдавался созданию набора данных, который действительно отражает разнообразие пар «подсказка-изображение», охватывающих все определенные категории опасности, чтобы минимизировать предвзятость и повысить надежность обнаружения в различных сценариях.

📈 Показатели производительности и сравнительный анализ

Эффективность Llama Guard 3 11B Vision тщательно оценивается с помощью внутреннего набора тестов, соответствующих таксономии опасностей MLCommons. Модель неизменно демонстрирует высокую производительность и надежность.

Исключительно высокие результаты в Формуле-1: Система Llama Guard 3 Vision демонстрирует результаты F1, превосходящие ожидания. 0,69 Во всех категориях угроз, включая такие сложные области, как неизбирательное применение оружия и выборы, демонстрируется высокая точность и надежность по всем показателям.

Внутренний тестовый набор для проверки производительности системы Llama Guard 3 Vision.
Внутренний тестовый набор для Llama Guard 3 Vision

Сравнение с другими отраслевыми моделями

В прямых сравнительных тестах, Система Llama Guard 3 Vision демонстрирует превосходные возможности. В сравнении с такими известными моделями, как GPT-4o и GPT-4o mini, это превосходство особенно очевидно в классификации ответов, где оно достигает более высоких показателей F1 и значительно более низкого уровня ложноположительных результатов. Конструкция модели эффективно минимизирует атаки, основанные на подсказках, за счет большей опоры на ответы модели для классификации, что позволяет с большей точностью устранить присущую неоднозначность комбинированных текстовых и графических подсказок.

Сравнение Flame Guard 3 Vision с GPT-4o и GPT-4o Mini
Сравнение видимости в Llama Guard 3

🔑 Использование и доступ к API

Интеграция Llama Guard 3 11B Vision в ваши приложения очень проста и обеспечивает надежную защиту контента без лишних усилий.

Примеры кода:

Данная модель легко доступна на Платформа API для ИИ/машинного обучения под идентификатором "Llama-Guard-3-11B-Vision-Turbo"Получите доступ к API. здесь для начала.

Документация по API:

Для получения подробных технических рекомендаций, инструкций по интеграции и исчерпывающей информации обратитесь к официальному ресурсу. Документация по API.

📒 Этические принципы и ограничения

Для ответственного и эффективного внедрения в ваши приложения крайне важно понимать этические аспекты и конкретные ограничения, связанные с Llama Guard 3 11B Vision.

Важное примечание: Llama Guard 3 Vision оптимизирована для Llama 3.2-vision. Ее производительность и возможности напрямую зависят от данных, полученных в ходе предварительного обучения. не предполагалось Он может использоваться как автономный классификатор безопасности на основе изображений или как классификатор безопасности только на основе текста. Он предназначен для многомодальная безопасность контента в частности, в контексте входных данных и ответов LLM для обеспечения многоуровневой защиты.

Чтобы начать использовать мощные возможности API Llama Guard 3 11B Vision Turbo, вы можете начать здесь.

ⓘ Часто задаваемые вопросы (FAQ)

В1: Что такое Llama Guard 3 11B Vision?
A1: Это многомодальная модель классификации безопасности контента, разработанная компанией Meta, специально предназначенная для обнаружения вредоносного текстового и графического контента во входных данных и ответах модели Large Language Model (LLM).
В2: Какие типы контента может распознавать Llama Guard 3 11B Vision?
A2: Он разработан для обнаружения вредоносного контента как в текстовом, так и в графическом форматах, что делает его высокоэффективным для обеспечения безопасности и модерации контента в многомодальных системах LLM.
В3: Как его характеристики соотносятся с другими моделями безопасности, такими как GPT-4o?
A3: Прибор Llama Guard 3 Vision демонстрирует превосходные характеристики по сравнению с GPT-4o и GPT-4o mini, особенно в классификации ответов, достигая более высоких показателей F1 и значительно более низкого уровня ложноположительных результатов.
Вопрос 4: Подходит ли Llama Guard 3 11B Vision для автономной классификации только текста или только изображений?
A4: Нет, он специально разработан и оптимизирован для обеспечения безопасности мультимодального контента в контексте LLM и не предназначен для использования в качестве автономного классификатора только текста или только изображений.
В5: Как получить доступ к API Llama Guard 3 11B Vision?
A5: Модель доступна на платформе AI/ML API под идентификатором "Llama-Guard-3-11B-Vision-Turbo". Доступ и подробная документация доступны на официальном сайте платформы.

Игровая площадка для ИИ

Перед интеграцией протестируйте все модели API в тестовой среде. Мы предоставляем более 300 моделей для интеграции в ваше приложение.
Попробуйте бесплатно
api-right-1
модель-bg02-1

Один API
Более 300 моделей ИИ

Сэкономьте 20% на расходах
Новые участники получат бесплатные токены номиналом 1 доллар.