Почему агентам ИИ нужна инфраструктура: понимание требований к взаимодействию и реализация

Чтобы предотвратить неэффективное использование ресурсов при автоматизации, предприятиям необходимо внедрять инфраструктура взаимодействия Это физически определяет, как работают независимые агенты искусственного интеллекта.

Сегодня корпоративные сети населены агентами искусственного интеллекта, которые, анализируя задачи и принимая решения, обладают все большей автономностью. Однако, когда эти независимые участники пытаются координировать работу, обмениваться контекстной информацией или взаимодействовать в различных облачных средах, структура взаимодействия быстро ухудшается. Люди-операторы оказываются в роли связующего звена между разрозненными системами, управляя хрупкими интеграциями, в то время как правила, определяющие разрешения и обмен данными, остаются неявными.

ГруппаСтартап, базирующийся в Тель-Авиве и Сан-Франциско, вышел из режима скрытой разработки. Посевной раунд финансирования на сумму 17 миллионов долларов для решения этой инфраструктурной проблемы. Финансирование поддерживает Генеральный директор Арик Гумановский и Технический директор Влад Лузин В рамках их усилий по созданию выделенного уровня взаимодействия для автономных корпоративных систем. Эта концепция отражает более ранние этапы развития вычислительной техники, когда интерфейсы прикладного программирования требовали выделенных шлюзов, а микросервисы — сервисной сетки для масштабируемого функционирования.

По мере того как распределенные системы множатся под управлением различных внутренних команд, добавление дополнительной бизнес-логики не решает лежащую в их основе нестабильность. Скорее, Для обеспечения надежности взаимодействия необходим отдельный инфраструктурный уровень..

📊 Динамика рынка значительно изменилась

Динамика рынка изменилась по трем ключевым параметрам:

Однако, хотя протоколы определяют процесс установления соединения, они не способны управлять производственной средой. Стандартизированные протоколы не обеспечивают маршрутизацию, восстановление после ошибок, определение границ полномочий, человеческий контроль или управление в процессе выполнения. Они не могут создать общее операционное пространство, необходимое для надежного взаимодействия. Группа намерена заполнить этот пробел в инфраструктуре..

💰 Финансовая ответственность за неуправляемую автоматизацию

Внедрение независимых моделей в различных бизнес-подразделениях создает усугубляющиеся проблемы интеграцииЕсли точечная интеграция должна выполняться вручную внутренними командами разработчиков, то затраты на её обслуживание снизят рентабельность и задержат выпуск продукта. Финансовый риск выходит за рамки простых затрат на интеграцию.

Когда автономные субъекты обмениваются инструкциями между собой без центрального управляющего органа, организации сталкиваются с проблемами. стремительно растущие расходы на вычислительные ресурсыМногоагентный вывод требует непрерывных вызовов API к дорогостоящим крупным языковым моделям. Сбой в маршрутизации или ошибка зацикливания между двумя запутавшимися сущностями могут за несколько часов израсходовать значительные облачные ресурсы.

⚠️ Критический риск: Автономные многоагентные рабочие процессы, если их не контролировать, угрожают предсказуемости. Неконтролируемые переговоры между внутренней моделью закупок и моделью внешнего поставщика могут инициировать сотни циклов вывода, что приведет к завышению показателей. затраты на использование токенов помимо стоимости самой сделки.

Следовательно, инфраструктурные уровни должны внедрять жесткие финансовые автоматические выключатели, прекращая взаимодействия, превышающие заранее определенные лимиты токенов или вычислительные пороги.

🔒 Усиление защиты уровня выполнения многоагентной системы

Интеграция этих интеллектуальных узлов с устаревшей корпоративной архитектурой требует значительных инженерных ресурсов. Финансовые учреждения и медицинские организации работают на основе мощных локальных хранилищ данных, кластеров мэйнфреймов и специализированных приложений для планирования ресурсов предприятия.

Без надежной инфраструктуры взаимодействия, Риск повреждения данных многократно возрастает. На каждом автоматизированном этапе. Модель выставления счетов может инициировать транзакцию, в то время как модель соответствия требованиям одновременно помечает ту же учетную запись, создавая блокировку базы данных или конфликтующие записи. Уровень взаимодействия предотвращает эти коллизии. Устанавливая ограничения на возможности, инфраструктура гарантирует, что автономный субъект не сможет принудительно вносить несанкционированные изменения в основные исходные системы.

Векторные базы данныхСистемы хранения данных, в которых хранятся контекстные данные, необходимые для генерации информации с расширенными возможностями поиска, представляют собой аналогичную проблему. Эти системы хранения часто настраиваются в изолированных средах, адаптированных к конкретным сценариям использования. Если бот технической поддержки должен передать текущее взаимодействие с клиентом специализированному боту диагностики оборудования, контекстные данные должны передаваться между изолированными векторными средами с высокой точностью.

Риск загрязнения данных создает проблемы с ответственностью. Если модель обслуживания клиентов случайно получит конфиденциальные финансовые данные из модели внутреннего аудита в ходе контекстного обмена, это может привести к нарушению требований соответствия. суровые регуляторные санкции.

Создание защищенной коммуникационной сети позволяет специалистам по работе с данными применять строго специфические средства контроля доступа на уровне взаимодействия, вместо того чтобы пытаться восстановить логику отдельных моделей. Каждое цифровое взаимодействие требует криптографическое логирование чтобы регулирующие органы могли отслеживать автоматизированные решения до точной точки их возникновения.

🛡️ Рассматриваем коммуникационную сеть как периметр безопасности

В основе архитектуры платформы лежит отказ от идеи монолитной модели, управляющей всем предприятием. Вместо этого она предвосхищает группы специализированных участников Обладая различными сильными сторонами и выполняя разные роли, они работают синхронно, не требуя идентичной архитектуры.

Работая в качестве независимая от фреймворка и облачной платформыСистема признает ценность существующих инструментов. На рынке уже есть функциональные платформы для разработки. Band фокусируется на операционном этапе, подключаясь к нему, когда модели покидают лабораторию и входят в физическую корпоративную сеть в качестве распределенных сущностей.

💡 Основная стратегия: Управление составляет основу этой стратегии. Распространенная ошибка при внедрении корпоративных технологий заключается в том, что управление рассматривается как второстепенная функция, добавляемая в систему после первоначального развертывания. Такой подход не работает применительно к автономным корпоративным субъектам.

Эти системы делегируют задачи, передают контекст и выполняют действия вне рамок организационной структуры. Если правила полномочий остаются неявными, а маршрутизация данных непрозрачна, то даже при техническом функционировании системе будет не хватать необходимого доверия.

Для снижения этого риска базовая сетка должна функционировать как граница безопасностиОрганизациям необходимы механизмы для:

• ✓ Проверьте цепочки делегирования.
• ✓ Ввести строгие ограничения на полномочия.
• ✓ Сохраняйте полные журналы аудита, подробно описывающие действия во время выполнения.
• ✓ Необходимо обеспечить глубокую интеграцию участия человека в процесс исполнения.