APAC Enterprises переносит инфраструктуру ИИ на периферию сети, чтобы сократить затраты на обработку данных.

расходы на ИИ в Азиатско-Тихоокеанский регион (АТР) Развитие этого региона стремительно растет, однако многие предприятия испытывают трудности с получением ощутимой отдачи от инвестиций. Основная проблема — инфраструктура: существующие системы часто не рассчитаны на скорость и масштаб, необходимые для современных методов искусственного интеллекта. Согласно отраслевым исследованиям, крупные инвестиции в инструменты GenAI часто не достигают поставленных целей из-за этих архитектурных ограничений.

Этот разрыв в производительности подчеркивает решающую роль инфраструктура ИИ в управлении затратами и масштабировании развертываний. Для решения этой проблемы, Умный представила свою Облако выводов, питаться от Графические процессоры NVIDIA Blackwellс целью приблизить процесс принятия решений к пользователю, чтобы устранить задержки и снизить накладные расходы.

Сокращение разрыва между экспериментами и производством

Джей ДженкинсТехнический директор по облачным вычислениям в Akamai отметил в интервью, говоря о тенденции «предприятия Азиатско-Тихоокеанского региона переносят инфраструктуру ИИ на периферию по мере роста затрат на вывод данных», что многие инициативы терпят неудачу, потому что организации недооценивают переход от пилотного проекта к производственной эксплуатации. Высокие затраты на инфраструктуру и большая задержка часто тормозят прогресс.

Хотя централизованные облачные сервисы являются стандартом, по мере роста их использования они становятся непомерно дорогими, особенно в регионах, удаленных от крупных центров обработки данных. «Мощь искусственного интеллекта зависит от инфраструктуры, на которой он работает». Дженкинс подчеркивает, что сложность многооблачной среды и требования к соблюдению нормативных требований к данным еще больше усложняют ситуацию.

Переход от обучения ИИ к выводу результатов в реальном времени.

По мере развития внедрения ИИ в Азиатско-Тихоокеанском регионе акцент смещается с эпизодического обучения моделей на непрерывный выводЕжедневные операционные нагрузки потребляют наибольшую вычислительную мощность, особенно по мере внедрения языковых, компьютерных и мультимодальных моделей на различных рынках. Централизованные системы, изначально не предназначенные для такой быстродействия, становятся основным узким местом.

периферийная инфраструктура Оптимизирует это следующим образом:

• Сокращение расстояния между источниками данных: Сокращение пути передачи данных для обеспечения более быстрой реакции модели.
• Снижение затрат: Избежание высоких комиссий за исходящий трафик, связанных с маршрутизацией данных между удаленными облачными узлами.
• Обеспечение возможности действий в режиме реального времени: Поддержка физических систем искусственного интеллекта, таких как робототехника и автономные машины, требующие принятия решений за миллисекунды.

Внедрение в отрасли: розничная торговля, финансы и другие сферы.

Отрасли, чувствительные к задержкам, лидируют в переходе к периферийным вычислениям:

• Розничная торговля и электронная коммерция: Локализованный анализ данных обеспечивает персонализированные рекомендации и многомодальный поиск, предотвращая отказ пользователей от использования сервиса из-за низкой скорости работы.
• Финансы: Выявление мошенничества и одобрение платежей основаны на быстрых цепочках принятия решений с использованием искусственного интеллекта. Локальная обработка данных помогает компаниям поддерживать скорость, сохраняя при этом данные в рамках нормативных требований.

Строим будущее: агентный ИИ и безопасность

Следующий этап развития ИИ включает в себя ИИ-агент—системы, принимающие автономные последовательности решений. Для этого требуется «Сеть доставки ИИ» Это распределяет вывод данных по тысячам точек на периферии сети. Такой распределенный подход не только повышает производительность, но и упрощает процесс. управление данными для 50% организаций в Азиатско-Тихоокеанском регионе, которые в настоящее время испытывают трудности из-за различий в региональных нормативных актах.

По мере того, как процесс вывода смещается на периферию, безопасность Это остается первостепенной задачей. Внедрение механизмов контроля «нулевого доверия» и защита API-конвейеров на каждом узле гарантируют, что отказоустойчивость не будет достигаться за счет уязвимости. Для предприятий в 2025 году и далее переход к периферийным вычислениям больше не является необязательным — это необходимое условие для масштабируемого и экономически эффективного ИИ.