Как эффективно защитить системы искусственного интеллекта в условиях современных и будущих вызовов кибербезопасности

Электронная книга под названием В публикации Utimaco «Устойчивость ИИ к квантовым воздействиям» говорится, что риски безопасности считаются основным препятствием для эффективного внедрения ИИ с использованием организационных данных.

Ценность ИИ во многом зависит от количество и качество данных Организация накапливается. Однако организации сталкиваются со значительными трудностями. риски безопасности при создании моделей ИИ и их обучении на конфиденциальных данных. Эти риски выходят за рамки таких широко обсуждаемых угроз, как кража интеллектуальной собственности в процессе вывода ИИ (например, оперативное проектирование).

Авторы электронной книги подчеркивают, что организации должны управлять угрозами безопасности на всех этапах разработки и внедрения ИИ. Они также отмечают необходимость для компаний заблаговременно адаптировать свои протоколы безопасности, особенно с учетом того, что инструменты расшифровки на основе квантовых вычислений вскоре могут стать доступны злоумышленникам.

Компания Utimaco выделяет три основные области угроз:

• обучающие данные манипуляция со стороны противников это незаметно ухудшает производительность модели, но это трудно обнаружить.
• Извлечение или копирование модели Это нарушает права интеллектуальной собственности и подрывает конкурентные преимущества.
• Раскрытие конфиденциальных данных используется на этапах обучения или вывода модели.

Согласно отчету, Ожидается, что существующие методы криптографии с открытым ключом станут уязвимыми в течение следующего десятилетия. В связи с достижениями в области квантовых вычислений, злоумышленники уже собирают зашифрованные данные с целью их расшифровки после появления мощных квантовых систем. Это создает острую необходимость в защите. наборы данных с долгосрочной чувствительностьювключая данные для обучения ИИ, финансовые отчеты и интеллектуальную собственность.

Переход к криптографии, устойчивой к квантовым атакам Это окажет существенное влияние на протоколы шифрования, управление ключами, совместимость систем и общую производительность. По оценкам Utimaco, этот процесс миграции займет несколько лет.

«Криптогибкость» — способность изменять криптографические алгоритмы без полной переработки всей системы — рекомендуется в качестве стратегического подхода. Этот подход часто включает в себя гибридная криптографиясочетая устоявшиеся методы шифрования с новыми постквантовыми стандартами, такими как те, которые предложены НИСТ.

Авторы также предупреждают, что одной лишь криптографии недостаточно для решения всего спектра угроз безопасности ИИ. Они выступают за внедрение... аппаратные устройства доверия изолировать криптографические ключи и конфиденциальные операции от традиционных ИТ-сред.

В рамках жизненного цикла разработки ИИ меры безопасности должны охватывать этапы сбора данных, обучения, развертывания и вывода результатов. Аппаратные ключи, используемые для шифрования данных и цифровой подписи моделей ИИ, могут быть надежно созданы и сохранены в защищенных от несанкционированного доступа рамках. Это позволяет осуществлять проверку целостность модели до развертывания, в то время как конфиденциальные данные, обрабатываемые в процессе вывода, остаются защищенными.

Специализированные аппаратные анклавы изолируют рабочие нагрузки ИИ, предотвращая доступ к данным во время обработки даже для привилегированных системных администраторов. Эти защищенные модули могут проверять доверенное состояние анклава посредством процесса, называемого внешняя аттестациясоздание надежного «цепочка доверия» от физического оборудования до уровня приложений.

Аппаратное управление ключами также генерирует защищенные от несанкционированного доступа журналы. отслеживание доступа и криптографических операций для оказания помощи организациям в соблюдении таких нормативных требований, как... Закон ЕС об искусственном интеллекте.

Хотя многие уязвимости в системах искусственного интеллекта уже известны и иногда используются злоумышленниками, Возникающая угроза расшифровки с использованием квантовых технологий менее непосредственна, но имеет серьезные долгосрочные последствия. для обеспечения безопасности данных и проектирования инфраструктуры. Компания Utimaco рекомендует:

• Усиление мер безопасности на протяжении всего жизненного цикла разработки и внедрения ИИ.
• Внедрение «крипто-гибкости» для обеспечения плавного перехода к постквантовым криптографическим стандартам.
• Внедрение аппаратных механизмов доверия везде, где задействованы критически важные данные или объекты интеллектуальной собственности.

Источник изображения: «Сканирующая электронная микрофотография апоптотической клетки HeLa» Национальных институтов здравоохранения (NIH), лицензировано в соответствии с условиями лицензии. CC BY-NC 2.0.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Изучите Выставка искусственного интеллекта и больших данныхМероприятие, проходившее в Амстердаме, Калифорнии и Лондоне, является частью... TechEx и проводится одновременно с другими ведущими технологическими конференциями. Посетите их сайт для получения дополнительной информации. более подробная информация.

Новости об искусственном интеллекте предоставлены вам компанией TechForge MediaДля получения информации о других предстоящих мероприятиях и вебинарах, посвященных корпоративным технологиям, нажмите здесь. здесь.