Министерство финансов США опубликовало всеобъемлющее руководство по рискам, связанным с искусственным интеллектом, для финансовых учреждений с целью повышения уровня безопасности.

Министерство финансов США выпустил сборник ключевые документы Разработано специально для финансовой индустрии США. В них изложены следующие положения: структурированный подход к управлению рисками в области ИИ как в оперативной деятельности, так и в политике (см. подзаголовок). «Ресурсы и загрузки» (в нижней части страницы по ссылке). Ключевым моментом здесь является... Структура управления рисками в сфере искусственного интеллекта в финансовых услугах (FS AI RMF) CRI, сопровождаемый подробным ПутеводительДанная концепция является результатом сотрудничества более 100 финансовых учреждений, регулирующих органов и технических экспертов и направлена ​​на то, чтобы помочь компаниям выявлять, оценивать, управлять и контролировать риски, связанные с ИИ, одновременно содействуя ответственному внедрению ИИ.

Секторальное управление рисками в сфере ИИ Это крайне важно, поскольку традиционные системы управления не в полной мере решают такие проблемы, как... алгоритмическая предвзятость, ограниченная прозрачность в процессе принятия решений в области ИИ, уязвимости кибербезопасности, и сложные взаимозависимости Взаимодействие между системами и данными. В частности, большие языковые модели (LLM) вызывают опасения из-за непредсказуемого и зависящего от контекста результата.

Хотя существующие правила и общие рамки оценки рисков в сфере ИИ, такие как Рамочная программа управления рисками в области искусственного интеллекта NIST Хотя они предлагают общие рекомендации, им не хватает детальной информации, необходимой финансовым учреждениям со специфическими отраслевыми проблемами и требованиями регулирующих органов. FS AI RMF расширяет возможности NIST. практические средства управления а также индивидуальные консультации по внедрению.

Основные компоненты FS AI RMF

Данная структура интегрирует управление ИИ с существующими процессами управления, рисками и соблюдением нормативных требований (GRC) в финансовых учреждениях. Она включает в себя:

• Анкета на этапе внедрения ИИ: Оценивает текущий уровень зрелости ИИ в организации.
• Матрица рисков и контроля: Определяет формулировки рисков и цели контроля в соответствии с этапами внедрения.
• Путеводитель: Подробные инструкции по применению данной структуры.
• Руководство по целям контроля: Приводит примеры мер контроля и доказательства соответствия требованиям.

Данная структура определяет 230 целей контроля сгруппированы по четырем функциям, адаптированным из материалов NIST: управлять, карта, мера, и управлятьКаждая функция содержит категории и подкатегории, описывающие эффективные элементы управления рисками с помощью ИИ.

Оценка этапов зрелости ИИ

Анкета по внедрению помогает компаниям определить, насколько активно они используют ИИ, а этот статус может значительно варьироваться:

• Начальный этап: Внедрение ИИ в практическую деятельность практически отсутствует, в основном находится на стадии рассмотрения.
• Минимальная стадия: Ограниченное использование ИИ в приложениях с низким уровнем риска или в отдельных случаях.
• Этап развития: Внедрение более сложных систем искусственного интеллекта, затрагивающих конфиденциальные данные или использующих внешние сервисы.
• Встроенный этап: Искусственный интеллект играет значительную роль в основных бизнес-процессах и принятии решений.

Такая классификация компаний позволяет им сосредоточить меры контроля на уровнях, соответствующих их зрелости: организациям на ранних стадиях развития не сразу требуются полные меры контроля, но по мере углубления использования ИИ данная система добавляет дополнительные гарантии для снижения возросшего риска.

Контроль рисков и корпоративное управление

Цели контроля охватывают как сферы управления, так и операционную деятельность, например:

• Управление качеством данных
• Мониторинг справедливости и предвзятости
• Меры кибербезопасности
• Прозрачность процессов принятия решений в области ИИ
• Операционная устойчивость

Он Путеводитель Предлагаются примеры контрольных мер и подтверждающие документы для обеспечения соответствия требованиям, однако каждое учреждение должно адаптировать эти меры к своим уникальным условиям.

Кроме того, данная структура рекомендует специальные планы реагирования на инциденты с использованием ИИ и поддержание централизованное хранилище инцидентов ИИ отслеживать сбои, способствовать их выявлению и постоянно совершенствовать управление.

Принципы создания надежного ИИ

В основе модели FS AI RMF лежат основополагающие принципы, в том числе: достоверность, надежность, безопасность, защищенность, подотчетность, прозрачность, объяснимость, защита конфиденциальности и справедливостьЭти инструменты служат ориентиром при оценке на протяжении всего жизненного цикла ИИ, обеспечивая надежность результатов, устойчивость систем к киберугрозам и объяснимость принимаемых решений, особенно в случаях, когда это влияет на нормативные требования или потребности клиентов.

Стратегическое руководство для лидеров

Для руководителей финансовых учреждений по всему миру FS AI RMF предоставляет дорожную карту для внедрения управления ИИ в существующие процессы управления рисками. В ней подчеркивается необходимость тесной координации между технологическими командами, специалистами по управлению рисками, специалистами по соблюдению нормативных требований и бизнес-подразделениями для эффективного управления ИИ.

Внедрение ИИ без надежного управления чревато сбоями в работе, штрафами со стороны регулирующих органов и ущербом для репутации. И наоборот, компании, внедряющие четкие, постоянно развивающиеся системы управления, повысят доверие к использованию ИИ.

В данном руководстве управление рисками, связанными с ИИ, рассматривается как динамичная практика, развивающаяся вместе с развитием технологий ИИ и изменением нормативно-правовой базы. Учреждениям необходимо постоянно обновлять свои системы управления и оценки рисков.

Главный вывод: Внедрение ИИ и управление рисками должны развиваться параллельно. Модель управления рисками в сфере финансовых услуг в области ИИ (FS AI RMF) предоставляет... общий язык и структура ответственно управлять меняющимися рисками, связанными с ИИ.

(Источник изображения: “Law Books” от seychelles88, распространяется по лицензии CC BY-NC-SA 2.0.)

Хотите поучиться у лидеров индустрии искусственного интеллекта и больших данных?

Посмотрите Выставка искусственного интеллекта и больших данных Мероприятия проводятся в Амстердаме, Калифорнии и Лондоне. Эта масштабная конференция является частью TechEx и проводится одновременно с другими ведущими технологическими выставками. Для получения полной информации, пожалуйста, нажмите здесь. здесь.

AI News работает на базе TechForge MediaОзнакомьтесь с предстоящими мероприятиями и вебинарами по корпоративным технологиям. здесь.