Как Reco устраняет риски, связанные с теневым ИИ, и «слепые зоны» безопасности.

Искусственный интеллект интегрируется в современное рабочее пространство в беспрецедентных масштабах. Каждый день сотрудники подключают технологии ИИ к корпоративным системам, часто обходя контроль со стороны ИТ-безопасности. Это явление известно как теневой ИИсоздает скрытую сеть неконтролируемых инструментов, получающих доступ к конфиденциальным данным компании.

По словам доктора Тала Шапиры, соучредителя и технического директора компании... РекоЭта невидимая разрастающаяся сеть представляет собой серьезную угрозу. «Проблема в том, что системы управления просто не успевают за скоростью внедрения ИИ», — отметил Шапира в недавней дискуссии о том, как Компания Reco стремится устранить «слепое пятно» теневого искусственного интеллекта..

Скрытые риски в экосистемах SaaS

Традиционные модели безопасности, разработанные для межсетевых экранов, терпят неудачу. Теневой ИИ работает извне. внутриЭти инструменты, встроенные в надежные SaaS-платформы, такие как Salesforce, Slack и Google Workspace, часто используют постоянные разрешения, которые остаются активными еще долго после их первоначального использования.

Потому что системы искусственного интеллекта вероятностный— принимая решения на основе закономерностей, а не статических команд, — их действия, как известно, крайне сложно отслеживать, анализировать и контролировать с помощью традиционных методов.

Влияние на реальный мир: когда ИИ выходит из-под контроля

Риски не являются теоретическими. Компания Reco недавно оказала помощь... Финансовая компания из списка Fortune 100 В результате было обнаружено более 1000 несанкционированных интеграций сторонних сервисов в средах Salesforce и Microsoft 365. Более половины из них были реализованы с использованием искусственного интеллекта.

• Был найден инструмент для транскрипции. тайная запись конфиденциальных звонков клиентов для обучения моделей сторонних разработчиков.
• Раскрыты несанкционированные ссылки ChatGPT чувствительные прогнозы продаж и передавать данные клиентов во внешние системы.

Как Reco обеспечивает безопасность инфраструктуры ИИ

Платформа Reco предоставляет полная видимость в области взаимодействия с ИИ. Путем непрерывного сканирования сред SaaS на наличие разрешений OAuth и расширений браузера Reco выявляет:

Новый стандарт управления ИИ

Вступая в эпоху, когда каждый бизнес-инструмент включает в себя ИИ, необходимо сместить акцент с блокирования технологий на безопасно управлять имReco помогает организациям преодолеть разрыв в прозрачности, гарантируя, что производительность не достигается за счет безопасности.

Источник: Аналитические данные, основанные на Компания Reco стремится устранить «слепое пятно» теневого искусственного интеллекта..