Cómo Reco elimina los riesgos de la IA oculta y los puntos ciegos de seguridad

La inteligencia artificial se está integrando en el lugar de trabajo moderno a una escala sin precedentes. Cada día, los empleados conectan tecnologías de IA a los sistemas empresariales, a menudo eludiendo la supervisión de seguridad informática. Este fenómeno, conocido como IA en la sombracrea una red oculta de herramientas no supervisadas que acceden a datos confidenciales de la empresa.

Según el Dr. Tal Shapira, cofundador y CTO de Reco, esta expansión invisible representa una amenaza crítica. "El problema es que los marcos de gobernanza simplemente no se han puesto al día con la velocidad de adopción de la IA", señaló Shapira en una discusión reciente sobre cómo Reco quiere eliminar el punto ciego de la IA en la sombra..

Los riesgos ocultos dentro de los ecosistemas SaaS

Los modelos de seguridad tradicionales diseñados para cortafuegos están fallando. Shadow AI opera desde el adentroIntegradas en plataformas SaaS de confianza como Salesforce, Slack y Google Workspace, estas herramientas suelen utilizar permisos persistentes que permanecen activos mucho después de su uso inicial.

Porque los sistemas de IA son probabilístico—al tomar decisiones basadas en patrones en lugar de órdenes estáticas— sus acciones son notoriamente difíciles de rastrear, revisar y controlar utilizando métodos convencionales.

Impacto en el mundo real: Cuando la IA se descontrola

Los riesgos no son teóricos. Reco ayudó recientemente a una Firma financiera incluida en la lista Fortune 100 que descubrió más de 1.000 integraciones de terceros no autorizadas en sus entornos de Salesforce y Microsoft 365. Más de la mitad funcionaban con inteligencia artificial.

• Se encontró una herramienta de transcripción. Grabación secreta de llamadas confidenciales de clientes para entrenar modelos de terceros.
• Se han expuesto enlaces no autorizados de ChatGPT. Previsiones de ventas sensibles y datos de clientes a sistemas externos.

Cómo Reco protege la infraestructura de IA

La plataforma de Reco proporciona visibilidad completa en conectividad de IA. Al escanear continuamente los entornos SaaS en busca de concesiones OAuth y extensiones de navegador, Reco identifica:

Un nuevo estándar para la gobernanza de la IA

A medida que avanzamos hacia una era en la que cada herramienta empresarial incluye IA, el enfoque debe cambiar de la tecnología de bloqueo a gobernarlo de forma seguraReco ayuda a las organizaciones a superar la brecha de visibilidad, garantizando que la productividad no se logre a expensas de la seguridad.

Fuente: Información basada en datos Reco quiere eliminar el punto ciego de la IA en la sombra..