La expansión de agentes de inteligencia artificial capaces de acceder a sistemas y ejecutar tareas de forma autónoma abre un nuevo frente para la ciberseguridad empresarial. Google y Exabeam quieren detectar sus comportamientos anómalos antes de que se conviertan en incidentes.
La inteligencia artificial agéntica promete transformar la productividad de las empresas, pero también está introduciendo un problema que hasta hace poco apenas existía: identidades digitales capaces de actuar dentro de los sistemas corporativos a velocidad de máquina.
Un agente de IA puede consultar bases de datos, utilizar herramientas, acceder a aplicaciones y ejecutar cadenas completas de acciones sin que una persona tenga que aprobar individualmente cada paso.
Precisamente esa autonomía constituye su principal ventaja.
Y también uno de sus mayores riesgos.
Ante este escenario, Exabeam ha integrado sus capacidades de análisis de comportamiento y automatización directamente en Google Security Operations, la plataforma de operaciones de seguridad de Google Cloud.
El objetivo es permitir que las empresas puedan supervisar desde un mismo entorno tanto el comportamiento de usuarios humanos como el de agentes e identidades no humanas, identificando actividades potencialmente peligrosas antes de que provoquen un incidente de seguridad.
El movimiento anticipa uno de los grandes debates de la próxima fase de la inteligencia artificial: si las empresas entregan cada vez más autonomía a los agentes de IA, también necesitarán saber exactamente qué hacen, a qué información acceden y cuándo empiezan a comportarse de manera inesperada.
Los agentes de IA abren un nuevo frente en la ciberseguridad
Durante décadas, buena parte de la seguridad informática empresarial se diseñó pensando fundamentalmente en personas.
Un trabajador inicia sesión.
Accede a determinados archivos.
Utiliza aplicaciones.
Descarga información.
Modifica documentos.
Si su comportamiento se desvía de lo habitual, los sistemas de seguridad pueden generar una alerta.
La llegada de los agentes de inteligencia artificial altera ese modelo.
Estas herramientas pueden disponer de credenciales y permisos para acceder a diferentes recursos corporativos, comunicarse con aplicaciones y ejecutar tareas automáticamente.
Y pueden hacerlo muchísimo más rápido que una persona.
Esto significa que una identidad no humana comprometida, mal configurada o excesivamente privilegiada podría realizar numerosas acciones antes de que un operador humano detectara el problema.
El riesgo no implica necesariamente que el agente sea malicioso.
Puede existir una instrucción incorrecta, una configuración deficiente, credenciales comprometidas, permisos excesivos o una manipulación externa que termine provocando un comportamiento peligroso.
La cuestión central pasa a ser la misma: cómo distinguir rápidamente entre lo normal y lo anómalo.
Google y Exabeam quieren vigilar humanos y máquinas desde el mismo lugar
La integración anunciada pretende resolver precisamente ese problema.
Las capacidades de Exabeam New-Scale Analytics pasan a integrarse directamente con Google Security Operations.
La tecnología de Exabeam está especializada en analizar patrones de comportamiento para detectar desviaciones que puedan indicar una amenaza.
Aplicado a un empleado, el sistema puede identificar accesos o actividades inusuales.
Aplicado a una identidad de IA, el principio es similar.
Si un agente comienza a consultar recursos que normalmente no utiliza, modifica repentinamente su patrón de actividad o ejecuta acciones incompatibles con su funcionamiento habitual, ese comportamiento puede convertirse en una señal para los responsables de seguridad.
La diferencia fundamental es la velocidad.
Un empleado puede tardar horas en ejecutar manualmente decenas de operaciones. Un agente automatizado podría realizarlas en segundos o minutos.
Por eso, detectar anomalías con rapidez se vuelve mucho más importante.
El gran riesgo: agentes con acceso real a sistemas empresariales
Los chatbots popularizaron la inteligencia artificial generativa, pero los agentes representan un cambio más profundo.
Un chatbot convencional responde principalmente a las instrucciones de un usuario.
Un agente puede estar diseñado para actuar.
Puede recibir un objetivo, decidir qué herramientas necesita y ejecutar diferentes pasos para alcanzarlo.
Por ejemplo, un agente empresarial podría consultar información sobre clientes, analizar inventarios, actualizar registros, generar documentación o interactuar con otros sistemas internos.
Cuanto más útil resulte, probablemente necesitará más permisos.
Y ahí aparece el dilema.
Dar más permisos a la IA aumenta su utilidad, pero también incrementa el impacto potencial de un error o una intrusión.
La misma credencial que permite automatizar una tarea empresarial legítima podría convertirse en una vía de acceso a información sensible si termina comprometida.
Las identidades no humanas empiezan a preocupar a las empresas
La ciberseguridad tradicionalmente ha dedicado enormes esfuerzos a verificar quién es cada usuario.
Contraseñas.
Autenticación multifactor.
Permisos.
Roles.
Controles de acceso.
La expansión de la automatización añade ahora otra categoría: las identidades no humanas.
Cuentas de servicio, aplicaciones, procesos automatizados y agentes necesitan credenciales para comunicarse con los sistemas.
El desafío consiste en garantizar que cada identidad disponga exclusivamente de los permisos necesarios.
Es el conocido principio de mínimo privilegio.
Un agente destinado a consultar una base de datos no debería poder modificarla si esa función no resulta imprescindible.
Un sistema que trabaja con información comercial tampoco debería tener acceso automáticamente a recursos financieros o administrativos.
Cuantas más conexiones existan, mayor será la superficie potencial de ataque.
El comportamiento puede revelar amenazas que las credenciales no detectan
Existe además un problema adicional.
Un sistema puede utilizar credenciales completamente válidas y, aun así, estar comprometido.
Si un atacante obtiene acceso legítimo a una cuenta o identidad, los controles tradicionales pueden interpretar inicialmente su actividad como autorizada.
Aquí entra en juego el análisis de comportamiento.
En lugar de preguntar únicamente quién está accediendo, la plataforma intenta analizar qué está haciendo esa identidad y si su comportamiento resulta coherente con su historial.
Un cambio repentino puede levantar sospechas.
Por ejemplo, una identidad que normalmente consulta un conjunto limitado de recursos y comienza inesperadamente a acceder a enormes cantidades de información podría requerir una investigación.
La misma lógica puede aplicarse tanto a personas como a agentes de IA.
La integración evita mover datos hacia otras plataformas
Otro aspecto importante del acuerdo entre Google y Exabeam es arquitectónico.
Las capacidades de análisis se ejecutan sobre la infraestructura de Google Cloud, lo que permite trabajar con la telemetría existente dentro del entorno de Google Security Operations.
Esto evita tener que trasladar constantemente información hacia plataformas externas únicamente para analizarla.
El beneficio potencial es doble.
Por un lado, puede reducir la complejidad técnica.
Por otro, puede disminuir parte de los costes y de la carga operativa asociados al movimiento y tratamiento de grandes volúmenes de datos de seguridad.
Para las grandes organizaciones, esta cuestión no es menor.
Las plataformas modernas generan cantidades gigantescas de registros sobre accesos, conexiones, aplicaciones y actividad.
Centralizar la detección permite investigar amenazas sin añadir necesariamente otra capa independiente de infraestructura.
Exabeam asegura mejoras de hasta el 80 % en los flujos de seguridad
Uno de los datos más llamativos comunicados por Exabeam procede de sus pruebas de validación.
Según la compañía, la combinación de estas capacidades puede acelerar hasta en un 80 % determinados flujos de trabajo de detección, investigación y respuesta frente a amenazas.
El porcentaje debe interpretarse correctamente: se trata de resultados comunicados por el propio proveedor sobre sus pruebas de validación, no de una garantía universal de rendimiento para cualquier empresa.
Las mejoras reales dependerán de factores como la infraestructura existente, el volumen de información, las configuraciones utilizadas y los procesos internos de cada organización.
Aun así, el objetivo refleja una de las grandes prioridades actuales de la ciberseguridad: reducir el tiempo existente entre la aparición de una amenaza y su contención.
Con agentes capaces de operar a velocidad de máquina, esa carrera contra el reloj adquiere todavía mayor importancia.
Menos falsas alarmas para unos equipos de seguridad saturados
Otro problema histórico de los centros de operaciones de seguridad es la enorme cantidad de alertas.
No todas representan amenazas reales.
Un sistema excesivamente sensible puede generar cientos o miles de avisos, obligando a los especialistas a dedicar tiempo a investigar eventos irrelevantes.
Es el fenómeno conocido como fatiga de alertas.
La combinación de análisis de comportamiento y automatización pretende mejorar la priorización.
En lugar de tratar todas las señales como igualmente peligrosas, el sistema busca aportar contexto para determinar cuáles merecen atención inmediata.
La llegada de los agentes de IA puede hacer esta capacidad todavía más necesaria.
Si millones de operaciones automatizadas comienzan a producir nueva telemetría, la solución no puede consistir simplemente en generar millones de alertas adicionales.
Será necesario identificar cuáles representan realmente una desviación significativa.
La IA comienza a vigilar a otras inteligencias artificiales
La evolución tecnológica conduce además hacia una situación llamativa: cada vez será más habitual utilizar automatización e inteligencia artificial para supervisar sistemas automatizados basados en inteligencia artificial.
No existe prácticamente otra alternativa cuando la escala aumenta.
Un equipo humano no puede revisar manualmente cada acción ejecutada por cientos o miles de procesos automatizados.
La supervisión tendrá que automatizarse también.
Esto no elimina la necesidad de especialistas.
Al contrario.
El trabajo humano probablemente se desplazará hacia la investigación de anomalías complejas, definición de políticas, gestión de permisos y respuesta ante incidentes.
La máquina filtrará.
El especialista decidirá.
El problema no es únicamente que un agente sea atacado
Existe una tendencia a pensar en la ciberseguridad de la IA exclusivamente desde la perspectiva de un hacker intentando tomar el control.
El escenario real es más amplio.
Un agente puede causar problemas simplemente porque interprete incorrectamente una instrucción.
También puede recibir permisos excesivos.
Puede interactuar con información manipulada.
Puede ejecutar una acción correcta en un contexto incorrecto.
O puede encadenar diferentes decisiones aparentemente razonables que produzcan conjuntamente un resultado no deseado.
Por eso, la seguridad de la inteligencia artificial agéntica no dependerá únicamente de bloquear ataques externos.
También requerirá límites operativos, supervisión continua y capacidad para detener comportamientos inesperados.
Las empresas tendrán que aplicar el principio de “confianza cero” también a la IA
Durante los últimos años se ha extendido en ciberseguridad el concepto de Zero Trust o confianza cero.
Su principio básico consiste en no asumir automáticamente que una identidad es segura simplemente porque se encuentre dentro de la red empresarial.
Cada acceso debe verificarse según el contexto y los permisos correspondientes.
Los agentes de IA hacen que esta filosofía resulte todavía más relevante.
Una empresa no debería confiar ilimitadamente en un agente únicamente porque ella misma lo haya desplegado.
Debería conocer:
- qué permisos tiene;
- a qué datos puede acceder;
- qué herramientas puede ejecutar;
- con qué sistemas puede comunicarse;
- qué comportamiento se considera normal;
- y qué ocurre cuando se desvía de esos límites.
La gobernanza de los agentes puede convertirse así en una de las grandes disciplinas de seguridad empresarial de los próximos años.
La productividad tiene un precio: más autonomía significa más riesgo
El atractivo económico de los agentes resulta evidente.
Una inteligencia artificial capaz de ejecutar tareas de principio a fin puede reducir tiempos, automatizar operaciones repetitivas y permitir que los empleados se concentren en actividades de mayor valor.
Pero existe una relación difícil de evitar.
Cuanta más autonomía recibe una máquina, mayor es la necesidad de supervisarla.
Un modelo que simplemente redacta un correo tiene un impacto limitado.
Un agente autorizado para enviarlo, modificar una base de datos, acceder a información confidencial o ejecutar una transacción se encuentra en otra categoría de riesgo.
El futuro empresarial de los agentes dependerá, por tanto, no solo de demostrar que funcionan.
Tendrán que demostrar que pueden actuar de manera controlada, auditable y reversible.
Google refuerza Security Operations como centro de control
Para Google, la integración fortalece además su estrategia de convertir Google Security Operations en un punto central para gestionar amenazas dentro de las grandes organizaciones.
La plataforma busca reunir grandes cantidades de telemetría, detectar comportamientos sospechosos y facilitar las investigaciones desde un entorno unificado.
La incorporación de las capacidades de Exabeam amplía esa estrategia hacia la supervisión del comportamiento.
Y la expansión de agentes de inteligencia artificial puede incrementar considerablemente el valor de disponer de ese contexto.
La seguridad empresarial ya no tendrá que vigilar únicamente ordenadores, teléfonos, servidores y trabajadores.
Tendrá que controlar también software capaz de tomar decisiones y ejecutar acciones por sí mismo.
La nueva capacidad estará disponible a través de Google Cloud Marketplace
Las empresas podrán acceder a la integración mediante el mercado corporativo de Google Cloud.
La fórmula facilita el despliegue para organizaciones que ya utilizan infraestructura del proveedor.
Además, según las compañías, determinados clientes podrán vincular económicamente la adquisición con compromisos de gasto previamente contratados con Google Cloud.
La estrategia busca reducir una de las principales barreras que aparecen cuando una gran organización incorpora nuevas herramientas de seguridad: la complejidad contractual y de despliegue.
La integración tecnológica, por tanto, viene acompañada de una integración comercial.
Los agentes de IA obligarán a rediseñar la ciberseguridad
El acuerdo entre Google y Exabeam anticipa una transformación mucho mayor.
Hasta ahora, buena parte del debate sobre agentes de IA se ha concentrado en sus posibilidades productivas.
Cuánto trabajo pueden automatizar.
Cuánto dinero pueden ahorrar.
Cuántas tareas pueden ejecutar.
La siguiente pregunta será inevitablemente cómo impedir que esa autonomía se convierta en una vulnerabilidad.
Las empresas tendrán que conocer en todo momento qué agentes existen, qué credenciales utilizan, qué permisos poseen y qué acciones ejecutan.
Además, deberán disponer de mecanismos para detectar anomalías prácticamente en tiempo real.
Porque un agente no necesita una jornada laboral para provocar un incidente.
Puede hacerlo en segundos.
La carrera por los agentes abre también una carrera por controlarlos
Google y Exabeam se preparan para una realidad en la que humanos y máquinas compartirán permisos, aplicaciones y sistemas empresariales.
Eso puede disparar la productividad.
Pero también multiplica la complejidad de la seguridad.
La cuestión ya no será simplemente determinar si un usuario está autorizado.
Habrá que comprobar constantemente si una identidad —humana o artificial— se está comportando como debería.
Exabeam aporta análisis de comportamiento.
Google aporta infraestructura y una plataforma de operaciones de seguridad a escala de nube.
La combinación pretende proporcionar a las empresas una visión centralizada sobre un ecosistema en el que cada vez existirán más identidades automatizadas.
El verdadero desafío comenzará cuando los agentes de IA dejen de ser proyectos experimentales y tengan acceso cotidiano a datos financieros, información confidencial, sistemas de clientes y procesos críticos.
En ese momento, la seguridad dejará de ser un complemento.
Será una condición imprescindible para utilizarlos.
La revolución de los agentes de IA promete máquinas capaces de trabajar de forma autónoma. La próxima gran industria tecnológica será, inevitablemente, la encargada de impedir que esa autonomía se salga de control.
Si una empresa entrega a una inteligencia artificial permisos para actuar por sí misma, ¿quién vigila realmente cada decisión que toma?
Chollones
Chollones
Chollones