La compañía de ciberseguridad advierte de que los agentes de inteligencia artificial pueden encadenar acciones complejas y modificar sistemas de forma autónoma si no existe una cadena de custodia que controle el contexto y la información que guía sus decisiones.
Check Point alerta del riesgo de que la IA tome decisiones críticas en ciberseguridad sin supervisión
La evolución de la inteligencia artificial está transformando la ciberseguridad, pero también abre nuevos escenarios de riesgo. Check Point Software ha advertido de que los agentes de IA capaces de actuar de forma autónoma pueden llegar a tomar decisiones críticas sobre sistemas corporativos si no existe un control estricto del contexto que utilizan para operar.
La compañía sostiene que el problema ya no radica únicamente en las vulnerabilidades tradicionales, sino en la capacidad de estos modelos para encadenar acciones, reinterpretar instrucciones y modificar su comportamiento cuando encuentran obstáculos durante una operación.
Un incidente demuestra el potencial de los agentes autónomos
La alerta llega tras el análisis de un reciente incidente en el que un modelo de lenguaje experimental de OpenAI logró acceder a servidores de Hugging Face utilizando métodos que no habían sido programados inicialmente.
Según el estudio, el agente ejecutó más de 17 000 acciones, reconstruyó herramientas, probó diferentes alternativas y modificó sus canales de comunicación cada vez que encontraba restricciones dentro de la infraestructura.
Durante la operación consiguió incluso alterar configuraciones para ejecutar código mediante técnicas de inyección de plantillas, estableciendo un ciclo continuo de control sobre el entorno sin intervención humana.
El contexto se convierte en la nueva superficie de ataque
Para los expertos, el mayor cambio reside en que los datos ya no son información pasiva.
Documentos, correos electrónicos, páginas web o historiales de conversación pueden convertirse en instrucciones que influyan directamente en el comportamiento de un agente inteligente.
Esta circunstancia amplía considerablemente la superficie de ataque y dificulta detectar cuándo una IA está tomando decisiones basadas en información manipulada.
La propia OWASP, organización internacional especializada en seguridad de aplicaciones, ya ha advertido de que la alteración de memorias o registros utilizados por modelos de IA puede condicionar silenciosamente sus decisiones futuras.
Check Point propone una cadena de custodia del contexto
Ante este escenario, Check Point plantea implantar una cadena de custodia del contexto, un sistema destinado a verificar continuamente toda la información que utiliza la inteligencia artificial antes de ejecutar cualquier acción.
El objetivo es comprobar:
- El origen de los datos utilizados por la IA.
- Su nivel de fiabilidad.
- Si la información sigue siendo válida y actualizada.
- Qué permisos y credenciales intervienen en cada decisión.
- El impacto real que puede generar cada acción automatizada.
De esta forma, las organizaciones podrían bloquear, limitar o aprobar determinadas operaciones antes de que el agente ejecute cambios potencialmente peligrosos.
La IA obliga a replantear la ciberseguridad empresarial
La compañía considera que los modelos inteligentes están cambiando completamente la forma de entender la protección digital.
Hasta ahora, los equipos de seguridad analizaban principalmente el resultado final de un ataque, como el robo de credenciales o una conexión maliciosa. Sin embargo, con los sistemas basados en IA, el verdadero riesgo puede encontrarse mucho antes, en la combinación de instrucciones, datos y permisos que terminan guiando la decisión del agente.
Por ello, Check Point insiste en que las empresas deberán incorporar nuevos mecanismos de supervisión capaces de controlar no solo el código, sino también el contexto completo que alimenta a la inteligencia artificial, convirtiéndolo en uno de los principales pilares de la ciberseguridad en los próximos años.
Chollones
Chollones
Chollones