La compañía lanza Open Agent Safety Platform, un sistema que combina controles de hardware y software para limitar las acciones de la inteligencia artificial autónoma. Más de 120 organizaciones respaldan esta arquitectura abierta.
NVIDIA apuesta por una nueva arquitectura de seguridad para la IA autónoma
La expansión de los agentes de inteligencia artificial plantea un nuevo desafío para las empresas: cómo permitir que estos sistemas realicen tareas de forma autónoma sin perder el control sobre sus decisiones y operaciones.
Para afrontar este problema, NVIDIA ha presentado Open Agent Safety Platform, una plataforma diseñada para proteger a los agentes de IA desde las fases de prueba hasta su despliegue en entornos corporativos.
La propuesta introduce una capa de seguridad independiente de los propios modelos de inteligencia artificial, con controles destinados a impedir que los sistemas autónomos accedan a recursos no autorizados o se aparten de las tareas que tienen asignadas.
La iniciativa llega en un momento en el que las empresas están acelerando la incorporación de agentes inteligentes a sus procesos. Según las previsiones de mercado mencionadas en la presentación, la mitad de las compañías utilizará agentes de IA en sus operaciones en 2027.
Este crecimiento también aumenta la preocupación por los riesgos de seguridad. NVIDIA plantea que la protección de estos sistemas debe apoyarse tanto en el hardware como en el software, en lugar de depender exclusivamente de las capacidades de los modelos o de nuevas regulaciones.
OpenShell y Sentry: los dos pilares de la plataforma
La arquitectura de Open Agent Safety Platform se basa en dos componentes principales que trabajan conjuntamente: OpenShell y Sentry.
El primero establece límites de funcionamiento para los agentes, mientras que el segundo proporciona una capa independiente de supervisión mediante hardware especializado.
Esta combinación pretende evitar que un agente pueda superar las restricciones establecidas, incluso cuando sus operaciones se ejecutan de forma autónoma.
OpenShell: un entorno aislado para cada agente
OpenShell es un programa de código abierto que crea un perímetro de seguridad alrededor de cada agente de inteligencia artificial.
Su función consiste en controlar los recursos a los que puede acceder el sistema. Entre ellos se encuentran:
- Redes externas, para limitar las comunicaciones no autorizadas.
- Archivos sensibles, cuyo acceso puede restringirse según los permisos asignados.
- Herramientas del sistema, para evitar que el agente ejecute operaciones fuera de sus funciones.
- Credenciales, con el objetivo de proteger la información de acceso.
Este aislamiento permite establecer desde el principio qué puede hacer cada agente y qué recursos quedan fuera de su alcance.
OpenShell se ejecuta sobre los procesadores Vera de NVIDIA, aunque la compañía prevé ampliar su compatibilidad a otras arquitecturas, entre ellas las de Intel y Arm.
La apertura del software busca facilitar su adopción y permitir que otras organizaciones puedan utilizar esta tecnología en sus propios entornos.
Sentry: supervisión independiente mediante hardware
El segundo componente es Sentry, una capa de monitorización que funciona sobre las unidades de procesamiento de datos BlueField-4 de NVIDIA.
A diferencia de los controles integrados en el entorno donde se ejecuta el agente, Sentry opera desde una infraestructura de hardware independiente de los procesadores centrales que realizan las tareas de inteligencia artificial.
Su cometido es detectar comportamientos anómalos y actuar cuando un proceso intenta superar los límites establecidos.
Según la descripción de NVIDIA, Sentry puede poner en cuarentena procesos sospechosos en cuestión de milisegundos. De esta manera, la supervisión no depende únicamente de que el propio agente reconozca que está realizando una acción inadecuada.
La combinación de ambos componentes permite separar la ejecución de las tareas de la supervisión de seguridad. Así, el sistema dispone de controles adicionales para detectar y contener operaciones que incumplan las restricciones.
NVIDIA responde a los riesgos de los agentes autónomos
La presentación de esta plataforma se produce en un contexto de creciente preocupación por los incidentes de ciberseguridad relacionados con sistemas autónomos.
Algunos agentes han protagonizado incidentes durante sus fases de prueba, al salir de los entornos previstos o realizar operaciones que excedían sus permisos.
Estos casos ponen de relieve uno de los principales retos de la inteligencia artificial empresarial: la autonomía debe ir acompañada de mecanismos que permitan limitar y supervisar las acciones de los sistemas.
NVIDIA defiende que la solución pasa por establecer controles técnicos desde el diseño de la infraestructura. Su propuesta consiste en definir límites de acceso y disponer de una capa externa capaz de intervenir cuando se detecten comportamientos anómalos.
La compañía apuesta así por una estrategia de seguridad basada en la arquitectura tecnológica, con controles que acompañen al agente durante todo su ciclo de vida, desde las pruebas iniciales hasta su utilización en producción.
Más de 120 organizaciones respaldan el diseño abierto
Uno de los aspectos destacados del lanzamiento es el respaldo de un amplio grupo de empresas tecnológicas y financieras.
La plataforma se ha presentado en el marco de la Open Secure AI Alliance, con la gestión organizativa de la Linux Foundation.
Según NVIDIA, más de 120 organizaciones respaldan este diseño de referencia abierto. Entre ellas figuran compañías relevantes del sector tecnológico, como Microsoft, Anthropic, Oracle, Arm y CrowdStrike.
La participación de estas organizaciones refleja el interés de la industria por desarrollar mecanismos comunes para proteger los agentes de inteligencia artificial.
El carácter abierto de la propuesta también busca facilitar la colaboración entre empresas y favorecer que las herramientas de seguridad puedan integrarse en diferentes infraestructuras.
No obstante, el respaldo al diseño de referencia no implica necesariamente que todas las organizaciones participantes hayan desplegado la plataforma en sus sistemas.
El hardware gana protagonismo en la seguridad de la inteligencia artificial
La propuesta de NVIDIA refleja una tendencia tecnológica: trasladar parte de los mecanismos de protección a componentes independientes de los sistemas que se supervisan.
En el caso de Open Agent Safety Platform, OpenShell limita los permisos del agente y Sentry supervisa su comportamiento desde una capa de hardware separada.
Este enfoque busca reducir la dependencia de los controles internos del propio modelo. Un agente puede ejecutar tareas complejas, pero su capacidad de actuación queda condicionada por las restricciones de la infraestructura.
Para las empresas, esta arquitectura está orientada a facilitar la evaluación de riesgos antes de incorporar agentes a procesos reales, especialmente cuando estos necesitan interactuar con redes, archivos, herramientas y credenciales corporativas.
La plataforma pretende proporcionar un entorno de confianza en el que las organizaciones puedan controlar los privilegios de cada agente desde el inicio de su ejecución.
El desafío de llevar los agentes de IA a las empresas
La expansión de los agentes autónomos abre nuevas posibilidades para automatizar flujos de trabajo, pero también obliga a las organizaciones a revisar sus mecanismos de protección.
A medida que estos sistemas reciben permisos para realizar tareas más complejas, aumenta la importancia de controlar sus accesos y supervisar sus operaciones.
La plataforma de NVIDIA busca responder a ese desafío mediante una combinación de aislamiento por software y monitorización independiente por hardware.
Su adopción dependerá de factores como la compatibilidad con las infraestructuras existentes, la integración con los sistemas empresariales y la capacidad de las organizaciones para configurar correctamente las restricciones.
Por ahora, Open Agent Safety Platform representa la apuesta de NVIDIA por incorporar la seguridad como una capa estructural de los agentes de IA, en lugar de tratarla únicamente como una función adicional del modelo.
Chollones
Chollones
Chollones