Los sistemas de inteligencia artificial (IA) están operando con una independencia creciente dentro del ámbito corporativo, gestionando funciones como la priorización de incidencias, activación de procesos y decisiones operativas sin intervención humana directa. Este avance fue el foco principal en la conferencia europea de ISACA celebrada recientemente en Múnich, Alemania, donde se analizaron los desafíos que plantea la asignación de responsabilidades en las decisiones tomadas por estas herramientas.
Debate sobre regulación y control
El evento reunió a más de 500 profesionales de más de 50 países y especialistas internacionales, quienes destacaron la necesidad de definir claramente el alcance de actuación de los algoritmos y garantizar la trazabilidad completa de sus procesos. Este análisis se realiza en un contexto de cambios normativos en Europa, impulsados por regulaciones como la Ley de Inteligencia Artificial, la directiva NIS2, el reglamento DORA y el Reglamento de Ciberresiliencia, que buscan mejorar la seguridad y supervisión de los sistemas tecnológicos.
Requisitos para una gobernanza efectiva
Expertos en ciberseguridad indicaron que la gestión adecuada de estos sistemas requiere que las autorizaciones otorgadas sean temporales, específicas según el contexto de cada tarea y que puedan ser revocadas en tiempo real si es necesario. Además, es fundamental controlar que cada acción algorítmica coincida con el objetivo original autorizado, asegurando la documentación completa de la cadena operativa.
Por otro lado, responsables de gestión empresarial resaltaron la importancia de traducir la normativa en procedimientos prácticos de supervisión continua. Esto implica concentrar los controles en el nivel del sistema informático para limitar la autonomía de los algoritmos y designar responsables claros en operaciones donde participan múltiples agentes virtuales.
Integración de normativas y desafíos operativos
Para evitar sobrecarga administrativa, se recomendó integrar directrices como la ISO 42001 con los controles existentes en departamentos de Tecnología de la Información (TI), favoreciendo la continuidad de las medidas de protección y vigilancia más allá de la documentación formal.
Asimismo, la adopción masiva de herramientas para generación de contenidos digitales plantea retos adicionales, dado que facilitan la creación de material sintético, lo que puede aumentar la manipulación de información y generar dudas sobre la autenticidad del contenido.
Especialistas sugieren implementar mecanismos técnicos que certifiquen la procedencia de los contenidos digitales para combatir la desconfianza, aunque reconocen que estas medidas no solucionan completamente los problemas de verificación.
Importancia del factor humano y la formación
El evento subrayó que las medidas de ciberprotección sólo tienen éxito si cuentan con la participación activa del personal encargado de aplicarlas y mantenerlas, enfatizando la necesidad del liderazgo y formación adecuados para gestionar la incertidumbre y aprender de errores operativos.
Responsabilidad corporativa en el uso de IA
Desde la dirección estratégica de ISACA se insistió en que delegar funciones operativas en sistemas inteligentes no exime a las empresas de su responsabilidad final. Antes de otorgar independencia a una IA, es imprescindible auditar su alcance, el acceso a información y prever la intervención humana en caso de desviaciones.
Profesionales del sector disponen de documentos técnicos y guías de referencia que orientan sobre la evaluación de la madurez tecnológica y el control del riesgo asociado a la utilización de agentes virtuales.