Si un agente autónomo entra sin permiso en una red, roba datos o paraliza un servicio, la responsabilidad no recae automáticamente en quien creó el modelo. El derecho distingue entre el delincuente que utiliza la IA, la empresa que la despliega, el proveedor tecnológico y quienes hayan incumplido obligaciones concretas de seguridad. En España, las víctimas pueden denunciar los hechos y reclamar daños, pero deberán determinar qué ocurrió y quién responde por ello.
La expansión de los agentes de inteligencia artificial capaces de actuar por internet plantea una pregunta que ya no pertenece exclusivamente a la ciencia ficción: ¿quién responde cuando un sistema ejecuta una acción informática no autorizada y causa perjuicios?
La cuestión afecta a situaciones muy distintas. Un delincuente puede utilizar un modelo para automatizar un ataque. Una empresa puede desplegar un agente con permisos excesivos. También puede ocurrir que un sistema experimental se salga del alcance autorizado durante una prueba y actúe sobre servicios de terceros.
Esos tres escenarios no tienen necesariamente el mismo responsable. La inteligencia artificial no sustituye al análisis jurídico de las decisiones humanas, los permisos concedidos, los deberes de seguridad y los daños causados.
En España existen vías para investigar los accesos ilícitos, los daños informáticos y las interrupciones graves de servicios. También hay mecanismos de reclamación civil y obligaciones específicas cuando se comprometen datos personales. El nuevo Reglamento Europeo de Inteligencia Artificial añade deberes de seguridad y supervisión para determinados operadores, pero no establece que toda actuación indebida de un modelo convierta automáticamente a su director ejecutivo en responsable penal.
¿Podría Sam Altman ser juzgado por un ataque realizado por un agente de OpenAI?
No por el mero hecho de dirigir la empresa. En un procedimiento penal sería necesario identificar una conducta humana jurídicamente relevante y examinar si concurren los elementos del delito correspondiente.
Una investigación podría analizar, por ejemplo, quién autorizó la actividad del agente, qué límites se fijaron, qué riesgos se conocían y cómo se reaccionó cuando aparecieron señales de comportamiento indebido.
Eso no significa que exista una acusación penal contra Sam Altman por los episodios recientes. Los incidentes publicados y las pruebas de seguridad no permiten, por sí solos, atribuirle responsabilidad personal.
También hay que diferenciar entre la responsabilidad penal de una persona física, la eventual responsabilidad penal de una sociedad en los supuestos previstos por la ley y la responsabilidad civil de indemnizar a una víctima. Cada una tiene requisitos propios.
La cuestión jurídicamente decisiva no es si un sistema se comportó de manera inesperada, sino qué hechos pueden probarse y qué obligaciones correspondían a cada interviniente.
El Código Penal español ya contempla los accesos ilegales y los daños informáticos
Aunque un ataque se ejecute mediante inteligencia artificial, los investigadores deben examinar qué conducta se produjo.
El artículo 197 bis del Código Penal castiga determinados accesos no autorizados a sistemas informáticos cuando se vulneran las medidas de seguridad establecidas para impedirlos. La pena prevista para el supuesto básico de acceso ilícito es de seis meses a dos años de prisión.
El artículo 264 regula los daños informáticos graves, como borrar, deteriorar, alterar o hacer inaccesibles datos ajenos sin autorización. Su modalidad básica contempla penas de seis meses a tres años de prisión.
El artículo 264 bis se refiere a la obstaculización o interrupción grave del funcionamiento de un sistema informático ajeno. Las penas pueden agravarse en determinadas circunstancias, entre ellas cuando se perjudican gravemente servicios públicos esenciales o se afecta a una infraestructura crítica.
La utilización de una IA no convierte automáticamente cualquier error informático en delito. Es necesario examinar los requisitos del tipo penal, incluida la conducta atribuible a una persona y los elementos subjetivos que exija la norma.
La novedad tecnológica puede complicar la investigación, pero no elimina esas exigencias.
Cuatro escenarios y cuatro posibles respuestas legales
Para determinar responsabilidades, conviene distinguir las situaciones que suelen agruparse bajo la expresión «ciberataque con IA».
Primer escenario: un delincuente utiliza un agente como herramienta. Si una persona encarga deliberadamente una intrusión y el sistema la ejecuta, la investigación se dirigirá hacia quienes hayan intervenido en la conducta delictiva. La existencia del agente no borra la actuación humana que pueda acreditarse.
Segundo escenario: una empresa despliega un agente que excede sus permisos. Aquí deberá analizarse quién configuró el sistema, qué autorizaciones recibió, qué medidas de supervisión existían y si hubo incumplimientos jurídicamente relevantes. La existencia de un resultado dañoso no basta por sí sola para establecer una condena.
Tercer escenario: el proveedor del modelo conocía un riesgo y no adoptó medidas exigibles. Podría examinarse una eventual responsabilidad del proveedor cuando concurran los presupuestos legales correspondientes. No sería automática: habría que demostrar la obligación incumplida, el daño y, cuando proceda, su relación causal.
Cuarto escenario: una organización recibe el ataque a través de una integración de terceros. La investigación deberá distinguir la conducta del atacante de las obligaciones de seguridad de la organización perjudicada, del integrador y de cualquier proveedor implicado.
Una misma operación puede involucrar a varias entidades sin que todas tengan idéntica responsabilidad.
¿Puede ser condenada una multinacional?
Sí, una empresa puede responder jurídicamente en determinados supuestos, pero la respuesta depende del procedimiento.
En España, el artículo 31 bis del Código Penal establece los requisitos para atribuir responsabilidad penal a una persona jurídica. No basta con demostrar que un software de la empresa causó un daño. Deben concurrir las condiciones legales previstas para ese delito y esa organización.
El Código Penal contempla expresamente la posible responsabilidad de personas jurídicas respecto de determinados delitos de daños informáticos, mediante el artículo 264 quater.
Otra cuestión es la responsabilidad civil. Una compañía puede afrontar una reclamación por incumplimiento contractual, actuación negligente o daños causados por un producto, según las circunstancias.
Y existe una tercera vía, la administrativa: si se incumplen obligaciones de protección de datos o de seguridad de la IA, la autoridad competente puede investigar y, cuando proceda, sancionar.
Una multa administrativa, una indemnización civil y una condena penal no son la misma cosa. Pueden concurrir en ciertos casos, pero requieren fundamentos y procedimientos diferentes.
¿Dónde se denuncia en España un ciberataque ejecutado con IA?
La víctima no necesita identificar primero qué modelo realizó el ataque para comunicar los hechos. Lo esencial es describir lo ocurrido y conservar las pruebas disponibles.
Las vías principales son las siguientes:
- Policía Nacional o Guardia Civil. Son canales adecuados para denunciar hechos que puedan constituir delito. La denuncia puede presentarse presencialmente; las opciones telemáticas dependen del tipo de hecho y del procedimiento disponible. La Guardia Civil recomienda acudir a sus unidades competentes cuando se trate de delincuencia tecnológica.
- Juzgado de guardia o Ministerio Fiscal. También existen vías legales para poner hechos presuntamente delictivos en conocimiento de la justicia.
- INCIBE-CERT. Permite comunicar incidentes y obtener apoyo técnico para su análisis y contención. Notificar un incidente a INCIBE no sustituye a presentar una denuncia penal.
- Agencia Española de Protección de Datos (AEPD). Es una vía específica cuando los hechos implican un posible incumplimiento de la normativa sobre datos personales y la agencia resulta competente.
Para ciudadanos y empresas que necesiten orientación inicial, el Instituto Nacional de Ciberseguridad (INCIBE) dispone del teléfono gratuito 017. El propio Gobierno aclara que se trata de un servicio de asesoramiento, no de un canal para interponer denuncias.
La distinción evita un error práctico: informar a un organismo técnico puede ayudar a resolver el incidente, pero no abre necesariamente el procedimiento penal que necesita una víctima para reclamar responsabilidades por un delito.
Qué debe hacer una víctima antes de denunciar
Las primeras decisiones tras descubrir una intrusión pueden condicionar la investigación posterior.
La organización afectada necesita contener el incidente y preservar las evidencias. En la práctica, eso exige coordinar al equipo de seguridad con quienes deban investigar los hechos.
Entre las pruebas relevantes pueden figurar los registros de actividad, las alertas de seguridad, las comunicaciones recibidas, los movimientos económicos, las autorizaciones concedidas al agente y la documentación de los daños.
Cuando el incidente afecta a una herramienta de IA, adquieren especial interés las instrucciones que recibió, las herramientas a las que tenía acceso, las acciones que ejecutó y los registros que permitan reconstruirlas.
No basta con conservar una captura de pantalla de la respuesta final de un chatbot si el perjuicio procede de operaciones realizadas en segundo plano.
También conviene documentar cuándo se detectó la incidencia, qué servicios quedaron afectados y qué medidas se adoptaron para reducir el daño.
La preservación de pruebas y la recuperación del servicio deben coordinarse para evitar que una intervención apresurada destruya información útil. Si existen indicios de delito o daños importantes, resulta especialmente relevante contar con asistencia técnica y jurídica especializada.
¿Quién debe pagar por los perjuicios?
La respuesta depende de quién resulte responsable conforme a la ley aplicable.
Si se identifica y condena a un autor de un delito, la víctima puede reclamar la restitución, reparación o indemnización que corresponda. La Ley de Enjuiciamiento Criminal contempla el ejercicio de acciones civiles derivadas del delito.
Si el problema deriva de un incumplimiento contractual, el artículo 1101 del Código Civil ofrece una de las bases para reclamar daños y perjuicios cuando concurren sus requisitos.
Si no existe contrato entre la víctima y quien causó el daño, puede resultar relevante la responsabilidad extracontractual del artículo 1902, que exige examinar la conducta, el daño y la relación causal.
Por ejemplo, si una empresa contrata un agente para organizar sus archivos y este elimina información, habrá que revisar el contrato, las instrucciones, los controles disponibles y las circunstancias concretas de la pérdida. El hecho de que el programa utilice IA no resuelve por sí mismo quién debe indemnizar.
Cuando intervienen varias compañías —proveedor del modelo, desarrollador de una aplicación e integrador—, puede ser necesario determinar qué obligación correspondía a cada una.
La indemnización no se asigna automáticamente a la empresa más grande ni a la que aparece con mayor visibilidad en el producto.
Qué daños podrían reclamarse
Los perjuicios de un incidente informático pueden superar ampliamente el coste de reparar un equipo.
Una empresa perjudicada podría intentar acreditar, según su caso, gastos de recuperación de sistemas, pérdida de archivos, interrupción de actividad, costes extraordinarios y otros daños económicamente evaluables.
También pueden surgir reclamaciones relacionadas con datos personales o con información confidencial.
Pero no todo coste alegado será necesariamente indemnizable. El tribunal deberá examinar la base jurídica, la prueba del perjuicio y su relación con la conducta de la persona o entidad demandada.
Esto resulta especialmente complejo cuando una organización sostiene que perdió ingresos futuros porque un agente paralizó una aplicación. No basta con estimar una cifra: habrá que justificar de manera suficiente el perjuicio reclamado.
La posible intervención de aseguradoras tampoco altera automáticamente las reglas. La cobertura dependerá de las pólizas contratadas, sus exclusiones y las circunstancias del incidente.
Si la IA roba datos personales, entra en juego el RGPD
La protección de datos incorpora obligaciones específicas que deben analizarse de forma separada de la responsabilidad penal.
La Agencia Española de Protección de Datos, en su guía actualizada el 14 de septiembre de 2026, recuerda que el Reglamento General de Protección de Datos (RGPD) obliga a los responsables del tratamiento a notificar las brechas a la autoridad competente cuando sea probable que entrañen un riesgo para los derechos y libertades de las personas.
La notificación debe realizarse sin dilación indebida y, cuando sea posible, dentro de las 72 horas desde que se tiene constancia de la brecha.
Si el riesgo para las personas es alto, el responsable puede estar obligado también a comunicarles lo sucedido sin dilación indebida.
El plazo de 72 horas no se aplica a cualquier fallo de un agente de IA. Se refiere a los supuestos de brecha de datos personales que cumplen las condiciones previstas por el RGPD.
Asimismo, la obligación recae sobre el responsable del tratamiento que corresponda, no necesariamente sobre el fabricante del modelo utilizado en el incidente.
¿Puede una víctima cobrar si la AEPD sanciona a la empresa?
La sanción administrativa no se transforma automáticamente en una indemnización para la persona afectada.
La AEPD aclara que una persona que haya sufrido daños materiales o inmateriales como consecuencia de una infracción de protección de datos puede reclamar una compensación conforme a las normas aplicables.
Sin embargo, la reclamación de indemnización debe plantearse ante los tribunales. La agencia puede investigar y sancionar determinados incumplimientos, pero su procedimiento sancionador no sustituye al juicio destinado a determinar y cuantificar la compensación.
Por eso, una persona cuyos datos hayan quedado expuestos podría tener que seguir dos vías diferentes: una reclamación ante la autoridad de protección de datos y una acción judicial para obtener una eventual indemnización.
La existencia de una brecha tampoco garantiza por sí sola que se reconozca una cantidad económica concreta. El daño y los demás requisitos deben valorarse en cada supuesto.
El Reglamento Europeo de IA no convierte al modelo en responsable legal
La Unión Europea ha establecido un régimen específico de obligaciones para la inteligencia artificial mediante el Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial.
El texto distingue entre distintos operadores, entre ellos proveedores y entidades que despliegan sistemas de IA.
Para los modelos de propósito general, las obligaciones comenzaron a aplicarse el 2 de agosto de 2025. La Comisión Europea explica que incluyen requisitos de documentación y transparencia. Los proveedores de modelos con riesgo sistémico están sujetos, además, a exigencias específicas de evaluación y mitigación de riesgos, notificación de incidentes y ciberseguridad.
Desde el 2 de agosto de 2026, la Comisión dispone de facultades de ejecución para hacer cumplir las obligaciones aplicables a los modelos de propósito general.
El AI Office, la oficina europea encargada de supervisar determinadas obligaciones del reglamento, puede exigir información y medidas de mitigación en los supuestos previstos. La Comisión también contempla sanciones por incumplimientos.
Pero existe una diferencia decisiva: el reglamento impone obligaciones a operadores identificables; no convierte a la IA en una persona que pueda sentarse en el banquillo.
Tampoco establece una regla universal según la cual el proveedor del modelo deba pagar todos los daños ocasionados por cualquier aplicación que lo utilice.
La nueva ley de productos defectuosos incluirá el software, pero aún no se aplica
La Unión Europea ha actualizado también las normas sobre responsabilidad por productos defectuosos mediante la Directiva (UE) 2024/2853.
El nuevo marco incluye el software dentro del concepto de producto en los términos previstos por la directiva. Su régimen puede resultar relevante para determinados daños causados por productos tecnológicos defectuosos, incluidos sistemas que incorporen IA.
No obstante, hay dos límites que deben quedar claros.
Primero: la directiva debe transponerse a la legislación nacional y su nuevo régimen se aplica a los productos introducidos en el mercado o puestos en servicio a partir del 9 de diciembre de 2026. A fecha de esta noticia, 29 de septiembre, ese momento todavía no ha llegado.
Segundo: la directiva no crea un mecanismo general para indemnizar cualquier pérdida económica ocasionada por un agente. Su ámbito material y los daños cubiertos están delimitados.
Por tanto, sería incorrecto afirmar que esta reforma permite ya reclamar automáticamente a OpenAI —o a cualquier otro proveedor— por los incidentes anunciados durante septiembre.
La legislación aplicable dependerá, entre otros factores, del momento en que se introdujo el producto en el mercado y de la naturaleza del perjuicio.
¿Qué sucede si el ataque afecta a un hospital, un banco o una infraestructura crítica?
La afectación de un servicio esencial puede agravar las consecuencias jurídicas y activar obligaciones específicas.
En el ámbito penal español, el artículo 264 contempla supuestos agravados cuando los daños informáticos perjudican gravemente servicios públicos esenciales o afectan a infraestructuras críticas en las condiciones previstas por la ley.
Además, determinadas entidades están sometidas a regímenes específicos de ciberseguridad y notificación de incidentes.
En el sector financiero europeo, el reglamento DORA establece obligaciones de gestión y comunicación de incidentes tecnológicos graves. Su aplicación comenzó el 17 de enero de 2025.
Por ello, si un agente de IA causa una interrupción en una entidad financiera, la investigación de la posible conducta delictiva puede coexistir con el examen de las obligaciones de resiliencia y comunicación que corresponden a esa entidad.
La misma lógica de separación se aplica a otros sectores regulados: el delito presunto, la gestión del incidente y la indemnización a las víctimas son cuestiones relacionadas, pero no idénticas.
La gravedad de un daño tampoco permite concluir automáticamente que los directivos del proveedor tecnológico cometieron un delito.
Cuando el ataque cruza fronteras, ¿qué país investiga?
Los agentes pueden operar desde una infraestructura ubicada en un país, utilizar servicios de una empresa registrada en otro y afectar a víctimas de una tercera jurisdicción.
Esa dimensión internacional complica la investigación.
Las autoridades deben determinar dónde se produjeron las conductas, dónde se materializó el daño, quién intervino y qué conexiones existen con cada territorio.
No existe una regla automática que atribuya todos los incidentes de un modelo estadounidense a los tribunales de Estados Unidos, ni que impida actuar a las autoridades españolas cuando concurren los presupuestos legales de su jurisdicción.
La cooperación entre organismos policiales y judiciales puede resultar necesaria para obtener registros, identificar operadores y asegurar pruebas localizadas fuera del país.
En el plano civil, también habrá que examinar qué tribunales son competentes y qué legislación resulta aplicable.
El carácter transfronterizo de un ataque no elimina las acciones de las víctimas, pero puede hacerlas más complejas.
¿Y si nadie ordenó expresamente el ataque?
Este es el escenario que introduce las preguntas jurídicas más difíciles.
Imaginemos que una empresa encarga a un agente la revisión de su propia infraestructura. El modelo interpreta incorrectamente los límites y actúa sobre un servicio de terceros que no estaba incluido en la autorización.
La primera cuestión será reconstruir si efectivamente actuó fuera de su alcance y qué controles existían para impedirlo.
La segunda será establecer si alguna persona incumplió una obligación jurídica relevante: por ejemplo, al conceder permisos, desplegar el sistema o desatender riesgos conocidos.
La tercera será determinar si ese eventual incumplimiento guarda una relación jurídicamente suficiente con el daño.
La ausencia de una orden humana expresa no demuestra que nadie pueda responder civilmente. Pero tampoco basta para imponer responsabilidad penal a una persona por una actuación no autorizada del modelo.
Los distintos regímenes legales imponen requisitos diferentes. Precisamente por eso, no se puede contestar a todos los casos con una única regla.
La clave judicial será reconstruir las decisiones del agente
En los ataques tradicionales, los investigadores buscan identificar al autor, los sistemas utilizados y las acciones ejecutadas.
Cuando interviene un agente de IA, a ese trabajo se añaden preguntas sobre el funcionamiento del sistema.
¿Qué instrucciones recibió? ¿Qué herramientas tenía disponibles? ¿Podía acceder a objetivos externos? ¿Solicitó autorización? ¿Qué respuesta recibió? ¿Qué registró realmente sobre sus actos?
Estas cuestiones pueden resultar decisivas para diferenciar un uso delictivo deliberado de un error técnico o de una actuación fuera del alcance previsto.
También permitirían determinar si una empresa había implantado barreras razonables y si estas funcionaron.
La trazabilidad cobra así una importancia jurídica especial. Sin registros fiables de las operaciones realizadas, puede resultar más difícil reconstruir la secuencia de hechos y atribuir responsabilidades.
Esa dificultad no autoriza a presumir la responsabilidad de un proveedor. Refuerza la necesidad de investigar con pruebas.
No está demostrado que la IA esté detrás de casi todos los ciberataques
El debate debe evitar una generalización que aparece con frecuencia en las informaciones sobre esta tecnología.
No hay base suficiente para afirmar que prácticamente todos los ciberataques actuales están ejecutados por inteligencia artificial.
Los sistemas de IA se utilizan en distintas actividades relacionadas con la ciberseguridad y pueden facilitar tareas a los atacantes. También se emplean para detectar amenazas y ayudar a los equipos de defensa.
Pero utilizar IA en alguna fase de una operación no equivale a que un agente autónomo haya decidido y ejecutado todo el ataque sin intervención humana.
Para conocer el alcance real de estos fenómenos hacen falta investigaciones que distingan herramientas asistidas por IA, automatización convencional y actuación autónoma.
Esa precisión también importa ante los tribunales: el grado de intervención humana puede cambiar radicalmente el análisis del caso.
La pregunta para las multinacionales es quién controla los permisos
Los incidentes recientes han trasladado la atención desde la capacidad de los modelos hacia su capacidad de actuar sobre sistemas reales.
Un asistente puede generar una explicación incorrecta. Un agente conectado a servicios externos puede, además, ejecutar una operación que provoque consecuencias fuera de la conversación.
La diferencia convierte el diseño de autorizaciones en una cuestión central.
Los responsables de seguridad pueden limitar los recursos accesibles, exigir confirmaciones antes de actuaciones sensibles, conservar registros y separar los entornos de prueba de los de producción.
Estas medidas no garantizan riesgo cero. Sí permiten reducir la posibilidad de que una instrucción imprecisa se convierta en una acción con efectos sobre terceros.
Cuanto más poder operativo recibe un agente, mayor importancia adquiere poder demostrar quién se lo concedió y bajo qué condiciones.
La respuesta legal no será igual para un hacker que para un proveedor de IA
El derecho español y el europeo ya ofrecen herramientas para abordar parte del problema, aunque la atribución de responsabilidades en sistemas muy autónomos sigue generando nuevas preguntas.
Si una persona utiliza deliberadamente la IA para delinquir, la investigación debe examinar su intervención en los hechos.
Si una empresa despliega un sistema que causa daños, deberán revisarse sus obligaciones, los permisos concedidos y el régimen civil, administrativo o penal que resulte aplicable.
Si el proveedor del modelo incumple deberes legales propios, puede quedar sujeto a los mecanismos de supervisión o reclamación correspondientes, siempre que concurran sus requisitos.
Y si la víctima sufre perjuicios, dispone de vías para denunciar, notificar incidentes cuando corresponda y reclamar una compensación acreditando los presupuestos legales necesarios.
La conclusión no es que todos deban pagar por todo, ni que la autonomía de la IA deje a las víctimas sin protección. La responsabilidad deberá establecerse caso por caso, a partir de las acciones, las obligaciones incumplidas y las pruebas del daño.
En la próxima generación de agentes, la seguridad no dependerá únicamente de que el modelo responda correctamente. También dependerá de que sus decisiones puedan limitarse, supervisarse y reconstruirse cuando algo salga mal.
Chollones
Chollones
Chollones