Una investigación vinculada al MIT concluye que los modelos de difusión pueden perder la atribución a ejemplos concretos conforme aumenta el conjunto de entrenamiento. El hallazgo abre un incómodo frente para artistas, tecnológicas, reguladores y tribunales.
La inteligencia artificial puede aprender de millones de obras y, paradójicamente, hacer cada vez más difícil determinar cuál de ellas influyó en una creación concreta. Esa es la conclusión más provocadora de una investigación de Zheng Dai y David K. Gifford, vinculados al laboratorio CSAIL del Massachusetts Institute of Technology (MIT), sobre la atribución de datos en los modelos generativos.
El fenómeno ha sido denominado «attribution decay» o «decaimiento de la atribución»: al crecer suficientemente el corpus de entrenamiento, una imagen generada puede dejar de depender de manera identificable de cualquier ejemplo individual, aunque el aprendizaje del modelo proceda colectivamente de esos datos.
La investigación tiene implicaciones que van mucho más allá de una curiosidad informática. Puede complicar uno de los grandes debates legales de la inteligencia artificial: demostrar qué relación existe entre una obra protegida utilizada durante el entrenamiento y una imagen generada posteriormente.
Y aquí conviene introducir una precisión esencial: el estudio no demuestra que una IA “olvide” qué obras utilizó, ni que el entrenamiento con material protegido sea automáticamente lícito. Lo que cuestiona es algo técnicamente diferente: nuestra capacidad para atribuir causalmente una salida concreta a uno o varios ejemplos determinados del conjunto de entrenamiento.
Investigación en Nature Communications
Qué descubrieron realmente los investigadores del MIT
Dai y Gifford llevan años estudiando este problema. En un trabajo anterior de 2023 ya desarrollaron una metodología para analizar cómo los ejemplos del conjunto de entrenamiento influyen sobre los resultados de los modelos de difusión. El método utilizaba conjuntos de modelos entrenados sobre divisiones cuidadosamente construidas de los datos para poder estudiar qué ocurría al eliminar determinados ejemplos.
El nuevo trabajo lleva esa pregunta más lejos.
La definición de atribución utilizada por los investigadores es esencialmente contrafactual: para considerar que un dato de entrenamiento es responsable de una muestra, retirar ese dato debería alterar significativamente la capacidad del modelo para producirla.
Y ahí aparece el problema.
Cuantos más datos relevantes existen, menor puede ser la dependencia del modelo respecto a cualquiera de ellos individualmente.
No significa necesariamente que las imágenes originales carezcan de influencia. Significa que esa influencia puede estar distribuida entre tal cantidad de ejemplos que eliminar uno de ellos deja de producir un cambio suficientemente significativo.
Es una diferencia fundamental para interpretar correctamente la investigación.
El experimento que ayuda a entender la «amnesia» de la IA
Una de las maneras más intuitivas de estudiar el fenómeno consiste en la ablación de datos.
Simplificando mucho, los investigadores plantean una pregunta:
¿Qué habría producido el modelo si determinado material no hubiera formado parte de su aprendizaje?
Este tipo de análisis contrafactual lleva tiempo utilizándose para estudiar la atribución. El propio MIT había presentado anteriormente investigaciones destinadas a desarrollar métodos que permitan «eliminar» partes de la influencia del entrenamiento sin necesidad de volver a entrenar desde cero todo el modelo.
La conclusión del nuevo trabajo es especialmente importante cuando el corpus se hace muy grande: llega un momento en que puede no existir un subconjunto pequeño e identificable de ejemplos cuya retirada elimine la capacidad de producir una determinada muestra.
El modelo ha aprendido una representación mucho más distribuida.
El ejemplo de la Mona Lisa explica el problema
Un ejemplo particularmente ilustrativo es una imagen extraordinariamente conocida como la Mona Lisa.
Imaginemos un modelo entrenado con múltiples reproducciones de la pintura de Leonardo da Vinci, fotografías de ella, variaciones, imitaciones, descripciones visuales y otras obras relacionadas.
Si se retira una reproducción determinada del conjunto de entrenamiento, el modelo puede seguir teniendo información suficiente para representar la obra.
Pero el problema puede llegar todavía más lejos.
Incluso eliminando determinados grupos de ejemplos relacionados, la representación aprendida a partir del resto del corpus puede conservar características suficientes para generar algo semejante.
Esto no implica que el modelo haya inventado independientemente la Mona Lisa ni demuestra que jamás necesitara información sobre ella.
Significa que la información relevante puede haberse distribuido entre multitud de observaciones durante el entrenamiento.
Esa diferencia es crucial.
No significa que la IA tenga «memoria» como una persona
Hablar de «amnesia» es una metáfora útil periodísticamente, pero técnicamente limitada.
Los modelos generativos no poseen una biblioteca interna convencional donde cada elemento aprendido esté guardado junto a una ficha que diga:
«Esta característica procede de esta fotografía».
Durante el entrenamiento se modifican enormes cantidades de parámetros matemáticos para capturar regularidades presentes en los datos.
El resultado puede representar conceptos, formas, estilos, relaciones y estructuras sin conservar necesariamente una relación sencilla entre cada característica aprendida y cada archivo original.
Precisamente por eso la atribución de datos de entrenamiento constituye un área activa de investigación.
Una revisión académica sobre esta disciplina define el problema como determinar el efecto que cada instancia de entrenamiento ejerce sobre el comportamiento del modelo. Entre las técnicas posibles está precisamente medir qué cambia cuando una instancia determinada se elimina.
El tamaño del modelo no es exactamente el protagonista
Aquí aparece otra precisión importante respecto a algunas interpretaciones de la investigación.
Decir simplemente que «cuanto mayor es la IA, más olvida» puede inducir a error.
El hallazgo se relaciona fundamentalmente con el aumento y redundancia del corpus de entrenamiento y con la capacidad del modelo para generalizar a partir de numerosas observaciones relacionadas.
Por tanto, el elemento decisivo no es únicamente aumentar parámetros.
Es disponer de suficientes datos para que el conocimiento necesario para producir determinada salida deje de depender de ejemplos individuales identificables.
Esta interpretación resulta mucho más interesante porque las grandes plataformas actuales se entrenan precisamente sobre corpus gigantescos.
¿Demuestra esto que los modelos de IA son creativos?
David Gifford plantea que el fenómeno proporciona argumentos para considerar que determinados resultados de los modelos no consisten simplemente en recuperar o recombinar mecánicamente una obra concreta.
Hay una base técnica razonable detrás de esa interpretación: si retirar individualmente los ejemplos supuestamente responsables no elimina la capacidad de producir determinada salida, la explicación de que el modelo simplemente está recuperando una copia almacenada resulta insuficiente para esos casos.
Pero de ahí no se desprende automáticamente que una IA sea «creativa» en el mismo sentido jurídico o filosófico que una persona.
Son cuestiones diferentes.
El estudio analiza dependencia causal respecto a los datos de entrenamiento. No resuelve qué constituye autoría humana ni quién puede ser titular de los derechos sobre una obra generada.
La gran bomba jurídica: demostrar de dónde salió una imagen
Las implicaciones para los litigios pueden ser importantes.
Para determinados conflictos sobre resultados generados, sería enormemente útil disponer de una herramienta capaz de responder:
«Esta imagen existe porque el modelo fue entrenado con esta obra concreta».
El nuevo estudio sugiere que semejante prueba puede volverse intrínsecamente difícil cuando trabajamos con grandes conjuntos de datos.
El profesor James Grimmelmann, especialista en Derecho de Cornell, ha señalado que una atribución fiable permitiría distinguir mejor entre una similitud provocada por copia y una coincidencia o generalización. Si esa atribución falla en modelos de gran escala, los tribunales tendrán que recurrir a otras clases de pruebas.
Y el problema ya no es hipotético.
El caso de los artistas contra Midjourney entra directamente en este debate
Uno de los litigios más importantes se desarrolla en California: Andersen et al. v. Stability AI Ltd. et al.
Artistas como Sarah Andersen, Karla Ortiz, Grzegorz Rutkowski y otros creadores han litigado contra varias empresas de IA por cuestiones relacionadas con la utilización de obras durante el entrenamiento y otras supuestas infracciones.
El expediente judicial confirma que el caso incluye a compañías como Stability AI, Midjourney, Runway AI y DeviantArt, entre otras.
Y en 2026 la batalla sobre los propios conjuntos de entrenamiento continúa siendo relevante.
Documentos judiciales de junio muestran que las partes estaban negociando la identificación y entrega de versiones finales de datasets utilizados para entrenar los principales modelos de Midjourney. Los demandantes también habían solicitado conjuntos específicos relacionados con «Art» y «Artist», cuya relevancia procesal Midjourney discutía.
Es decir, saber exactamente qué entró en el entrenamiento sigue siendo jurídicamente importante, aunque posteriormente resulte difícil atribuir una salida concreta a uno de esos elementos.
La investigación no proporciona una carta blanca a Midjourney ni a ninguna empresa
Este punto resulta imprescindible.
Del estudio podría surgir una interpretación interesada:
Si no puedes demostrar qué imagen concreta produjo mi resultado, tampoco puedes demostrar una infracción.
Jurídicamente no es tan sencillo.
Existen al menos dos cuestiones distintas.
Una es cómo se obtuvieron y utilizaron las obras durante el entrenamiento.
Otra completamente diferente es si una salida concreta infringe los derechos sobre una obra determinada.
El «decaimiento de la atribución» afecta especialmente a la segunda cuestión, pero no borra automáticamente la primera.
Un modelo podría producir una imagen imposible de atribuir a un ejemplo individual y, aun así, haber sido entrenado utilizando material cuya adquisición o reproducción fuese objeto de litigio.
Los tribunales estadounidenses ya han comenzado a dibujar diferencias precisamente entre el origen del material, el entrenamiento y el posible carácter infractor de los resultados. El panorama jurídico sigue abierto y depende además de cada caso concreto.
Una paradoja que podría beneficiar a las grandes tecnológicas
Aquí aparece la consecuencia más controvertida de la investigación.
Si aumentar enormemente el corpus reduce la posibilidad de atribuir una salida a un dato concreto, las compañías con capacidad para entrenar sistemas gigantescos podrían terminar siendo precisamente las que más difícil hagan reconstruir la procedencia causal de una generación.
Surge entonces una paradoja regulatoria.
Una empresa pequeña con un dataset reducido podría permitir identificar con relativa facilidad qué ejemplos influyeron sobre una salida.
Una multinacional con miles de millones de ejemplos podría producir un modelo cuya influencia esté tan distribuida que la misma atribución resulte mucho más difícil.
El tamaño podría convertirse accidentalmente en una ventaja probatoria.
Eso no equivale a inmunidad legal, pero sí podría obligar a reguladores y tribunales a reconsiderar qué pruebas exigen.
El incentivo perverso que debería preocupar a los reguladores
Llevado al extremo, aparece un riesgo evidente: crear un incentivo para entrenar con cantidades gigantescas de información precisamente porque la influencia individual termina diluyéndose.
Sería absurdo que la regulación premiara indirectamente a quien pudiera utilizar más datos simplemente porque posteriormente resultase más difícil reconstruir qué papel desempeñó cada uno.
Por ello, el estudio refuerza indirectamente los argumentos a favor de documentar el entrenamiento antes de que se produzca, en vez de confiar exclusivamente en reconstrucciones posteriores a partir de los resultados.
El debate podría desplazarse desde:
«Demuéstreme que su obra produjo esta imagen»
hacia:
«Demuéstreme qué datos utilizó, con qué derechos los obtuvo y qué operaciones realizó sobre ellos».
Ese cambio sería sustancial.
Los registros de entrenamiento pueden ganar importancia
Una respuesta regulatoria posible consiste precisamente en separar trazabilidad documental de atribución matemática.
Aunque resulte imposible demostrar posteriormente que una imagen concreta depende causalmente de una fotografía determinada, una compañía puede conservar registros sobre:
- datasets utilizados y procedencia de los archivos;
- licencias y condiciones de utilización;
- procesos de filtrado;
- versiones incorporadas a cada entrenamiento;
- exclusiones solicitadas por titulares;
- modificaciones y posteriores procesos de ajuste.
De hecho, el propio litigio contra Midjourney demuestra la importancia que ya tienen esos registros. En junio de 2026, documentos judiciales indicaban que Midjourney seguía identificando datasets finales y negociando cuáles debían producirse durante el proceso.
La trazabilidad previa puede convertirse así en una herramienta más robusta que intentar realizar una especie de arqueología matemática después de entrenar el modelo.
Otra investigación de 2026 confirma lo difícil que resulta auditar modelos desde fuera
El problema tampoco aparece aislado.
Una investigación publicada este año en Nature Communications sobre detección de datos de entrenamiento advertía de las limitaciones existentes cuando únicamente se dispone de acceso externo al modelo.
Los autores explican que los sistemas avanzados pueden producir contenidos parecidos a elementos que no estaban en el entrenamiento gracias a su capacidad de generalización y, al mismo tiempo, pueden generar resultados poco parecidos incluso cuando reciben material que sí formó parte de sus datos originales.
Esto complica una idea aparentemente sencilla:
mirar el resultado y deducir qué había dentro del dataset.
En modelos suficientemente complejos, esa inferencia puede ser extraordinariamente difícil.
Atribución no es lo mismo que memorización
Existe además otra distinción fundamental.
Un modelo puede memorizar determinadas muestras especialmente repetidas o singulares. En esas circunstancias pueden aparecer reproducciones muy cercanas al material de entrenamiento.
Pero el nuevo trabajo estudia un fenómeno más amplio: qué sucede cuando la generación procede de patrones distribuidos entre numerosos ejemplos.
Por tanto, ambas cosas pueden coexistir.
Un modelo puede producir ciertos resultados claramente relacionados con ejemplos memorizados y, simultáneamente, generar otros para los que no exista una atribución individual significativa.
La investigación no demuestra que la memorización haya desaparecido.
Demuestra que no toda generación necesita ser explicable mediante un pequeño conjunto identificable de ejemplos.
El problema también afecta al «desaprendizaje» de la IA
Las consecuencias no terminan en los derechos de autor.
Una de las aplicaciones de la atribución es el denominado machine unlearning, o desaprendizaje automático.
Supongamos que una persona consigue que sus datos sean retirados de un sistema.
La solución aparentemente lógica sería identificar qué parte del comportamiento del modelo procede de esos datos y eliminar su influencia.
Pero si esa información está distribuida y puede reconstruirse estadísticamente gracias a otros ejemplos, comprobar que el modelo realmente «olvidó» determinada información se vuelve considerablemente más complejo.
Por eso los investigadores vinculan la atribución con campos como privacidad, interpretabilidad, equidad, manipulación de datos y desaprendizaje automático. El trabajo anterior de Dai y Gifford ya se orientaba precisamente a medir la influencia de los ejemplos mediante experimentos de ablación.
El estudio tampoco resuelve el debate europeo
Para Europa, las conclusiones deberían interpretarse con cautela.
Las reglas de propiedad intelectual, minería de textos y datos y obligaciones de transparencia no son idénticas a las estadounidenses. Tampoco puede trasladarse automáticamente una discusión sobre fair use de Estados Unidos al ordenamiento europeo.
Pero el problema técnico sí es universal.
Si la atribución causal se degrada con conjuntos suficientemente grandes, cualquier sistema regulatorio que dependa exclusivamente de demostrar qué ejemplo individual provocó una determinada salida puede encontrarse con importantes limitaciones.
La regulación necesitará combinar distintas capas de evidencia: documentación, procedencia de datasets, auditorías, comportamiento del modelo y, cuando sea posible, atribución técnica.
La conclusión más incómoda: la IA no necesariamente «recuerda» como pensábamos
La investigación de Dai y Gifford desmonta dos simplificaciones opuestas.
La primera sostiene que los generadores son simples bases de datos gigantes que cortan y pegan imágenes almacenadas.
La segunda afirma que una vez entrenado el modelo desaparece cualquier relevancia de las obras originales.
Ninguna describe adecuadamente el problema.
Los datos de entrenamiento son fundamentales para construir el modelo, pero la relación entre una obra individual y una generación individual puede diluirse conforme aumenta la información disponible.
Eso es precisamente lo que hace tan complicado el debate.
Una inteligencia artificial puede haber aprendido de una enorme cantidad de trabajo humano y, al mismo tiempo, producir una salida para la que ninguna obra individual pueda identificarse como causa necesaria.
La ciencia empieza a proporcionar herramientas para entender esa paradoja. Ahora serán legisladores, tribunales, artistas y empresas tecnológicas quienes tendrán que decidir qué significa jurídicamente.
Porque si la procedencia matemática de una creación puede desaparecer entre miles de millones de ejemplos, la pregunta decisiva quizá deje de ser únicamente «¿de qué obra copió la IA?».
La pregunta será mucho más incómoda:
¿cómo protegemos los derechos sobre los datos utilizados para construir una IA cuando la propia escala del sistema hace imposible rastrear después qué aprendió de cada uno?
