Adam Mosseri reconoce que Instagram podría perder la batalla para detectar imágenes creadas con inteligencia artificial y plantea un futuro donde cada usuario decida qué quiere ver.
La frontera entre lo real y lo artificial en Instagram se está desdibujando a una velocidad inquietante. Y el propio responsable de la plataforma ya admite que la tecnología puede terminar superando los sistemas de detección.
Adam Mosseri, máximo responsable de Instagram, ha defendido que los usuarios que no quieran contenido generado por inteligencia artificial «no deberían tenerlo en su feed». Sin embargo, rechaza eliminar o filtrar por completo estas publicaciones.
La contradicción abre un debate enorme: si Instagram reconoce que cada vez será más difícil identificar la IA, ¿cómo podrá garantizar que el usuario realmente elige lo que ve?
Adam Mosseri rechaza expulsar el contenido de IA de Instagram
Durante una entrevista en el podcast de Lenny Rachitsky, Mosseri explicó su posición sobre el crecimiento masivo de imágenes y vídeos creados mediante inteligencia artificial.
«No creo que debamos filtrar el contenido generado por IA», sostuvo el directivo.
Su propuesta pasa por informar al usuario sobre el posible origen artificial de una publicación, pero no impedir que ese contenido aparezca en la plataforma.
Mosseri considera que Instagram debe diferenciar entre clasificar las publicaciones según los intereses del usuario y aplicar una prohibición general al material generado con inteligencia artificial.
De hecho, fue todavía más lejos.
Según su visión, quienes disfruten del contenido creado con IA deberían poder tener incluso un feed dedicado exclusivamente a este tipo de publicaciones.
Y quienes lo rechacen, en teoría, no deberían verlo.
El problema es que Instagram todavía no ofrece una herramienta que permita bloquear completamente el contenido generado por inteligencia artificial.
Instagram admite el verdadero problema: detectar la IA será cada vez más difícil
Aquí aparece la parte más relevante de las declaraciones de Mosseri.
El responsable de Instagram reconoce que identificar automáticamente el contenido creado mediante IA es «difícil».
Y advierte de algo todavía más preocupante: la plataforma podría perder progresivamente la capacidad de detectar estas publicaciones a medida que mejoren los modelos generativos.
La inteligencia artificial ya puede crear rostros, paisajes, voces y vídeos cada vez más convincentes. Los errores visuales que hace apenas unos años delataban inmediatamente una imagen sintética están desapareciendo.
Manos deformadas, textos incoherentes, piel excesivamente artificial o movimientos imposibles eran antiguas señales de alerta.
Los nuevos modelos reducen rápidamente esos fallos.
Mosseri plantea que Instagram debería ser capaz de responder a una pregunta sencilla: «¿Esto es IA?»
Pero la respuesta podría dejar de ser un simple sí o no.
La plataforma podría verse obligada a utilizar categorías de probabilidad: probablemente generado por IA, origen incierto o contenido considerado auténtico.
¿Y si Instagram empieza a certificar lo real en lugar de perseguir lo falso?
La reflexión de Mosseri apunta hacia un cambio radical.
En lugar de intentar etiquetar cada imagen artificial, Instagram podría comenzar a identificar expresamente el contenido capturado con una cámara.
Es decir, invertir completamente el sistema.
Hasta ahora, la lógica de las redes sociales consistía en asumir que una fotografía era real salvo que existieran indicios de manipulación.
La inteligencia artificial puede destruir ese principio.
En el nuevo internet, quizá lo excepcional no sea una imagen falsa. Lo excepcional será poder demostrar que una imagen es auténtica.
Mosseri ya había planteado anteriormente la necesidad de encontrar mecanismos para identificar los denominados «medios reales».
La idea cobra ahora mucha más importancia.
Una fotografía podría necesitar algún tipo de certificación técnica sobre su origen, el dispositivo utilizado o las modificaciones realizadas posteriormente.
El gran problema de Instagram no es la IA: es el spam generado en masa
Mosseri también reconoce que la plataforma necesita encontrar fórmulas para frenar el contenido de inteligencia artificial utilizado para generar spam.
Y este es probablemente uno de los mayores desafíos para las redes sociales.
Antes, crear 100 imágenes, editar 50 vídeos o redactar miles de publicaciones exigía tiempo, personas y dinero.
Ahora, una sola persona puede automatizar gran parte del proceso.
La IA ha reducido drásticamente el coste de producir contenido digital.
Eso tiene enormes ventajas para creadores, pequeñas empresas y profesionales. Pero también permite llenar las plataformas de publicaciones repetitivas, vídeos fabricados únicamente para generar interacción y cuentas automatizadas.
Instagram se enfrenta así a una paradoja.
Meta impulsa activamente la inteligencia artificial mientras intenta controlar las consecuencias de una tecnología capaz de multiplicar casi infinitamente el contenido disponible.
Meta abraza una tecnología que amenaza con cambiar Instagram para siempre
El debate llega en un momento especialmente delicado para Meta.
La compañía ha convertido la inteligencia artificial en una de sus principales prioridades estratégicas y está integrando sus modelos y asistentes en diferentes servicios.
Instagram no puede mantenerse al margen de esta transformación.
Pero cuanto más accesibles sean las herramientas generativas, más difícil será mantener la confianza del usuario.
¿Es real ese vídeo?
¿La persona que aparece existe?
¿Ese viaje ocurrió?
¿El producto funciona realmente así?
¿La noticia muestra un acontecimiento verdadero?
Preguntas que hace apenas cinco años parecían exageradas comienzan a formar parte del consumo cotidiano de internet.
TikTok, YouTube y Facebook afrontan el mismo dilema
Instagram no está sola.
Las grandes plataformas digitales han comenzado a introducir sistemas para etiquetar determinados contenidos generados o modificados mediante inteligencia artificial.
El problema técnico es enorme.
Las plataformas pueden identificar con mayor facilidad el contenido creado mediante herramientas que incorporan metadatos o señales reconocibles. Sin embargo, esos rastros pueden desaparecer durante procesos de edición, compresión o redistribución.
Una imagen puede ser creada con IA, modificada en otro programa, capturada nuevamente y publicada desde un dispositivo diferente.
La cadena de origen se rompe.
Y cuanto mejores sean los modelos, más difícil será realizar una detección exclusivamente visual.
«Si no te gusta la IA, no debería aparecer en tu feed»
La frase de Mosseri resume la filosofía que Instagram parece querer aplicar.
Personalización en lugar de prohibición.
El usuario interesado en inteligencia artificial podría recibir más publicaciones de este tipo. Quien las rechace debería recibir menos.
Sobre el papel, parece sencillo.
Pero el algoritmo necesita saber primero qué contenido ha sido creado con IA.
Y Mosseri acaba de reconocer precisamente que esa identificación podría volverse cada vez más complicada.
Ahí está la gran contradicción.
Instagram promete separar dos mundos mientras admite que quizá pronto no pueda distinguir claramente dónde termina uno y comienza el otro.
La batalla ya no será detectar la IA, sino demostrar la autenticidad
Durante años, internet se preocupó por identificar las falsificaciones.
La inteligencia artificial puede obligarnos a cambiar completamente de estrategia.
En el futuro, la confianza digital podría depender de demostrar el origen de una fotografía o un vídeo.
Medios de comunicación, instituciones, empresas y creadores tendrán que prestar cada vez más atención a la trazabilidad del contenido.
Porque cuando cualquier persona pueda fabricar una escena prácticamente indistinguible de una grabación real, la autenticidad se convertirá en un valor tecnológico y social.
Instagram parece empezar a asumir esa realidad.
Mosseri no quiere cerrar la puerta a la inteligencia artificial. Tampoco pretende convertir la plataforma en un espacio libre de contenido sintético.
Su apuesta pasa por clasificar, informar y personalizar.
Pero queda una incómoda pregunta sobre la mesa.
Si Instagram llega a perder la capacidad de distinguir una imagen real de otra generada por inteligencia artificial, ¿cómo podrá decidir qué IA debe desaparecer del feed de quien no quiere verla?
