“Un nuevo frente se abre en el control de las aplicaciones móviles: la inteligencia artificial está desbordando las políticas de las grandes tecnológicas.”
Google ha confirmado que está investigando el crecimiento de aplicaciones que generan desnudos mediante inteligencia artificial y que ya ha procedido a suspender numerosas apps de su tienda oficial Google Play Store. El caso reabre el debate sobre la capacidad real de las grandes plataformas para frenar contenidos sensibles en plena expansión de la IA generativa.
Google reconoce el problema y actúa contra las apps
La compañía ha admitido públicamente que está analizando el impacto de estas aplicaciones y que ha tomado medidas para retirarlas cuando incumplen sus normas.
Según la propia empresa, su política es clara: no se permiten aplicaciones con contenido sexual explícito o que promuevan la explotación. Sin embargo, investigaciones recientes han puesto de manifiesto que aún existían decenas de apps accesibles dentro de la tienda.
Google ha señalado que:
- Investiga activamente los casos detectados
- Suspende aplicaciones que incumplen sus normas
- Mantiene un proceso continuo de revisión de contenido
Aun así, el problema persiste en algunos casos antes de su eliminación.
Apps que generan desnudos con IA: el origen de la polémica
El escándalo se remonta a una investigación que detectó alrededor de 50 aplicaciones similares tanto en Google Play como en la App Store de Apple, capaces de generar imágenes de desnudos utilizando inteligencia artificial.
Estas herramientas, en algunos casos, permitían transformar fotografías normales en imágenes manipuladas, lo que ha generado preocupación en materia de privacidad, consentimiento y suplantación de identidad digital.
El problema se agrava porque muchas de estas apps se presentan con apariencia inocente, lo que facilita su descarga sin que el usuario perciba inmediatamente su finalidad real.
El fallo de control: incluso accesibles para menores
Uno de los aspectos más controvertidos del informe es que varias de estas aplicaciones contaban con clasificación de contenido “para todos los públicos”, lo que en la práctica permite su instalación por menores de edad.
Además, se ha señalado que algunos términos relacionados con este tipo de apps aparecen incluso en sistemas de autocompletado de búsqueda, lo que facilita su descubrimiento dentro de las plataformas.
Este punto ha generado críticas sobre los sistemas de moderación automática, que en muchos casos parecen ir por detrás del desarrollo de nuevas herramientas basadas en inteligencia artificial.
Google asegura que ya ha retirado muchas aplicaciones
Un portavoz de Google ha defendido la actuación de la compañía afirmando que la empresa elimina aplicaciones cuando se detectan infracciones de sus políticas.
En declaraciones recogidas por medios especializados, la compañía insiste en que:
- “Google Play no permite aplicaciones con contenido sexual”
- Las infracciones se investigan y se actúa en consecuencia
- Muchas de las apps señaladas ya han sido suspendidas
Sin embargo, también reconoce que el proceso de revisión es continuo y que el ecosistema de aplicaciones es extremadamente dinámico.
Apple también reacciona tras el informe
El problema no afecta únicamente a Google. Apple también ha tomado medidas tras la publicación del informe, eliminando varias aplicaciones de su tienda App Store.
Según datos publicados, la compañía habría retirado al menos 15 aplicaciones tras revisar el contenido denunciado.
Este movimiento evidencia que el problema no es exclusivo de una plataforma, sino que afecta a todo el ecosistema de distribución de aplicaciones móviles.
La inteligencia artificial desborda la moderación digital
El caso pone de relieve un problema cada vez más evidente: la velocidad de evolución de la inteligencia artificial supera la capacidad de control de las grandes plataformas tecnológicas.
Las herramientas de IA generativa permiten crear contenido visual hiperrealista en segundos, lo que complica la detección automática de usos indebidos, especialmente cuando las aplicaciones se actualizan rápidamente o cambian su funcionamiento.
Expertos en regulación digital advierten de que este tipo de herramientas pueden ser utilizadas para:
- Crear contenido sin consentimiento
- Difundir material manipulado
- Generar riesgos de suplantación e identidad falsa
Un desafío creciente para las grandes tecnológicas
La proliferación de estas aplicaciones abre un nuevo frente regulatorio para empresas como Google y Apple, que deben equilibrar innovación, libertad de desarrollo y protección del usuario.
El principal desafío está en evitar que estas herramientas lleguen a menores o se utilicen con fines abusivos, sin frenar al mismo tiempo el desarrollo de la inteligencia artificial en el mercado de consumo.
Conclusión: una carrera desigual entre IA y control digital
El caso de las apps de desnudos con IA evidencia una realidad incómoda para el sector tecnológico: la regulación interna de las plataformas ya no avanza al mismo ritmo que la innovación.
Mientras Google y Apple refuerzan sus políticas, la inteligencia artificial sigue generando nuevas formas de contenido que desafían los sistemas de control tradicionales.
La pregunta ahora es clara: ¿serán capaces las grandes tecnológicas de mantener el control o la IA está imponiendo un ritmo imposible de seguir?
Consulta nuestra sección de noticias de Tecnología.
