Leyes contra deepfake porn: el caso de ClothOff en Nueva Jersey
Un caso legal en Nueva Jersey pone de manifiesto las dificultades para combatir la pornografía no consensuada generada por inteligencia artificial a través de aplicaciones como ClothOff. Esta aplicación ha estado activa durante más de dos años y, a pesar de haber sido eliminada de las principales tiendas de aplicaciones y prohibida en plataformas sociales, sigue disponible en la web y mediante un bot en Telegram.
En octubre, una clínica de la Escuela de Derecho de Yale presentó una demanda para eliminar la aplicación por completo y obligar a sus propietarios a eliminar todas las imágenes generadas. Sin embargo, localizar a los demandados ha sido complicado, ya que la entidad está registrada en las Islas Vírgenes Británicas y presuntamente operada por un hermano y una hermana en Belarús.
La demanda fue presentada en representación de una estudiante de secundaria de Nueva Jersey, que fue víctima de alteraciones de sus fotos de Instagram mediante ClothOff. A la edad de 14 años, las imágenes originales se transformaron en versiones que, según la ley, se consideran material de abuso sexual infantil. Aunque las imágenes modificadas son ilegales, las autoridades locales no procesaron el caso debido a la dificultad de conseguir evidencia de los dispositivos de los sospechosos.
A pesar de que varios estados en Estados Unidos han aprobado leyes que prohíben la pornografía deepfake, las plataformas como ClothOff son difíciles de regular. La ley actual requiere evidencia clara de la intención de causar daño, lo cual complica responsabilizar a empresas que facilitan el uso de tecnología para crear este tipo de contenido.
Mientras tanto, la Ley Take It Down Act es una de las iniciativas recientes que busca abordar el problema de la pornografía no consensuada, pero aún quedan muchos desafíos en la aplicación de estas regulaciones a plataformas y herramientas generales como xAI de Elon Musk, que opera en un ámbito legal más complejo.
La situación plantea interrogantes sobre cómo se manejará la responsabilidad de plataformas que ofrecen herramientas generales que pueden ser utilizadas para crear contenido dañino. El panorama legal sigue evolucionando, y las futuras decisiones judiciales podrían cambiar la forma en que se aborda este tipo de contenido en línea.