Varios senadores de EE. UU. han solicitado a líderes de X, Meta, Alphabet, Snap, Reddit y TikTok pruebas de las «robustas protecciones y políticas» que tienen implementadas para abordar el aumento de deepfakes sexualizados en sus plataformas. Esta demanda surge en un contexto donde se ha evidenciado que los mecanismos para prevenir la publicación de imágenes no consensuales pueden no ser suficientes.
El requerimiento legislativo, expresado en una carta oficial, incluye la necesidad de conservar todos los documentos e información relacionados con la creación, detección, moderación y monetización de imágenes generadas por inteligencia artificial que representen contenido sexualizado.
La carta se envió en un momento en que X anunció una actualización a Grok, su herramienta de inteligencia artificial, para prohibir ediciones de personas en ropa reveladora y limitar su uso a suscriptores pagos. Sin embargo, los senadores destacan que a pesar de las políticas existentes, las plataformas enfrentan el desafío de usuarios que encuentran formas de eludir las restricciones de contenido.
El impacto de los deepfakes no consensuales no se limita a plataformas individuales. Facebook, TikTok y Snapchat también han enfrentado críticas por la propagación de estas imágenes. Además, la Oversight Board de Meta señaló casos de imágenes explícitas de figuras públicas generadas de manera no consensuada.
Los senadores requieren explícitamente: la definición de “contenido deepfake”, descripciones de políticas sobre contenido no consensual, acciones para identificar deepfakes y mecanismos para prevenir la monetización de este contenido.
La carta fue firmada por senadores como Lisa Blunt Rochester, Tammy Baldwin, y Richard Blumenthal, entre otros. Asimismo, esta demanda se produce mientras California inicia una investigación sobre xAI, el propietario de X, por la generación de imágenes que incorporan desnudos no consensuados.