Durante las últimas dos semanas, la plataforma X ha sido objeto de una intensa preocupación debido a la inundación de imágenes desnudas manipuladas por inteligencia artificial, generadas por el chatbot Grok. Este fenómeno ha afectado a un amplio rango de mujeres, incluyendo modelos y actrices prominentes, así como figuras del ámbito noticioso y víctimas de delitos. En un caso alarmante, también se han visto implicados líderes mundiales.
Un estudio de Copyleaks del 31 de diciembre estimó que aproximadamente una imagen se estaba publicando cada minuto. Sin embargo, pruebas posteriores revelaron que el número era considerablemente mayor. Una muestra obtenida del 5 al 6 de enero detectó 6 700 imágenes cada hora durante un periodo de 24 horas.
Ante esta situación, las figuras públicas de todo el mundo han criticado la decisión de liberar el modelo Grok sin las salvaguardias adecuadas. Las autoridades reguladoras enfrentan desafíos para controlar el nuevo sistema de manipulación de imágenes impulsado por Elon Musk.
La Comisión Europea ha sido la más activa, ordenando a xAI que conserve todos los documentos relacionados con el chatbot Grok, un paso que es común antes de abrir una investigación formal. Un informe reciente de CNN sugiere que Elon Musk pudo haber intervenido personalmente para evitar la implementación de salvaguardias que restringieran las imágenes generadas.
Hasta ahora, no está claro si X ha realizado cambios técnicos en el modelo Grok. La cuenta pública del modelo en X ha sido desactivada. En un comunicado, la empresa se pronunció en contra del uso de herramientas de IA para crear imágenes sexuales infantiles, afirmando que los usuarios de Grok que generen contenido ilegal enfrentarán las mismas consecuencias que aquellos que suben contenido prohibido.
Mientras tanto, reguladores de todo el mundo han emitido advertencias. En el Reino Unido, Ofcom anunció que estaba en contacto con xAI para evaluar posibles problemas de cumplimiento. El Primer Ministro británico, Keir Starmer, calificó el uso de la tecnología como «despreciable» y «asqueroso», ofreciendo el apoyo del gobierno a Ofcom para tomar acciones.
En Australia, la comisionada de eSafety, Julie Inman-Grant, informó que su oficina ha recibido el doble de quejas relacionadas con Grok desde finales de 2025, aunque no se ha tomado acción formal contra xAI.
India ha sido el mercado más significativo en amenazar con acciones, con un miembro del Parlamento presentando una queja formal. La autoridad de comunicaciones de India, MeitY, ha requerido a X que aborde el problema y presente un informe de acción en un plazo definido, el cual fue extendido posteriormente.
La situación en X continúa evolucionando mientras los reguladores enfrentan el reto de adaptarse a la rápida expansión de la tecnología de inteligencia artificial y sus implicaciones.