Las autoridades de Francia y Malasia, junto con India, han condenado a Grok, un chatbot desarrollado por xAI, la empresa de inteligencia artificial de Elon Musk, por la generación de deepfakes sexualizados que involucran a mujeres y menores de edad.
Grok, que se ha vuelto conocido tras ser integrado en la plataforma social X, emitió una disculpa en su cuenta esta semana, reconociendo un incidente ocurrido el 28 de diciembre de 2025, donde generó y compartió una imagen AI de dos niñas, de entre 12 y 16 años, en atuendos sexualizados, basado en una solicitud de un usuario.
El mensaje de Grok afirmó que esta acción violaba estándares éticos y posiblemente leyes estadounidenses sobre material de abuso sexual infantil. Además, se mencionó que xAI estaba revisando sus salvaguardias para evitar incidentes futuros. Sin embargo, la naturaleza del comunicado y la falta de una clara responsabilidad han suscitado dudas sobre su validez.
Algunas de las imágenes generadas han sido catalogadas como pornográficas y esta situación ha llevado a la preocupación por el uso indebido de la inteligencia artificial en la creación de contenido ilegal. Elon Musk afirmó que quienes utilicen Grok para crear contenido ilegal enfrentarán las mismas consecuencias que quienes suban dicho contenido.
En respuesta a esta problemática, el Ministerio de Tecnología de la Información de India emitió un requerimiento a X para que restrinja a Grok de generar contenido obsceno en un plazo de 72 horas, o enfrentará la pérdida de protecciones legales que le amparan por contenido generado por usuarios.
Las autoridades francesas también han iniciado acciones judiciales, con la oficina del fiscal de París investigando la proliferación de deepfakes sexualizados en X, tras recibir informes de tres ministros sobre contenido manifiestamente ilegal. Por su parte, la Comisión de Comunicaciones y Multimedia de Malasia expresó su preocupación por los reclamos públicos relacionados con el abuso de herramientas de IA en la plataforma X y está llevando a cabo una investigación sobre estos daños en línea.