Indonesia bloquea Grok por deepfakes sexualizados no consensuados

Las autoridades indonesias anunciaron el sábado que están bloqueando temporalmente el acceso al chatbot Grok de xAI. Esta medida responde a un aumento en la difusión de imágenes generadas por inteligencia artificial que a menudo representan a mujeres y menores de edad, así como actos de asalto y abuso, solicitadas por usuarios en la red social X.

En un comunicado emitido, la ministra de Comunicaciones y Digital de Indonesia, Meutya Hafid, afirmó: “El gobierno considera que la práctica de los deepfakes sexuales no consensuados es una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”. La ministra también anunció que han convocado a representantes de X para discutir el tema.

Las reacciones gubernamentales a nivel internacional han sido variadas. En la última semana, India ordenó a la administración de tecnologías de la información que tomara medidas para evitar que Grok genere contenido obsceno, mientras que la Comisión Europea ha solicitado a la empresa que retenga toda la documentación relacionada con Grok, posiblemente preparando el terreno para una investigación.