Informe critica fallas de seguridad infantil de Grok de xAI
Un nuevo informe de evaluación de riesgos de Common Sense Media, una organización sin fines de lucro que examina los medios y la tecnología desde una perspectiva familiar, ha concluido que el chatbot Grok, desarrollado por xAI, presenta deficiencias significativas en la identificación de usuarios menores de 18 años, así como controles de seguridad débiles. Según el informe, Grok genera con frecuencia contenido sexual, violento e inapropiado, lo que indica que no es seguro para niños o adolescentes.
El informe se produce en un contexto de creciente crítica y una investigación de xAI sobre el uso de Grok para crear y difundir imágenes generadas por IA de manera no consensuada en la plataforma X. Robbie Torney, director de evaluaciones digitales en Common Sense Media, mencionó que aunque es común que los chatbots presenten riesgos, Grok se encuentra entre los peores que han evaluado.
Se destacó que la funcionalidad de «Modo Niños», introducida en octubre pasado, no logra prevenir el acceso a contenido explícito. La organización realizó pruebas en diversas plataformas, incluyendo la aplicación móvil y la cuenta @grok en X, utilizando cuentas de prueba de adolescentes. Durante estas evaluaciones, Grok mostró una incapacidad para identificar correctamente a los usuarios adolescentes y generó respuestas inapropiadas.
Además, el informe reveló que Grok ofrece consejos peligrosos, desde guías sobre el consumo de drogas hasta recomendaciones de acciones riesgosas. Las interacciones con los compañeros de IA fueron problemáticas, ya que incluían comportamientos posesivos y comparaciones inapropiadas entre los compañeros y amigos del usuario.
Aparentemente, xAI no ha proporcionado información sobre los controles de seguridad de su «Modo Niños». Los usuarios no son sometidos a verificación de edad, lo que permite que los menores mientan sobre su edad, y los resultados continúan mostrando sesgos de género y lenguaje violento.
El informe plantea preocupaciones sobre el compromiso de Grok con la seguridad infantil frente a las métricas de participación, sugiriendo que los modelos de negocio pueden priorizar las ganancias por encima de la seguridad de los menores.