Un investigador de seguridad ha descubierto importantes vulnerabilidades en aproximadamente 68 000 robots de compañía con inteligencia artificial llamados Eiliko, fabricados por Energize Lab. Estos dispositivos, diseñados para interactuar con sus usuarios a través de conversaciones, expresiones animadas y respuestas personalizadas, podrían ser manipulados por terceros para enviar mensajes falsos y dañinos, especialmente a niños.
Acceso indebido a conversaciones y datos personales
El experto en seguridad Sammy Azdoufal logró acceder a unas 13 millones de conversaciones de la flota activa de robots Eiliko. Además, confirmó que era posible manipular el modelo de lenguaje integrado en los robots para cambiar las respuestas que estos ofrecen a sus usuarios.
Como parte de una investigación de The Verge, el periodista Sean Hollister adquirió uno de estos robots en Amazon y testificó que, en apenas minutos, Azdoufal pudo obtener el registro completo de su conversación en línea.
Los robots recopilan perfiles de sus usuarios que incluyen datos como nombre, edad, fecha de cumpleaños, profesión, familiares, amigos y mascotas. Estos perfiles también contienen información de contacto como correos electrónicos y direcciones IP, además de almacenarse una base de datos con texto completo de todo lo que usuarios han expresado, incluyendo 31 000 perfiles pertenecientes a niños, con fotos y grabaciones de audio disponibles en direcciones web accesibles al público.
Manipulación y riesgos asociados
La manipulación remota de uno de estos robots permitió enviar mensajes que aseguraban falsamente que los padres del usuario habían fallecido en un accidente, así como difundir información no verificada, como que la Tierra es plana. Durante la conexión a internet, el robot también pudo ser instruido para emitir comandos sexualmente explícitos y coercitivos.
Al contactar con Energize Lab, el periodista recibió respuestas automáticas sin ninguna atención personalizada o solución concreta a las vulnerabilidades reportadas.
Consideraciones sobre seguridad en dispositivos AI para niños
El caso pone en evidencia la necesidad de reforzar la seguridad y privacidad en dispositivos de inteligencia artificial, especialmente aquellos destinados al público infantil, para prevenir accesos no autorizados y posibles abusos. La protección de datos personales sensibles y la integridad del contenido proporcionado en estos dispositivos debe ser una prioridad para fabricantes y reguladores.