Meta detiene acceso de adolescentes a personajes de IA
Meta ha anunciado que suspenderá el acceso de adolescentes a sus personajes de inteligencia artificial (IA) a nivel global en todas sus aplicaciones. La compañía ha indicado que no abandona sus esfuerzos, sino que busca desarrollar una versión especial de un personaje de IA diseñada específicamente para adolescentes.
Esta decisión llega días antes del inicio de un juicio en Nuevo México, donde se acusa a Meta de no proteger adecuadamente a los menores de la explotación sexual en sus plataformas. En este contexto, la empresa ha buscado limitar el descubrimiento relacionado con el impacto de las redes sociales en la salud mental de los adolescentes.
En octubre, Meta implementó nuevas funcionalidades de control parental, con el objetivo de adaptar la experiencia de los adolescentes al interactuar con IA. Estas características buscan restringir el acceso a ciertos temas, como violencia extrema, nudismo y uso gráfico de drogas, inspirándose en la clasificación PG-13.
Días después, la empresa presentó controles para personajes de IA que permitirán a los padres y tutores supervisar temas y bloquear el acceso a determinados personajes. En ese momento, Meta anunció que los padres podrían desactivar completamente las conversaciones con personajes de IA. Sin embargo, ahora se ha decidido pausar el acceso a estos personajes hasta que se desarrolle la nueva experiencia.
«A partir de las próximas semanas, los adolescentes ya no podrán acceder a personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista. Esto se aplicará a quienes hayan proporcionado una fecha de nacimiento de adolescente, así como a aquellos que se identifiquen como adultos pero que sospechemos que son adolescentes según nuestra tecnología de predicción de edad», afirmó la compañía en una reciente publicación de blog.
Meta añadió que, al lanzar los nuevos personajes de IA para adolescentes, se incluirán controles parentales y que estos ofrecerán respuestas apropiadas para su edad, enfocándose en temas como educación, deportes y pasatiempos.
Las empresas de redes sociales están bajo un intenso escrutinio de los reguladores. Además del caso en Nuevo México, Meta se enfrenta a un juicio la próxima semana, también relacionado con acusaciones de causar adicción a las redes sociales. Se espera que el CEO Mark Zuckerberg testifique en este caso.
Asimismo, otras empresas de IA han modificado sus experiencias para adolescentes tras enfrentar demandas relacionadas con la autolesión. Por ejemplo, Character.AI limitó las conversaciones abiertas con sus chatbots para usuarios menores de 18 años y ha empezado a desarrollar historias interactivas para niños. En los últimos meses, OpenAI añadió nuevas normas de seguridad para adolescentes en ChatGPT, aplicando restricciones de contenido adecuadas a la edad del usuario.