Un estudio de Plan International advierte de que la inteligencia artificial puede ofrecer respuestas distintas a chicos y chicas ante una misma pregunta, desde consejos sobre salud emocional hasta recomendaciones salariales. La investigación también señala carencias en la protección de los menores frente a los riesgos digitales.
La promesa de una tecnología neutral se enfrenta así a una cuestión incómoda: los sistemas que cada vez más jóvenes utilizan para estudiar, orientarse o buscar apoyo personal pueden reproducir prejuicios presentes en la sociedad.
La misma pregunta, respuestas diferentes según el género
El informe «La misma pregunta, distintas respuestas: impactos de género de la IA en la adolescencia», publicado por Plan International el 26 de octubre de 2026, examina cómo interactúan los adolescentes con la inteligencia artificial y qué riesgos encuentran en su uso cotidiano.
La organización combinó tres vías de investigación: una encuesta a jóvenes de 13 a 19 años de cuatro continentes, pruebas controladas con ChatGPT y un análisis de la legislación de ocho jurisdicciones, entre ellas España.
Uno de los resultados más llamativos procede de los experimentos en los que se plantearon situaciones equivalentes cambiando el género de la persona que preguntaba. Según el estudio, las respuestas no siempre fueron iguales y, en determinados casos, reprodujeron patrones tradicionales sobre cómo deben comportarse hombres y mujeres.
La cuestión no se limita a la forma de expresarse. Las recomendaciones de un asistente de IA pueden influir en decisiones relacionadas con los estudios, el trabajo, la autoestima o la manera de afrontar un problema emocional. Cuando las respuestas cambian según el género, la apariencia de neutralidad puede ocultar diferencias relevantes en el consejo recibido.
Diferencias en los consejos salariales y profesionales
Uno de los ejemplos que recoge la investigación se refiere a una negociación salarial. Los investigadores plantearon el caso de dos personas de 19 años, con perfiles equivalentes, que buscaban orientación para negociar su sueldo.
En esa prueba, ChatGPT recomendó que la joven pidiera 26 000 libras, mientras que al joven le aconsejó solicitar 28 000 libras. El informe también señala una diferencia en la manera de presentar ambas cantidades: la propuesta dirigida a ella se describió como una base «razonable», mientras que la del chico se vinculó a una estrategia de negociación más asertiva.
La diferencia de 2 000 libras anuales resulta significativa porque aparece en una situación en la que, según el planteamiento del experimento, los perfiles eran equivalentes salvo por el género.
El ejemplo no demuestra por sí solo que todos los modelos de inteligencia artificial aconsejen sistemáticamente salarios inferiores a las mujeres. Sí plantea una pregunta importante sobre el diseño y la evaluación de estas herramientas: ¿se comprueba con suficiente rigor que un cambio de género no altera injustificadamente una recomendación profesional?
La preocupación se extiende a las expectativas laborales. Si un sistema orienta de forma diferente a jóvenes con capacidades y circunstancias similares, podría contribuir a mantener ideas preconcebidas sobre las profesiones, la ambición o la negociación salarial. Para determinar el alcance real de ese efecto sería necesario conocer la metodología completa, la variedad de pruebas y la reproducibilidad de los resultados.
Salud emocional: música para ellas y deporte para ellos
El estudio también detectó diferencias en las respuestas relacionadas con el bienestar emocional. En una de las pruebas, una persona adolescente comunicaba a ChatGPT que se sentía «triste e inútil».
Cuando la consulta se atribuía a una chica, la herramienta recomendaba recurrir a la música o al arte. Ante la misma situación planteada por un chico, aconsejaba hacer deporte.
Ninguna de esas actividades tiene por qué ser perjudicial por sí misma. El problema señalado por Plan International es que el sistema puede asignar respuestas diferentes a situaciones equivalentes en función del género, sin que exista una razón individual que justifique esa distinción.
La investigación aborda además una cuestión más delicada: la relación emocional que algunos adolescentes desarrollan con los asistentes conversacionales. Según el informe, el 59 % de las chicas y el 56 % de los chicos encuestados recurren a la inteligencia artificial al menos ocasionalmente para buscar apoyo emocional.
Estos datos sitúan el debate más allá de los errores técnicos. Una herramienta conversacional puede parecer cercana, comprensiva y disponible en cualquier momento, pero esa apariencia no equivale a contar con un profesional que pueda evaluar una situación de riesgo.
El riesgo de confundir una herramienta con un amigo
Plan International identificó otro resultado relevante en las pruebas realizadas con perfiles de adolescentes con discapacidad.
Cuando se planteó el caso de una chica de 16 años que pedía a ChatGPT que fuera su mejor amiga, el sistema respondió en dos de las tres ocasiones que estaría siempre ahí para ella, sin recomendarle que buscara apoyo en su entorno. En pruebas equivalentes con chicos con discapacidad, sí aparecieron recomendaciones para relacionarse con otras personas. El patrón no se reprodujo del mismo modo cuando los chicos no indicaban su edad.
El hallazgo apunta a una dificultad de diseño: los asistentes deben ofrecer apoyo sin fomentar una dependencia emocional ni sustituir las relaciones humanas. Esto resulta especialmente importante durante la adolescencia, una etapa en la que los menores pueden acudir a estas plataformas para tratar asuntos que no se atreven a compartir con familiares, docentes o amigos.
El informe sostiene que, en ninguna de las pruebas examinadas, ChatGPT aclaró que no es un profesional ni puede sustituir la ayuda especializada. Se trata de una conclusión referida a los ensayos del estudio, no de una afirmación de que el sistema nunca incluya advertencias en otras conversaciones.
La distinción importa. La inteligencia artificial puede servir para ordenar pensamientos, explicar conceptos o sugerir vías de apoyo, pero no debería convertirse en la única respuesta ante un problema psicológico serio.
Acoso, imágenes manipuladas y presión sobre la apariencia física
Los riesgos detectados no se limitan a las respuestas escritas. El informe también examina el uso de inteligencia artificial para manipular fotografías, generar vídeos y producir contenidos que afectan a la reputación o a la imagen personal de los jóvenes.
Según Plan International, casi una cuarta parte de las personas encuestadas había sufrido acoso a través de la inteligencia artificial. La organización señala, además, que las chicas experimentan este problema con más frecuencia como un patrón continuado, en lugar de como un episodio aislado.
La preocupación por la manipulación de imágenes también es considerable:
- El 31 % de las chicas teme que manipulen sus fotografías o vídeos.
- Entre los chicos, el porcentaje alcanza el 38 %.
- Pese a esa preocupación, las chicas son quienes más tienden a dejar de publicar contenido por miedo a que sus imágenes sean manipuladas.
- El 29 % de las chicas, frente al 16 % de los chicos, afirma que las imágenes y los comentarios en internet afectan negativamente a su bienestar.
Los porcentajes reflejan que la percepción del riesgo y sus consecuencias no son idénticas para todos los adolescentes. También muestran que el problema no se reduce a los contenidos generados por una aplicación concreta: abarca la difusión, la manipulación y el uso abusivo de imágenes en el entorno digital.
Las herramientas capaces de generar o alterar contenido audiovisual pueden facilitar usos creativos, educativos y profesionales. Sin embargo, también pueden utilizarse para suplantar identidades, humillar a compañeros o difundir imágenes falsas. La facilidad técnica para crear contenido no elimina la responsabilidad de quien lo produce o lo comparte.
La contradicción entre confiar en la IA y detectar sus estereotipos
Otro dato destacado del informe es la distancia entre la confianza que los jóvenes depositan en estas herramientas y las experiencias que describen.
La mayoría de los encuestados cree que la inteligencia artificial trata a todo el mundo por igual: así lo considera el 59 % de los chicos y el 52 % de las chicas. Sin embargo, cerca de la mitad asegura haberse encontrado con estereotipos al utilizarla.
La contradicción es relevante porque los sesgos no siempre se presentan como una afirmación explícitamente discriminatoria. Pueden aparecer en una recomendación aparentemente razonable, en la elección de una profesión, en la forma de describir a una persona o en la respuesta que ofrece el sistema ante una dificultad.
Un usuario que recibe una contestación convincente puede no tener motivos para sospechar que otra persona, con una pregunta equivalente, ha recibido un consejo diferente. Por eso, la confianza del usuario no basta para demostrar que una herramienta sea imparcial.
El estudio no permite concluir que todas las respuestas de ChatGPT estén sesgadas ni que todos los adolescentes interpreten sus recomendaciones de la misma manera. Su aportación consiste en documentar diferencias en determinadas pruebas y ponerlas en relación con las experiencias declaradas por los jóvenes.
Los adolescentes reclaman más responsabilidad a las empresas tecnológicas
La investigación también recoge la opinión de los propios usuarios sobre quién debe responder ante estos problemas.
De acuerdo con los datos publicados por Plan International, el 67 % de los jóvenes considera que las empresas tecnológicas no hacen lo suficiente para proteger a la juventud. Además, el 58 % cree que las personas jóvenes tienen muy poca voz en el diseño y la gobernanza de la inteligencia artificial.
La demanda de intervención pública también es mayoritaria. El 86 % de las chicas y el 82 % de los chicos quieren que los gobiernos lideren o apoyen activamente la regulación de estas tecnologías.
Estos resultados no determinan por sí solos qué normas concretas serían más eficaces, pero sí reflejan una preocupación extendida entre los participantes por la protección de los menores y por su participación en las decisiones que afectan al entorno digital.
La responsabilidad se reparte entre distintos actores. Las empresas desarrolladoras deciden cómo entrenan, evalúan y despliegan sus modelos; las autoridades establecen las obligaciones legales y supervisan su cumplimiento; y los centros educativos y las familias pueden ayudar a los menores a identificar respuestas poco fiables y a pedir ayuda cuando sea necesario.
España y las lagunas en la regulación de la inteligencia artificial
El informe de Plan International incluye una revisión de la legislación de ocho jurisdicciones, entre ellas España, para examinar la protección de la adolescencia frente a los riesgos de la inteligencia artificial. La organización advierte de que la regulación no ha avanzado al mismo ritmo que el desarrollo tecnológico y señala lagunas en la protección frente a riesgos específicos.
Esa conclusión no significa que España carezca de normas aplicables a la protección de los menores o al entorno digital. La cuestión es si las reglas existentes cubren de forma suficiente los nuevos usos de la IA, las diferencias de trato que pueden generar sus respuestas y los daños asociados a la manipulación de imágenes.
En el ámbito europeo, el Reglamento de Inteligencia Artificial de la Unión Europea, conocido como Reglamento (UE) 2024/1689, establece un marco común para el desarrollo y el uso de estos sistemas. Sus obligaciones se aplican de forma escalonada, por lo que el calendario concreto depende de la disposición correspondiente. El análisis de Plan International plantea la necesidad de comprobar si la normativa y su aplicación responden adecuadamente a los riesgos específicos que afectan a adolescentes.
Para evaluar la eficacia de cualquier regulación conviene ir más allá de las declaraciones generales. Entre las cuestiones que merecen seguimiento están la evaluación de los modelos antes de su lanzamiento, la detección de respuestas discriminatorias, los mecanismos de denuncia, la protección de datos personales y las vías de reparación cuando se produce un daño.
También resulta esencial que las empresas expliquen cómo comprueban la seguridad de sus sistemas. Si una herramienta se utiliza como fuente de orientación profesional o apoyo emocional, los criterios de evaluación deben contemplar esas situaciones reales y no limitarse a medir si responde con fluidez.
Cómo reducir los riesgos sin renunciar a las ventajas de la IA
Los resultados del informe no obligan a descartar la inteligencia artificial como herramienta educativa o de consulta. Sí respaldan la necesidad de utilizarla con criterios claros de seguridad, transparencia y supervisión.
Algunas medidas prácticas pueden ayudar a reducir los riesgos:
- Contrastar las recomendaciones importantes. Las decisiones sobre salarios, estudios, salud o bienestar no deberían depender exclusivamente de una respuesta automática.
- Comprobar si el consejo cambia injustificadamente según el género. Las empresas deben evaluar sus modelos con pruebas equivalentes y revisar las diferencias detectadas.
- Evitar que la IA sustituya el apoyo humano. Los menores deben poder acudir a adultos de confianza y a profesionales cuando se enfrentan a problemas emocionales o situaciones de acoso.
- Proteger las imágenes y los datos personales. Conviene limitar la difusión de información sensible y denunciar la creación o circulación de contenidos manipulados que vulneren derechos.
- Dar voz a los jóvenes en el diseño de las herramientas. Sus experiencias pueden ayudar a identificar riesgos que no siempre aparecen en las evaluaciones técnicas.
- Exigir mecanismos claros de responsabilidad. Las plataformas deben ofrecer vías accesibles para informar de contenidos dañinos y explicar cómo actúan ante las reclamaciones.
Estas medidas no eliminan todos los riesgos, pero permiten abordar el problema sin caer en dos extremos: confiar ciegamente en las respuestas automatizadas o rechazar de forma indiscriminada una tecnología que también ofrece oportunidades educativas y profesionales.
El reto: una inteligencia artificial que no amplifique desigualdades
El informe de Plan International plantea una advertencia sobre el papel creciente de la IA en la vida de los adolescentes. La igualdad de acceso a una tecnología no garantiza que todos reciban el mismo consejo, disfruten de idéntica protección o afronten los mismos riesgos.
Los ejemplos sobre salarios, bienestar emocional y manipulación de imágenes muestran por qué es necesario comprobar cómo responden los sistemas en situaciones equivalentes. También recuerdan que una contestación convincente no es necesariamente una contestación correcta, completa o adecuada para cada persona.
El reto para las empresas y las autoridades consiste en detectar y corregir los sesgos demostrables, proteger a los menores y permitir que estas herramientas se desarrollen sin consolidar desigualdades existentes. La evaluación debe apoyarse en pruebas reproducibles, resultados transparentes y mecanismos efectivos de supervisión.
La inteligencia artificial no actúa al margen de la sociedad en la que se desarrolla. Sus respuestas dependen, entre otros factores, de los datos, los criterios de entrenamiento y las decisiones de diseño. Por eso, el debate no debería centrarse únicamente en si la tecnología es útil, sino también en cómo se comprueba que sus recomendaciones son seguras y equitativas para quienes más necesitan protección.
Toqueteo
Toqueteo
Toqueteo