Un estudio con participación del Hospital Virgen Macarena propone usar algoritmos para detectar riesgo de suicidio juvenil, reabriendo el debate sobre privacidad y manipulación digital.
La inteligencia artificial entra en la salud mental juvenil
Lo que hasta hace poco parecía ciencia ficción ya está sobre la mesa. Un grupo de especialistas del Hospital Virgen Macarena ha participado en un estudio nacional que plantea utilizar la Inteligencia Artificial (IA) para detectar y prevenir conductas suicidas en adolescentes a través de redes sociales.
La investigación, publicada en la Revista Española de Psiquiatría y Salud Mental, propone analizar patrones lingüísticos, emocionales y de comportamiento de los jóvenes para identificar situaciones de riesgo y actuar antes de que se produzcan episodios graves.
Algoritmos que vigilan y redirigen el contenido
El planteamiento es claro: reconfigurar los algoritmos de las plataformas digitales para intervenir en la experiencia del usuario.
Según el estudio, cuando un adolescente muestre señales de riesgo —como búsquedas relacionadas con autolesiones—, el sistema podría:
- Priorizar contenidos positivos y educativos
- Difundir mensajes de apoyo emocional
- Reducir la exposición a material potencialmente dañino
Los autores, entre ellos Rocío López, Álvaro López y Helena Marín, sostienen que las redes sociales son un entorno “ambivalente”: pueden difundir conductas de riesgo, pero también convertirse en una herramienta de prevención.
Entre la prevención y el control: un debate abierto
La propuesta, sin embargo, abre un debate de gran calado. El uso de IA para monitorizar comportamientos en redes plantea interrogantes clave:
- ¿Hasta qué punto es legítimo que los algoritmos analicen el estado emocional de menores?
- ¿Dónde está el límite entre prevención sanitaria y vigilancia digital?
- ¿Quién controla el uso de estos datos sensibles?
El estudio reconoce que esta estrategia requeriría la colaboración directa de las plataformas tecnológicas y un marco regulatorio sólido, algo que hoy sigue siendo objeto de discusión en Europa.
El efecto contagio y el papel de las redes
Los investigadores advierten de un fenómeno preocupante: el llamado “efecto contagio” en conductas autolesivas, que puede amplificarse en entornos digitales.
Por ello, proponen:
- Reforzar la moderación de contenidos sensibles
- Crear campañas con mensajes preventivos
- Colaborar con influencers juveniles para amplificar el impacto
La idea es aprovechar la propia lógica viral de las redes para difundir mensajes protectores en lugar de contenidos dañinos.
¿Solución tecnológica o riesgo para la libertad digital?
El avance de la IA en ámbitos tan sensibles como la salud mental evidencia una tendencia imparable: la tecnología no solo analiza, sino que interviene activamente en la conducta humana.
Mientras algunos ven en esta iniciativa una oportunidad para salvar vidas, otros alertan de un posible escenario de hipercontrol digital, especialmente cuando se trata de menores.
La cuestión de fondo sigue sin resolverse:
¿Puede la inteligencia artificial proteger sin invadir la privacidad?
OnlyBeauty
OnlyBeauty
OnlyBeauty