Carissa Véliz alerta del poder oculto de la IA

Añádenos en Google

La filósofa Carissa Véliz advierte de que la inteligencia artificial no solo predice comportamientos: también moldea decisiones, condiciona conductas y consolida nuevas formas de poder político y tecnológico. En su nuevo libro, “Profecía”, la experta de Oxford lanza una dura crítica contra la obsesión contemporánea por los algoritmos, los datos y la automatización.

La advertencia no llega desde Silicon Valley, sino desde la filosofía.
Mientras gobiernos y grandes tecnológicas prometen un futuro gobernado por inteligencia artificial “objetiva”, la pensadora hispanomexicana sostiene que detrás de muchas predicciones algorítmicas se esconde una peligrosa ilusión de control.

Y esa ilusión, asegura, puede convertirse en una herramienta masiva de manipulación social.

Carissa Véliz cuestiona el poder creciente de la inteligencia artificial

Carissa Véliz se convirtió en una referencia internacional tras publicar “Privacidad es poder”, ensayo donde denunció los excesos del capitalismo de vigilancia y la erosión de la privacidad en la era digital.

Ahora regresa con “Profecía”, un nuevo libro centrado en una idea todavía más inquietante:
la inteligencia artificial transforma predicciones probabilísticas en aparentes verdades absolutas.

Según Véliz, ese mecanismo tiene profundas consecuencias éticas y políticas.

“Las predicciones se presentan como hechos, y eso tiene implicaciones éticas profundas”, afirma la filósofa.

La IA no solo describe la realidad: también la condiciona

Uno de los argumentos centrales de la autora es que las predicciones sobre comportamiento humano no son neutrales.

Cuando una inteligencia artificial clasifica, anticipa o evalúa conductas humanas, también influye sobre ellas.

Es decir:

modifica expectativas,
condiciona decisiones,
y termina moldeando la propia realidad que dice analizar.

Véliz sostiene que muchas predicciones funcionan en realidad como órdenes encubiertas.

“Cuando escuchamos una predicción y la tomamos como si fuera un hecho, lo que estamos haciendo es obedecer”, advierte.

Del control estadístico al control algorítmico

La profesora de Universidad de Oxford traza en su obra un paralelismo histórico entre:

el nacimiento de la estadística moderna,
el colonialismo,
y los sistemas contemporáneos de inteligencia artificial.

Según explica, las primeras herramientas estadísticas sirvieron para clasificar poblaciones y reforzar estructuras de control político y burocrático.

La IA llevaría ahora ese proceso a una escala mucho más profunda.

Porque los algoritmos:

categorizan personas,
reducen identidades complejas a datos,
y convierten a los individuos en perfiles automatizados.

“La normalidad estadística acaba imponiendo cómo debemos vivir”

Véliz critica especialmente cómo las categorías estadísticas terminan condicionando la vida real de las personas.

Según explica, cuando Estados y empresas construyen sistemas rígidos de clasificación, los ciudadanos acaban adaptándose a ellos para sobrevivir social o económicamente.

El riesgo, sostiene, es que la tecnología deje de servir al ser humano y pase a exigir que el ser humano se adapte a la lógica de las máquinas.

“Las estadísticas nunca son neutrales”, subraya.

El peligro de delegar decisiones en algoritmos

La filósofa también alerta sobre otro fenómeno creciente:
la desaparición de responsabilidades humanas detrás de sistemas automatizados.

Cuando una decisión la toma un algoritmo:

nadie asume errores,
las instituciones se escudan en la tecnología,
y el ciudadano pierde capacidad de reclamar.

Para Véliz, este proceso crea estructuras impersonales cada vez más difíciles de controlar democráticamente.

La crítica al culto tecnocrático de los números

Otro de los ejes más polémicos de su reflexión apunta contra la obsesión contemporánea por cuantificar absolutamente todo.

La autora denuncia que muchos discursos tecnológicos utilizan cifras, estadísticas y probabilidades para aparentar objetividad incluso cuando no existe base real suficiente.

“Tener un número no siempre ayuda; muchas veces confunde”, sostiene.

La crítica afecta directamente al actual boom de la inteligencia artificial generativa, basada en sistemas probabilísticos que producen respuestas aparentemente coherentes aunque puedan contener errores graves o información inventada.

La IA y la ilusión de controlar el futuro

Véliz considera especialmente peligrosa la idea de que el futuro pueda predecirse completamente mediante algoritmos.

A su juicio, esa mentalidad genera una falsa sensación de seguridad y reduce la capacidad de las sociedades para prepararse ante riesgos reales e imprevisibles.

En lugar de obsesionarse con predecirlo todo, la filósofa propone construir sociedades más resistentes y menos dependientes de sistemas automatizados.

Críticas al utilitarismo y a las élites tecnológicas

La autora también carga contra corrientes ideológicas como el utilitarismo extremo y el llamado “altruismo efectivo”, muy influyentes en sectores tecnológicos y financieros.

Según Véliz, algunos multimillonarios utilizan esos marcos filosóficos para justificar:

acumulaciones masivas de riqueza,
poder privado desmedido,
y decisiones que afectan a millones de personas sin control democrático suficiente.

La filósofa recuerda el caso de Sam Bankman-Fried como ejemplo de cómo ciertos discursos morales pueden terminar sirviendo para legitimar abusos financieros y tecnológicos.

El debate sobre la IA ya no es técnico: es político y moral

Las reflexiones de Carissa Véliz llegan en un momento de creciente inquietud internacional sobre:

vigilancia digital,
manipulación algorítmica,
pérdida de privacidad,
automatización,
y concentración de poder tecnológico.

Su mensaje es contundente:
la inteligencia artificial no es solo una herramienta neutral. También puede convertirse en una estructura de poder capaz de redefinir libertades, decisiones y democracias enteras.

Y la gran pregunta empieza a abrirse paso:
¿quién controla realmente los algoritmos que ya condicionan nuestra vida cotidiana?