En la conferencia Ai4 celebrada en Las Vegas, tres investigadores destacados en inteligencia artificial —Geoffrey Hinton, Fei-Fei Li y Andrew Ng— debatieron sobre la importancia de mantener abierta la investigación en IA y los riesgos asociados a los modelos open-weight.
Los modelos open-weight consisten en la liberación pública de los parámetros entrenados de un modelo, lo que facilita su acceso y uso sin las limitaciones tradicionales de entrenamiento. Sin embargo, esta apertura genera preocupaciones sobre el control, uso indebido y seguridad de estos sistemas.
Los expertos coincidieron en que el dominio de unos pocos grandes laboratorios sobre la investigación y desarrollo en IA podría ralentizar la innovación y limitar el acceso global a la tecnología. Andrew Ng alertó sobre el riesgo de que surjan ‘guardianes’ que restrinjan el acceso, y destacó la necesidad de fomentar la competencia entre múltiples proveedores para evitar monopolios.
Geoffrey Hinton distinguió entre el software open-source, que permite inspección y modificación del código, y los modelos open-weight, que solo liberan parámetros. Expresó preocupación por la facilidad que brindan estos últimos para ser usados con fines maliciosos, aunque admitió que ya son parte establecida del ecosistema de IA.
Por su parte, Fei-Fei Li propuso un enfoque más matizado, señalando que la apertura no debe ser absoluta ni total. Citó ejemplos como la investigación nuclear y el Proyecto Genoma Humano para argumentar que distintas capas del ecosistema pueden operar con niveles variables de apertura, combinando colaboraciones públicas y privadas.
Los tres expertos coincidieron en la necesidad de establecer regulaciones que orienten el desarrollo de la IA hacia el beneficio social, evitando que las decisiones queden exclusivamente en manos de empresas privadas o figuras individuales dentro del sector tecnológico.
Para España y el contexto europeo, el debate sobre la apertura en IA se inserta en la discusión global sobre soberanía tecnológica, seguridad y competitividad, donde garantizar el acceso equilibrado y regulado a tecnologías avanzadas es prioritario para no depender exclusivamente de proveedores externos.
Chollones
Chollones
Chollones