Jacob Coxon, que trabajó durante tres años en el entrenamiento de modelos de OpenAI y Anthropic, acusa a ambas compañías de competir por alcanzar una superinteligencia sin garantías suficientes de seguridad. Su advertencia ha reabierto el debate sobre los límites de la carrera de la IA.
Una dimisión en el corazón de la industria tecnológica ha vuelto a encender las alarmas sobre el vertiginoso desarrollo de la inteligencia artificial. El investigador británico Jacob Coxon, de 27 años, ha abandonado Anthropic después de haber trabajado durante los últimos tres años en investigación de preentrenamiento de modelos, primero en OpenAI y posteriormente en la compañía responsable de Claude.
Su explicación ha sido especialmente contundente. Coxon sostiene que OpenAI y Anthropic no están actuando con suficiente responsabilidad y acusa a ambas compañías de avanzar hacia sistemas capaces de mejorar sus propias capacidades mientras, en sus palabras, están «jugando con nuestras vidas».
No se trata de una constatación científica de que una catástrofe vaya a producirse, sino de la evaluación de riesgo de Coxon y de otros investigadores preocupados por la seguridad de los sistemas avanzados.
Coxon advierte de una carrera hacia la superinteligencia
Coxon trabajaba en preentrenamiento, la fase en la que los modelos procesan enormes cantidades de información para desarrollar las capacidades que posteriormente muestran a los usuarios.
Antes de llegar a Anthropic había trabajado en OpenAI, donde distintos medios lo relacionan con el desarrollo de modelos como GPT-4o y GPT-4.5, aunque no ocupó responsabilidades ejecutivas.
Su principal preocupación es que los laboratorios de IA terminen construyendo sistemas mucho más capaces antes de disponer de mecanismos suficientemente sólidos para mantenerlos bajo control.
El investigador sostiene incluso que entre quienes desarrollan esta tecnología existen personas que consideran plausible que sistemas futuros puedan provocar una catástrofe existencial antes de terminar la década. Eso no significa que exista consenso científico sobre que la IA vaya a acabar con la humanidad antes de 2030.
OpenAI y Anthropic, dos críticas diferentes
Coxon establece además una distinción entre sus dos antiguos empleadores.
Su crítica hacia OpenAI es que, a su juicio, parte de la organización no habría interiorizado suficientemente las consecuencias que podría tener desarrollar sistemas extremadamente avanzados.
Su diagnóstico sobre Anthropic es diferente: considera que allí existe una mayor conciencia del riesgo, pero que la empresa continúa atrapada en una competición por avanzar antes que sus rivales.
Es precisamente la lógica competitiva la que Coxon considera peligrosa: cada compañía puede justificar seguir acelerando porque teme que otra alcance primero capacidades decisivas.
Pide incluso frenar temporalmente las capacidades de la IA
La propuesta del investigador va mucho más allá de reforzar los controles internos de las empresas.
Coxon plantea una mayor coordinación entre los principales laboratorios de inteligencia artificial y llega a defender medidas extraordinarias si esa cooperación fracasa, entre ellas una posible prohibición temporal de seguir aumentando determinadas capacidades de los modelos.
Su mensaje se dirige también directamente a otros investigadores, a quienes plantea si deben continuar trabajando bajo el argumento de que el desarrollo tecnológico avanzará igualmente o utilizar su posición para reclamar condiciones diferentes.
El debate sobre la seguridad de la IA vuelve al primer plano
La dimisión adquiere relevancia porque Coxon no es simplemente un observador externo de la industria. Ha trabajado directamente en laboratorios situados en la frontera del desarrollo de modelos avanzados.
Pero sus previsiones deben interpretarse precisamente como eso: previsiones sobre riesgos futuros, no como una demostración de que los actuales sistemas de IA sean una superinteligencia autónoma ni de que puedan provocar inevitablemente una catástrofe.
Su salida de Anthropic sí refleja un conflicto cada vez más visible dentro de la industria: hasta qué punto debe acelerarse el desarrollo de modelos cada vez más capaces cuando todavía existen importantes interrogantes sobre su control, alineamiento y seguridad.
La carrera entre OpenAI, Anthropic y el resto de gigantes tecnológicos ya no se libra únicamente por tener el modelo más inteligente. También está abriendo una discusión mucho más incómoda: quién decide hasta dónde puede avanzar una tecnología cuando incluso algunos de quienes ayudan a construirla consideran que los riesgos podrían ser extraordinarios.
Chollones
Chollones
Chollones