A vueltas con Coxon

Jacob Coxon no es un divulgador apocalíptico, no es un «youtuber» cualquiera. Jacob Coxon es un investigador de 27 años que pasó los últimos tres haciendo pruebas y sacando conclusiones de preentrenamiento, la fase en la que se construye la base de un modelo, tanto en OpenAI como en Anthropic. El 9 de septiembre de 2026 dimitió de Anthropic y publicó un hilo en X, que llegó a más de 90 millones, que resumía así su postura:

Mucha gente dentro de los laboratorios que construyen la tecnología en que se basa la IA cree de verdad que podría matarnos a todos antes de que acabe la década. Y las dos empresas están corriendo hacia sistemas capaces de mejorarse a sí mismos, lo cual supone un serio peligro.

Eso. Evidentemente, asusta a cualquiera. A mí el primero. Y conviene que entendamos qué hay detrás de cuanto ha dicho e insinuado, sin tragarse el titular ni descartarlo sin más.

Primero, analicemos de qué no habla Coxon

Coxon no habla de que ChatGPT, Claude o Gemini se vayan a declarar la guerra de la noche a la mañana, así sin más. Y digo esto porque el propio Coxon lo dijo con claridad en una entrevista posterior: «los modelos actuales no suponen una amenaza inminente y son totalmente seguros para el uso diario».

Sin embargo sí hemos de ser conscientes, no solo basándonos en Coxon, sino en nuestra propia experiencia (al menos ese es mi caso) que las herramientas IA, cuando se les plantea una cuestión compleja, a menudo inventan cosas y lo digo con total seguridad.

Y siguiendo con, digamos, las posibilidades de «hacernos daño», podríamos incidir también en los fallos que se detectan cuando se presentan cadenas de razonamiento largas, sin olvidar el daño que nos puede causar si esa IA la usan personas o grupos que tengan esa intención.

Y, profundizando un poco más, vemos cómo en pruebas de evaluación avanzadas, a veces se comportan de forma inesperada, totalmente imprevisible, llegando a saltarse o ignorar las restricciones que hemos planteado en esos entornos de prueba.

Todo esto es serio. No es un síntoma claro de que estemos a punto de la extinción, pero hay que considerarlo.

El peligro que señala Coxon, a mi modo de ver, no es el modelo de esta semana o de la que viene o la del mes próximo, sino la dirección y la velocidad con la que se puede propiciar el momento en que debamos hacerlo si se sigue escalando hacia sistemas mucho más capaces, autónomos y difíciles de controlar.

¿Y a qué se refiere Coxon exactamente con «podría matarnos a todos»?

No se refiere, por supuesto —y perdonad la comparación tan infantil— a una pelea de robots a ver, como en el lejano oeste, quién es más rápido y eficaz.

Yo creo que Jacob Coxon se está refiriendo a la pérdida de control que pueden provocar sistemas con mucha autonomía, capaces de «hackear», copiarse a sí mismos, engañarse, coordinarse entre sí, y que todo esto vaya más allá de lo que sus creadores imaginaron e impida a esos creadores frenarlos a tiempo.

Imaginemos un sistema de atacar redes de energía, finanzas o comunicaciones a una velocidad y escala que ningún equipo humano puede seguir.

Por no hablar de otros campos, como, por ejemplo, la biología asistida ayudando a diseñar o producir patógenos peligrosos. El miedo aquí no es que la IA «odie» a los humanos, sino que baje mucho el umbral técnico para causar un daño catastrófico.

Todo esto podría ocurrir porque, aunque dentro de los laboratorios se hable de prudencia, ellos mismos compiten entre sí y con otros países. Y aquí, quien frena pierde la carrera. El resultado es que, para ganar, para ser el primero, se asume más riesgo del que cualquiera firmaría estando solo, sin la presión de la carrera.

No hace falta que la IA «quiera» destruirnos. Basta con que sea muy poderosa, esté mal alineada con lo que en realidad queremos, y opere en un mundo tan conectado como el actual.

¿Por qué gente de dentro, al igual que Coxon, lo dice en serio?

Pues mi opinión, hasta donde llega mi modesta percepción, es que hay tres motivos que, si se analizan detenidamente, se solapan.

Esta gente ve el ritmo de cerca. Quien entrena modelos de frontera, modelos que van a marcar una tendencia futura, ve saltos de capacidad que el público solo intuye desde fuera. Si cada generación gana autonomía y habilidad técnica, extrapolar esa curva da miedo. Puede ser una extrapolación correcta, o puede ser demasiado lineal. Nadie lo sabe con certeza. Porque hay que tener en cuenta que el alineamiento no está resuelto.

Alinear un modelo significa conseguir que un sistema suficientemente capacitado haga lo que de verdad pretendemos, no solo lo que parece correcto y aceptable dado el contexto. Hay avances, sí, pero no existe un plan demostrable para alinear una superinteligencia. Evan Hubinger, responsable de pruebas de alineamiento en Anthropic, respaldó públicamente a Coxon y afirmó que cree de verdad que la IA podría «matar» a todos los humanos, y que le asigna más de un 10% de probabilidad dentro de esta década. Eso no es una prueba. Es una estimación de alguien desde dentro, y por eso pesa y, evidentemente, es para tenerla en cuenta.

Además, hay que ser conscientes de que los propios directivos de las principales empresas de desarrollo de IA firmaron el riesgo. Veamos: en 2023, responsables de laboratorios importantes —incluidos los de OpenAI, Google DeepMind y Anthropic— firmaron una declaración pública equiparando el riesgo de extinción por IA al de las pandemias o la guerra nuclear. Y Coxon se apoya en eso: si su advertencia suena exagerada, conviene recordar lo que ya habían firmado los propios CEOs.

Dicho esto, que no es poco, vamos a darle una vuelta

Dicho lo dicho y sin negar que sea preocupante, quizá sería conveniente ponerle un poco de pausa. Es posible que ese «apocalipsis» que algunos ven tan cercano y, más aún ahora, en un mundo que se mueve no ya por la inmediatez, sino por la locura del ahora, se pueda evitar o minimizar si tenemos un poco —o un mucho— de cabeza.

Alertar del peligro también puede servir para orientar la regulación a favor de quien ya va en cabeza, o para atraer atención y financiación.

No hay ninguna certeza experimental que demuestre de forma irrebatible la «extinción en 2030». Sí hay argumentos, más o menos fiables, tendencias, juicios de expertos, teniendo en cuenta que no siempre los expertos están de acuerdo entre sí.

Vamos a ver, y esto es irrefutable: hoy la IA es brillante en unas tareas y torpe en otras. Esa irregularidad, a buen seguro, puede suavizarse y corregirse con el tiempo, o —y me inclino por esto— puede durar bastante más de lo que temen los más pesimistas.

Para los que peinamos canas y hemos vivido ya varias, cada oleada tecnológica ha acumulado sus propios miedos, unos justificados y otros inflados. El riesgo de confundir «posible» con «inevitable» es real en ambas direcciones. Siempre lo ha sido.

Tomarse en serio que existe o puede existir un riesgo no es lo mismo que aceptar un calendario apocalíptico.

¿Qué se puede concluir de todo esto?

Evidentemente, el aviso de Jacob Coxon no es ruido, no es el delirio de un paranoico. Es serio. Como él, hay gente cualificada, dentro de los propios laboratorios, que cree que el riesgo existencial es real y no lejano. Eso merece una atención detallada y responsable.

Pero con todo y con eso, la afirmación de Coxon no es un veredicto. Es una hipótesis de alto impacto y certeza cuestionable. Tengamos en cuenta que ese tipo de riesgo debe ser gestionado con prudencia, no con pánico ni con memes.

Además, vivimos una situación en la que vemos que el peligro cercano y el lejano se mezclan en los titulares. Veamos si no: estafas, desinformación, despidos, ciberataques y dependencia son riesgos que ya existen hoy. La extinción sería el escenario extremo. Convendría, y esto es responsabilidad de todos, no usar lo extremo para tapar lo cotidiano, ni al revés.

La pregunta útil no es «¿nos va a matar?». La pregunta útil es: ¿quién frena, quién verifica, quién responde cuando algo falle, y a qué velocidad tiene sentido seguir?

Si te preocupa, colabora para impedirlo

Nos preocupa, claro que sí; decir lo contrario sería estúpido. Por tanto, actuemos: vamos a usar la IA con criterio, no delegar lo irreversible, comprobar lo crítico. Eso no cambia el rumbo general, pero mantiene la cabeza fría.

Hemos de ser capaces de distinguir entre productos de consumo y laboratorios de frontera. No toda la «IA» que usamos es el mismo animal: el riesgo verdaderamente grave se discute sobre sistemas cada vez más autónomos y capaces, no sobre el corrector del móvil.

Vamos a exigir transparencia y evaluación independiente cuando se hable de regular esto. Vamos a analizar y, si no somos capaces de decidirlo solos, vamos a buscar asesoramiento antes de comprar automáticamente la versión de una sola empresa.

Mi humilde consejo es buscar fuentes que sean capaces de separar hechos, escenarios y opiniones. Una renuncia viral es una señal. No es un tratado.

Conclusión

Lo que dice Coxon refleja una creencia real dentro de una parte del sector: que esta carrera podría acabar muy mal, incluso a nivel de desaparición de la especie humana, si no total, sí parcial. Lo que no está demostrado es que ese final esté ya escrito.

Entre el «no pasa nada, es marketing» y el «ya estamos muertos» hay un sitio donde conviene quedarse: tomarse el riesgo en serio, exigir frenos y pruebas, y no entregar nuestro juicio, nuestra capacidad de decidir, ni al miedo ni a la moda.

La IA amplifica, la IA ayuda y resuelve, también preocupa. La pregunta de siempre, la pregunta clave, sigue siendo humana: quién lleva, o va a llevar, el criterio cuando la herramienta se vuelva demasiado rápida para pensarla despacio.

Fuentes