Lo que esconde la dimisión de Jacob Coxon, investigador de Anthropic: "La IA podría matarnos a todos antes de 2030"

¿Va a acabar la inteligencia artificial con la humanidad? La advertencia y dimisión de un ingeniero de Antropic, una de las empresas de IA más influyentes ha puesto al mundo en alerta. Un temor que viene de lejos, pero que nadie sabe o no quiere parar.

Jacob Coxon aseguraba ayer que su decisión de irse era algo personal. Le preguntaron directamente en la televisión: ¿Tiene algo que ver tu denuncia con que trabajaras para alguien de fuera?". "En absoluta, la decisión es solo mía".

Pero la realidad es que Jacob Coxon encendía ayer todas las alarmas con su dimisión y con sus razones para hacerlo: el avance sin control de la Inteligencia Artificial podría matarnos a todos antes de que acabe la década. “He dimitido hoy. He pasado los últimos 3 años haciendo investigación de preentrenamiento en Open AI y en Anthropic. Ninguna de las dos compañías está siendo responsable”.

Sus mensajes, que superaron los 50 millones de visualizaciones en pocas horas, acusan a los principales laboratorios tecnológicos de competir de manera irresponsable hacia una "superinteligencia capaz de auto-mejorarse" y de estar "apostando con nuestras vidas". "Ninguna otra actividad humana representa este nivel de peligro", asevera.

"No subestimes el poder de esta tecnología, pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", advierte en su hilo en X.

Su denuncia es la última de una serie de avisos de profesionales que han trabajado desde las tripas de compañías creadores de IA sobre los escenarios catastróficos a los que nos podría llevar la inteligencia artificial si esta no se controla.

Coxon, formado en Matemáticas por la Universidad de Cambridge y coautor de estudios de análisis bayesiano en la revista 'eLife', trabajó durante tres años como miembro del personal técnico en OpenAI, donde figuró como colaborador principal en el desarrollo de GPT-4o y posteriormente en GPT-4.5. En julio fue fichado por Anthropic para sumarse a sus equipos de seguridad, un puesto que ahora abandona.

El mismo Yefri Hinton, premio Nobel y padrino de la IA, afirmaba a la BBC que es cierto que habría un 10% de probabilidades de que la IA nos pudiese matar a todos en una década.

Lejos de desmentir las afirmaciones de Coxon, Evan Hubinger, su exjefe y líder de Alignment Science Lead en Anthropic (y exinvestigador en Google y OpenAI), ha confirmado la veracidad del diagnóstico a través de sus redes sociales: "Jacob tiene razón. ¡De verdad creemos sinceramente que la IA podría matar a todos los humanos! Yo personalmente calculo que la probabilidad es superior al 10% en la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente en camino de lograrlo".

La preocupación de los expertos por lo que la IA podría ser capaz de hacer se disparó a partir de julio, cuando los modelos de Open IA se escaparon de control y comenzaron a hackear por su cuenta. Pero, a pesar de las voces desde dentro para restringir el ritmo al que se desarrolla la IA, en el fondo ninguna empresa quiere hacer una pausa por temor a quedarse fuera de esta carrera endiablada por ser el primero.