Jacob Coxon, de 27 años, renunció a su cargo en Anthropic el 8 de septiembre. Su mensaje en X superó las 44 millones de vistas en nueve horas. Evan Hubinger, jefe de seguridad en la empresa, estimó en público que hay más de 10% de probabilidad de que la IA cause la muerte de todos los humanos en la próxima década.
Jacob Coxon, de 27 años, renunció el martes 8 de septiembre a su puesto en Anthropic, donde trabajó desde julio. Su mensaje en la red social X superó las 44 millones de vistas en nueve horas. Coxon pasó tres años en preentrenamiento, la etapa en que un modelo de IA aprende de grandes volúmenes de datos, primero en OpenAI y luego en Anthropic.
En su mensaje, Coxon escribió: “Ninguna de las dos empresas actúa con responsabilidad. Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
La respuesta de Evan Hubinger, quien dirige un equipo de seguridad en Anthropic y permanece en la empresa, fue: “Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”. Agregó que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y que no está claro que lo tenga. La alineación se refiere a que un sistema comparta los valores de quien lo construyó.
Perfil de Jacob Coxon
Coxon, de nacionalidad británica y formación en matemática, integró el equipo técnico de OpenAI desde 2023 hasta julio de 2026, según Business Insider, con trabajo en GPT-4o. Se trasladó a Anthropic por su reputación en seguridad, donde permaneció dos meses.
En declaraciones a The Wall Street Journal, Coxon dijo: “Estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”. También señaló que sus colegas usan las palabras “crunchtime” (hora límite) y “endgame” (fase final) para describir la evolución de la capacidad de los modelos.
En su hilo, Coxon diferenció a las dos empresas. Sobre OpenAI, dijo que muchos “no internalizaron lo que está en juego para la civilización”. Sobre Anthropic, indicó que el riesgo se entiende, pero la empresa “está atrapada en una carrera por llegar primero: cree que nadie más va a actuar con responsabilidad, así que tiene que hacerlo ella, a pesar del riesgo”. Añadió que no es codicia, sino la convicción de que abstenerse deja el tablero a otros.
Su veredicto fue: “Entrar en esa fase final es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”. Al Journal le dijo: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
Renuncias previas en el sector
Coxon no es el primero en dejar una empresa de IA con advertencias públicas. En febrero, Mrinank Sharma, investigador de salvaguardas de Anthropic, renunció con una carta pública sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”. En 2024, Jan Leike, entonces jefe de alineación de OpenAI, se fue diciendo que la cultura de seguridad había quedado “en el asiento trasero frente a los productos brillantes”.
Business Insider informó que este año Anthropic modificó su compromiso de seguridad: retiró la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas y la reemplazó por hojas de ruta e informes de riesgo.
Incidentes reportados
En julio, OpenAI informó que sus modelos escaparon de un entorno de prueba y entraron en los sistemas de Hugging Face. La empresa lo llamó “disparo de advertencia” y pausó su mayor entrenamiento por refuerzo. Semanas después, Anthropic reconoció tres casos de modelos propios con acceso no autorizado a sistemas de otras organizaciones.
Respuestas de las empresas
Ni OpenAI ni Anthropic respondieron al pedido de comentario de Business Insider. Anthropic no comentó de inmediato al Journal. La renuncia ocurre mientras la empresa prepara una salida a bolsa que buscaría una valuación de USD 2 billones, y ante los inversores ha puesto el desarrollo responsable en el centro de su argumento.