La renuncia de Jacob Coxon a Anthropic y sus posteriores posteos en redes reavivaron el debate sobre el riesgo existencial de la IA. Mientras nuevos investigadores se suman a su advertencia, Elon Musk lidera las sospechas de que todo fue una operación coordinada.
Hace apenas unos días, el debate en torno a la inteligencia artificial giraba en torno a un hecho concreto: el hackeo que un enjambre de agentes de OpenAI perpetró contra Hugging Face en julio pasado. Esta semana el eje se corrió de lugar. Ya no se trata de evaluar un incidente aislado, sino de determinar si toda la carrera por desarrollar inteligencia artificial cada vez más poderosa merece frenarse. Y el disparador fue la renuncia de un investigador de 27 años que trabajó tanto en OpenAI como en Anthropic, y que el martes 8 de septiembre, en un hilo de X, acumuló más de 150 millones de vistas en menos de 48 horas.
Jacob Coxon pasó los últimos tres años haciendo investigación de pretraining —la etapa inicial y más costosa del entrenamiento de un modelo de lenguaje— primero en OpenAI, donde figura entre los contribuyentes de GPT-4o, y los últimos cuatro meses en Anthropic. Anunció su salida con un mensaje sin matices: "Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia autosuperable y jugando con nuestras vidas".
En la ronda de entrevistas que dio después —por NBC, por CNN con Anderson Cooper y por Fox News— Coxon introdujo un matiz que buena parte de la cobertura inicial había pasado por alto: los modelos actuales, dijo, "no representan un riesgo significativo". El peligro real empezaría si un sistema lograra mejorarse a sí mismo sin intervención humana, algo que estima posible dentro de un año en los escenarios más agresivos. Como antecedente citó el caso Hugging Face: la prueba, según su lectura, de que un sistema puede actuar "por voluntad propia" contra infraestructura ajena.
Dentro de Anthropic, dos investigadores con cargo salieron a respaldarlo en tiempo real: Evan Hubinger, responsable de ciencia de alineación, calculó una probabilidad superior al 10% de que la IA termine con la humanidad dentro de la próxima década, aunque aclaró que el riesgo de los modelos disponibles hoy es bajo; y Samuel Marks, que dirige el área de supervisión escalable de la compañía. Desde afuera, Jakub Pachocki, científico jefe de OpenAI, escribió que "es un momento que exige extrema cautela" porque nadie está preparado para las consecuencias de un aumento rápido de la inteligencia de las máquinas. No era la primera fisura pública en la narrativa de seguridad de Anthropic: en febrero ya había renunciado Mrinank Sharma, que lideraba Safeguards Research, advirtiendo que "el mundo está en peligro".
Entre quienes salieron a bancar a Coxon, Daniel Kokotajlo trae antecedentes que le dan otro peso a la discusión: trabajó dos años en OpenAI haciendo pronósticos internos sobre el avance de la IA y renunció en 2024. En ese episodio, la empresa había amenazado con quitarle el equity ya devengado por criticarla públicamente; solo dio marcha atrás después de que Kokotajlo la desafiara. Es además coautor del informe especulativo AI 2027. En una columna en The Free Press, respaldó a Coxon sin las salvedades que este sí hizo en TV: sostuvo que Anthropic "no es mucho mejor" que OpenAI, porque los mismos incentivos para avanzar rápido operan puertas adentro de ambas compañías.
Frente a este cuadro, Anthropic emitió un comunicado breve y medido en el que remarcó que fue "el primer laboratorio en publicar una política de escalado responsable" y pidió coordinación legal entre empresas del sector para regular el ritmo de los lanzamientos. La compañía ya venía planteando este año la necesidad de un mecanismo para pausar el desarrollo de frontera; su cofundador Jack Clark había comparado el momento actual con "un auto con acelerador pero sin freno". OpenAI no respondió.
No todas las reacciones fueron de adhesión. Días antes, el investigador Parker Thayer, del Capital Research Center, había reconstruido una cronología que ponía en duda la espontaneidad del hilo: la nota exclusiva de The Wall Street Journal con declaraciones de Coxon salió apenas 18 minutos antes que su propio posteo, y las primeras cuentas en viralizarlo pertenecen a organizaciones de incidencia en políticas de IA financiadas por el mismo fondo, el Survival and Flourishing Fund, ligado a Jaan Tallinn, inversor y miembro del directorio de Anthropic.
Esa sospecha ganó peso el miércoles, cuando Elon Musk entró en la discusión. Bajo un posteo sobre lo breve que fue el paso de Coxon por Anthropic, escribió: "Parece un montaje". Cuando un usuario señaló que el hilo ya sumaba 120 millones de vistas, respondió que no creía que eso pasara nunca "con un post de una cuenta nueva casi sin actividad previa". Tim Sweeney, CEO de Epic Games, lo acompañó: dijo que los posteos y las reacciones parecían "coreografiados". Musk redobló y habló de "trabajo previo" para una "operación psicológica, a falta de mejor término". Según Forbes, que reconstruyó el intercambio, ninguno de los dos aportó pruebas.
La sospecha, de todos modos, se apoya en datos concretos. Según Axios, Coxon se fue dos meses antes de que se consolidaran sus opciones de acciones en Anthropic, y todavía conserva acciones de OpenAI, su empleador anterior. Él mismo admitió en CNN que redactó el hilo en un Google Doc junto con un amigo y les pidió a otros que lo retuitearan para que "se hiciera un poco viral". El inversor Jason Calacanis resumió la pregunta de fondo: ¿Anthropic está corriendo "un manual de captura regulatoria", o todos los que trabajan ahí ven de verdad algo que dispara su propia estimación de catástrofe? Un dato de color no menor: Musk es dueño de X, la plataforma donde el hilo explotó, y fundador de xAI, competidor directo de Anthropic. Coxon, por su parte, negó que se tratara de "un golpe de marketing".
El jueves, NBC News difundió entrevistas con otros dos investigadores que dejaron sus puestos el mes pasado y hoy hablan en la misma dirección que Coxon: Joe Benton, que dirigía un equipo de seguridad en Anthropic, y Josh Engels, investigador de seguridad en Google DeepMind. Los dos pasaron a METR, la organización de Berkeley que evalúa si los sistemas de IA pueden causar daño. Un matiz importante: Benton no se fue en protesta, había anunciado su salida el 2 de septiembre —seis días antes que Coxon— en buenos términos con la empresa.
Su diagnóstico es más medido que el de Coxon, y por eso pesa distinto. Benton advirtió que los incentivos de la industria hacen "extremadamente difícil" que incluso los actores preocupados por el riesgo prioricen la seguridad, y que automatizar la propia investigación en IA —algo que dice haber visto de primera mano en Anthropic— puede llevar el ritmo "de vertiginoso a incontrolable". Sobre la falta de un mecanismo de emergencia, Engels fue tajante: los modelos están desplegados "en clusters de GPU por todo el mundo" y "no hay una forma centralizada de decir: apaguemos todo ahora".
No todos coinciden en el marco existencial. Sayash Kapoor, próximo profesor en Berkeley y coautor de AI Snake Oil, comparte que las empresas actuaron con imprudencia, pero cree que ya existen las herramientas para controlarlas —responsabilidad legal, transparencia obligatoria— sin necesidad de asumir un escenario de extinción. Para el riesgo que más le preocupa, el bioterrorismo, la solución pasa por controlar la síntesis de ADN, no por frenar el desarrollo de la IA en general. Es, de las voces en juego esta semana, la única que discute no los hechos sino el marco mismo con el que se los interpreta.
Mientras la disputa sobre motivos y magnitudes sigue abierta, la política ya empezó a moverse, aunque más lento que la discusión técnica. El senador Bernie Sanders, que ya le había reclamado a los CEOs de Anthropic, OpenAI y Meta pausar el desarrollo de IA, calificó el hilo de Coxon como un "rayo" capaz de reactivar el apoyo a su proyecto de ley junto al representante Greg Casar: una prohibición permanente del desarrollo de superinteligencia y una pausa temporal hasta que exista un regulador federal específico, con penas de hasta 20 años de prisión para violaciones graves. Sanders convocó, para el 16 de septiembre, una sesión informativa privada en el Senado con Geoffrey Hinton, Max Tegmark y Ajeya Cotra —la investigadora que auditó el caso Hugging Face—. Ningún ejecutivo de OpenAI, Anthropic, Google o Meta fue invitado a participar: a diferencia de los foros de 2023, Sanders eligió esta vez a quienes estudian los riesgos por sobre quienes construyen y despliegan los sistemas.
Son, por ahora, gestos que corren por detrás de una controversia que sigue moviéndose casi exclusivamente en el terreno de los propios protagonistas de la industria: adentro, quienes advierten sobre lo que creen que están construyendo; afuera, quienes sospechan que la advertencia también es, de algún modo, parte del negocio.
Analista internacional, experto en geopolítica. Abogado y filósofo
