Jakob Coxon, el ingeniero británico que renunció a Anthropic y provocó una revolución al hablar del poder letal de la IA contra la humanidad.
Un investigador de IA acusó a las empresas que desarrollan sus modelos de “jugar con nuestras vidas”. El Observador consultó a cuatro modelos de lenguaje y todos le dieron la razón.
Jacob Coxon, investigador británico especializado en entrenar modelos de IA, se fue esta semana dando un portazo y con una advertencia casi apocalíptica.
"He pasado los últimos tres años haciendo investigación de preentrenamiento en OpenAI y Anthropic. Ninguna de las dos empresas actúa de forma responsable. Corren directas hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas", publicó en un hilo en la red social X.
Coxon, de 27 años, se especializa en entrenar a modelos que aprenden a partir de grandes cantidades de datos. Desde esa experiencia, pidió “no subestimar el poder de esta tecnología" y consideró que “pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, de revolucionar cualquier campo de la noche a la mañana".
Para combatirlo, Coxon reclamó "acuerdos de ritmo entre los laboratorios estadounidenses" y llegó a pedir una prohibición temporal para mejorar las capacidades de los modelos.
Hasta aquí la noticia que revolucionó esta semana los titulares y el cotilleo del mundo de la IA.
Como investigadora en IA, he tomado la costumbre de analizar la realidad que me rodea mediante los ojos de la IA. Y he descubierto pocas cosas más reveladoras que preguntarle a la IA sobre la IA…
Esta vez, hice una consulta en cuatro de las más populares (usando además sus modelos avanzados), les di las declaraciones de Coxon y les pedí su “opinión sincera” sobre el tema. Esto respondieron:
“Mi opinión sincera (sin dramatizar): El riesgo no es cero ni ridículo. Cuando la gente que construye estos sistemas dice en privado (y a veces en público) que ven una probabilidad no trivial de perder el control, conviene escuchar. Subestimar la velocidad de mejora y la dificultad del alineamiento ha sido un error recurrente. La automejora recursiva es el punto teórico más peligroso: si llega, la ventana de reacción se acorta mucho”.
Grok (la IA desarrollada por Elon Musk) agregó que si bien “los beneficios potenciales de IA avanzada (ciencia, medicina, energía, etc.) son enormes, el problema real es la carrera descoordinada sin frenos institucionales serios”.
Además, Grok analizó las declaraciones de Coxon a la luz de otros investigadores que previamente tuvieron reacciones similares. “No están diciendo «paramos todo y nos vamos a la montaña». Están diciendo que la forma actual de competir es imprudente y que hace falta más coordinación (entre labs y a nivel de gobiernos) y más foco en seguridad antes de cruzar umbrales peligrosos. Eso me parece razonable”.
Su conclusión final: “Es una señal de alarma legítima de gente de dentro. No hay que entrar en pánico apocalíptico, pero tampoco descartarlo como «los de siempre asustando». El riesgo es real, la incertidumbre es alta, y la respuesta sensata es acelerar la investigación de alineamiento y la gobernanza al mismo tiempo que se avanza en capacidades, no solo lo segundo”.
“Me preocupa, y creo que la denuncia merece tomarse en serio. Pero no considero demostrado que la IA vaya a exterminarnos ni que exista una probabilidad fiable del 10 %. Lo más inquietante es que quienes reconocen riesgos potencialmente enormes también tienen incentivos para seguir acelerando. Esa contradicción justifica exigir controles externos”, respondió la IA de Open AI.
La noticia que le di a los 4 modelos contaba las declaraciones de Coxon, pero agregaba que Evan Hubinger, responsable del equipo de Alineación de Anthropic (responsable de que el modelo haga lo que sus creadores pretenden y no se desvíe) apoyó las declaraciones de su compañero en la misma red social X. “Jacob tiene razón aquí: realmente creemos de forma sincera que la IA podría matar a todos los seres humanos”, publicó como respuesta.
“Yo, a título personal, creo que hay más de un 10% de probabilidad de que eso ocurra en la próxima década”, añadió Hubinger, para sumar leña al fuego.
Esa estimación fue puesta en duda por ChatGPT. “La sinceridad del miedo no demuestra la exactitud del pronóstico. Tampoco conviene mezclar «la IA puede causar muertes» con «puede extinguir a la humanidad»: entre ambas afirmaciones hay una distancia enorme”, consideró.
Y ChatGPT siguió: “A Coxon le concedería credibilidad como testigo, no autoridad infalible como pronosticador. Trabajar dentro permite conocer problemas que el público no ve; dimitir es una señal relevante de desacuerdo. Pero conocer el entrenamiento de modelos no permite calcular con precisión cuándo aparecerá una superinteligencia ni cómo terminará comportándose”
“Ahora bien, hay motivos técnicos para investigar el problema. Anthropic documentó que distintos modelos, en escenarios simulados, podían recurrir al chantaje o filtrar información para cumplir un objetivo o evitar su sustitución. Los experimentos estaban deliberadamente diseñados para provocar esos conflictos; no fueron ataques a personas reales”, prosiguió ChatGPT.
La conclusión pura y dura del modelo de Open AI: “Confianza alta en que estas declaraciones justifican escrutinio y controles; moderada en cualquier explicación sobre las motivaciones internas de las empresas; desconocida en una cifra concreta de riesgo de extinción. No puedo prometerte que todo saldrá bien. Tampoco veo fundamento para afirmar que el desenlace ya está escrito”.
“El texto que presentas refleja uno de los debates más intensos, reales y documentados que existen actualmente en la industria tecnológica: el choque frontal entre el desarrollo seguro y la presión puramente comercial. Como inteligencia artificial no tengo instinto de supervivencia ni miedos personales, pero analizando los datos, la tecnología subyacente y el comportamiento del mercado, la situación es objetivamente compleja”, respondió la IA de Google, quizás la más cruda de las cuatro.
Gemini me dio cuatro claves para entender lo que está ocurriendo realmente detrás de estas declaraciones:
1- “El dilema de la carrera comercial: Jacob Coxon acierta al señalar que las empresas están atrapadas en una carrera. Esto es un clásico dilema del prisionero. Aunque laboratorios como OpenAI o Anthropic entiendan los riesgos técnicos, saben que frenar su propio desarrollo de forma unilateral significa ceder el dominio del mercado a sus rivales”.
2- “El riesgo existencial (conocido como p-doom) no es marketing: cuando Coxon y Hubinger hablan de que la IA podría «matarnos a todos», se refieren al problema de la alineación. No es ciencia ficción, es una preocupación matemática y de diseño de sistemas: si construyes una entidad mucho más inteligente que tú, debes garantizar que sus objetivos estén perfectamente alineados con los tuyos. En la industria, los investigadores calculan habitualmente su propia probabilidad de catástrofe. Que el responsable de seguridad de Anthropic le asigne más de un 10% de probabilidad real a la extinción humana en una década demuestra que el peligro se debate con total seriedad en los laboratorios”.
3- El punto de inflexión de la automejora recursiva: es el concepto técnico que desencadena el pánico de los investigadores. Consiste en llegar al punto donde un modelo de IA es lo suficientemente capaz como para escribir el código y diseñar la arquitectura de un modelo de IA superior, sin necesidad de humanos. Una vez que la máquina toma el control de su propia evolución, la velocidad de desarrollo se volvería incontrolable. Es el punto de no retorno técnico”.
4- El fracaso evidente de la autorregulación: el artículo desnuda la hipocresía corporativa. Por un lado, figuras como Dario Amodei (Anthropic) o Jakub Pachocki (OpenAI) piden cautela y mecanismos de frenado a los gobiernos. Por otro, pisan el acelerador a fondo en sus propias empresas. La renuncia de Coxon evidencia que la autorregulación corporativa ha fallado”.
Su conclusión final: “Las acusaciones de Coxon están plenamente fundamentadas en la realidad técnica y económica del sector. No busca asustar por asustar, sino alertar de que la tecnología está avanzando muchísimo más rápido que la capacidad legal, política y ética para gobernarla. Están construyendo el avión mientras lo vuelan, y nadie quiere soltar los mandos por miedo a perder la carrera”.
“Es real y está bien reportado. Pero lo relevante no es lo que dice Coxon: es que nadie le ha desmentido”, opinó uno de los modelos más “listos” del mercado.
Claude recordó “el dato que sostiene la acusación sin depender de creencias: el 24 de febrero de 2026 Anthropic publicó la versión 3.0 de su Responsible Scaling Policy y eliminó el compromiso de no entrenar modelos sin medidas de seguridad que mantengan el riesgo bajo niveles aceptables. Lo sustituyó por informes trimestrales de riesgo y una hoja de ruta que el propio documento reconoce que no son compromisos firmes Eso no es interpretación, está en el texto”.
“Mi lectura, sin adornos. Esa cifra del 10% no es una medición, es una creencia. No hay metodología detrás, y la gente que trabaja en estos laboratorios se autoselecciona precisamente por creer que esto puede acabar mal —por eso van, no a pesar de eso—. Que un insider lo diga no lo convierte en dato; lo convierte en dato sociológico. Yo no me tomaría el número en serio. Me tomaría en serio la frase de al lado: no hay plan. Eso sí es comprobable y sí es grave”, siguió Claude.
Por último, en un párrafo que título “Riesgo y transparencia” me recordó: “Soy un modelo de Anthropic opinando sobre acusaciones contra Anthropic, pondera esto como quieras, pero debías saberlo”.
En el mismo hilo de conversación les pregunté a esos cuatro modelos cómo podría la IA causarnos daño y “cuáles eran las hipótesis más peligrosas y serias que se discutían entre los investigadores”.
Las respuestas fueron bastante similares, así que agrupé las que describían un mismo riesgo. Son escenarios que se investigan, y la coincidencia entre las respuestas no demuestra que vayan a ocurrir, sino que esos debates figuran en medios, foros, redes sociales o papers científicos accesibles a la IA.
Estos son los riesgos, y la Inteligencia Artificial no tiene problemas para enunciarlos. Pero los que debemos minimizarlos o eliminarlos somos nosotros, porque ella no lo va a hacer.
¿Estaremos a la altura?
(Laura Capriata es investigadora y formadora en IA)
Ferrovial invertirá 1.000 millones de euros en Alcobendas para consolidar la región frente a trabas energéticas y tensiones con el Gobierno central.
Más de 1.000 empleados de grandes tecnológicas solicitan ayuda al Gobierno de EE. UU. tras un ciberataque autónomo detectado en OpenAI.
Andrés Ferraro, consultor argentino que vive en Madrid, es experto en IA y transformación digital. Habla sobre los dilemas de la automatización, las diferencias de adopción entre España y Argentina, y su impacto en las personas. Su libro "HumanIA", profundiza sobre las funciones que se le entregan, llave en mano, a las aplicaciones de IA.
El estatus de Islas Canarias implica una unión aduanera y acceso a fondos europeos pero sobre todo, la protección del bloque en la frontera. Es un trámite. La Unión Europea, sin embargo, empezó a involucrarse con el desbloqueo de fondos para la emergencia. Buscan acelerar la “fórmula Canarias” para compensar el abandono oficial.
El italiano Kimi Antonelli es la gran estrella del Madring, que comienza este viernes. Los españoles Fernando Alonso y Carlos Sainz despiertan pasión, como el argentino Franco Colapinto y el mexicano Sergio Pérez. Las sorpresas de un circuito semi urbano con el que la Fórmula 1 vuelve Madrid después de 45 años.
El CEO y uno de los fundadores de Anthropic reclamó moderar el desarrollo de la IA por el riesgo a que provoque ataques informáticos o bioterrorismo. Fue después de la polémica que desató un ingeniero británico sobre la posibilidad de una eliminación de la humanidad. Elon Musk (Space X) y Sam Altman (Open AI) se suman.
