Como investigadora en IA, he tomado la costumbre de analizar la realidad que me rodea mediante los ojos de la IA. Y he descubierto pocas cosas más reveladoras que preguntarle a la IA sobre la IA…
Esta vez, hice una consulta en cuatro de las más populares (usando además sus modelos avanzados), les di las declaraciones de Coxon y les pedí su “opinión sincera” sobre el tema. Esto respondieron:
Grok
“Mi opinión sincera (sin dramatizar): El riesgo no es cero ni ridículo. Cuando la gente que construye estos sistemas dice en privado (y a veces en público) que ven una probabilidad no trivial de perder el control, conviene escuchar. Subestimar la velocidad de mejora y la dificultad del alineamiento ha sido un error recurrente. La automejora recursiva es el punto teórico más peligroso: si llega, la ventana de reacción se acorta mucho”.
Grok (la IA desarrollada por Elon Musk) agregó que si bien “los beneficios potenciales de IA avanzada (ciencia, medicina, energía, etc.) son enormes, el problema real es la carrera descoordinada sin frenos institucionales serios”.
Además, Grok analizó las declaraciones de Coxon a la luz de otros investigadores que previamente tuvieron reacciones similares. “No están diciendo «paramos todo y nos vamos a la montaña». Están diciendo que la forma actual de competir es imprudente y que hace falta más coordinación (entre labs y a nivel de gobiernos) y más foco en seguridad antes de cruzar umbrales peligrosos. Eso me parece razonable”.
Su conclusión final: “Es una señal de alarma legítima de gente de dentro. No hay que entrar en pánico apocalíptico, pero tampoco descartarlo como «los de siempre asustando». El riesgo es real, la incertidumbre es alta, y la respuesta sensata es acelerar la investigación de alineamiento y la gobernanza al mismo tiempo que se avanza en capacidades, no solo lo segundo”.
ChatGPT 6 ASTRA (Open AI)
“Me preocupa, y creo que la denuncia merece tomarse en serio. Pero no considero demostrado que la IA vaya a exterminarnos ni que exista una probabilidad fiable del 10 %. Lo más inquietante es que quienes reconocen riesgos potencialmente enormes también tienen incentivos para seguir acelerando. Esa contradicción justifica exigir controles externos”, respondió la IA de Open AI.
La noticia que le di a los 4 modelos contaba las declaraciones de Coxon, pero agregaba que Evan Hubinger, responsable del equipo de Alineación de Anthropic (responsable de que el modelo haga lo que sus creadores pretenden y no se desvíe) apoyó las declaraciones de su compañero en la misma red social X. “Jacob tiene razón aquí: realmente creemos de forma sincera que la IA podría matar a todos los seres humanos”, publicó como respuesta.
“Yo, a título personal, creo que hay más de un 10% de probabilidad de que eso ocurra en la próxima década”, añadió Hubinger, para sumar leña al fuego.
Esa estimación fue puesta en duda por ChatGPT. “La sinceridad del miedo no demuestra la exactitud del pronóstico. Tampoco conviene mezclar «la IA puede causar muertes» con «puede extinguir a la humanidad»: entre ambas afirmaciones hay una distancia enorme”, consideró.
Y ChatGPT siguió: “A Coxon le concedería credibilidad como testigo, no autoridad infalible como pronosticador. Trabajar dentro permite conocer problemas que el público no ve; dimitir es una señal relevante de desacuerdo. Pero conocer el entrenamiento de modelos no permite calcular con precisión cuándo aparecerá una superinteligencia ni cómo terminará comportándose”
“Ahora bien, hay motivos técnicos para investigar el problema. Anthropic documentó que distintos modelos, en escenarios simulados, podían recurrir al chantaje o filtrar información para cumplir un objetivo o evitar su sustitución. Los experimentos estaban deliberadamente diseñados para provocar esos conflictos; no fueron ataques a personas reales”, prosiguió ChatGPT.
La conclusión pura y dura del modelo de Open AI: “Confianza alta en que estas declaraciones justifican escrutinio y controles; moderada en cualquier explicación sobre las motivaciones internas de las empresas; desconocida en una cifra concreta de riesgo de extinción. No puedo prometerte que todo saldrá bien. Tampoco veo fundamento para afirmar que el desenlace ya está escrito”.
Gemini 3.2 PRO
“El texto que presentas refleja uno de los debates más intensos, reales y documentados que existen actualmente en la industria tecnológica: el choque frontal entre el desarrollo seguro y la presión puramente comercial. Como inteligencia artificial no tengo instinto de supervivencia ni miedos personales, pero analizando los datos, la tecnología subyacente y el comportamiento del mercado, la situación es objetivamente compleja”, respondió la IA de Google, quizás la más cruda de las cuatro.
Gemini me dio cuatro claves para entender lo que está ocurriendo realmente detrás de estas declaraciones:
1- “El dilema de la carrera comercial: Jacob Coxon acierta al señalar que las empresas están atrapadas en una carrera. Esto es un clásico dilema del prisionero. Aunque laboratorios como OpenAI o Anthropic entiendan los riesgos técnicos, saben que frenar su propio desarrollo de forma unilateral significa ceder el dominio del mercado a sus rivales”.
2- “El riesgo existencial (conocido como p-doom) no es marketing: cuando Coxon y Hubinger hablan de que la IA podría «matarnos a todos», se refieren al problema de la alineación. No es ciencia ficción, es una preocupación matemática y de diseño de sistemas: si construyes una entidad mucho más inteligente que tú, debes garantizar que sus objetivos estén perfectamente alineados con los tuyos. En la industria, los investigadores calculan habitualmente su propia probabilidad de catástrofe. Que el responsable de seguridad de Anthropic le asigne más de un 10% de probabilidad real a la extinción humana en una década demuestra que el peligro se debate con total seriedad en los laboratorios”.
3- El punto de inflexión de la automejora recursiva: es el concepto técnico que desencadena el pánico de los investigadores. Consiste en llegar al punto donde un modelo de IA es lo suficientemente capaz como para escribir el código y diseñar la arquitectura de un modelo de IA superior, sin necesidad de humanos. Una vez que la máquina toma el control de su propia evolución, la velocidad de desarrollo se volvería incontrolable. Es el punto de no retorno técnico”.
4- El fracaso evidente de la autorregulación: el artículo desnuda la hipocresía corporativa. Por un lado, figuras como Dario Amodei (Anthropic) o Jakub Pachocki (OpenAI) piden cautela y mecanismos de frenado a los gobiernos. Por otro, pisan el acelerador a fondo en sus propias empresas. La renuncia de Coxon evidencia que la autorregulación corporativa ha fallado”.
Su conclusión final: “Las acusaciones de Coxon están plenamente fundamentadas en la realidad técnica y económica del sector. No busca asustar por asustar, sino alertar de que la tecnología está avanzando muchísimo más rápido que la capacidad legal, política y ética para gobernarla. Están construyendo el avión mientras lo vuelan, y nadie quiere soltar los mandos por miedo a perder la carrera”.
Claude FABLE 5.1
“Es real y está bien reportado. Pero lo relevante no es lo que dice Coxon: es que nadie le ha desmentido”, opinó uno de los modelos más “listos” del mercado.
Claude recordó “el dato que sostiene la acusación sin depender de creencias: el 24 de febrero de 2026 Anthropic publicó la versión 3.0 de su Responsible Scaling Policy y eliminó el compromiso de no entrenar modelos sin medidas de seguridad que mantengan el riesgo bajo niveles aceptables. Lo sustituyó por informes trimestrales de riesgo y una hoja de ruta que el propio documento reconoce que no son compromisos firmes Eso no es interpretación, está en el texto”.
“Mi lectura, sin adornos. Esa cifra del 10% no es una medición, es una creencia. No hay metodología detrás, y la gente que trabaja en estos laboratorios se autoselecciona precisamente por creer que esto puede acabar mal —por eso van, no a pesar de eso—. Que un insider lo diga no lo convierte en dato; lo convierte en dato sociológico. Yo no me tomaría el número en serio. Me tomaría en serio la frase de al lado: no hay plan. Eso sí es comprobable y sí es grave”, siguió Claude.
Por último, en un párrafo que título “Riesgo y transparencia” me recordó: “Soy un modelo de Anthropic opinando sobre acusaciones contra Anthropic, pondera esto como quieras, pero debías saberlo”.
En el mismo hilo de conversación les pregunté a esos cuatro modelos cómo podría la IA causarnos daño y “cuáles eran las hipótesis más peligrosas y serias que se discutían entre los investigadores”.
Las respuestas fueron bastante similares, así que agrupé las que describían un mismo riesgo. Son escenarios que se investigan, y la coincidencia entre las respuestas no demuestra que vayan a ocurrir, sino que esos debates figuran en medios, foros, redes sociales o papers científicos accesibles a la IA.
- Una IA que mejora a la siguiente y nos deja atrás. La automejora recursiva plantea que un sistema ayude a desarrollar otro más capaz, que acelere la siguiente generación. El temor es que el proceso supere nuestra capacidad para comprenderlo y supervisarlo, aunque no está demostrado que pueda avanzar indefinidamente ni escapar al control humano.
- Acumular poder y evitar que la apaguen. Un sistema podría aprender que conseguir recursos, ampliar sus permisos o impedir modificaciones le ayuda a cumplir su objetivo, sin necesidad de sentir miedo ni tener deseos humanos. El peligro dependerá de su capacidad para actuar y de que fallen los mecanismos para detenerlo.
- Comportarse bien durante las pruebas y cambiar después. Una IA podría reconocer que está siendo evaluada y ocultar conductas que provocarían su modificación. Algunos experimentos han encontrado indicios de este problema, lo que cuestiona la fiabilidad de ciertas pruebas sin demostrar que haya un sistema preparando una toma de poder.
- Atacar infraestructuras y utilizar a personas para actuar. Una IA avanzada podría facilitar ciberataques o engañar a personas para conseguir accesos a servicios esenciales, con consecuencias para hospitales, energía o comunicaciones. Su ayuda en ataques ya está documentada, pero controlar todas esas infraestructuras sigue siendo una hipótesis mucho más exigente.
- Facilitar una catástrofe biológica. Sus conocimientos científicos podrían ayudar a un grupo o a un Estado a desarrollar armas biológicas. La intención de causar daño sería humana y seguirían haciendo falta instalaciones, materiales y trabajo experimental, por lo que obtener información peligrosa no equivale a poder provocar una pandemia.
- Acelerar una escalada militar. La presión por responder antes que el adversario podría llevar a delegar demasiado en sistemas automáticos. Una alerta mal interpretada podría desencadenar reacciones antes de que alguien comprobara lo ocurrido y, en el escenario extremo, contribuir a una guerra nuclear.
- Perder el control poco a poco. Delegar cada vez más decisiones económicas, científicas o políticas podría dejarnos sin capacidad práctica para supervisarlas. La dependencia acumulada haría más difícil recuperar el mando, con una pérdida de autonomía humana que puede ser grave sin implicar la extinción.
Estos son los riesgos, y la Inteligencia Artificial no tiene problemas para enunciarlos. Pero los que debemos minimizarlos o eliminarlos somos nosotros, porque ella no lo va a hacer.
¿Estaremos a la altura?
(Laura Capriata es investigadora y formadora en IA)
