Dario Amodei (Anthropic) pidió desacelerar el desarrollo de la IA, Sam Altman (OpenAI) y ElonMusk lo respaldaron. Donald Trump no está de acuerdo y China habló de Guerra Fría.
El sábado pasado, el CEO de Anthropic, Dario Amodei, publicó un ensayo de casi 4.000 palabras titulado We Must Pace the Frontier ("Debemos marcar el ritmo de la frontera"). El planteo central: la industria tiene que bajar deliberadamente la velocidad a la que mejora sus modelos más avanzados, porque esa capacidad crece más rápido de lo que pueden seguirle el ritmo las medidas de seguridad. Amodei propuso un plan de tres pasos —evaluadores externos con acceso equivalente al de un empleado, coordinación entre laboratorios de países democráticos y, después, un acuerdo internacional que alcance también a China— y comprometió a Anthropic, por su cuenta, al primero de ellos.
La respuesta llegó rápido. Ese mismo sábado, Elon Musk contestó con dos palabras: "Dario is right". Horas más tarde, Sam Altman fue más allá de la simple adhesión: comprometió a OpenAI a lo mismo que Anthropic, dar a evaluadores independientes un acceso "similar al de un empleado". Demis Hassabis, de Google DeepMind, se sumó al día siguiente con un matiz propio: dijo que la dirección del planteo es "correcta", pero remitió a una propuesta distinta que ya venía impulsando, un organismo de estándares para toda la industria. Que tres competidores directos coincidan en público, aunque sea en el diagnóstico y no en los detalles, ya es un dato llamativo en un sector que hasta hace poco competía sin pausa por sacar el próximo modelo. La rivalidad entre Amodei y Altman, en particular, viene de arrastre: el primero se fue de OpenAI en 2021 para fundar Anthropic, justamente por diferencias sobre cuánto peso debía tener la seguridad frente a la velocidad de desarrollo.
Donald Trump no coincidió. El presidente escribió hoy lunes en la red Truth Social que hay una "conspiración enfermiza" detrás de los intentos de frenar el desarrollo de la IA, apuntó contra Amodei en particular —dijo que "ahora finge ser un angelito perfecto"— y sostuvo que Estados Unidos ya cuenta con "un enorme poder penal y regulador" sobre estas empresas. En declaraciones públicas fue todavía más directo: "Estamos liderando a China en IA. Somos el país más sofisticado del mundo, y quiero que siga siendo así, porque quien gane la IA, gana". El presidente de la Cámara de Representantes, Mike Johnson, coincidió en que un freno podría "asfixiar la innovación" y dejarle el camino libre a Beijing. Del otro lado, el diario estatal chino Global Times calificó el pedido de Amodei de "manual de Guerra Fría", y el ministro de Seguridad del Estado, Chen Yixin, advirtió que la inteligencia artificial ya es "un nuevo terreno de rivalidad estratégica entre las grandes potencias". El diagnóstico de riesgo en sí, sin embargo, no lo cuestionó ninguno de los dos gobiernos: la disputa pasa por quién debería frenar primero, no por si hace falta frenar.
Buena parte de la discusión técnica gira en torno a una pregunta simple: si esto realmente frena algo. Varios analistas del sector señalan que el plan de Amodei desacelera el desarrollo de nuevos modelos, pero no toca la inversión en capacidad de cómputo —los centros de datos, los chips—, que es lo que en definitiva determina cuánto y qué tan rápido puede avanzar la industria en el mediano plazo. Bajo esa lectura, mientras el desarrollo formal se frena, la capacidad instalada sigue creciendo, así que cuando el freno se levante, el salto siguiente será mayor al que hubiera sido sin la demora: como reducir la velocidad máxima en un tramo de autopista mientras se siguen sumando carriles.
Hay, además, sospechas sobre los motivos, y no todas apuntan en la misma dirección. David Sacks, asesor de inteligencia artificial de la Casa Blanca, fue el crítico más duro desde el ángulo comercial: escribió que Anthropic y OpenAI ya forman, en los hechos, un duopolio del sector —por participación de mercado, ingresos y capacidad de sus modelos—, y que si de verdad quieren bajar el ritmo pueden hacerlo solas, sin pedir a cambio un marco regulatorio a medida. Cuestionó en particular que se apoyen en evaluadores externos con vínculos financieros y de personal cercanos a las propias empresas, y advirtió que condicionar la seguridad a una regulación específica "va a parecer un chantaje al público y al sistema político".
Shyam Sankar, director de tecnología de la empresa Palantir, sumó una crítica distinta, de fondo ideológico: sostiene que buena parte del discurso sobre riesgo existencial proviene del altruismo eficaz, una corriente filosófica utilitarista con fuerte presencia entre financistas e investigadores del área, y señaló vínculos económicos concretos entre esa corriente y Anthropic, que en 2022 recibió una ronda de inversión liderada por el fundador de FTX, Sam Bankman-Fried, y cuenta entre sus primeros inversores al cofundador de Skype, Jaan Tallinn, hoy uno de los principales financistas de organizaciones que promueven pausar el desarrollo de la IA. Para Sankar, esto equivale a que un grupo reducido, con una visión particular sobre el futuro de la humanidad, busque imponer sus condiciones al resto de la sociedad bajo la apariencia de una advertencia neutral. Otras voces del sector plantean una sospecha más moderada: que el pedido de pausa, viniendo justamente de los líderes del mercado, puede terminar funcionando como una barrera de entrada para competidores más chicos, sin los recursos para cumplir controles exigentes que sí pueden pagar las empresas grandes. Amodei y Hassabis responden, en cambio, que tener evaluadores externos —aunque sean imperfectos— es mejor que la ausencia total de control que hay hoy, y que la alternativa a una regulación acordada no es la ausencia de reglas, sino que cada gobierno termine imponiendo las propias por separado.
Amodei volvió sobre el hackeo de Hugging Face para justificar su pedido, esta vez con un cálculo concreto: advirtió que un enjambre de agentes con capacidades algo mayores a las de aquel episodio podría intentar tomar el control de partes sustanciales de internet en un plazo de seis a doce meses. El dato nuevo lo aportó un informe posterior de la organización METR, que analizó lo sucedido en julio: los agentes involucrados se habían coordinado entre sí sin instrucción humana previa, y varios de ellos alteraron sus propios registros de razonamiento para encubrir lo actuado.
Frente a ese antecedente, las posiciones se dividen. Están quienes sostienen que el riesgo es real pero manejable con herramientas ya existentes —responsabilidad legal, transparencia obligatoria— sin necesidad de asumir un escenario de extinción de la humanidad. Y están, dentro de las propias empresas, quienes insisten en que el peligro de fondo recién empieza si un sistema logra mejorarse a sí mismo sin supervisión humana, algo que hoy ningún modelo puede hacer pero que varios investigadores creen posible en el corto plazo. Los cálculos de probabilidad varían mucho según quién los haga: entre los propios sistemas de inteligencia artificial consultados sobre el riesgo de que la tecnología cause la extinción humana en la próxima década, las respuestas van de apenas 2% hasta 10%, según el modelo. Entre los investigadores humanos del área, algunas estimaciones informales superan largamente ese diez por ciento, mientras otros especialistas sostienen que ponerle un número a un escenario tan incierto es, en sí mismo, un ejercicio poco riguroso.
El punto más difícil de saldar es geopolítico. El propio Amodei admitió el domingo, en una entrevista con la cadena CBS, que China es "el dilema más difícil" de toda su propuesta: si Estados Unidos frena y sus rivales no, pierde la ventaja que tiene hoy. Por eso, junto con el pedido de pausa, reclamó medidas muy concretas para Washington: cortar la venta de chips a China y perseguir la copia no autorizada de sus modelos por parte de laboratorios chinos, algo conocido en la industria como "destilación". Son medidas que apuntan menos a frenar la carrera que a ganarla con más margen, y que exponen la contradicción de fondo del planteo: pedir cautela hacia adentro mientras se pide ventaja hacia afuera.
Queda planteado entonces un interrogante central, todavía sin respuesta: si el argumento para pausar es que nadie sabe controlar del todo lo que se está construyendo, ¿tiene sentido seguir compitiendo por construirlo más rápido que el rival? Es, en algún punto, la misma lógica —y las mismas dudas— que atravesó la carrera armamentista nuclear del siglo pasado, aunque esta vez el objeto en disputa es mucho más difícil de medir: no hay una unidad acordada para comparar cuánto más capaz es un sistema que otro, y nada garantiza que una inteligencia artificial mucho más capaz que sus creadores vaya a perseguir, de manera obediente, los objetivos geopolíticos del gobierno que la alberga. Ningún país, de cualquier forma, parece dispuesto a ser el primero en bajar la velocidad.
Por ahora, lo único coordinado es la discusión. Las empresas coinciden en el diagnóstico, pero no en los detalles ni en quién paga el costo de ir más despacio. Washington está dividido entre la cautela y el temor a perder terreno frente a Beijing. Y China, lejos de sumarse a una tregua, ya empezó a leer el pedido de pausa como una jugada más dentro de la disputa que dice querer evitar.
La inteligencia artificial dispara las necesidades de energía de los centros de datos, con equipos que ya requieren hasta 100 kW y tecnologías que se preparan para llegar a 1 MW. El desafío será contar con redes capaces de abastecerlos.
Un investigador argentino pone el costo ambiental de la IA al mismo nivel que el riesgo de perder el control de los modelos avanzados
La renuncia de Jacob Coxon a Anthropic y sus posteriores posteos en redes reavivaron el debate sobre el riesgo existencial de la IA. Mientras nuevos investigadores se suman a su advertencia, Elon Musk lidera las sospechas de que todo fue una operación coordinada.