La empresa que no puede decir no sé

En junio, Anthropic, una tecnológica, apagó sus mejores modelos de IA por orden del gobierno de los Estados Unidos. La escena parece técnica y distante, pero muestra a una compañía atrapada entre tres relatos que no encajan. Dice que su producto es peligroso, que ella es la más prudente para manejarlo, y se prepara para venderse en la bolsa por una cifra de ensueño. Los tres relatos no pueden ser verdad al mismo tiempo.

Empecemos por lo más difícil de aceptar. Nadie sabe del todo cómo funcionan estos modelos por dentro, ni sus fabricantes.

Estos programas no se escriben como una receta, sino que se alimentan con enormes cantidades de texto y aprenden por sí solos a responder. El resultado funciona, pero su interior es opaco. Los ingenieros no pueden abrir la máquina y señalar dónde vive cada capacidad y a eso se le dice la caja negra. Entra una pregunta, sale una respuesta, y el camino del medio queda a oscuras.

De ahí se sigue que si nadie ve el interior, no se mide bien el riesgo. La industria usa pruebas estandarizadas para calificar a sus modelos, y estas miden destrezas sueltas y no capturan el riesgo real. No existe todavía una forma seria de medir cuán peligroso es uno de estos sistemas.

El filo corta para los dos lados. Sin una medida, la palabra peligroso no se puede probar. Asimismo, el término revolucionario tampoco. Ambas descansan en la voz de quien vende. Asimismo, el peligro se vuelve una cuestión de nombre, porque la misma capacidad admite dos nombres opuestos según quién la describa.

El gobierno toma la palabra

El corte es un control de exportación. Es decir, una regla que prohíbe la entrega de cierta cosa a extranjeros por seguridad nacional. Los Estados Unidos la usaron durante años con sus procesadores más avanzados, los cerebros físicos que entrenan a los modelos; y funciona con ellos porque son caros, rastreables y difíciles de fabricar.

En junio de 2026 el gobierno aplicó esa lógica a un modelo. El Departamento de Comercio emitió una orden que prohibía el acceso a Mythos y a Fable a cualquier extranjero, incluyendo a los que están dentro del país, junto a los empleados de la empresa, que no fueran ciudadanos. La orden era tan amplia que Anthropic no pudo separar a unos de otros y apagó los dos modelos para todos. Sus demás programas siguieron en pie.

Entre tanto, hubo dos versiones sobre el porqué. El gobierno contó la suya y dijo que un socio de confianza probó el modelo público y halló una manera de burlar sus candados; comunicó su aviso a la empresa y pidió que se repare la falla o se retire el modelo. La empresa se habría negado, según esta versión. Entonces, llegó el control, emitido con desgana y con una promesa incluida: reparen la falla y la orden cae.

Anthropic relató otra línea y sostuvo que la falla es estrecha y de poca gravedad. Sostuvo que se reproduce de la misma manera en los modelos de la competencia. Y argumentó que, en el fondo, consiste en pedirle al sistema que lea un código y señale errores. Una capacidad común y no un motivo para retirar un modelo que usan cientos de millones de personas.

Conviene no creerle del todo a ninguno, ya que son dos narradores interesados. El funcionario defiende la acción del gobierno y la compañía resguarda su modelo y su salida a la bolsa. Se sospechó además que un grupo extranjero habría accedido al modelo más poderoso y que podría copiarlo o reconstruirlo. Si bien la empresa lo negó, ninguna de las dos voces habla desde la neutralidad.

Por otra parte, el control de los procesadores es una política de muchos años sobre un objeto físico que se cuenta y se rastrea. Un modelo terminado es otra cosa, porque una vez entrenado es apenas un archivo. Por eso una orden sobre un algoritmo es más difícil de sostener que una sobre una máquina.

Así, el mismo acto recibió dos nombres. Por un lado, es leer un código y encontrar fallas; por el otro, es operar un arma. Si bien el acto no cambia, el nombre se altera, y ese término lo elige el interés de quien lo pronuncia. Como nadie tiene una medida firme, gana la palabra y no la medida.

La trampa de venderse peligroso

Anthropic pasó meses describiendo su producto como un arma, así, el gobierno la escuchó y le creyó. Si una empresa presenta su producto como munición en cada anuncio, algún día el Estado la toma por la palabra. Anthropic redactó ella misma el argumento legal de su castigo, y lo llamó publicidad.

El detalle más filoso es que el propio gobierno usó esa carta. Su defensor recordó que la empresa pidió que su modelo se tratara como un arma. Y con ese antecedente, resulta casi imposible llamar trivial a la falla. La empresa quedó presa de su propia campaña.

La comparación con otras industrias muestra lo nuevo. Una automotriz que promete el auto más veloz opera dentro de un sistema de certificaciones, pruebas físicas y normas técnicas. Sus afirmaciones se verifican mediante instrumentos. En la IA avanzada no existe todavía una métrica estable de peligrosidad, por lo tanto, la frase “el modelo más peligroso del mundo” no se puede comprobar y sí se puede convertir en decreto. Esa mezcla es la novedad.

Anthropic se prepara para salir a la bolsa, es decir, vender por primera vez acciones al público para recaudar fondos. Una acción es una parte de la empresa y su precio no refleja lo que la empresa gana hoy, sino lo que la gente imagina que podría llegar a ser. Al momento de preparar esa salida, la valuaban cerca de 965.000 millones de dólares. Es una cifra de ensueño.

El precio soñado se alimenta de imaginación. Cuando la firma espacial de Elon Musk alcanza cifras enormes, nadie paga por sus ganancias actuales, sino por Marte. El relato que infla un precio promete un futuro gigante.

Anthropic ofrece lo contrario. Su posición elegida es la prudencia, el vayamos despacio que esto es peligroso. Esa prudencia fue una decisión comercial astuta porque le servía a un compradores precisos como gobiernos y grandes empresas reguladas buscando al proveedor más confiable. Ese cliente paga por confianza. Pero la bolsa es otro público, paga por imaginación y desconfía del que pelea con todos. El mismo rasgo que era una ventaja frente a un Estado se vuelve un lastre frente a un accionista. La compañía intenta la venta del freno en el único mercado que paga por velocidad.

La posición prudente tampoco le compró una protección duradera. Meses antes, el Pentágono marcó a Anthropic como un riesgo para la cadena de suministro. Un juez calificó esa marca de orwelliana y la empresa respondió con demandas. Cortejó al Estado durante años y el gobierno igual le dejó una orden. Por lo tanto, falló en ambos mercados a la vez.

La respuesta prohibida

En medio de todo esto existe una respuesta corta y es “no sé”. “No sé si el modelo es peligroso, lo probamos y no hallamos nada concluyente”, hay capacidades parecidas en otros sistemas, pero no existe un método para medir el riesgo con certeza.

Esa es la frase veraz, aunque es la que Anthropic no puede pronunciar, porque hunde a la vez sus dos patas comerciales. Destruye el somos extraordinarios así como el somos los que entienden de seguridad. Quien se vendió como el único adulto de la sala ya no puede pedir que no lo tomen en serio.

Entre tanto, el gobierno ofreció una salida limpia. Exigió que se repare la falla para levantar la orden. Pero Anthropic no la tomó porque reparar sería admitir que la capacidad es real y grave. Y eso confirmaría el nombre que más teme, el de arma. El mismo que vendió su modelo ahora lo hundiría y por eso su negativa no es técnica sino narrativa.

Vale ver lo que esto invierte. El que más sabe del modelo es la empresa, pero es la que se niega a conceder. No estamos ante dos ignorantes parejos, sino ante el que más sabe callando su conocimiento, porque decirlo le cuesta el negocio. Cuando el peligro se decide por el nombre y no por la medida, el premio no es para el que mide mejor; sino para quien nombra mejor. La caja negra no premia al competente, sino al que mejor finge que la abrió.

Las cosas como son.

Mookie Tenembaum aborda temas de tecnología como este todas las semanas junto a Claudio Zuchovicki en su podcast La Inteligencia Artificial, Perspectivas Financieras, disponible en Spotify, Apple, YouTube y todas las plataformas. En Twitter/X @TenembaumMookie