El consejero delegado y uno de los hermanos fundadores de Anthropic, Dario Amodei, ha abogado por "bajar el ritmo" de desarrollo de la inteligencia artificial, luego de la polémica que se ha desatado porque uno de los ingenieros que abandonó la compañía declaró que la IA podría eliminar a la humanidad.
En la misma línea, Amodei ha advertido también que se corre el riesgo de "perder el control" de esta tecnología y provocar "ataques informáticos", "bioterrorismo" o "problemas económicos graves".
La gran novedad de las últimas horas es que, al reclamo de Amodei, se han sumado los CEOS de Space X, Elon Musk, y el de Open AI, Sam Altman, tres de los grandes impulsores de la carrera tecnológica actual.
"Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", ha afirmado Amodei en un texto publicado el sábado en su blog personal.
El CEO de la empresa responsable de la herramienta de IA Claude cita en concreto dos motivos para su petición.
- El primero es la "automejora recursiva" de la Inteligencia Artificial, es decir, su capacidad para desarrollarse a sí misma que ha propiciado "avances drásticos" durante los últimos meses, y que si no se controla "podría superar nuestra capacidad de comprender y controlar estos sistemas".
- El segundo es el denominado "incidente de Hugging Face de OpenAI", en el que un grupo de Inteligencia Artificial realizó ataques informáticos en equipo sin que hubiera una petición inicial al respecto "sacrificándose por el bien del grupo" y que "podría haber causado un daño catastrófico", según Amodei.
La denuncia sobre la IA que encendió la polémica
La polémica en torno a la Inteligencia Artificial estalló esta semana cuando Jacob Coxon, un investigador británico especializado en entrenar modelos de IA, se fue de Anthropic dando un portazo y con una advertencia casi apocalíptica.
"He pasado los últimos tres años haciendo investigación de preentrenamiento en OpenAI y Anthropic. Ninguna de las dos empresas actúa de forma responsable. Corren directas hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas", publicó en un hilo en la red social X.
Coxon, de 27 años, se especializa en entrenar a modelos que aprenden a partir de grandes cantidades de datos. Desde esa experiencia, pidió “no subestimar el poder de esta tecnología" y consideró que “pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, de revolucionar cualquier campo de la noche a la mañana".
Para combatirlo, Coxon reclamó "acuerdos de ritmo entre los laboratorios estadounidenses" y llegó a pedir una prohibición temporal para mejorar las capacidades de los modelos.
"Creo que le debemos a la humanidad intentarlo"
El fundador de Anthropic junto a su hermana Daniela, ambos nacidos en la ciudad estadounidense de San Francisco, alertan además de que han ocurrido incidentes similares en otras empresas, incluida la que ellos dirigen.
Amodei extiende sus argumentos y explica que podrían producirse estos ataques informáticos, "bioterrorismo" o "graves problemas económicos graves" si hay un desarrollo "imprudente" de la Inteligencia Artificial.
Por ello, Amodei propone medidas de seguridad y normativa sin dejar de tener "éxito comercial".
"Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", ha remachado el CEO de Anthopic, quien antes había sido ejecutivo de Open AI.
En concreto, Amodei plantea medidas tales como una "evaluación incorporada" por parte de actores independientes, "coordinación democrática" con las instituciones públicas y "coordinación global" que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.
"Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo", ha recalcado el ejecutivo estadounidense.
Amodei ha sido acusado de alarmismo por sus anteriores advertencias sobre el desarrollo de la Inteligencia Artificial y sus riesgos.
El pedido de Amodei tuvo rápidas repercusiones. Las más importantes fueron las de Elon Musk, CEO de Space X y otras compañías tecnológicas, y las de Sam Altman, CEO de Open AI, quienes respaldaron el reclamo de frenar el desarrollo de la IA y fortalecer los controles.
