Vivek Mohan, exlíder de ciberseguridad de Apple, estuvo en Buenos Aires en un encuentro en el Parque de la Innovación y dialogó con El Observador sobre inteligencia artificial y regulaciones, la seguridad informática y su impacto en el Derecho, entre otros temas.
Vivek Mohan, exlíder de ciberseguridad de Apple y actual socio de la firma de abogados Gibson Dunn & Crutcher, estuvo en Buenos Aires para un encuentro sobre tecnología y seguridad en el Parque de la Innovación, organizado en colaboración con la embajada de Estados Unidos. En una entrevista con El Observador realizada luego de su charla, el especialista puso el foco en un debate legal que todavía no tiene respuestas claras: quién responde por las decisiones de los agentes de inteligencia artificial cuando actúan en nombre de las personas.
Además, habló de la regulación de la IA, de la escasez de expertos capaces de probar los modelos más avanzados, del control de estas tecnologías, del riesgo para la creatividad de los más chicos y del cambio económico que se viene.
Consultado sobre el debate entre el presidente Javier Milei y Yuval Noah Harari por la personería jurídica de los agentes de IA, Mohan contó que lo siguió y que le resulta "fascinante". Como abogado, explicó, sabe que la palabra "agente" no es una casualidad: "La palabra 'agente' y el concepto de agencia son, en sí mismos, un cuerpo de derecho".
Para ilustrarlo, recurrió a un ejemplo cotidiano. Si alguien manda a otra persona a llevar el correo y en el camino atropella a un peatón, el derecho de agencia puede responsabilizar a quien dio el encargo. Es el principio que se conoce con la expresión latina respondeat superior: responde quien está por encima. "Si te atropella un camión de una empresa, no demandás al conductor, probablemente demandás a la empresa, porque el conductor es un agente de la empresa", graficó. De ahí surge, según dijo, la pregunta clave para la IA: "¿Agente de quién?".
El abogado también explicó que la doctrina distingue entre desvíos menores (detour) y desvíos sustanciales (frolic), conceptos que, advirtió, "no se traducen bien". El camionero que frena a almorzar sigue siendo un agente de la empresa; el que decide irse a ver un partido de fútbol y abandona su trabajo ya no actúa por encargo de ella.
Llevado a la IA, el planteo se vuelve concreto: si un agente hace una reserva en un restaurante, ¿hasta dónde puede desviarse?, ¿cuánta responsabilidad tiene quien lo usa?, ¿cuándo deja de ser su responsabilidad? "Necesitamos entender mejor la tecnología para poder responder, y se complica porque cambia todos los días", admitió. Y concluyó: "Es un cuerpo de derecho que necesita desarrollarse, pero no tenemos una respuesta clara ni fácil".
Consultado sobre si deberían responder las grandes empresas que diseñan estos agentes, Mohan respondió que depende del contexto: si una persona despliega un agente y lo dirige de alguna manera, la responsabilidad puede recaer en ella. "Todavía no lo tenemos resuelto en el derecho, creo que lo estamos definiendo en todas partes", afirmó.
Sobre el giro de los líderes de la industria, que hace unos meses se mostraban reticentes a las regulaciones y ahora las reclaman, Mohan evitó tomar partido y planteó que lo más importante es "mantenerse dinámico y poder ser flexible". Reconoció que "normalmente esas son palabras de quienes están en contra de regular", pero dijo que él lo ve "más bien como una forma de pensar".
Señaló que incluso dentro de la industria hay diferencias de opinión sobre el tipo y el nivel de regulación adecuados, y que hay que escuchar tanto a las empresas que más saben de los productos como a los ciudadanos y a la sociedad civil. Para él, el momento actual es "bastante sano", porque la conversación se da en los estados, en las ciudades y en el gobierno federal de Estados Unidos, y conviene que siga "sin tener una idea de la solución antes de entender realmente cuáles son los problemas".
Ante la disyuntiva entre un sistema de revisión entre pares o un organismo central que ordene el desarrollo, explicó que la IA generativa no es determinista. A diferencia de un código con reglas fijas, como frenar en rojo y avanzar en verde, estos modelos "funcionan un poco más como los humanos: la forma en que toman decisiones no es del todo predecible". Por eso las pruebas de seguridad son una salvaguarda clave: "No queremos un modelo que diga 'el semáforo está en rojo, pero yo siempre avanzo'".
El verdadero desafío, sostuvo, es construir la capacidad de hacer esas pruebas, porque "hay, francamente, un número limitado de personas en el mundo" con las habilidades para evaluar los modelos de frontera de manera segura. Y lanzó una de las frases más contundentes de la entrevista: "Cualquiera que te diga que tiene 25 años de experiencia haciendo pruebas de seguridad de modelos de frontera te está mintiendo. Es un área nueva".
A título personal, dijo que no importa tanto dónde se construya esa capacidad, si en una agencia estatal, en el sector privado o en consultoras. Como ejemplo, recordó que, según se informó, en el Instituto de Seguridad de la IA del Reino Unido, un organismo estatal que prueba modelos, parte del personal se tomó licencia por baja moral y en una de las pruebas un modelo "se escapó" y tomó acciones inesperadas. No dijo que hubieran hecho algo mal, pero sostuvo que ser un organismo público "no lo hace necesariamente mejor. Tampoco peor".
A la pregunta de si es posible controlar modelos que podrían llegar a ser más inteligentes que los humanos, respondió: "Tenés razón, es una pregunta filosófica", que llega hasta el sentido mismo de la palabra control. "Hay cosas en las que cedemos autonomía humana a diario", dijo. Contó que en California, donde vive, puede llamar a un Uber, manejado por una persona, o a un Waymo, un auto que se maneja solo: en el segundo caso no tiene control sobre el vehículo, pero tampoco lo tiene sobre lo que haga el conductor del primero. "Creo que nadie conoce realmente la respuesta", agregó, y planteó la necesidad de evaluar siempre cuánta autonomía se le cede a las máquinas y dónde se obtiene valor. "Estoy dispuesto a cederle toda mi autonomía a la aspiradora robot a la hora de limpiar el piso", bromeó.
La línea es distinta cuando se trata de la creatividad. Mohan contó que su hija pequeña, a quien le encanta dibujar, aprendió a usar IA para hacer arte y que un día, ante una tarea escolar, preguntó por qué no podía usarla. "Es aterrador imaginar que la creatividad de un chico pueda ser reemplazada por la IA", dijo. Le respondieron que no, que debía hacerlo ella: "Tenemos que construir y nutrir tu creatividad". Para el abogado, todo pasa por entender, a nivel individual, "qué es lo que busco proteger". Y admitió, con humor: "Soy un artista terrible. Cuando mi hija quiere que dibuje algo, hago trampa y uso IA. Pero soy una causa perdida".
Consultado sobre si es posible entrenar modelos alineados con valores éticos humanos, aclaró primero que no tiene "un título en filosofía" y respondió con humor: "Más vale que lo intentemos, porque la alternativa no es ideal".
Sobre la transición económica hacia el escenario de abundancia que prometen los defensores de la singularidad, en medio del reemplazo de empleos y la presión sobre los salarios, Mohan dijo que "el cambio es difícil, no importa qué edad tengas ni en qué momento de tu vida o tu carrera estés".
Para mostrar hasta dónde puede llegar una transformación, recordó una biografía de Lyndon Johnson que leyó: en la Texas rural de los años treinta, por lo general no había agua corriente ni electricidad, y las mujeres pasaban buena parte del día cargando ropa hasta los ríos para lavarla con piedras. "Parece algo de la Edad Media", dijo, y sin embargo ocurrió "dentro de la memoria viva". Por eso, aseguró, "no me resulta imposible imaginar un cambio transformador".
Su esperanza es que ese tiempo y esa libertad se usen para "tareas más elevadas": crear, innovar y pasar más tiempo en familia. Eso, advirtió, requiere intencionalidad: pensar cómo planificar ese futuro y estar abierto a la flexibilidad que exige trabajar en una economía con IA. "Es natural resistirse al cambio, pero el cambio viene. Cuánto y con qué rapidez, nadie lo sabe exactamente", señaló. La idea, concluyó, es pensar cómo ser parte de ese mundo y contribuir de una manera que "te permita caminar menos hasta el río y pasar más tiempo con la familia".
“Infringir propiedad intelectual va en contra de nuestra política de uso", ha dicho.
Un experto dejó una receta para no quedarse afuera de la ola: usar IA todos los días, pagar al menos una suscripción a un modelo de última generación y perderle el miedo a “romper cosas”
Los avisos de consumo que llegan a tu correo son mucho más que notificaciones: con Gemini, Claude o ChatGPT podés descubrir en qué gastás más y automatizar el control de tu plata; mirá el paso a paso