Todo funciona, salvo la realidad

Hay una palabra que aparece después de varios minutos de conversación con un chatbot. Primero somos educados. Elegimos una opción. Después otra. Explicamos el problema. El sistema nos informa que no entendió nuestra respuesta y nos invita, con una amabilidad impecable, a volver al menú principal. Probamos otra combinación. Fracasamos. Hasta que finalmente escribimos PERSONA. ASESOR. HUMANO.

Es una escena bastante extraordinaria si uno la mira desde lejos. Durante décadas imaginamos el futuro como un lugar donde las máquinas nos liberarían de tareas tediosas. Y ahora resulta que una de nuestras pequeñas experiencias cotidianas consiste en suplicarle a una máquina que nos deje hablar con una persona.

Algo salió distinto a lo que imaginábamos. No necesariamente peor. Distinto.

La historia de la tecnología también puede contarse como la historia de nuestra guerra contra la fricción. La máquina de vapor eliminó una parte del esfuerzo físico. La calculadora, una parte del cálculo. La computadora, una parte de la memoria. Internet eliminó distancias. ¡Hasta el QR eliminó el menú de los restaurantes!

Un sistema automatizado puede procesar una cantidad de información imposible para una persona y aplicar la misma regla miles de veces sin cansarse. Después de todo, buena parte de la historia de las instituciones consiste en protegernos de nosotros mismos. Conocemos demasiado bien nuestros propios defectos y quizás por eso creamos estructuras que nos contengan.

Los seres humanos somos criaturas extraordinariamente poco eficientes. Nuestra humanidad produce empatía y favoritismos. Produce excepciones justas y privilegios injustificables. Dudamos. Nos cansamos. Llegamos tarde. Hacemos preguntas. Cambiamos de opinión. Necesitamos que nos expliquen dos veces la misma cosa. Y, sobre todo, hacemos excepciones.

Pensemos en una situación sencilla. Alguien llega cinco minutos después de que cerró un trámite. El reglamento dice que no puede entrar. Pero del otro lado hay una persona que escucha que vino desde lejos, que perdió un colectivo, que tiene a su hijo enfermo, que mañana no puede volver. Entonces ocurre una de las cosas más ineficientes que existen: alguien duda.

Durante siglos llamamos a esa capacidad de apartarnos de una regla de muchas maneras: criterio, compasión, arbitrariedad, sentido común, privilegio, equidad. Depende, generalmente, de quién haya quedado del otro lado de la puerta.

Por eso resulta interesante una discusión que ocurre ahora mismo en el Senado argentino y que, a primera vista, tiene todo lo necesario para espantar a cualquier lector normal: una reforma integral de la Ley General de Sociedades.

Empresas sin empleados

El proyecto enviado por el Poder Ejecutivo busca reemplazar un régimen vigente desde 1972 e incorpora nuevas figuras vinculadas con la automatización. Entre ellas, las llamadas sociedades automatizadas, capaces de operar mediante algoritmos o inteligencia artificial sin empleados para su funcionamiento ordinario. También aparecen las DAO, organizaciones cuyas reglas pueden estar codificadas en contratos inteligentes y registradas mediante blockchain.

La discusión jurídica importa. Pero detrás de ese debate técnico se esconde una pregunta bastante más antigua: ¿cuántas personas necesita una organización para seguir siendo una organización humana?

Una empresa ya es, si lo pensamos, una criatura rarísima. No respira, pero nace. Tiene nombre. Tiene domicilio. Tiene patrimonio. Puede comprar una casa. Puede deber plata. Puede demandar y ser demandada. Puede vivir más que sus fundadores. Incluso puede morir. Le otorgamos personalidad jurídica a algo que no tiene cuerpo. Fue uno de los grandes inventos abstractos de la modernidad. Separar a la organización de las personas que la componen.

Ahora estamos explorando la posibilidad de avanzar un casillero más. No solamente separar la organización de determinadas personas. Separarla, cada vez más, de las personas.

Imaginemos entonces un futuro bastante cercano. Una sociedad automatizada administra propiedades. Otra ofrece alquileres temporarios. Sus sistemas negocian entre sí. Un algoritmo calcula el precio. Otro verifica las condiciones. Un contrato inteligente ejecuta el acuerdo. El pago se acredita automáticamente y una cerradura electrónica habilita el ingreso. Durante meses funciona extraordinariamente bien.

No hay papeles. No hay horarios. Nadie se olvidó de mandar un contrato. Nadie escribió mal un monto. Nadie tuvo que esperar hasta el lunes para que alguien respondiera un mail. Hasta que una noche se rompe un caño. El agua atraviesa el piso y destruye parte del departamento de abajo. El propietario reclama.

La sociedad que alquiló el inmueble actuó según el contrato. La que administraba la propiedad siguió correctamente su protocolo. El sistema que aprobó la operación verificó todas las condiciones previstas. El contrato inteligente ejecutó exactamente aquello para lo que había sido programado.

Todo funcionó correctamente. Salvo la realidad.

La realidad tiene una costumbre bastante irritante de producir cosas que nadie había incluido en el menú. Y ahí aparece una pregunta más interesante que aquella repetida hasta el cansancio sobre si la inteligencia artificial va a quitarnos el trabajo. Quizás el asunto no sea solamente quién trabaja. Sino quién responde.

¿Quién se hace cargo?

El problema nuevo no aparece cuando una máquina se equivoca, sino cuando todo funciona como debía y, aun así, alguien termina perjudicado. Si nadie hizo nada mal, ¿quién responde cuando la realidad pasa la cuenta?

Kafka imaginó un mundo donde detrás de cada puerta había otro funcionario, otro expediente, otra oficina. Nosotros podríamos estar construyendo uno todavía más extraño: abrir todas las puertas y descubrir que detrás de la última no hay nadie. No porque alguien se esconda, sino porque el sistema funciona tan bien que cada uno se limita a cumplir su parte.

Quizás por eso la discusión sobre empresas automatizadas excede largamente una reforma societaria argentina. La promesa es formidable: trabajar menos, equivocarnos menos, reducir costos y permitir que organizaciones pequeñas hagan cosas que antes exigían enormes estructuras. En definitiva, sacarnos de encima buena parte de esa burocracia absurda que conocemos demasiado bien.

Sería extraño renunciar a todo eso solamente porque aparecen problemas nuevos. Pero precisamente por eso tendremos que pensar instituciones nuevas para resolverlos. Durante siglos construimos instituciones para administrar decisiones. Ahora quizás tengamos que construir instituciones capaces de administrar decisiones que nadie tomó del todo.

Porque decidir pesa. Explicar una decisión pesa todavía más. Y hacerse responsable probablemente siga siendo una de las actividades menos escalables que existen.

Hay una ironía final. Responsabilidad viene de la idea de responder. Responsable no es solamente quien causa algo, sino aquel a quien podemos llamar cuando algo ocurre y preguntarle: ¿y ahora qué hacemos?

Tal vez el verdadero sueño de la automatización no sea trabajar menos, sino tener que responder menos. No necesariamente porque alguien esté intentando escapar. Puede ser simplemente porque, en nuestra obsesión por construir sistemas cada vez más eficientes, terminemos descubriendo que también habíamos automatizado el lugar donde antes vivía la responsabilidad.

Estamos construyendo máquinas extraordinariamente buenas para darnos respuestas. La pregunta que acecha en la sombra es si seremos igual de buenos construyendo un mundo en el que todavía haya alguien dispuesto a responder por ellas.

En una de esas, dentro de algunos años recordemos con nostalgia aquella pequeña frustración frente al chatbot. Esa época primitiva en la que, después de insistir varias veces, todavía existía una palabra capaz de abrir una puerta.

PERSONA.