La transparencia en la era de la IA no se resuelve con una etiqueta

Hace unas semanas comenzó a aplicarse el artículo 50 de la Ley de Inteligencia Artificial de la Unión Europea, que obliga a que las personas puedan identificar cuándo un contenido fue generado o manipulado artificialmente. La norma es europea, pero su lógica ya empieza a viajar, y cualquier organización que trabaje con clientes, proveedores o plataformas globales tarde o temprano va a tener que responder la misma pregunta que hoy exige Bruselas. El cambio de fondo no es menor, porque la transparencia deja de ser un principio para convertirse en una obligación operativa. Ya no alcanza con declarar que una empresa procura usar IA de manera responsable, hay que poder demostrarlo de forma consistente, caso por caso.

El problema es que reducir la transparencia a una etiqueta deja a mitad de camino. Decir “este contenido fue generado con inteligencia artificial” aporta un dato necesario, pero abre más preguntas de las que cierra cuando ese resultado se usa para trabajar, decidir o actuar. Qué sistema lo produjo, qué versión estaba activa, qué fuentes consultó, qué permisos tenía, si se aplicó una política vigente o una instrucción desactualizada, quién revisó el resultado y qué cambió después son cuestiones que una etiqueta no responde. Esas preguntas conectan la regulación con un problema más profundo, que es el del gobierno del conocimiento organizacional.

En la primera etapa de adopción empresarial de inteligencia artificial, la mayoría de las organizaciones se concentró en comparar modelos, viendo cuál redactaba mejor, cuál razonaba con mayor precisión o cuál resultaba más rápido o económico. Esa comparación sigue siendo útil, pero explica cada vez menos el desempeño real de un sistema, porque el resultado depende de un ecosistema mucho más amplio, que incluye documentos, datos, mensajes, los modelos que procesan todo eso y las personas que validan. Por eso dos organizaciones pueden usar el mismo modelo y obtener resultados muy distintos, ya que una lo alimenta con fuentes curadas, responsables claros y versiones vigentes, mientras otra lo expone a carpetas duplicadas, conversaciones informales y políticas contradictorias. La diferencia no está en la inteligencia artificial, sino en la inteligencia organizacional que la gobierna.

Los usos de la inteligencia artificial

Esa distinción se vuelve crítica a medida que la inteligencia artificial deja de limitarse a consultar conocimiento y empieza a convertirlo en acción. Ya existen herramientas capaces de participar de canales de trabajo, acumular contexto autorizado y ejecutar tareas de forma autónoma, así como agentes que razonan sobre representaciones actualizadas de activos, identidades y riesgos. En ambos casos, el valor que generan depende de la calidad y los límites del contexto que se les entrega. Si ese contexto no está gobernado, los errores dejan de ser anecdóticos y se multiplican a la misma velocidad con la que operan.

Durante años, la gestión del conocimiento estuvo asociada a repositorios como intranets, wikis, carpetas compartidas o manuales. El objetivo era que una persona encontrara información cuando la necesitara, y esa misma persona aportaba el criterio para distinguir si una fuente seguía siendo válida o ya había sido reemplazada. Un sistema automatizado no interpreta esa ambigüedad de la misma manera, ya que no sabe, por sí solo, que un documento es un borrador, que una excepción acordada por correo venció hace meses o que una política formal fue reemplazada, aunque siga apareciendo primera en cualquier buscador interno. Para que ese conocimiento se vuelva operable hace falta registrar, de forma sistemática, de dónde viene cada pieza de información, quién tiene autoridad para aprobarla, desde cuándo y hasta cuándo es válida, para qué equipos o procesos aplica, quién puede acceder a ella y qué estado tiene. Un repositorio tradicional responde qué documentos existen; una capa de conocimiento gobernado debería responder qué sabe realmente la organización, quién lo sostiene y qué evidencia respalda su uso.

Construir esa capa implica varios frentes que conviene pensar como parte de una misma práctica y no como pasos aislados. Todo empieza por saber con precisión qué sistemas de inteligencia artificial utiliza la organización, con qué fuentes se conectan y qué procesos afectan, sin dejar afuera los usos informales que cada área adopta por su cuenta antes de que exista un camino aprobado formalmente, porque sin ese panorama no hay forma de clasificar riesgos ni de responder ante un incidente. Sobre esa base hace falta trazabilidad sobre el origen, la vigencia y el propietario de cada contenido relevante, para que un sistema no solo recupere texto parecido sino que priorice lo que efectivamente sigue vigente, y también un límite claro al contexto que cada tarea puede consumir, que no depende de cuánta información sea capaz de procesar un agente sino de qué información específica necesita para el rol que cumple, sin dar por sentado que puede combinar datos de áreas distintas solo porque aparecieron juntos en algún canal compartido. A eso se suma la necesidad de conservar evidencia de cada decisión asistida por inteligencia artificial, proporcional al riesgo que implica, para poder explicarla y corregirla si algo sale mal, y de sostener toda esa práctica en el tiempo, con un ciclo donde cada corrección humana permite identificar la fuente equivocada, actualizar el conocimiento y revisar casos similares.

Quienes vienen implementando procesos de este tipo coinciden en que el desafío no es tecnológico sino de gestión. La empresa argentina Ingenia, por ejemplo, atravesó primero una etapa de adopción centrada en casos de uso, herramientas y capacitación, y avanzó después hacia una estrategia de gestión del conocimiento que busca entender qué contenido existe, cómo se usa y quiénes son responsables de sostenerlo. Ese recorrido ilustra un punto más general, porque el gobierno del conocimiento deja de ser una instancia de control posterior y se convierte en la infraestructura que permite escalar el uso de inteligencia artificial sin perder el control sobre sus resultados.

El artículo 50 vuelve visible una parte de este desafío, pero la necesidad lo excede ampliamente. Clientes, empleados y usuarios van a exigir cada vez más claridad sobre la participación de la inteligencia artificial en contenidos y decisiones, y la respuesta más sólida no será una etiqueta sino la capacidad de mostrar qué conocimiento se utilizó, con qué autoridad, bajo qué reglas y con qué grado de intervención humana. La confianza no aparece cuando una organización promete usar bien la inteligencia artificial, sino cuando puede explicar sus resultados, corregirlos y aprender de ellos sin perder el control del proceso. La pregunta que queda planteada para esta etapa es qué necesita saber cada organización, y qué evidencia debería conservar, para que ese uso sea confiable, escalable y sostenible en el tiempo.