Cómo un comité de riesgos recupera el criterio que la herramienta había desplazado
Angel Mª Zamanillo · Joaquín Candeias élanfactor · Lecturas
Una nota previa
Este es un ejemplo construido para ilustrar cómo opera un Praxis Journey. No describe un cliente real, no remite a ninguna organización específica, no reconstruye ningún proceso concreto. Las dinámicas que aparecen, sin embargo, son las que repetidamente vemos cuando una organización ha hecho una apuesta significativa por la inteligencia artificial y empieza a notar que algo se ha desplazado en sus equipos sin que nadie sepa nombrarlo.
Lo escribimos así, como retrato compuesto, por dos razones. La primera, porque buena parte de nuestro trabajo ocurre con organizaciones cuya confidencialidad respetamos y que no son material publicable. La segunda, porque la verdad sobre cómo opera el método no está en la veracidad de un caso, sino en la precisión con la que se describe el oficio. Es la diferencia entre un anuncio disfrazado de testimonio y un retrato profesional construido para enseñar.
El encargo que llegó
Llamémosla así: una entidad financiera mediana, con operaciones en varios países, comité de riesgos que se reúne cada quince días, y una apuesta importante por inteligencia artificial en los modelos de análisis de riesgo de crédito desplegada hace año y medio. Los retornos de esa apuesta están a la vista: tiempos de decisión reducidos en torno al setenta por ciento, mayor capacidad de procesamiento de operaciones, márgenes que mejoran trimestre a trimestre. El comité directivo lo cuenta en los informes anuales y los inversores lo reciben con aprobación.
El encargo llegó a través de la dirección de personas. La formulación inicial era la habitual cuando lo que se siente todavía no tiene nombre: "necesitamos formar a los analistas senior en pensamiento crítico. Notamos que cuando una operación se sale del patrón, ya no saben qué hacer sin la herramienta. Hemos pensado en un programa de cuatro o cinco sesiones."
Una formación, dicho de otra manera. Un problema con solución técnica: hay un déficit, se identifica, se cubre con un programa. Si lo hubiéramos aceptado en esos términos, habríamos hecho lo que un buen proveedor de formación hace cuando lo llaman: diseñar un programa de cuatro o cinco sesiones, ejecutarlo bien, entregar evaluaciones. Es lo que el sistema sabe pedir y lo que el sistema sabe recibir.
Pero el problema no era la falta de habilidades. Era otra cosa, y eso es lo primero que hizo el Praxis Journey: nombrarlo.
La conversación inicial
Antes de cualquier sesión hay una conversación. Cuarenta y cinco minutos con la directora de personas, sin presentación comercial, sin programa que vender. Lo que se hace en esa conversación es escuchar y devolver con precisión. Esto fue, en sustancia, lo que devolvimos:
Lo que ella estaba describiendo no era un déficit de capacidades. Era el síntoma observable de algo estructural. Sus analistas senior, profesionales con diez o quince años de oficio, no habían perdido el pensamiento crítico. Lo habían dejado de ejercitar porque la herramienta lo hacía antes que ellos. La consecuencia: cuando aparecía una operación que se salía del patrón —exactamente la operación donde el criterio humano tendría que ser decisivo—, el músculo deliberativo estaba atrofiado. No por falta de inteligencia, sino por falta de uso reciente.
Y había algo más. Esa atrofia no era responsabilidad de los analistas. Era el efecto previsible de una decisión de diseño tomada en otro plano —la incorporación de la herramienta sin diseñar zonas donde el juicio humano siguiera siendo necesario—. Formar a los analistas en pensamiento crítico mientras el sistema seguía sin pedírselo era reparar lo que la propia organización estaba desmontando, sin examinar la mecánica.
La directora de personas se quedó callada durante unos segundos. Lo siguiente que dijo fue: "Entonces esto no es un programa de formación. Esto tendría que ir al comité de riesgos."
Exactamente. El Praxis Journey empezó ahí.
El dilema reformulado
La primera sesión, dos semanas después, fue con el comité de riesgos en pleno: cinco directores de área, la directora general y la directora de personas como observadora. Tres horas. Lo único que se hizo en esas tres horas fue una cosa: pasar del problema al dilema.
El problema, tal como llegó, era: "Nuestros analistas senior han perdido capacidad de decisión en operaciones atípicas." La pregunta que reformula ese problema como dilema —y que se trabajó en sala— fue distinta:
¿Cómo avanzamos en velocidad y eficiencia con la herramienta de análisis sin erosionar el criterio humano del que depende la decisión cuando la herramienta no basta?
Esa pregunta, leída en voz alta en el comité, hizo algo que la formulación original no hacía: puso a la sala frente a una tensión que reconoció. No era una pregunta retórica. No era una invitación a debatir si la IA es buena o mala. Era el reconocimiento de dos verdades simultáneas y legítimas: la herramienta produce valor real y no vamos a renunciar a ella; el criterio humano produce un valor distinto que la herramienta no sustituye y que estamos dejando de cuidar. Las dos cosas son ciertas. Y cualquier movimiento que tome la organización va a desplazar el coste hacia una de las dos.
Cuando un comité reconoce que está ante un dilema y no ante un problema, ocurre algo que cambia el resto de la conversación: la búsqueda de la respuesta correcta —que no existe— se sustituye por la pregunta de con qué criterio se navega. Y esa pregunta sí tiene respuesta, pero solo si el comité se la hace explícitamente. Hasta entonces, había estado decidiendo por inercia.
La polaridad
Una vez nombrado el dilema, la primera herramienta sobre la mesa fue una polaridad. Una polaridad es una balanza con dos polos legítimos. No hay un polo correcto y otro incorrecto: hay dos valores que la organización quiere preservar y que tiran en direcciones opuestas. El trabajo es nombrar los dos con precisión, ver qué se gana y qué se pierde al inclinar la balanza hacia cada uno, y reconocer dónde está cada miembro del comité.
Construimos esta:
En un polo, escalabilidad de la decisión. La capacidad de procesar volumen creciente con tiempos cortos, márgenes mejorados y consistencia de criterio entre operaciones similares. Lo que la herramienta entrega bien.
En el otro polo, juicio en operaciones atípicas. La capacidad de leer una operación que se sale del patrón —porque la información es incompleta, porque el contexto es nuevo, porque la combinación de factores no tiene precedente claro— y tomar una decisión defendible con criterio humano. Lo que la herramienta no entrega y, por su propio diseño, no puede entregar.
Lo primero que apareció en la sala, cuando los polos estuvieron escritos, fue silencio. Lo segundo: la directora de riesgos retail dijo en voz alta lo que probablemente sostenía la inercia anterior. "Yo creía que el equilibrio se mantenía solo. Que la herramienta hacía el ochenta por ciento y los analistas hacían el veinte por ciento difícil. Pero ahora veo que el veinte por ciento difícil no se está haciendo, porque la herramienta lo procesa también, aunque mal, y los analistas firman lo que la herramienta propone."
Eso es lo que una polaridad bien construida hace: convierte una intuición sin lenguaje en una afirmación que la sala puede examinar. Una vez que esa frase está en el aire, ya no se puede no oírla.
El triángulo
La polaridad había hecho su trabajo: nombrar la tensión. El siguiente movimiento era distinto. Necesitábamos abrir la deliberación, no diagnosticarla. Para eso usamos otra herramienta del oficio: un triángulo.
Un triángulo de deliberación tiene un centro —que proponemos nosotros— y tres vértices —que eligen los participantes—. El centro nombra aquello sobre lo que la organización tiene que decidir. Los vértices son los criterios desde los cuales se mira ese centro. Cuando los tres criterios entran en conversación a la vez, el comité no puede colapsar la decisión hacia un único valor: tiene que sopesar.
El centro que propusimos fue: el rediseño del flujo de decisión en operaciones atípicas. Esa era la decisión real, aunque hasta ese momento se había estado discutiendo como problema de capacidades.
Los vértices los eligió el comité tras una conversación de cuarenta minutos. Quedaron así:
Rentabilidad sostenida del modelo de negocio. Toda operación tiene que generar valor económico defendible. No se trataba de renunciar a eso ni de poner condiciones que comprometieran el negocio.
Capacidad humana preservada y entrenada. Los analistas senior tienen un oficio que la organización necesita conservar. Si la herramienta atrofia ese oficio, hay un coste que no aparece en el balance pero existe.
Defensa regulatoria y reputacional. Las decisiones del comité tienen que poder defenderse ante el regulador y ante el mercado. Una decisión tomada por el algoritmo sin trazabilidad humana clara es una decisión que la organización no puede sostener si llega un problema.
Lo interesante de esos tres vértices es que el comité tardó en aceptarlos. La primera propuesta del director financiero fue: "Rentabilidad y velocidad." Cuando le devolvimos que velocidad ya estaba contenida en rentabilidad, y que faltaba algo, fue la directora de personas quien añadió: "Capacidad humana preservada." Y fue la directora general quien añadió el tercero, después de un silencio largo: "Defensa regulatoria. Si esto se rompe, tendremos que explicarlo y no podemos quedarnos sin lenguaje."
Cuando los tres vértices estuvieron sobre la mesa, la deliberación cambió de naturaleza. La pregunta dejó de ser "¿cómo arreglamos a los analistas?" y pasó a ser "¿cómo rediseñamos el flujo para que las tres cosas se sostengan simultáneamente?". La sala empezó a pensar como comité de gobierno, no como ejecutor de un programa de formación.
Lo que el comité se llevó
Una sesión así no termina con conclusiones. Termina con prototipos: dos o tres acciones exploratorias concretas, acotadas en tiempo, que el comité puede probar sin inversión significativa y sin poner en riesgo la estructura existente. La evidencia que esas acciones generan en las semanas siguientes es la base sobre la que se decide qué viene después.
El comité de riesgos diseñó, en la última hora de la sesión, tres prototipos. Los formularon ellos. Nosotros los ayudamos a precisarlos, no a inventarlos.
Prototipo uno. Durante seis semanas, todas las operaciones atípicas —las que la herramienta marcaba con un nivel de confianza por debajo de un umbral— pasarían por una doble revisión: la propuesta del sistema y una propuesta independiente del analista senior, formulada sin haber visto la del sistema. La decisión final se tomaría comparando las dos. Objetivo: reactivar el músculo del juicio en los casos donde más se necesita.
Prototipo dos. Una sesión mensual de noventa minutos con los analistas senior, donde se discutirían tres operaciones atípicas del mes anterior. No formación: deliberación sobre casos reales. Objetivo: que el oficio que estaba quedando sin ejercitar tuviera un lugar institucional donde mantenerse vivo.
Prototipo tres. Una nota trimestral al consejo, una página, donde el comité de riesgos describiría con qué criterio se ha tomado el cinco por ciento más atípico de operaciones del trimestre. Objetivo: hacer visible al consejo el espacio donde el juicio humano sigue siendo decisivo, para que ese espacio se discutiera como parte del gobierno, no como excepción operativa.
Tres prototipos. Seis semanas de horizonte para el primero, doce para el segundo y tercero. Sin compromiso de continuidad: si los prototipos no producen evidencia que justifique seguir, se sustituyen por otros. Eso es lo opuesto a un plan estratégico. Es navegación en lo complejo: prueba, observación, respuesta.
Lo que cambia, y lo que no
Lo que un Praxis Journey no hace: resolver el dilema. El dilema sigue ahí, y seguirá ahí mientras la organización opere con la herramienta. Lo que un Praxis Journey hace es devolverle a la organización el lenguaje y los instrumentos para navegarlo conscientemente, en lugar de inercialmente. La diferencia no está en el resultado inmediato. Está en el plano de decisión.
Antes de la sesión, el comité estaba a punto de aprobar un programa de formación. Ese programa habría hecho lo que sabe hacer —entregar contenidos, evaluar aprendizaje— y habría dejado intacta la mecánica que estaba produciendo el problema. La organización habría seguido pagando, simultáneamente, por una herramienta que erosiona criterio y por un programa que intenta repararlo. Lo que llamamos la trampa del doble gasto.
Después de la sesión, la decisión se desplazó al lugar donde debía estar: el flujo de decisión sobre operaciones atípicas, no las capacidades de los analistas. Esa es una decisión de gobierno, no de personas. Y una vez que se toma en el lugar correcto, el comité tiene tres prototipos en marcha, tres horizontes temporales para evaluar evidencia, y un criterio explícito —los tres vértices del triángulo— con el que sopesar lo que venga después.
Lo que un Praxis Journey produce, cuando funciona, no es una solución. Es una organización que ha recuperado la capacidad de deliberar sobre lo que ordena sus decisiones. Eso es lo que llamamos criterio.
Si el ejemplo ha producido reconocimiento, dos caminos. Si reconoces algo de esta mecánica en tu organización, una conversación breve es el siguiente paso. Si quieres entender el argumento de fondo —por qué esto ocurre, qué lo sostiene, qué hay detrás—, el ensayo El criterio que ordena sin ser examinado lo desarrolla con detalle.