Computadoras que deciden

P. Fernando Pascual

4-9-2021

El creciente uso de las computadoras permite, entre otras cosas, ayudar en la toma de decisiones que resultan de cierta importancia para la vida de las personas.

Pensemos en algo tan sencillo como otorgar o no otorgar un préstamo. En el banco antiguamente la decisión era tomada por personas concretas que, según criterios mejores o peores, concedían el préstamo a uno y lo negaban a otro.

Con el desarrollo de la informática, en relación a lo que algunos llaman “inteligencia artificial”, un banco puede “delegar” la decisión de otorgar (o no otorgar) el préstamo a un programa que recoja y elabore todos los datos de quienes lo solicitan.

Desde luego, como resulta fácil intuir, el programa expresa su preferencia a dar el préstamo a una persona y denegarlo a otra según parámetros que vienen de los programadores o, en situaciones más sofisticadas, a una especie de autoprogramación que, de todos modos, también depende de los programadores.

Surgen aquí una serie de preguntas: ¿es correcto delegar a una máquina la decisión de dar o no dar el préstamo? ¿Cómo juzgar los criterios de los programas que se usan para este fin? ¿Habrá posibilidades de contradecir el “resultado” de lo que diga la computadora?

No resulta fácil responder, sobre todo cuando nos damos cuenta de que está en juego el destino de personas concretas. Ciertamente, en el sistema “tradicional”, quien otorgaba el préstamo podía equivocarse, o dejarse llevar por preferencias, simpatías o antipatías. Pero dejarlo todo a la computadora no deja de suscitar inquietudes.

En estos temas, como en tantos otros, se hace necesario constatar que lo importante consiste en buscar lo que sea realmente justo, que en el fondo será aquello que permita ayudar a quienes más lo necesiten y según las posibilidades concretas de conseguir un resultado bueno y provechoso para esas personas.

Si la máquina ayuda a encontrar eso que sea más justo, su ayuda será bienvenida. Si, en cambio, se convierte en una excusa y una fachada para discriminar a los más débiles y favorecer a los que ya tienen mejores posibilidades, la máquina se convertiría en una aliada de la injusticia.

La tecnología nos pone ante retos nuevos que surgen desde retos antiguos. La búsqueda de la justicia y la dificultad de alcanzarla es algo que ha existido siempre, y que también existe hoy.

Por eso, no basta con recurrir a computadoras a las que se delegue todo el peso de las decisiones, ni sería correcto excusarse en la respuesta que den esos instrumentos como si fuera algo inapelable y automáticamente justo.

Porque hoy, como siempre, las personas son siempre quienes tienen que la última palabra a la hora de tomar decisiones. Algunas de ellas irán en contra de lo que diga la “inteligencia artificial”, otras veces estarán de acuerdo con ella.

Lo que nunca puede faltar cuando hay que escoger entre varias opciones es el recurso al único criterio correcto de referencia: ¿quién sería la persona más débil y más necesitada a la que convendría otorgar ahora esta ayuda concreta?