Cuando a todo lo llaman algoritmo

Escribo este texto impulsado por una vieja inquietud, que en los últimos años ha dejado de ser meramente técnica para convertirse en cultural y política. Llevo más de tres décadas desarrollando sistemas, formando programadores, evaluando soluciones y lidiando directamente con lo que ahora, de forma exagerada, se denomina «algoritmo». Y lo confieso: pocas veces he visto una palabra utilizada con tan poca precisión.

Lo que me motivó esta vez fue la trivialización de una expresión que se ha vuelto omnipresente: "sesgo algorítmico". Aparece en noticias, debates públicos, audiencias del Congreso, artículos académicos e incluso en discursos de autoridades. Ahora se le atribuye todo al algoritmo. Pero hay algo que no cuadra desde un punto de vista lógico.

La digitalización de la vida cotidiana ha transformado los programas informáticos en árbitros invisibles de decisiones importantes: otorgar crédito, ofrecer empleo, mostrar contenido, publicidad dirigida, vigilancia, vigilancia predictiva y análisis del consumidor. Esto es real, concreto y tiene un enorme impacto social.

Esta centralidad abrió espacio para un debate necesario sobre el poder, el control, la discriminación y la manipulación de las conductas. El problema surge cuando este debate abandona el rigor conceptual y empieza a tratar los términos técnicos como si fueran meras figuras retóricas. El «algoritmo» se ha convertido en una entidad casi mística: decide, juzga, castiga, discrimina, se equivoca, manipula, como si tuviera voluntad propia. Este uso descuidado no es inocente. Oculta las verdaderas responsabilidades y desvía la atención del problema.

Decir que "el algoritmo tiene sesgo" es, en sentido estrictamente lógico, una contradicción. El sesgo es desviación. Un algoritmo, en sentido estricto, es invariancia.

Si un procedimiento varía según intereses humanos, preferencias políticas, objetivos ideológicos o criterios arbitrarios, deja de ser un algoritmo propiamente dicho. Se convierte en algo más: un modelo estadístico, un clasificador probabilístico, un sistema de puntuación, un filtro de decisión. Lo que realmente existe es: sesgo en los datos de entrada, sesgo en los criterios elegidos, sesgo en la función objetivo y sesgo en la interpretación del resultado. Pero no existe el "sesgo algorítmico" en el sentido estrictamente técnico. Un algoritmo es un procedimiento formal, finito, inequívoco y general que, siempre que se aplica al mismo tipo de problema, produce necesariamente el mismo resultado verdadero.

La adicción a la cocina "estilo receta"

Existe otro error conceptual, tan frecuente como persistente, practicado precisamente por quienes afirman conocer el tema: la insistencia en decir que «una receta de pastel es un algoritmo». Este ejemplo se repite hasta la saciedad en aulas, conferencias, manuales introductorios y reportajes periodísticos, como si fuera una prueba evidente. No lo es.

Una receta de pastel no es un algoritmo en sentido estricto por una sencilla razón: no conserva la invariancia. Pequeñas variaciones de tiempo, temperatura, humedad, orden de mezcla o incluso las materias primas producen resultados físicamente diferentes. El resultado puede ser mejor, peor, denso, quemado o simplemente otra exquisitez. El resultado no es matemáticamente único. En un algoritmo auténtico, esto es inconcebible. Si dos personas calculan el determinante de una matriz utilizando métodos diferentes, el valor final debe ser exactamente el mismo. Si no lo es, alguien cometió un error. Si dos personas extraen la raíz cuadrada de un número utilizando procesos diferentes, el límite numérico es el mismo. De lo contrario, no estamos tratando con matemáticas, sino con una aproximación defectuosa.

Una receta de pastel es un procedimiento empírico. Un algoritmo es un objeto formal. Confundir ambos es confundir la artesanía con la ley matemática. Y esta falla conceptual ha contaminado el debate público hasta el punto de atribuir a los algoritmos propiedades que solo pertenecen a las decisiones humanas.

Reglas de negocio: dónde residen las decisiones humanas

Aquí es donde entra en juego la distinción fundamental que a menudo se pierde en el debate público: las reglas de negocio. Una regla de negocio es la expresión formal de un interés humano objetivo: qué maximizar, qué minimizar, qué descartar, qué preservar. El algoritmo no define fines. Solo ejecuta medios.

Una regla de negocio puede basarse en uno, varios o ninguno de los algoritmos. Y el mismo algoritmo puede servir a intereses completamente diferentes, incluso opuestos. Ahí es precisamente donde reside la diferencia entre la neutralidad matemática y la intencionalidad humana.

Un ejemplo del mundo real: ganado vacuno, cuatro reglas, un único algoritmo.

Daré un ejemplo concreto de uso profesional en un sistema ERP para la evaluación de un hato de ganado vacuno. El objetivo empresarial era claro: maximizar la producción de carne por unidad de tiempo y por animal. A partir de este objetivo, se definieron cuatro reglas de negocio:

Regla 1 – Cuanto mayor sea el aumento de peso total del animal, mejor.

Regla 2 – Cuanto mayor sea el aumento de peso diario, mayor será el interés en mantenerlo en la propiedad.

Regla 3 – Cuanto peor sea el rendimiento según las reglas 1 y 2, mayor será la necesidad de descartarlo.

Regla 4: El criterio de descarte sería estadístico. El algoritmo utilizado fue único: el cálculo de la media y la desviación típica de la ganancia de peso dentro de un rebaño homogéneo. Los animales cuya ganancia de peso fue inferior a la media menos la desviación típica se clasificaron automáticamente como candidatos para el descarte.

El modelo contenía cuatro reglas de negocio, un único algoritmo, y este no tomaba ninguna decisión. Solo realizaba un cálculo matemático objetivo. Lo que determinaba quién se marchaba, quién se quedaba, quién era bueno o malo no era el algoritmo, sino las reglas de negocio.

Conclusión

Si un procedimiento modifica su resultado según intereses, conveniencia o presiones externas, puede ser un sistema, una regla, un filtro, un clasificador o un modelo. Pero no es un algoritmo en sentido estricto.

El verdadero algoritmo es aquel que preserva la verdad formal, independientemente de la voluntad del usuario. Llamar "sesgo algorítmico" a lo que en realidad es sesgo humano disfrazado de técnica no solo genera confusión, sino que también desvía el debate de donde realmente debería centrarse: en las decisiones políticas, económicas y morales de quienes programan, financian, implementan y explotan estos sistemas.