Entrada, Proceso, Salida: la ley que la IA no ha derogado

Categoría: Historia y perspectiva

1975

Empecé en esto en 1975, en el Departamento de Proceso de Datos de Ford España. No había ordenadores personales, ni pantallas a color, ni nada remotamente parecido a lo que hoy entendemos por tecnología. Había tarjetas perforadas, cintas magnéticas y una regla que, con los años, comprendí que no iba a cambiar jamás: Entrada → Proceso → Salida.

Da igual lo sofisticado que sea el proceso. Si la entrada es errónea, la salida también lo será. Un error en la filosofía contable o financiera de una empresa no lo corrige el mejor algoritmo que se pueda diseñar. Esto, que hoy suena casi ingenuo de tan obvio, era ya una lección dura de aprender en 1975 — y sigue siéndolo hoy, cincuenta años después, con la inteligencia artificial.

Lo que aprendí montando un Centro de Cálculo desde cero

En 1993 dejé Ford para incorporarme a una universidad privada, donde monté su Centro de Cálculo desde cero: presupuesto, planificación, diseño técnico, previsión de futuro. No había un solo ordenador cuando empecé. Y en todos esos años, la lección de la entrada errónea se repitió una y otra vez, en contextos distintos pero con el mismo patrón: alguien confiaba en que el sistema "arreglaría" un dato mal introducido, mal clasificado o mal entendido desde el origen. Nunca lo hacía. En el mejor de los casos, el sistema fallaba de forma visible. En el peor, producía un resultado que parecía correcto — y eso era mucho más peligroso.

El mismo patrón, cincuenta años después

Hoy ese peligro tiene un nombre técnico que en mi época no existía: GIGO, garbage in, garbage out. Y tiene, además, un disfraz nuevo. La diferencia es que ahora el "proceso" —la inteligencia artificial— es tan impresionante en su forma de presentar resultados que resulta fácil olvidar que sigue dependiendo, igual que cualquier programa de 1975, de lo que entra por la puerta.

Algunos ejemplos documentados ilustran esto mejor que cualquier teoría:

Amazon y su herramienta de reclutamiento (2018). Amazon descartó una herramienta de IA para selección de personal al descubrir que penalizaba currículos que contenían palabras como "mujeres" y rebajaba la puntuación de graduadas de universidades exclusivamente femeninas. El algoritmo no era "sexista" por diseño — había sido entrenado con datos históricos de contratación que favorecían mayoritariamente a candidatos hombres, y simplemente aprendió a reproducir ese sesgo con total eficiencia. Entrada defectuosa, salida defectuosa — exactamente como en 1975, solo que ahora a una escala mucho mayor.

IBM Watson for Oncology. Uno de los casos más caros de la historia reciente de la IA. Según documentación interna revelada por el medio StatNews, Watson daba con frecuencia recomendaciones erróneas de tratamiento oncológico, como sugerir medicación con riesgo de hemorragia a pacientes con sangrado severo, porque sus datos de entrenamiento incluían un número reducido de casos hipotéticos en lugar de pacientes reales. El proyecto, según un informe de la Universidad de Texas, costó 62 millones de dólares sin resultados aprovechables. No fue un fallo del "proceso" de IA — fue un fallo de entrada, exactamente igual que un dato contable mal introducido, solo que con consecuencias médicas.

Zillow Offers. Entre 2018 y 2021, la inmobiliaria compró 27.000 viviendas basándose en estimaciones automáticas de precio, pero solo consiguió vender 17.000, generando pérdidas significativas. El algoritmo asumía patrones de mercado que dejaron de cumplirse; su "entrada" —el histórico de precios— ya no representaba la realidad, y ningún refinamiento del modelo pudo compensarlo.

El algoritmo sanitario de gestión de riesgo (2019). Quizás el ejemplo más inquietante. Un estudio publicado en la revista Science reveló que un algoritmo usado por hospitales y aseguradoras estadounidenses para identificar pacientes que necesitaban programas de atención de alto riesgo era mucho menos propenso a señalar a pacientes negros que a pacientes blancos con necesidades clínicas equivalentes. El sesgo no estaba en el "proceso" del algoritmo, sino en cómo se había definido la propia variable de entrada: el gasto sanitario histórico, que ya reflejaba desigualdades previas de acceso a la atención médica.

La lección que no ha cambiado

En los cuatro casos, la tentación es la misma que ya veía en los años setenta: culpar al proceso, exigir un algoritmo "mejor", más potente, más avanzado. Y en los cuatro casos, la causa real estaba un paso antes — en qué datos se introdujeron, cómo se recogieron, qué sesgos arrastraban antes incluso de tocar una sola línea de código.

Esto no es una crítica a la inteligencia artificial. Es un recordatorio de algo que llevo repitiendo desde que era joven y que la potencia de cálculo de hoy no ha derogado ni un ápice: la tecnología no corrige errores de origen, los amplifica. Cuanto más sofisticado es el proceso, más convincente resulta el error final — y más caro sale descubrirlo tarde.

Quien diseña sistemas de IA hoy haría bien en preguntarse, antes que nada, lo que cualquier operador de Centro de Cálculo se preguntaba en 1975: ¿de dónde viene este dato, y puedo confiar en él? La pregunta no ha cambiado. Solo ha cambiado lo rápido y lo convincente que es el error si la respuesta es que no.