Ya las máquinas están entre nosotros. Sólo que no como lo habríamos pensado. O, por lo menos, no como Arnold nos lo hizo temer en su momento.
Su presencia es más sutil, pero es mucho más perniciosa. A diferencia de Arnold, no cargan las armas al hombro, sino que están dentro de ellas mismas, integradas en su propio código. Como si fueran una bomba de tiempo. O un arma de destrucción matemática, cuyas ondas expansivas corren el riesgo de afectar y dejar heridos a miles a su alcance.
Por eso el título de este libro. Aunque debo decir, de entrada, que el nombre en español no le hace justicia al sabio juego de palabras con el que titularon la edición original, que entreteje el sonido similar entre “matemática” (math) y masiva (mass) en inglés para dejar claro el peligro que puede entrañar este ascenso de las máquinas en diversos aspectos de nuestras vidas. Pero no importa, porque m[as all[a del sentido de las palabras, el libro de Cathy O’Neil (cuyo blog pueden leer aquí y quien además tiene una charla TED) no deja de ser aleccionador acerca de la clase de futuro que nos espera en este cambio de régimen.
El libro sigue a grandes rasgos la experiencia profesional de la autora. En particular, se enfoca en su paso de la academia al mundo financiero y de los negocios, justo antes de la crisis de 2.008. A partir de las reflexiones que hizo en ese momento, y su experiencia particular con los algoritmos, O’Neil comienza a analizar para el lector todas las áreas en las que los algoritmos están comenzando a tener incumbencia: selección de personal, prisiones, educación, asignación de créditos…hasta la democracia, de cuenta de los desastres cometidos por Cambridge Analytica, que fueron analizados en el documental The Social Dilemma, en el cual también participó la autora.
Ahora bien, es posible pensar que, siendo O’Neil una matemática (y tratándose de algoritmos), el libro va a ser denso, o va a contener fórmulas matemáticas, o va a tener una narrativa difícil. Nada más lejos de la realidad. O’Neil es directa, es concisa, no usa una sola fórmula matemática (sí explica algunos conceptos, pero lo hace de forma sencilla) y es una excelente divulgadora de su campo de acción, y de activismo.
En ningún momento sentí las ganas de dejar el libro, ni sentí que éste estuviera por fuera de mi alcance. Al contrario: la autora se esfuerza en que lectores legos -como yo- sepamos y entendamos en toda su magnitud el dilema ético que implica correr algoritmos, y el sentido de responsabilidad social que debería emanar de los científicos de datos. Y que infortunadamente se encuentra constreñido por necesidades de la industria antes que por la consideración de externalidades y del impacto que un código viciado puede tener sobre la vida de seres humanos de carne y hueso.
En fin…es un libro que te abre los ojos. Que necesitas leer pausadamente para poder asimilar los nuevos conocimientos que adquieres. Para comprenderlo, e irse forjando una opinión sobre esta nueva Revolución Industrial que estamos viviendo. Sólo que esta vez los motores no son de vapor, sino que son de código, como diría la misma O’Neil. Y que por eso, antes de permitir que estos motores produzcan lesiones, hay que diseñarlos de forma tal que sean menos eficientes de lo que querríamos, pero que tal vez nos hagan menos infelices como colectivo y, sobre todo, nos hagan sentir que usamos herramientas, no que combatimos gigantes.
Through the looking glass 
Pingback: Una arruga en el tiempo (A wrinkle in time): aplica para ir al cine y para leer el clásico original. | Through the looking glass