Armas de destrucción matemática, de Cathy O’Neil

La mine­ría de datos y su capi­ta­li­za­ción son el nuevo para­digma de una inter­net donde una mayo­ría de usua­rios hemos acep­tado conver­tir­nos en el producto. Una trans­ac­ción toda­vía más demen­cial cuando se consi­dera el enigma de cuál es la infor­ma­ción que se está utili­zando y el desco­no­ci­mi­ento de lo que se hace con ella, más allá del eslo­gan puesto una y otra vez en cues­tión de « ofre­cer publi­ci­dad rele­vante ». Dispu­esto a conju­rar dudas me acer­qué a Armas de destruc­ción matemá­tica, un libro donde Cathy O’Neil parte de su expe­ri­en­cia en la crea­ción de algo­rit­mos para tratar sus entre­si­jos y cuándo termi­nan trans­formán­dose en lo que deno­mina « armas de destruc­ción matemá­tica » (ADM). Una etiqueta en apari­en­cia alar­mista que lo parece menos cuando, capí­tulo a capí­tulo, O’Neil revela cómo el sesgo detrás del trata­mi­ento de la infor­ma­ción afecta a multi­tud de cues­ti­o­nes ocul­tas.

Los proce­sos de selec­ción de perso­nal de las gran­des empre­sas, las condi­ci­o­nes para conse­guir un crédito banca­rio, los siste­mas de repu­ta­ción perso­nal para fijar senten­cias judi­ci­a­les o el uso de publi­ci­dad segmen­tada en las redes soci­a­les son algu­nos de los temas que la escri­tora utiliza para aflo­rar las conse­cu­en­cias de unos algo­rit­mos que se están haci­endo con el control de nues­tras vidas. Todo hay que decirlo, desde una pers­pec­tiva eminen­te­mente esta­dou­ni­dense. De ahí que muchos aspec­tos deban tomarse más como admo­ni­to­rios; una conse­cu­en­cia de conti­nuar cedi­endo al ámbito de lo privado parce­las que en España se manti­e­nen en la esfera de lo público.

Para deli­mi­tar si un algo­ritmo es una buena herra­mi­enta o una ADM, un proceso que refu­erza prejui­cios y afianza su propio éxito a costa de hundir a los agra­vi­a­dos, O’Neil se apoya en tres crite­rios: la escala a la cuál se aplica, la opaci­dad y la reali­men­ta­ción. Este método recur­rente cohe­si­ona su visión y dota de conti­nui­dad a los dife­ren­tes apar­ta­dos del texto. Desde un punto muy perso­nal, uno de los capí­tu­los más sangran­tes abarca la evalu­a­ción docente en la educa­ción obli­ga­to­ria. Uno de los gran­des défi­cits de nues­tro sistema educa­tivo que, sin embargo, no se ve some­tido a multi­tud de siste­mas chapu­ce­ros preten­di­da­mente obje­ti­vos; ponen la labor de exce­len­tes profe­si­o­na­les en duda porque no cumplen unos están­da­res ocul­tos que despre­cian por completo la función docente y que se reve­lan toda­vía más absur­dos cuando sus entrañas quedan expu­es­tas a la luz pública tras la conve­ni­ente demanda judi­cial.

La expo­si­ción de O’Neil es clara, está bien compar­ti­men­tada y manti­ene un tono más colo­quial que acadé­mico. En varias ocasi­o­nes la redac­ción se enfoca desde una pers­pec­tiva más perso­nal de lo habi­tual dada la impli­ca­ción de la autora en dife­ren­tes campos de la crea­ción y análi­sis de algo­rit­mos durante la prác­tica tota­li­dad de su vida labo­ral. Echo en falta más rigor a la hora de citar las fuen­tes (unas veces se hace; dema­si­a­das no), y algún índice onomás­tico que permita encon­trar con más faci­li­dad algu­nos temas trata­dos. Como vengo seña­lando en los últi­mos libros de no ficción que voy comen­tando, un mal bastante exten­dido entre nues­tras edito­ri­a­les salvo honro­sas excep­ci­o­nes. También me hubi­era gustado una mayor ampli­tud a la hora de tratar las solu­ci­o­nes, más allá unas cuan­tas apor­ta­ci­o­nes meti­das con calza­dor entre las conclu­si­o­nes. Aunque esto quizás se aleja del propó­sito de un texto cuya función está más próxima a hacer sonar la alarma y, parci­al­mente, suge­rir un método de diag­nós­tico.

Leí Armas de destruc­ción matemá­tica las pasa­das navi­da­des y no había escrito nada sobre él hasta que la estra­te­gia de Corea del Sur contra el COVID-19 se convir­tió en el modelo a seguir de las demo­cra­cias occi­den­ta­les. Ahora que la deses­ca­lada ocupa el discurso polí­tico, la geolo­ca­li­za­ción y las inter­ac­ci­o­nes que has podido mante­ner durante las sema­nas previas son cues­ti­o­nes estre­lla. Fue hace dos sema­nas cuando Grande-Marlaska lo avanzó en una rueda de pren­sa… y servi­dor se cagó por la pata para abajo. No porque no lo vea nece­sa­rio. Some­ter los algo­rit­mos al escru­ti­nio público, ver cómo se han cons­truido y cómo se están apli­cando, en defi­ni­tiva, solven­tar el problema en la base de toda ADM tal y como la expone Cathy O’Neil, entra en conflicto con la nula cultura de la trans­pa­ren­cia de la admi­nis­tra­ción española. A lo que se une la cola­bo­ra­ción con unas empre­sas priva­das que ya han demos­trado el uso que hacen de esta infor­ma­ción. No se puede negar que, indi­vi­du­al­mente y como soci­e­dad, hemos descui­dado su uso y protec­ción. Pero, inde­pen­di­en­te­mente de la grave­dad del momento, este nuevo mundo en el que nos vamos a conver­tir no debe­ría supo­ner un paso adelante para trans­for­mar­nos en China. O en una de las dos ater­ra­do­ras disto­pías con las que Lionel Shri­ver cerraba Los Mandi­ble.

Armas de destruc­ción matemá­tica (Capitán Swing, col. Ensayo, 2018)

Weapons of Math Destruc­tion (2016)

Traduc­ción: Violeta Arranz de la Torre

Tapa blanda. 352pp. 19 €

Ficha en la web de la edito­rial