Els algorismes per a la presa de decisions automatitzada (ADM) ja s’utilitzen àmpliament en tota Europa, però la manera en com s’usen i controlen difereix d’un país a un altre. En l’Informe: “Automatitzant la societat: Balanç dels algorismes de presa de decisions automatitzada a la UE”, les organitzacions AlgorithmWatch i Bertelsmann Stiftung avaluen una àmplia varietat d’usos, assenyalen les bretxes reglamentàries i suggereixen una millor coordinació europea sobre el tema. Aquesta és la primera vegada que es realitza una recerca d’aquestes característiques.

Fer un perfil dels sol·licitants d’ocupació en funció del contingut de les seves bústies de correu electrònic personals a Finlàndia; decidir quins pacients reben tractament en el sistema de salut pública a Itàlia; classificar als aturats a Polònia; identificar automàticament als nens vulnerables a Dinamarca; detectar frau d’assistència social als Països Baixos o utilitzar sistemes de puntuació de crèdit formen part de la gamma d’aplicacions dels ADM que ja es fan servir.

Aquest tipus d’algorismes els trobem en gairebé tots els aspectes de la vida diària i es continuen ampliant. Molts d’ells poden brindar valuosos beneficis als ciutadans, però també presenten riscos de discriminació injusta, monitoratge intrusiu o augment de la desigualtat. Per als responsables de la presa de decisions polítiques és gairebé impossible fer un seguiment de quins sistemes s’utilitzen, on i amb quines finalitats.

En la Comissió i el Parlament Europeu -així com en els Estats membres- hi ha un debat actiu sobre les qüestions plantejades pels ADM. La discussió se centra principalment en els criteris per a avaluar aquests sistemes, és a dir, les pautes ètiques. I és benvinguda. Però al mateix temps, és crucial assenyalar l’evidència dels usos concrets de la presa de decisions automatitzada per a desenvolupar idees realistes i viables per afrontar el repte que tenim al davant.

L’informe Automating Society presenta més de 60 exemples de 12 països, així com una descripció general de les parts interessades rellevants i el debat polític centrat en l’ADM.

Des d’Algorithm Watch se’m va encarregar la redacció del capítol corresponent a Espanya. Per la seva elaboració m’he basat en documentació publicada, en l’opinió d’experts en intel·ligència artificial, així com entrevistes a investigadors i empresaris que estan aplicant-la per donar serveis o crear nous productes.

Els països enquestats en l’informe enfronten el repte dels ADM de maneres ben diverses:

• • Fons
    Mentre que a Espanya (PIB 1,437 Bn. USD), el govern distribueix només* 4 milions d’euros a través del programa Activa Industry 4.0 per donar suport a 400 empreses a “avançar en la seva transformació digital i millorar la seva competitivitat mitjançant l’adopció de noves tecnologies habilitadores”; a Suècia (PIB 276). Bn. USD) una sola fundació privada va atorgar 100 milions d’euros a dues universitats a través del “Programa de Programari i Sistemes Autònoms de Wallenberg” per a desenvolupar l’aprenentatge automàtic, la intel·ligència artificial i l’aparell matemàtic darrere d’ells.

    * A finals de 2018, el Ministeri d’Educació, Cultura i Esport va anunciar una nova estratègia espanyola de Ciència, Tecnologia i Innovació amb tres eixos estratègics, un d’ells destinat a la IA. Però la dotació pressupostària es desconeix encara i no començaria a aplicar-se fins al 2021.

  • Comissions d’experts, activitats de la societat civil
    A Alemanya i el Regne Unit, a més d’una sèrie de comissions governamentals i parlamentàries, les autoritats de protecció de dades, les associacions empresarials i les ONG estudien les conseqüències d’ADM. En països com Polònia, Eslovènia o Itàlia, els sistemes automatitzats de presa de decisions s’utilitzen en la pràctica, però són gairebé invisibles en el debat polític.
  • Legislació i vigilància
    A França, una llei obliga a totes les branques del govern a fer els seus algorismes transparents, però cap compleix. A Finlàndia, el Defensor del Poble contra la Discriminació va presentar un cas davant un tribunal que va prohibir a una empresa utilitzar un determinat model de qualificació creditícia perquè el tribunal el va considerar discriminatori i va amenaçar amb una multa de 100.000 euros per incompliment.

L’informe mostra, per primera vegada, l’omnipresència dels sistemes ADM, i revela el variat i inconsistents que són els esforços per a tractar-los en diferents països. Els responsables de polítiques públiques i la societat civil han d’aprofitar l’oportunitat d’aquests resultats per a comparar la situació dels seus països amb uns altres, i posar els seus enfocaments a prova.

“Les idees de ‘super inteligència artificial’ creades per màquines estan de moda en aquest moment, però són pràcticament irrellevants”, diu Matthias Spielkamp, director executiu d’AlgorithmWatch i editor de l’informe. “Però és crucial entendre els desafiaments actuals de les nostres societats, com l”anàlisi predictiva’ utilitzada per a pronosticar el comportament humà, ja sigui en eleccions, activitats delictives o de menors. Necessitem urgentment assegurar que les nostres institucions, reglaments i procediments de supervisió són eficaces en aquests desafiaments “.

Respecte a les recomanacions de l’informe, Ralph Müller-*Eiselt, director de BertelsmannStiftung, argumenta que “per a tancar la bretxa política entre els Estats membres de la UE, Europa necessita unir forces i parlar amb una sola veu quan es tracta d’establir estàndards per a la presa de decisions automatitzada: ‘Es una necessitat particular en l’apoderament de l’administració pública’. Per últim, les administracions necessiten posar-se al dia i adaptar-se a aquests nous desafiaments de polítiques per posar la nova tecnologia al servei de la societat“, conclou el director de Bertelsmann Stiftung.

L’informe complet està disponible en línia aquí: http://www.algorithmwatch.org/automating-society

— La recerca i publicació de l’informe va rebre suport en part d’una subvenció de
OpenSociety Foundations—