Els algorismes per a la presa de decisions automatitzada (ADM) ja s’utilitzen àmpliament en tota Europa, però la manera en com s’usen i controlen difereix d’un país a un altre. En l’Informe: “Automatitzant la societat: Balanç dels algorismes de presa de decisions automatitzada a la UE”, les organitzacions AlgorithmWatch i Bertelsmann Stiftung avaluen una àmplia varietat d’usos, assenyalen les bretxes reglamentàries i suggereixen una millor coordinació europea sobre el tema. Aquesta és la primera vegada que es realitza una recerca d’aquestes característiques.
Fer un perfil dels sol·licitants d’ocupació en funció del contingut de les seves bústies de correu electrònic personals a Finlàndia; decidir quins pacients reben tractament en el sistema de salut pública a Itàlia; classificar als aturats a Polònia; identificar automàticament als nens vulnerables a Dinamarca; detectar frau d’assistència social als Països Baixos o utilitzar sistemes de puntuació de crèdit formen part de la gamma d’aplicacions dels ADM que ja es fan servir.

Els països enquestats en l’informe enfronten el repte dels ADM de maneres ben diverses:
-
- Fons
Mentre que a Espanya (PIB 1,437 Bn. USD), el govern distribueix només* 4 milions d’euros a través del programa Activa Industry 4.0 per donar suport a 400 empreses a “avançar en la seva transformació digital i millorar la seva competitivitat mitjançant l’adopció de noves tecnologies habilitadores”; a Suècia (PIB 276). Bn. USD) una sola fundació privada va atorgar 100 milions d’euros a dues universitats a través del “Programa de Programari i Sistemes Autònoms de Wallenberg” per a desenvolupar l’aprenentatge automàtic, la intel·ligència artificial i l’aparell matemàtic darrere d’ells.* A finals de 2018, el Ministeri d’Educació, Cultura i Esport va anunciar una nova estratègia espanyola de Ciència, Tecnologia i Innovació amb tres eixos estratègics, un d’ells destinat a la IA. Però la dotació pressupostària es desconeix encara i no començaria a aplicar-se fins al 2021.
- Comissions d’experts, activitats de la societat civil
A Alemanya i el Regne Unit, a més d’una sèrie de comissions governamentals i parlamentàries, les autoritats de protecció de dades, les associacions empresarials i les ONG estudien les conseqüències d’ADM. En països com Polònia, Eslovènia o Itàlia, els sistemes automatitzats de presa de decisions s’utilitzen en la pràctica, però són gairebé invisibles en el debat polític. - Legislació i vigilància
A França, una llei obliga a totes les branques del govern a fer els seus algorismes transparents, però cap compleix. A Finlàndia, el Defensor del Poble contra la Discriminació va presentar un cas davant un tribunal que va prohibir a una empresa utilitzar un determinat model de qualificació creditícia perquè el tribunal el va considerar discriminatori i va amenaçar amb una multa de 100.000 euros per incompliment.
- Fons
L’informe mostra, per primera vegada, l’omnipresència dels sistemes ADM, i revela el variat i inconsistents que són els esforços per a tractar-los en diferents països. Els responsables de polítiques públiques i la societat civil han d’aprofitar l’oportunitat d’aquests resultats per a comparar la situació dels seus països amb uns altres, i posar els seus enfocaments a prova.
“Les idees de ‘super inteligència artificial’ creades per màquines estan de moda en aquest moment, però són pràcticament irrellevants”, diu Matthias Spielkamp, director executiu d’AlgorithmWatch i editor de l’informe. “Però és crucial entendre els desafiaments actuals de les nostres societats, com l”anàlisi predictiva’ utilitzada per a pronosticar el comportament humà, ja sigui en eleccions, activitats delictives o de menors. Necessitem urgentment assegurar que les nostres institucions, reglaments i procediments de supervisió són eficaces en aquests desafiaments “.
Respecte a les recomanacions de l’informe, Ralph Müller-*Eiselt, director de BertelsmannStiftung, argumenta que “per a tancar la bretxa política entre els Estats membres de la UE, Europa necessita unir forces i parlar amb una sola veu quan es tracta d’establir estàndards per a la presa de decisions automatitzada: ‘Es una necessitat particular en l’apoderament de l’administració pública’. Per últim, les administracions necessiten posar-se al dia i adaptar-se a aquests nous desafiaments de polítiques per posar la nova tecnologia al servei de la societat“, conclou el director de Bertelsmann Stiftung.
L’informe complet està disponible en línia aquí: http://www.algorithmwatch.org/automating-society
— La recerca i publicació de l’informe va rebre suport en part d’una subvenció de
OpenSociety Foundations—
There are 0 comments