Articles Intel·ligència Artificial
Estònia, paradigma de societat digital
2 d'octubre de 2021
0
, , , , , , , ,

(Article publicat a la revista Eines. Novembre 2020)

Que ha fet que un petit país bàltic aconsegueixi atraure a líders polítics, empreses de capital risc i acadèmics de tot el món sense tenir un gran potencial econòmic, ni militar, ni turístic? Fa vint anys que el govern estonià va fer una aposta estratègica i va promoure la tecnologia com cap altre estat europeu s’ha atrevit a fer fi ns ara. Té una fórmula per a una bona societat digitalitzada. Pròxim objectiu: la Intel·ligència Artificial

Aleksandra —nom fictici— és una jove estoniana de 35 anys, que de la manera més natural es mou digitalment per fer totes les activitats i gestions previstes en el seu dia a dia. Entra des de qualsevol ordinador, introdueix el codi secret de la seva «id-card» i revisa la informació que el govern té d’ella.

La plataforma governamental XRoad inicia el procés de desxifrat, comprova la seva identitat i li retorn

a dades personals: telèfon, correu-e, domicili, registre de propietats, vida laboral, l’històric d’infraccions de trànsit i l’assegurança del seu vehicle, entre moltes altres dades. També li mostra els impostos pagats i, si en tingués, els deutes fi scals. Pot veure el seu expedient acadèmic i li indica que s’acaba de matricular per cursar el doctorat de Medicina a la Tallinna Ülikool (TÜ) [Universitat de Tallinn]. Per compartir certa informació personal, se li aplica descompte d’estudiant quan compra entrades per a espectacles culturals. Apareix també la informació dels seus dos gossos, i el registre de vacunes.

La nostra jove amiga —com la resta d’estonians— confia plenament en la XRoad que transporta tota aquesta informació confidencial. Ella sap que enllaça a routers descentralitzats i encriptats. Les seves dades estan segures amb la tecnologia blockchain1 i disponibles, en servidors locals, les 24 hores de cada dia de la setmana. Avui té visita amb un nou metge: no durà l’històric d’analítiques perquè el sistema ja li ha facilitat al doctor. Ha concedit certa informació al banc, preseleccionada amb el sistema de filtratge d’XRoad. Sap que qualsevol funcionari públic que accedeixi a les seves dades sense el seu permís serà qüestionat i processat judicialment.

Edgar Savisaar (1950) —alcalde de Tallinn

Edgar Savisaar (1950) —alcalde de Tallinn

Aleksandra té una estona lliure ara i la curiositat la porta a veure el registre de propietats d’Edgar Savisaar (1950) —alcalde de Tallinn durant diferents períodes. El sistema li retorna una fotografia satel·lital i la ubicació exacta de la segona residència que té molt a prop del mar, l’extensió i altres detalls de la finca. A Estònia aquesta informació és pública, a disposició de tothom amb un sol clic. Li arriba un missatge del seu amic ucraïnès Bohdan, que vol fer-se resident estonià. Li explica que en deu minuts pot tenir el tràmit a distància i que només haurà de pagar 100 euros per obtenir les credencials del país.

Aleksandra troba normal el funcionament del seu país: és àgil, totes les dades estan centralitzades, no necessita presentar documentació davant de cap administració pública, hospital, universitat o biblioteca perquè tot està interconnectat. En els tribunals, els jutges estan equipats amb ordinador per consultar els expedients que la policia inclou al sistema directament. I molts judicis es fan amb sistema telemàtic. I tot això a un sol clic. L’aposta d’Estònia per la digitalització no s’atura. Ja fa uns anys, que el govern està explicant els avantatges de la Intel·ligència Artifi cial (IA) a la població i Aleksandra troba que guanyaran en efi ciència i temps quan es pugui aprofi tar més el seu potencial.

Estònia va ser el primer país a considerar internet com un dret humà i el primer a permetre el vot electrònic

Una visió de país

Estònia és un país petit (45,000 kms2 ) —una extensió una mica més gran desembre 2020 | eines 39 | 49 Estònia va ser el primer país a considerar internet com un dret humà i el primer a permetre el vot electrònic que la de Catalunya—, situat entre Letònia i Rússia, amb només 1,3 milions d’habitants. Té un dels nivells més elevats de renda per càpita de la regió del mar Bàltic. L’economia estoniana es basa un 67% en serveis, 28% procedeix de la indústria i només un 5% del sector primari, incloent-hi l’agricultura. La seva peculiaritat rau a ser un dels països més digitalitzats del món.

Fa dues dècades, el govern va desplegar massivament solucions tecnològiques en tots els àmbits de la societat: educació, entorns laborals, salut, banca i, en especial, en ciberseguretat. Va ser el primer país, al 2001, a considerar l’accés a internet com un dret humà, i al 2005 en permetre el vot electrònic en unes eleccions locals. Va ser també el primer govern en aplicar la tecnologia blockchain a escala nacional al 2008, i sis anys després a concedir l‘«e-residence» de manera universal, un servei que permet a qualsevol persona del món establir negocis a Estònia a distància. Tota la ciutadania té una identificació digital —idcard— i paga els impostos online.

Els èxits primerencs del comerç electrònic i la banca a distància van fer possible l’adopció massiva de la digitalització. Avui el 99% dels serveis públics són digitals i estan operatius els 365 dies de l’any. A tota societat digital li cal una columna vertebral, un mecanisme des del qual coordinar i manegar infi nites operacions en temps real i moure els terabytes d’informació, derivats de tanta interacció ciutadana, empresarial i personal. La XRoad —o carretera principal des de la qual s’intercanvien dades entre agències governamentals— permet que els serveis públics estiguin disponibles des d’un únic punt, accedir a múltiples bases de dades i intercanviar documents de manera segura. El sector privat també pot fer consultes i obtenir dades de la ciutadania. Cada any, circulen per la XRoad gairebé 1.000 milions de consultes.

El govern ha estimat que el seu ús ha permès estalviar fins a 840 anys de temps de treball, el qual resulta sorprenent. L’intercanvi de dades, a més, des del 2018 és transfronterer per un acord de col·laboració amb Finlàndia. Tal com expliquen, la fórmula per digitalitzar el seu país es basa en tres punts claus:

1) Digitalitzar tota la informació de l’administració pública

2) Crear la plataforma XRoad per connectar el sector públic i el privat.

3) Dotar la ciutadania d’un canal segur per accedir als serveis on les seves dades estiguessin 100% protegides, a més d’acreditar-los amb una identitat i signatura digital per interoperar amb qualsevol gestió amb l’administració o una empresa.

El govern estonià facilita a la ciutadania el que en altres països només s’ofereix des del sector privat

«Calia modernitzar-se»

Prenent per bona la fórmula de la digitalització… Com es passa d’un estat soviètic burocratitzat a una societat completament digital? I com s’aconsegueix que la població —sense importar l’edat, el nivell de vida o la classe social— s’adapti a tanta innovació i consum tecnològic després d’haver viscut mig segle en un sistema comunista?

La presidenta Kersti Kaljulaid

La història d’Estònia ens fa recordar que l’imperi rus ha conquerit aquest país cinc vegades des de l’Edat Mitjana fi ns avui. L’última entre 1940 i 1991, any que recuperà la seva independència. «Quan vam independitzar-nos el 1991, érem un país relativament pobre. Calia modernitzar el govern i reactivar l’economia, però el pressupost era escàs. L’única sortida era apostar per solucions digitals», explica l’actual presidenta estoniana , Kersti Kaljulaid (1969), una dona que té l’honor de ser la política més jove que ha ostentat el càrrec, amb només 46 anys quan va ser escollida el 2016. Kaljulaid relata que la clau perquè la població aculli un govern digital és generar confiança. 

«La confiança s’aconsegueix creant eines tecnològiques robustes i espai legal per reforçar els drets bàsics. L’Estat ha de prometre —i complir— que la informació de les persones estarà segura a internet», continua. «Els infants i joves han crescut amb un sistema escolar digital —e-school— i els adults consulten al doctor telemàticament sense problemes —e-health. Com a govern, facilitem a la ciutadania el que en altres països només s’ofereix des del sector privat», afegeix Kaljulaid, de la qual s’ha arribat a dir que dirigeix el país com una empresa de tecnologia.

Estònia ha rebut des del 2009 més de 65 mil visitants per aprendre de la seva experiència —líders polítics, governants, empresaris, delegacions nacionals, experts en tecnologia— procedents de 130 països.

El recorregut tecnològic d’aquest país durant els darrers 20 anys també ha permès fer front a la pandèmia de la Covid-19 durant els primers mesos del 2020 amb més agilitat que els seus veïns europeus. No perquè hagin creat una tecnologia revolucionària per controlar millor els contagis —les xifres eren semblants a altres països— sinó que tal com exposa l’antic president Toomas Hendrik Ilves (1953), «el govern i els seus habitants no s’han paralitzat davant de l’aïllament físic. En aquest país es pot fer gairebé tot online, a excepció de casar-se, divorciar-se i fer una transferència de propietat».

El nou repte per aquesta societat digital és explotar en profunditat la IA i tot el seu potencial. Estònia —tot i comptar amb menys recursos que els països nòrdics o potències com ara Alemanya o l’Estat francès— se situa al mateix nivell que aquests estats. Aquest article vol posar el focus en quines són les propostes per implementar la IA que s’estan preparant a Estònia, així com els aspectes ètics més delicats que està posant a la balança abans de córrer el risc de perdre la confi ança de la ciutadania, guanyada a pols durant tants anys.

Catalunya compta amb infraestructures de supercomputació, robòtica i telecomunicacions, equips de recerca i teixit empresarial sufi cient per posicionar-se en l’entorn de la IA

L’atracció global per la IA

Abans de res però, de què parlem? L’interès mundial per la IA no té precedents. Molt aviat aquesta tecnologia serà imprescindible per a qualsevol societat perquè aporta molta efi ciència, coneixement i creativitat. A conseqüència de la seva implementació s’estima que incrementaran notablement els resultats econòmics de les empreses i que contribuirà a estalviar recursos públics.

El machine learning (ML) és bo per establir patrons i relacions ingents, i agilitzar processos. Dins del ML hi ha el deep learning [l’aprenentatge profund], una tècnica que fa servir algoritmes que funcionen simulant el funcionament bàsic de les neurones del cervell.

La IA existeix fa més de 50 anys, però és ara que el volum de dades i la capacitat de computació per aplicar-la en una multitud de casos pràctics la fa possible.

Objectiu: una nova realitat amb la IA

Estònia no porta un gran avantatge a la resta d’estats europeus en la implementació de la IA, però tot fa pensar que agafarà embranzida en els propers anys gràcies a com té de digitalitzada la seva societat.

L’estiu del 2019 el govern va presentar l’Estratègia d’Intel·ligència Artificial, per la qual va anunciar una inversió inicial de deu milions d’euros durant el període 2019-21. Aquestes directrius se centren principalment en tres focus: 1) donar suport al sector publico-privat; 2) invertir en la investigació en IA; i 3) crear un entorn legal per adoptar aquesta tecnologia en tots els sectors.

La IA comença a tenir una gran incidència en els serveis públics, s’han anunciat reformes en el sistema educatiu: des de preinfantil a la universitat, dotant els centres escolars de programes de Tecnologies de la Informació i Comunicació (TIC) i coneixements d’IA.

S’han ofert beques de doctorat i el Centre d’Innovació de la Fundació Tecnologia de la Informació per a l’Educació potencia cursos de capacitació en IA per a gerents del sector públic i personal d’empreses. Al març del 2020, la TalTech [Universitat Tecnològica de Tallinn] també va adaptar l’exitós curs gratuït finlandès «Elements of AI» a l’estonià, on la ciutadania sense coneixement tecnològic pot conscienciar-se dels avantatges i riscos dels sistemes intel·ligents.

La IA pot predir els resultats dels processos judicials i prendre decisions automatitzades en les tasques judicials més comunes

Així, Estònia compta ja amb una trentena de serveis d’IA implementats en l’administració pública, els quals engloben tots els àmbits possibles. Un d’ells és el sistema de control dels inspectors encarregats de revisar les subvencions per segar els camps de fenc. Amb les imatges de l’Agència Espacial Europea poden controlar l’activitat de cada parcel·la. Un sistema intel·ligent desenvolupat per l’Observatori de Tartu analitza cada píxel i sap si el camp s’ha segat o no. Quan el ramat o la feina inacabada dificulten el processament de la imatge, un inspector va en persona a comprovar-lo. Els agricultors reben un SMS o correu-e —amb una còpia de la imatge per satèl·lit— i l’avís que resten dues setmanes per acabar la sega. El primer any de funcionament, el govern va calcular que havia estalviat més de 600 mil euros i els inspectors podien dedicar-se a altres assumptes urgents.

L’IA també ha entrat en el sistema judicial per agilitzar la resolució dels casos. «El nombre de jutges que tenim a Estònia són els mateixos. La IA pot predir els resultats dels processos judicials i prendre decisions automatitzades en les tasques judicials més comunes que fa vint anys. Però els conflictes a resoldre s’han duplicat. Com és poc probable que disminueixin, cal ser més àgils», expliquen a una web governamental. Per promoure-ho, s’ha fet un reclam a empreses tecnològiques perquè desenvolupin sistemes que ajudin a jutges i advocats a acabar amb les tasques més repetitives.

Tal com exposava a les xarxes Anett Numa, assessora del Transformació Digital del govern, «la IA pot predir els resultats dels processos i prendre decisions automatitzades en els procediments o tasques judicials més comunes». En aquesta línia, el Ministeri de Justícia va engegar al 2019 un projecte —encara en la seva fase inicial— per resoldre casos de reclamacions petites o de menys de 7.000 euros. Des del govern asseguren que la decisió de la màquina sempre podrà apel·lar-se davant d’un tribunal. La utilització d’aquesta tecnologia també serveix per assessorar en la cerca de feina, on funcionaris del servei públic d’ocupació enllacen ofertes i demandants gràcies als algoritmes. El mateix podria fer-se en el sector de la salut, per transcriure audiències judicials o per donar prediccions més precises sobre la despesa dels turistes al país.

Estònia participa en la Declaració per a la Cooperació en IA de la Regió Nòrdica-Bàltica —amb Dinamarca, Finlàndia, les Illes Fèroe, Islàndia, Letònia, Lituània, Noruega, Suècia i les illes Åland— per potenciar, promoure i desenvolupar la IA de manera conjunta, amb compartició de dades, directrius, estàndards, principis i valors ètics i transparents sobre com i quan utilitzar els sistemes intel·ligents.

La ciberseguretat, punt clau

Les utilitats de la IA són moltes i diverses. Però hi ha perills dels quals cal ser-ne conscient. Un dels punts forts d’una societat digitalitzada com l’estoniana ha de ser la ciberseguretat. La principal amenaça avui no és física sinó virtual. Al 2007, el país va patir el primer ciberatac de la història moderna. El motiu: els aldarulls causats als carrers de Tallinn pel trasllat fora de la capital d’un monument dedicat a l’exèrcit rus.

Totes les instal·lacions digitals van patir enormes atacs procedents de Rússia. Les administracions es van col·lapsar per l’spam que enviaven robots informàtics —botnets— atacants. Els servidors es van saturar i els caixers automàtics i la banca online van deixar de funcionar durant dies. Els funcionaris no podien comunicar-se per correu electrònic i els mitjans digitals no podien informar de què passava als carrers. «Totes les societats modernes ja són vulnerables», explica Liisa Past, experta en ciberdefensa.

Un dels lemes del govern estonià és: «Confiem en la tecnologia». I la població el té totalment interioritzat

Però Estònia va fer d’aquella crisi una oportunitat: tretze anys després Estònia és una de les nacions més expertes en ciberseguretat: amb estratègia i anàlisis forenses digitals per prevenir els atacs. Amb IA detecten anomalies en el trànsit web dels serveis públics i els sistemes del govern. El  sobre el dret internacional en les operacions cibernètiques recull com han evolucionat les amenaces en menys d’una dècada.

Cal dir que aquest també és un tema que preocupa a Catalunya. El govern de la Generalitat va presentar, al 2019, el projecte «Catalonia.AI, l’Estratègia d’Intel·ligència Artificial a Catalunya». El fet de tenir Barcelona com a capital mundial del mòbil i seu de les principals fi res tecnològiques del món —amb el MWC al capdavant—, posiciona la capital catalana com un atractiu europeu. Aquest és el motiu pel qual l’ajuntament de la ciutat també s’ha llançat a definir —a través d’una Declaració de Tecnologies Emergents i d’una Mesura de Govern d’Algoritmes i Dades— l’estratègia a seguir en la implementació de la IA per oferir a la ciutadania serveis proactius i millorar la gestió interna del consistori.

Els problemes no són tècnics, són ètics

Un dels lemes del govern estonià és: «Confiem en la tecnologia». I la població el té totalment interioritzat. En els darrers anys, la IA ha demostrat sobradament tot el seu potencial però també algunes repercussions negatives que pot tenir per a les persones.

Per aquest motiu, la Comissió Europea va elaborar al 2019 —amb el Grup d’Experts d’Alt Nivell sobre Intel·ligència Artificial— les «Directrius ètiques per a una IA fiable», on es concreten els beneficis però també els riscos de la IA i les prevencions que qualsevol país ha de tenir en compte.

L’informe Automating Society—elaborat per la ONG Algorithm Watch— recull una bona anàlisi de l’aplicació dels algoritmes de decisió automatitzada, en una dotzena de països europeus. En aquest estudi, malgrat que no s’esmenta el cas d’Estònia, s’exposen les experiències d’altres governs que s’han vist obligats a recular en les seves iniciatives al demostrar-se —davant de tribunals— que es discriminava a certes parts de la població, o es perjudicava a col·lectius sencers a conseqüència d’aplicar cegament els automatismes dels sistemes intel·ligents. El 2017, l’assessor nacional d’IA a Estònia,

Altres governs s’han vist obligats a recular en les seves iniciatives d’IA al demostrar-se que es discriminava a certes parts de la població, o es perjudicava a col·lectius sencers

Marten Kaevats, escrivia que per implementar aquesta tecnologia la societat havia de jugar un rol en la cocreació d’un marc regulador. En aquell moment es va parlar de comptar amb una «Llei de responsabilitat algorítmica» —Llei Kratt— però després de diferents debats interns es va optar per seguir les directrius de la UE per reduir les complexitats reguladores.

Una de les qüestions més consultades va ser com resoldre el problema de la responsabilitat quan actuen algoritmes d’aprenentatge profund o de «caixa negra». Aquests sistemes intel·ligents són de gran vàlua per a múltiples serveis que s’estan implementant en qualsevol societat —o ho faran ben aviat—, però molt difícils de defi nir legalment. Imaginem que un vehicle autònom provoca un accident: Qui n’és el responsable? El propietari? El fabricant del vehicle? L’asseguradora? «Si el meu fi ll és atropellat, jo vull assenyalar a algú amb el dit i dir-li: ‘Tu ets el responsable’» escrivia Kaevats. En un moment que els algoritmes d’aprenentatge automàtic estan millorant tots els serveis que ens envolten, s’ha d’entendre que no sempre hi haurà un únic culpable.

A I’informe: «Intel·ligència Artificial. Decisions Automatitzades a Catalunya», la catedràtica d’Ètica i Filosofi a del Dret Moral i Polític de la Universitat Autònoma de Barcelona, Victòria Camps (1941), dona una possible resposta al neguit que Kaevats expressava al 2017: «La responsabilitat de l’algoritme és un tema recurrent, sobretot imaginant possibles accidents en els cotxes autònoms. Els problemes ètics en aquest cas són de manual. Deixem de banda la IA. Quan el conductor d’un tren detecta que hi ha un suïcida a la via, què fa? Una maniobra per esquivar-lo posant en perill la vida de molts més passatgers? Des del punt de vista ètic, no hi ha una resposta única però sempre ha de guanyar fer el mal menor. I amb la IA ha de passar el mateix». Així que la complexitat apareix més per una qüestió ètica, que no pas tecnològica. Per què és tan important ocupar-se de l’ètica en l’aplicació de la IA? Segons Camps, l’ètica és un conjunt de principis que orienten la conducta, que no poden ser anul·lats pels altres «per exemple, el respecte a la dignitat és un valor que no pot ser eliminat perquè sigui beneficiós per a un altre».

A més que «l’ètica té obligatorietat però no té la coacció del dret —que obliga i, si no compleixes, et penalitza. La norma ètica obliga en consciència». En el cas de la IA, marca els límits que no es poden traspassar. La CE ha deixat ben clar que els sistemes intel·ligents han de complir amb les lleis vigents, assegurar el compliment dels principis i valors ètics, i ser robustos des del punt de vista tècnic i social.

On són les línies vermelles?

Sí, la IA no està exempta de perills. Un d’ells és perpetuar els errors del passat a través dels biaixos que contenen les dades. Se sap que els resultats dels algoritmes poden discriminar per raons de gènere, origen, edat o classe social perquè les dades que els alimenten estan esbiaixades. S’han classificat més d’un centenar de biaixos, però els pitjors són els derivats de trets estadístics, culturals i cognitius. Si sabem que els algoritmes tenen biaixos i poden ser perjudicials per a les persones, per què s’apliquen? El catedràtic d’Informàtica de la Universitat Pompeu Fabra i de la Northeastern University, Ricardo Baeza-Yates (1961), explica que «el benefici o encert dels resultats és considerablement superior —més d’un 90% en la majoria dels casos— que el perjudici o error. És aquest percentatge just pels que en surten perjudicats?

Els sistemes intel·ligents han de complir amb les lleis vigents, assegurar el compliment dels principis i valors ètics, i ser robustos des del punt de vista tècnic i social

En aquest punt es podria encetar una llarga discussió sobre què és o no és just a la vida (…) resulta molt difícil ser just amb tothom. Un algorisme pot ser just amb un col·lectiu de dones, però discriminar un home. Per ser rigorosos, també cal dir que els algoritmes ben dissenyats —tot i tenir biaixos— són justos d’acord amb els paràmetres que se’ls han donat. A diferència dels humans — que poden variar la seva decisió en funció d’un estat d’ànim o de cansament físic i mental— els algoritmes sempre funcionen igual».

L’assessor nacional d’IA a Estònia, Marten Kaevats

està convençut que l’aspecte més complicat del moment actual no és tecnològic sinó com gestionar el vessant ètic i emocional. «Es tracta de valors, de principis morals. Com protegim les persones dels entrebancs tecnològics? On són les línies vermelles que no es poden traspassar? Com s’assegura la integritat de la presa de decisions automatitzades dels sistemes intel·ligents? Com estar segurs que les dades dels sensors dels objectes intel·ligents no han estat piratejats o modifi cats?L’experiència amb el blockchain per protegir part dels registres mèdics de la ciutadania pot ajudar». Les preguntes relacionades amb la IA encara els hi manquen moltes respostes, però la societat estoniana té recorregut per plantejar-se escenaris futurs i adoptar la millor solució per a la seva gent. El món sencer s’emmiralla en aquest petit país bàltic cercant el secret de la seva transformació digital.

El govern estonià insisteix que no hi ha misteri, sinó quatre lliçons molt simples que està encantat de donar obertament: 1) Ser valent per aplicar mentalitat digital; 2) Establir aliances fortes entre el sector públic i privat; 3) Posar al davant l’ètica, la transparència i la privacitat per guanyar confi ança de la ciutadania; i 4) Observar si el que funciona en altres llocs serviria per a la societat estoniana. Qui serà el següent que s’atrevirà a seguir les seves passes?

****************

Bibliografia i més referències al final de l’article en PDF (pàg.59 de la revista Eines)

About author

Karma Peiró

Continguts relacionats

justicia_lab_post

¿Puede la IA crear un mundo más justo?

(Artículo publicado en el CCCBLab el 2 de marzo d...

Llegir més
Lamira2

Reportatge: «‘Scanning girls’, les caçadores de partícules»

(article publicat a la revista La Mira.cat el 22 j...

Llegir més
Captura de Pantalla 2020-05-15 a les 10.40.47

«Set lliçons per a lluitar amb les dades d’una pandèmia»

Per RICARDO BAEZA-YATES i KARMA PEIRÓ ...

Llegir més

There are 0 comments

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *