Articles Intel·ligència Artificial
Sèrie: “Converses d’ètica i intel·ligència artificial” (1)
26 de Febrer de 2020
0
, , , , , ,
(Fragment de l’Informe: «Intel·ligència Artificial. Decisions Automatitzades a Catalunya»)

Ja hem normalitzat que una màquina –o assistent virtual– ens desitgi bon dia cada matí, tenir un aparell que dona voltes pel terra de casa netejant o que un sistema automatitzat ens suggereixi la sèrie que ens ve de gust veure segons el moment del dia. Aviat acceptarem que la nevera faci la compra de la setmana, que la rentadora s’ocupi de la bugada de manera autònoma o que la calefacció de casa truqui al tècnic quan falli la caldera.

Tots aquests objectes produeixen (o produiran) dades relacionades amb el consum, les interaccions i l’ús. Es coneix com la Internet de les coses (IoT, en anglès); és a dir, la interconnexió digital d’objectes per comunicar-se i interactuar entre ells. Es calcula que el 2025, hi haurà al món 21.500 milions d’objectes connectats.

També disposarem robots domèstics que tindran cura de les persones grans i dels petits a la llar, els alumnes a classe estudiaran les matèries més aptes per a la seva personalitat i confiarem en els cotxes autònoms com els vehicles més segurs per als nostres desplaçaments. Confiarem en la tecnologia perquè sabem que, en cas contrari, no evolucionarem com a societat. Confiarem perquè la història ens ha demostrat que la tecnologia sempre ens ha fet avançar com a éssers humans.

Em proposo iniciar una sèrie amb les converses que vaig tenir sobre ètica i intel·ligència artificial amb una vintena d’experts, màxims referents en l’esfera internacionall. Tots ells ens parlen dels beneficis de la tecnologia però també alerten dels seus riscos si no prestem atenció a la defensa dels drets i llibertas adquirits fins ara.

I vull començar amb la Catedràtica d’Ètica i Filosofia del Dret moral i Polític de la UAB, Victòria Camps. Ella estableix clarament les diferències entre el que podem considerar o no ‘ètic’ i el que és pur ‘business’ en aquest món d’algorismes i negocis a partir de l’analítica de dades personals.

____________________________________________

VICTÒRIA CAMPS: «Amb la intel·ligència artificial s’ha perdut la privacitat»

Catedràtica d’Ètica i Filosofia del Dret moral i Polític de la Universitat Autònoma de Barcelona (UAB)

 

Què és l’ètica? I per què és tan important ocupar-se de l’ètica en l’aplicació de la intel· ligència artificial? “L’ètica es podria definir com un conjunt de principis, normes o valors que orienten la nostra conducta i que no poden ser anul·lats pels altres. Per exemple, el respecte a la dignitat és un valor que no pot ser eliminat perquè sigui beneficiós per a un altre”, explica Victòria Camps.

“Les religions no ens serveixen per definir l’ètica perquè és cert que tenim els Deu Manaments en la cristiana, que ens diuen: ‘No mataràs’ o ‘No robaràs’, però es podria qüestionar el de: ‘No desitjaràs la dona de l’altre’.

L’ètica va més enllà, inclou una exigència d’universalitat –com la no-discriminació o el respecte vers les altres persones.” “L’ètica té obligatorietat però no té la coacció del dret –que obliga i, si no compleixes, et penalitza–“, explica Camps. “La norma ètica obliga en consciència”, afegeix.

“Amb la intel·ligència artificial hi ha molt poca consciència dels perills. S’ha perdut el que abans consideràvem un bé preuat: la privacitat. Els joves (però també gent de totes les edats) no tenen cap mena de pudor i ho donen tot: fotos, dades, reconeixement facial i després surten les violacions filmades, accions d’assetjament a les escoles, etc.”

L’equitat no la resol només l’algorisme

“El més important en ètica és l’equitat”, continua Victòria Camps. “Un sistema equitatiu vol dir afavorir els que estan en pitjor situació. L’Estat té l’obligació de protegir les persones i la seva equitat. Això ho pot fer un algorisme? Sí, podria afavorir a qui han desnonat, als que no tenen feina i viuen amb fills menors a càrrec seu. Això podria acreditar que se li concedís una ajuda social. Però cada cas és individual, i això també s’ha de tenir en compte quan es programa l’algorisme. Perquè podria haver-hi qui es queixés, i l’Administració pública hauria de tenir respostes per a l’ús de la intel·ligència artificial. L’equitat no la resol només l’algorisme.”

“La IA no pot obviar les preguntes bàsiques de l’ètica que fan referència a la privacitat, a la confidencialitat”.

“A l’informàtic que programa l’algorisme no li pots demanar que  pensi si s’utilitzarà bé o malament. La pregunta se li ha de fer a qui té la responsabilitat màxima, a qui encarrega i decideix el que ha de fer l’algorisme”.

“Formo part del Comitè de Bioètica de Catalunya. Fa uns anys es va discutir molt al Parlament sobre la comercialització de les dades de salut de la gent amb el programa Visc++. Finalment, es va aprovar amb reserves i esmenes. La qüestió que cal plantejar-se és: tenir compartits els historials clínics és un avenç? Òbviament que sí. Però sense perdre el control de l’ús que es pugui fer d’aquestes dades.”

I què podria ser fer un mal ús? “Doncs que se sabés que un polític té una malaltia no explicada. La persona té dret que les seves dades de salut siguin privades i que si dona el consentiment de fer-les servir, només sigui per a allò que doni servei a la ciència i la medicina.”

La responsabilitat de l’algorisme és un tema recurrent, sobretot imaginant possibles accidents en els cotxes autònoms (sense conductor) que han d’arribar. I li pregunto per aquesta qüestió: “Els problemes ètics en aquest cas, són de manual. Oblida’t de la IA i pensa ara en aquest exemple…”

Un conductor de tren detecta que hi ha un suïcida a la via. Què fa? Una maniobra per esquivar-lo posant en perill la vida de molts més passatgers? Des del punt de vista ètic, no hi ha una resposta única. Sempre s’ha de procurar fer el mal menor. I amb la intel·ligència artificial s’ha de fer el mateix.”

Diferència entre l’interès comercial i l’ètica

Victòria Camps considera que cal marcar una línia entre el que pot ser interès comercial i el que pot ser ètic.

És ètic que una companyia segueixi el nostre rastre de navegació i ens bombardegi amb publicitat a la bústia de correu, al mòbil, als webs que consultem? És ètic que els bancs sàpiguen tot de nosaltres, hàbits de consum, despeses i preferències d’oci i ens vulguin fidelitzar amb ofertes de productes, en funció de l’anàlisi del rendiment que han fet de nosaltres? És ètic que l’habitació d’un hotel em costi més diners a mi que al meu veí perquè saben a quin barri visc i poden interpretar la meva renda?

“Vivim en una societat de consum, basada en l’oferta i la demanda”, respon la catedràtica d’ètica de la UAB.

“I si compres una aspiradora, et pot incomodar tota la informació o publicitat que t’enviaran durant els mesos vinents, però és el món dels negocis. No l’acceptis. Una altra cosa és que amb les teves dades et vulguin perjudicar. Com, per exemple, que el banc sàpiga que ets alcohòlic i que n’informi l’asseguradora del cotxe perquè et discrimini en el pagament.”

La confiança no s’ha de perdre

“La vida en comú necessita la confiança vers l’altre. No s’ha de perdre mai”, explica Camps.

“Tu renuncies a part de les teves llibertats a canvi que uns representants públics que has elegit et protegeixin. Però si confies els teus diners a uns polítics i després es destapen casos de corrupció, hi perds la confiança.”

Sobre la confiança que dipositem en les xarxes socials com ara Facebook, i que ens fallen constantment, perquè el propietari ven les dades personals a consultores (Cambridge Analytica) que aprofiten per canviar l’orientació de vot en unes eleccions (EUA, Brexit, Brasil, etc.), la catedràtica d’ètica i filosofia argumenta que “aquestes plataformes són totalment prescindibles”.

No és l’algorisme de Twitter que et mostra la vida en una bombolla, ets tu, que acceptes aquesta situació. El que és una llàstima és que els polítics es comuniquin amb la població a través de Twitter perquè és un deteriorament de la política”.

I insisteix que abans dels algorismes ens passava el mateix, triant el mitjà de comunicació amb el qual ens informàvem. “Però això no té gaire a veure amb l’ètica. El que èticament importa és preservar la llibertat individual, que ningú no t’acabi dient com has de viure.”

About author

Karma Peiró

Continguts relacionats

Captura de Pantalla 2020-05-15 a les 10.40.47

«Set lliçons per a lluitar amb les dades d’una pandèmia»

Per RICARDO BAEZA-YATES i KARMA PEIRÓ ...

Llegir més
COVID 19

«La falsa transparència en temps de Covid-19»

Aquests dies s’ha reclamat saber quines són le...

Llegir més
download

«I després del confinament, la intel·ligència artificial a les aules»

(Article publicat a la revista digital AulaMèdia ...

Llegir més

There are 0 comments

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *