IInvestigador Científic i Director de l’Institut de Filosofia del CSIC (Grup d’Ètica Aplicada GEA). Doctor en Filosofia per la Universitat del País Basc (premi extraordinari), és professor convidat a diverses universitats i col·laborador a l’Institut de Governança Democràtica Globernance. Les seves àrees de treball són l’ètica pública, la bioètica, els drets humans i la filosofia de les tecnologies disruptives.tivas.
Membre de l’OECD Expert Group en Research ethics and new forms of data for social and economic research. Editor i autor de diverses obres sobre aquests temes, ha estat fundador de la revista electrònica d’ètiques aplicades DILEMATA [www.dilemata.net]. Actualment forma part dels equips de recerca d’EmpoderDAT: Empoderament del pacient, espai de dades de salut i intel·ligència artificial com a pilars del nou sistema sanitari [Fundació Sèneca]; Detecció i eliminació de biaixos en algorismes de salut [Fundació BBVA]; i BAKARZAIN: Solitud no desitjada i cures [BBK Kuna]. President del Comitè d’Ètica del CSIC i membre del comitè directiu de l’AIHUB-CSIC, col·labora també a la Xarxa ESPACyOS (Ètica Salubrista per a l’Acció, Cures i Observació Social) i al Comitè d’Experts sobre Envelliment de la Fundació General CSIC.
1. Què et suggereix el concepte d’ètica de la responsabilitat radical?
La idea de responsabilitat, de fer-se càrrec de les accions i omissions i de les conseqüències, és un concepte nuclear de l’ètica en tant que reflexió sobre la moral humana. Això és, en la mesura que som lliures de triar fer o no fer (així es titula un llibre que vaig coordinar amb la meva col·lega Rosana Triviño), optem entre una gamma de possibilitats i hem de fer la bona elecció. Responsabilitat, deure i bé són les arrels de l’ètica i parlar de “responsabilitat radical” fa referència a aquest criteri fonamental, últim, d’arrel, per a l’ètica.
2. En els darrers anys, una de les iniciatives més comunes a les organitzacions públiques és desenvolupar els anomenats “marcs d’integritat”. Què hi estan aportant? Quins reptes encara queden pendents?
Els anomenats marcs o sistemes d’integritat constitueixen una eina fonamental per a la transformació en clau ètica de les organitzacions del sector públic. En un moment de profunda desconfiança social envers les institucions, i de crisi de legitimitat del sistema democràtic, en conseqüència, els sistemes d’integritat institucional són un instrument valuós per restablir aquesta confiança pública, afavorint la cohesió social i la legitimitat democràtica. No oblidem que la confiança és aquest intangible que un món aclaparadorament complex i incert ens permet absorbir aquesta complexitat. La confiança és un fet bàsic de la vida quotidiana; confiem que el conductor de l’autobús, el metge, el professor, l’administratiu… (servidors públics), es comportin i executin les tasques tal com s’espera. En realitat, la confiança mou el món i la desconfiança, en canvi, és letal per a institucions, organitzacions i la societat en general.
Em permeto fer aquesta reflexió sobre la confiança perquè els sistemes d’integritat institucional no són un fi en ells mateixos, sinó una eina crucial per construir i mantenir la confiança pública.
Dit això, queden molts reptes pendents pel que fa als mateixos. Necessiten un impuls polític indispensable, s’han de construir de manera participativa, de baix a dalt, com a sistemes vius i flexibles, amb canals clars de consulta i denúncia i amb òrgans de monitorització i supervisió que els facin efectius. Això és, cal una “infraestructura ètica” perquè compleixin amb la seva comesa pedagògica, preventiva de les males pràctiques i exemplaritzant. El risc evident, com diu Adela Cortina, és convertir l’ètica en cosmètica, en una mera estratègia de màrqueting i publicitat que no transforma la cultura organitzacional i que, fet i fet, genera frustració i més desconfiança.
3. Dius que “l’ètica de la cura” ha de ser un dels fonaments de l’ètica pública – “La qualitat més gran és la calidesa”. Fins a quin punt està integrada la cura en la cultura, és a dir, en les maneres de fer, de les institucions públiques?
Malauradament, la cura com a perspectiva no és el que més abunda en la gestió pública. I, tanmateix, no tinc cap dubte que l’ètica de la cura és el fonament de les accions i les polítiques públiques. Partint d’una concepció antropològica basada en la vulnerabilitat humana, l’ètica de la cura posa l’accent en la resposta a aquesta susceptibilitat variable i desigual a patir un dany i com les institucions del sector públic s’orienten al bé comú mitjançant la protecció i la capacitació dels ciutadans. Es construeix així una “democràcia curosa”, en paraules de Joan Tronto, on el servei públic perseguirà protegir els febles i vulnerables així com transformar les bases perquè deixin de ser-ho, posant la cura al centre de les polítiques públiques. Una democràcia sensible i curosa, una governança exemplar, demana per tant una ètica pública de la cura.
4. En diferents ocasions, has compartit les teves reflexions sobre el principi de responsabilitat, especialment en el context del servei públic. Al llibre titulat “Fer o no fer, la responsabilitat per accions o omissions”, aprofundeixes en aquesta distinció i en les seves conseqüències. Afrontem, com a societat, la responsabilitat per acció i per omissió de la mateixa manera?
Precisament, el llibre que esmenteu és una anàlisi exhaustiva sobre la responsabilitat causal de la comissió per omissió. Això és, molt resumidament, que no fer també és una manera de fer alguna cosa que té conseqüències, sobre les quals també hem d’assumir responsabilitats. Pensem en uns pares que no alimenten els seus fills o en un sistema públic de salut que deixa desatesa part de la població (persones grans o immigrants indocumentats). I no, no s’afronta igual la responsabilitat per acció que per omissió. Individualment, la psicologia ha estudiat l’anomenat “biaix d’omissió” pel qual tendim a jutjar moralment més greus aquells comportaments nocius quan el dany és el resultat d’una acció, quan és resultat d’una omissió. Col·lectivament, aquest biaix d’omissió contribueix a diluir la responsabilitat, sobretot quan no es percep clarament l’enllaç causal entre l’omissió (d’ajuda, d’auxili, per exemple) i les conseqüències dolentes que es produeixen o es faciliten.
5. T’has referit a la confiança com un mantra sense la qual no es pot mantenir una societat complexa. Posant el focus a l’ètica pública, afirmes que el seu enfortiment ha d’orientar-se a enfortir la confiança, reforçant conviccions, hàbits i canvis de cultura. Què han de transformar realment les organitzacions públiques per tal de recuperar i potenciar la confiança de la ciutadania? I què hem de canviar nosaltres com a persones ciutadanes?
Les organitzacions del sector públic han d’assumir un model de governança més obert, transparent i col·laboratiu i, com hem dit, desenvolupar sistemes d’integritat institucional que contribueixin precisament a generar confiança pública. Una governança d’aquest tipus requereix així mateix una ciutadania activa i compromesa on les persones contribueixin proactivament i de manera participativa en el disseny i el desenvolupament de les polítiques públiques (co-gestió, co-responsabilitat), segons un model d’”administració relacional”, amb ciutadans “accionistes” en comptes de simples “clients” dels serveis públics.
6. També estàs investigant i treballant des de la perspectiva de l’ètica aplicada a les tecnologies disruptives al sector públic, especialment relacionades amb les dades. Quines iniciatives s’han de posar en marxa per a un govern adequat de la dada?
La intel·ligència artificial i la ciència de dades massives ja estan transformant la nostra societat i també el sector públic. Les polítiques públiques basades en dades i algorismes contribuiran a models decisionals menys especulatius, a reduir riscos i incerteses, i a innovar a través de la cooperació (intel·ligència col·lectiva i experimentació oberta). Aquestes oportunitats no estan exemptes de riscos i per això cal pedagogia social, reflexió ètica col·lectiva i deliberació pública per orientar aquestes tecnologies cap al bé comú i el servei real a la ciutadania. Per això, el desenvolupament de marcs ètics per als processos de transformació digital de les administracions és un imperatiu que ja s’està materialitzant en iniciatives com el Codi ètic per a les dades i la intel·ligència artificial de la Diputació Foral de Gipuzkoa o la recent normativa europea Artificial Intelligence Act.
7. Quins altres impactes es deriven d’altres aplicacions de la intel·ligència artificial a les institucions públiques? Quins són els riscos, els límits o les conseqüències de l’aplicació de models matemàtics de decisió a l’àmbit públic?
La introducció de sistemes basats en IA en la gestió pública suposa una transformació radical quant a la gestió i el disseny de les polítiques públiques, amb l’ús de dades massives que poden contribuir notablement a afinar intervencions en àmbits urbanístics, de trànsit, ambientals, socials, etc. Els riscos rauen en un disseny inadequat d’aquests sistemes que provoqui discriminació, desigualtat (bretxa), biaixos, impacte mediambiental… Per això, és indispensable prendre en consideració principis ètics i bones pràctiques per no convertir aquestes eines en “armes de destrucció matemàtica”, en paraules de Cathy O’Neil.
Atendre la qualitat de les fonts de les dades, que el tractament algorítmic sigui segur, que es protegeixi la privadesa, que s’avaluï la petjada ambiental del sistema o que es consideri l’impacte social positiu i la seva contribució a la solidaritat i la inclusió, constitueixen elements ètics indispensables en el desenvolupament i la implementació d’aquests sistemes.
També és obvi descartar aplicacions com els algorismes de puntuació social o els sistemes manipulatius.
I és molt important valorar prèviament la necessitat i la conveniència de desenvolupar aplicacions d’IA en relació a determinades activitats o processos, establint-se una anàlisi cost-benefici i la seva relació amb drets fonamentals de la persona.
8. Finalment, si haguessis d’il·lustrar, amb tres paraules què significa per a tu incorporar l’ètica a la presa de decisions, quines serien?
Participació, deliberació, responsabilitat.
Participació perquè l’ètica és cosa de tothom.
“L’ètica concerneix tothom. Els problemes i les teories científiques poden despertar la nostra curiositat o fins i tot apoderar-se de tots nosaltres alguna vegada, però només per a uns quants tenen importància pràctica i immediata. En canvi, tothom s’enfronta amb problemes morals sobre els quals, després de més o menys reflexió, cal decidir.” (TOULMIN, El lloc de la raó a l’ètica, 1950).
Deliberació perquè l’ètica és un exercici reflexiu que atén raons i arguments. La deliberació fa referència a una discussió que és informada, que es basa en valors i que és transformativa.
Responsabilitat perquè, com hem dit, suposa fer-se càrrec del que es considera un deure com a bo.
