Connexions beethik: entrevista a Marcel Cano

Marcel CanoProfessor d’ètica i filosofia política – Universitat de Barcelona

Professor Bioètica en la UVic

 

 

1. Què et suggereix el concepte d’ètica de la responsabilitat radical?

En primer lloc em suggereix una tautologia (en sentit retòric): l’ètica ha de ser radical si realment vol ser ètica, no pot ser una altra cosa. Radical ve de ‘radicalis’, allò que prové de l’arrel. En aquest sentit l’ètica és doblement radical: en primer lloc ens porta a allò més íntim i essencial de la condició humana, allò que està en el més profund de nosaltres i per tant està en els nostres arrels. En segon lloc, ens compromet de manera radical davant del món i de nosaltres mateixos. Una ètica “superficial” és simplement un simulacre sense valor ni interès, potser un mer afegit estètic (en el pitjor sentit de la paraula “estètic”). A més és sempre un anar més enllà de la moral cap a allò que supera les codificacions i les respostes “lògico-matemàtiques”. Potser fins i tot, en sentit witgensteinià, fa referència especialment a allò que no pot ser codificat en el llenguatge dels fets (fugint per tant de l’omniabarcador “solucionisme” contemporani).

En segon lloc, si afegim “responsabilitat” encara aprofundim més en la tautologia: no es pot pensar l’ètica sense pensar en la responsabilitat, a menys que la reduïm a una empatia sociobiològica genèticament codificada: un mer mecanisme. Quelcom mecànic està determinat en la seva causalitat per una causa prèvia. No és el cas de l’ésser humà, al que podem anomenar “autònom”. Algú que és autònom té el principi d’acció en ell mateix i, per tant, és sempre responsable.

Cal no obstant matisar: de què parlem quan parlem d’autonomia humana? Òbviament no parlem d’un ésser absolutament lliure que pren sempre decisions racionals independentment dels condicionaments. No. Parlem justament de quelcom que és encara més valuós: un ésser que pren decisions complexes en contextos d’incertesa, en mig d’una gran vulnerabilitat i creuat per múltiples condicionaments (culturals, socials, biològics, psicològics). Un ésser, per tant, que malgrat tot pot ser considerat autònom i per tant responsable. Si no poguéssim considerar-lo autònom no el podríem tampoc considerar responsable. Seria, com ja hem dit, un mecanisme que respondria merament a estímuls.

L’enorme complexitat i incertesa que s’obre entre les nostres decisions responsables i la nostra vulnerabilitat, justament amb la indefugible interdependència que suposa ser humà (ningú pot viure sense els altres, fins i tot l’eremita ha necessitat als altres per arribar a ser humà i prendre la seva decisió) ens obliga a ser radicalment responsables.

2. En l’actualitat estàs acompanyant a diferents organitzacions a elaborar els seus codis ètics i a implementar espais de reflexió ètica. Des del teu punt de vista, com definiries la presència de l’ètica a les empreses i organitzacions?

Parlaré primer de l’acompanyament en ètica i de les creacions de codis ètics. En segon lloc de la presència de l’ètica en les organitzacions i empreses.

Els Espais de Reflexió Ètica i els Comitès d’Ètica, malgrat les diferències que existeixen entre ells tenen en comú la finalitat essencial de promoure la reflexió ètica per a modificar, i si pot ser millorar, les condicions de vida de les persones. Això afecta a totes les persones que estan implicades en les relacions humanes que es generen dins del grup. Per tant, i seguint amb el que he exposat en la resposta a l’anterior pregunta, l’ètica ha d’aportar una reflexió sobre la responsabilitat de les institucions i les persones que les composen en contextos complexos i, sovint, amb una alta vulnerabilitat. Cal per tant articular l’autonomia individual amb els interessos col·lectius de manera responsable. Si, a més, ens adonem que les organitzacions no són ens aïllats sinó que neixen, creixen i moren dins de societats concretes i reals se’ns mostra encara amb més claredat com d’important és ser conscient de la responsabilitat de les organitzacions com a entitats capaces de tenir efectes molt rellevants dins les societats.

En aquest sentit és important doncs reflexionar, clarificar i donar a conèixer quins són els nostres compromisos envers les persones (de dins i de fora de les institucions) ja que són el resultat de la presa de consciència de la nostra responsabilitat. Els codis ètics són aquestes declaracions. Si un codi ètic no és participatiu (creat cooperativament per tots els membres de la organització) ni comprometedor (ens obliga a autolimitar-nos – no tot el que es pot fer s’ha de fer – i fer-nos conscients de les nostres responsabilitats) no serveix més que com a element de màrqueting. Ara bé, la presència d’un codi ètic no implica que hem solucionat els nostres problemes ètics. De fet no els podrem “solucionar” mai: la realitat és massa complexa per a tancar-la entre els estrets límits de qualsevol declaració. La funció dels codis ètics, per tant, és doble: per un costat ens compromet a voler (la voluntat és essencial) fer les coses d’una determinada manera (cooperativa i responsable), per l’altre ens serveix de far per a navegar per la mar tempestuosa de la complexitat i la incertesa de l’experiència humana.

Així doncs la presència de l’ètica a les empreses i organitzacions, a més de ser una necessitat vinculada a la responsabilitat de tota entitat envers el món que l’ha fet possible, ha de ser un dels factors essencials que ens porti a una transformació social i cultural profunda. Un canvi que necessitem més que mai i que ens porti a potenciar la interdependència, la coresponsabilitat, el respecte a l’autonomia, la millora de les condicions socials de les persones entre altres elements fonamentals. En definitiva, si ens la prenem seriosament, l’ètica pot ser un factor de transformació social, cultural i personal.

3. Què és la bioètica i com ens ajuda a millorar la pràctica professional?

Tot i que la bioètica neix dins l’àmbit de la medicina i les ciències, en especial les vinculades a la biologia, durant aquests darrers anys s’ha estès a molts altres àmbits professionals. Si prenem com a exemple el principialisme veurem com els quatre principis clàssics (autonomia, beneficència, justícia i no maleficència) són ara utilitzats per moltes professions, com per exemple les dels diferents àmbits vinculats amb els serveis socials.

La bioètica ens aporta millores essencials en la pràctica professional, especialment valuoses en els àmbits socials ja que els seus principis posen de relleu qüestions fonamentals:

  • L’autonomia ens obliga a respectar les decisions de les persones, encara que no siguin les que nosaltres consideraríem òptimes. Sense aquest principi és fàcil caure en els aspectes més perversos del paternalisme.
  • La beneficència ens col·loca davant de la nostra responsabilitat professional: què és el millor que podem fer per a la persona? A més, en la relació entre autonomia i beneficència es mostren els límits que les condicionen: el límit de la beneficència és l’autonomia (sobrepassar aquest límit és caure sovint en el paternalisme) però l’autonomia també té un límit davant de la beneficència: la bona praxis professional.
  • La justícia al seu torn és la condició de possibilitat de l’autonomia mateixa: si totes les decisions dels éssers autònoms són vàlides és que totes tenen el mateix valor. Ara bé, si una decisió autònoma només es pot dur a terme contra la decisió i la voluntat d’un altre, el paper de la justícia esdevé molt rellevant: reflexionar al voltant dels conflictes de drets i ponderar la justícia o injustícia de les decisions quan aquestes danyen o vulneren als altres. Quan això passa sense aquesta ponderació i una reflexió adequades (justes) és quan es trenca la justícia: una decisió ha estat valorada per sobre de la de l’altre de manera injustificada – i per tant injusta –. D’altra banda aquesta igualtat no implica homogeneïtat: si les persones són diferents i les seves necessitats també ho són, la justícia esdevé injusta quan anivella les diferències sense considerar, justament, el valor de la diversitat de les decisions autònomes.
  • Finalment, el clàssic principi de ‘primum non nocere’ articula en bona mesura el principi de no maleficència.

4. Amb la irrupció de la Intel·ligència artificial en tots els àmbits de la vida, quins són els principals reptes que haurem d’afrontar des de l’ètica?

No és fàcil en tan poc espai parlar dels reptes que ens pot arribar a plantejar en un futur molt pròxim la IA. A més fer prediccions sobre temes tan complexos i incerts és sempre un xic agosarat. No obstant podem desenvolupar algunes reflexions. És important dir també que només ens referirem a la IA i la robòtica, però aquestes tecnologies són una part d’un conjunt més ampli i complex que incorpora la biotecnologia, la nanotecnologia i la neurociència. És el que s’anomena “convergència de tecnologies”. La potència transformadora d’aquestes tecnologies en interacció ens fa albirar un futur ple de reptes ètics.

És doncs molt difícil definir quins són els principals reptes ètics de la irrupció de la IA en les nostres vides per que a penes estem començant a comprendre l’abast del que ens ve a sobre. Els experts discrepen de si estem davant de la continuïtat de la tercera revolució industrial o si ja podem parlar de la quarta. En qualsevol cas, el futur ens presenta moltes incògnites plenes de conseqüències ètiques. Parlaré primer de les conseqüències socials i econòmiques sobre el treball i mencionaré els perills del seu ús militar, en segon lloc de les implicacions individuals relatives al perill de solipsisme radical i acabaré parlant de quelcom que, ara per ara, és ciència ficció però que potser pugui esdevenir realitat en el futur: la creació d’una IA plena.

Abans d’aprofundir en possibles conseqüències negatives, èticament rellevants, vull deixar ben clar que també poden tenir efectes positius tan a nivell individual com social. És el mateix sempre per a tota tecnologia. De fet la nostra espècie és una espècie tecnològica ja que de la tecnologia depèn la nostra supervivència. Ja sigui utilitzant pedres, metalls o àtoms els humans ens relacionem tecnològicament amb el món. El que ja no és universal són els condicionaments socials i culturals de les diferents formes de tecnologia que cada grup humà ha generat. En el nostre cas està clar que la nostra tecnologia (que hem d’anomenar tecnociència) està profundament arrelada a la nostra forma de veure el món i, per tant, amb idees de control, domini, progrés, quantificació i altres que neixen en aquell moment històric que anomenem Modernitat i Il·lustració. Podem trobar una crítica molt profunda d’aquesta dinàmica en la cèlebre obra de Adorno i Horkheimer Dialèctica de la Ilustració. Per tant proposem un posicionament en front de la tecnociència que tingui en compte els condicionants culturals en el que es desenvolupa, al mateix temps que proposem un aristotèlic terme mig entre dos pols extrems que anomenarem “tecnofòbia” i “tecnoentusiasme”, tots dos fortament condicionats per elements culturals, socials i polítics.

Per començar a pensar en les conseqüències socials, cal reflexionar sobre el fet que és molt possible que desaparegui un gran número de llocs de treball i de professions. Alguns diuen, i no els manca raó, que en tota revolució industrial ha passat el mateix però que en un cert temps el “mercat laboral” (expressió certament poc afortunada si l’examinem en profunditat, cosa que no podem fer aquí) s’ha reestructurat i s’han recuperat nous llocs de treball i creat multitud de noves professions. Ara bé, podem pensar que això passarà també amb aquesta nova transformació tecnològica? Si més no tenim elements per a dubtar-ho. En primer lloc, les perspectives més optimistes parlen de la desaparició de vora un 30% dels llocs de treball (les més pessimistes proposen xifres d’entre un 50% i un 60%). La projecció no convida a l’optimisme. Si pensem per exemple en l’Estat Espanyol, on la xifra d’aturats està hores d’ara al voltant del 16% i podem pensar en una gran quantitat d’atur estructural (alguns anàlisis parlen d’un 14%), pensar en una sacsejada com aquesta és molt preocupant. Així doncs, molts pensadors i analistes afirmen que malgrat que es creïn nous llocs de treball i professions, la taxa d’atur estructural augmentarà com mai s’ha vist a la història en cap de les anteriors revolucions industrials. Davant d’aquesta perspectiva ja són moltes les veus que demanen una renda garantida universal. A l’actualitat s’han produït, i encara estan en marxa alguns experiments en aquesta línia, però no han estat concloents. El que si sembla estar clar és que la reflexió està oberta. Fins i tot la cimera de Davos del 2017 va dedicar una part de les seves reflexions a aquest tema i a la UE l’informe de Maddy Delvaux reflexiona sobre la qüestió juntament amb altres temes relatius a la IA i la robòtica. Així doncs, passa amb la IA com amb tota tecnologia: en bona mesura som responsables de quins efectes produeix i quins perjudicis causa. Ja ho deia la primera llei de Kranzberg: “la tecnologia no és bona ni dolenta, però no és neutral”. Per tant és imprescindible desenvolupar una reflexió ètica sobre aquestes conseqüències, amb l’objectiu de generar processos de participació social sobre la tecnologia. Seguint les idees exposades per Silvio Funtowicz i Jerome Ravetz en la seva obra de 1993, La ciència postnormal. La ciència amb la gent, en contextos de gran incertesa generada per desenvolupaments tecnocientífics, on les conseqüències seran grans i repartides en tota la societat, és la mateixa societat la que ha de participar en aitals decisions i no només els “experts”. Hores d’ara ja apliquem aquest mateix principi a escala individual i s’anomena Consentiment Informat. Ara del que es tracta és de generar un Consentiment Social Informat. No hi ha dubte doncs que es tracta d’un repte ètic amb tots els ets i uts. Finalment, i no cal estendre’s gaire per a fer-ho palès, els usos militars de la IA i dels robots poden ser devastadors. En aquesta línia es posicionen ja els enginyers i científics que han signat un manifest contra l’ús militar d’armes autònomes: https://futureoflife.org/open-letter-autonomous-weapons . No m’allargaré doncs en més reflexions al respecte ja que es evident per si mateix el fet que l’ús militar de la tecnociència no té cap justificació.

Pel que fa a les conseqüències individuals, l’aparició dels robots en un món que tendeix a les addiccions, l’aïllament i la soledat poden ser bastant negatives. Independentment de que ens puguin ajudar en múltiples tasques d’assistència a persones vulnerables, en catàstrofes i accidents, en medicina i altres aplicacions molt importants, si l’ús de robots “empàtics” s’estén com a objecte de consum generalitzat els perills són evidents. Pensem en la relació que tenim amb els smartphones i imaginem que aquests instruments fossin capaços de reconèixer el nostre estat d’ànim i de generar una resposta en conseqüència. El nivell d’addicció i d’aïllament podrien créixer exponencialment. Doncs és justament el que alguns robots assistents podran fer en poc temps. Òbviament no seran capaços de tenir empatia, però si de simular-la (i simular-la molt bé). Els dispositius de reconeixement facial de les expressions i les emocions, les millores en la comunicació a través de sistemes de comprensió i expressió en llenguatge natural i les seves capacitats de connectar-se amb allò que s’ha anomenat “l’internet de les coses” pot fer dels robots uns assistents ideals per a moltes persones. Amb el risc de generar un vincle afectiu amb una màquina que, en realitat, no serà cap altra cosa més que una eina això sí, molt sofisticada. Però per a moltes persones el contacte amb les màquines substituirà el contacte amb les persones. Pensem si no en els efectes de les xarxes socials o els ja mencionats smartphones. Així doncs, un cop més, una tecnologia potencialment molt útil té una cara fosca evident. De nou, com en el cas anterior, hem de poder desenvolupar un procés de diàleg social informat que ens permeti reflexionar sobre preguntes tan fonamentals com quins riscos estem disposat a assumir? A canvi de quins beneficis? en quines condicions? per a qui? Etc.

Per acabar, com ja he dit abans, em referiré a un tema que avui és, i potser sempre ho serà, pura ciència ficció: la intel·ligència artificial plena. Què passaria si fóssim capaços de construir una màquina que fos, realment, autònoma i autoconscient? Que fos doncs capaç de pensar per ella mateixa, d’establir els seus propis objectius independentment de nosaltres? No estarem doncs parlant d’un ésser autònom? Realment autònom i no com, per exemple, el vehicle autònom del que tant es parla ara i que no és més que un cotxe dirigit per un complex algoritme que li permet prendre determinades decisions en certs contextos. I si és un ésser autònom i racional, no hauríem, seguint a Kant, de respectar-lo com a un fi en ell mateix? Aquest fet obre tota una sèrie de perspectives i preguntes molt interessants:

  • Com haurem de tractar a una criatura així? Com un objecte? És a dir, com un esclau? Però si ho fem, estarem actuant d’una manera èticament reprovable ja que no seria en realitat un mer objecte sinó un subjecte? Un subjecte de drets?
  • I, si com a molts els fa por (com a Elon Musk o al recentment desaparegut Stephen Hawkin) una criatura així, que a més fos molt més intel·ligent i forta que nosaltres, connectada a internet – tant el dels coneixements com el de les coses – no podria considerar-nos com a elements prescindibles?
  • O bé, no podria assumir que la nostra imperfecció es inherent a la nostra condició humana i, assumint un posicionament paternalista, decidir que és millor per nosaltres, pel nostre propi bé, que ens governi ella?

Com veiem, podem obrir tota una sèrie d’interrogants ètics que, si bé potser no haurem de respondre mai, donades les sorpreses que ens ha anat donant la tecnociència en aquests escassos dos segles, val la pena començar a plantejar-se.

5. En tres paraules, què significa per a tu incorporar l’ètica en la presa de decisions?

Deure, responsabilitat, necessitat.