Entrades amb l'etiqueta ‘dret a la vida’

Versatilitat, autonomia, morts i ètica

dijous, 18/01/2018

A mitjans del segle XX, no hi havia màquines versàtils. Les neveres servien per conservar aliments, les tisores per tallar i les bicicletes per anar amunt i avall. Però ben aviat, els ordinadors ens van canviar les coses. Treballaven amb informació, adaptant-se en cada moment a allò que ens calia i fent tot tipus de càlculs. La seva versatilitat era extraordinària. Van passar de ser eines de càlcul a ajudar-nos en l’escriptura, processament i gestió de textos, ben aviat es van convertir en màquines ideals per manipular imatge, vídeos i so, i ara són eines bàsiques per a la comunicació i cerca d’informació. Els ordinadors són essencialment màquines versàtils.

Pot semblar estrany aquesta afirmació que els ordinadors són màquines, perquè estem acostumats a pensar que una màquina és un giny mecànic que actua i fa alguna cosa, mentre que els ordinadors treballen amb això tan subtil que anomenem informació. Però el fet és que les màquines actuals inclouen en general ordinadors que, gràcies a determinats mecanismes actuadors, realitzen tasques en el món real. Un amic meu diu que els cotxes d’avui en dia són ordinadors que controlen un motor, tot plegat cobert amb allò que anomenem carrosseria. Podríem parlar dels robots-aspiradora i de molts altres invents per la llar. I és clar que els mòbils són ordinadors amb una bona càmera de fotos que, a més, serveixen per a telefonar. Estem voltats d’ordinadors que fan coses, des de sistemes que llegeixen la matrícula del cotxe en entrar al pàrquing, fins màquines que ens fan un TAC i ens creen imatges del que tenim dins del nostre cos. En tots aquests ginys sempre hi ha el mateix: un ordinador convenientment programat, que detecta el que passa en el seu entorn amb un conjunt adequat de sensors, i que controla determinats actuadors que acaben fent el que cal. Ordinadors amb sensors i actuadors.

Fa ben poc, alguns d’aquests invents han aprés a volar. Són els drons: ordinadors que volen, detecten i actuen. Tenen motors elèctrics, una bateria, un sistema de control de vol i estabilització (ordinador), sensors (d’alçada, GPS i altres) i alguns actuadors (per exemple, una càmera de fotos o de vídeo). Són força autònoms, però habitualment requereixen que algú els condueixi des de terra. Els més sofisticats es controlen des d’un ordinador que mostra, a la pantalla, allò que el dron està veient amb la seva càmera. Això facilita el guiatge i la decisió de quan cal fer les fotos. Això sí, els drons, ordinadors que volen, porten determinats dispositius específics en funció del seu ús. És habitual que incloguin una càmera de fotos, però poden portar, a més i per exemple, material específic d’ajut per a rescats a la muntanya o fins i tot desfibril·ladors.

Els drons, hereus dels ordinadors, són altament versàtils. Poden salvar vides, cartografiar cultius, o fotografiar objectius militars que després seran bombardejats. Fins i tot, poden portar explosius i matar, comandats remotament des d’un ordinador per un “soldat” que actua com si estigués en un joc inofensiu. Malauradament, però, hi ha molt poc debat ètic sobre les morts extra-judicials amb drons. És èticament acceptable que, en països que han abolit la pena de mort, els jutges no condemnin ningú a mort mentre hi ha qui pot matar, impunement, amb drons? No puc entendre que la resposta no sigui un NO rotund.

Doncs bé, les armes autònomes encara van un pas més enllà. Aquestes armes, habitualment drons, inclouen un sistema d’intel·ligència artificial que pot acabar decidint, sense intervenció humana, si cal matar una determinada persona o destruir un objectiu concret. Són autònomes, cert; però el problema és que, com nosaltres, es poden equivocar. Perquè els sistemes d’intel·ligència artificial estan sotmesos a errors i perquè les màquines no tenen el que s’anomena comprensió profunda. I el problema és que els seus errors són vides de persones concretes.

Actualment hi ha un gran debat sobre aquestes armes autònomes letals (LAWS, conegudes també com robots assassins; la imatge de dalt és d’aquesta web). L’Stuart Russell, de la Universitat de California a Berkeley, diu que són “la tercera revolució de l’art de la guerra, després de la pólvora i la bomba atòmica”. I hi ha debat perquè hi ha grans interessos. El Departament de Defensa nord-americà insta a un augment de la inversió en tecnologies d’armes autònomes, de manera tal que “Amèrica pugui mantenir la seva posició davant els adversaris, que també explotaran els seus beneficis operacionals”. La frase no pot ser més clara. És l’ètica del poder i del domini, la llei del més fort que ignora la gent.

Per sort, els científics pensen més en termes d’una ètica que posa les persones al centre i que defensa els quasi oblidats drets humans, un dels quals és l’indiscutible dret a la vida de tota persona humana. Per exemple, un total de 116 experts en els àmbits de la intel·ligència artificial i la robòtica han signat una carta en la que demanen a les Nacions Unides que prohibeixi aquestes armes autònomes letals.

Acabo citant un article recent d’en Michael Shermer, en el que diu que el que cal prohibir és la guerra, directament. El podeu llegir aquí. Diu (poca gent ho sap) que això no és res de nou i que, de fet, la guerra ja es va prohibir l’any 1928 amb el pacte de Kellogg–Briand a París. Les disposicions bàsiques del pacte, que continua vigent, fixaven la renuncia a l’ús de la guerra i la promoció de la solució pacífica dels conflictes i disputes. Ho expliquen l’Oona A. Hathaway i en Scott J. Shapiro, professors de Yale, en un llibre recent. En Michael Shermer recorda el que ja deia en Salmon Levinson l’any 1917: que no hauríem de tenir lleis sobre la guerra com tenim ara, sinó lleis contra la guerra, de la mateixa manera que no tenim lleis sobre l’assassinat o l’enverinament, sinó lleis contra l’assassinat i l’enverinament. Cent anys després, amb una segona guerra mundial i infinitat d’altres guerres que han generat morts innocents, no només continuem igual sino que ara volem que les màquines versàtils siguin les que s’encarreguin de la feina bruta. Qui són els responsables? On és la ètica?

———

Per cert, en Bru Rovira parla del cas de l’activista Helena Maleno, i constata que el govern espanyol pressiona un tercer país (el Marroc) perquè condemni una persona que les nostres lleis no condemnen. Recorda que la investigació va ser ja rebutjada i arxivada per la mateixa fiscalia de l’Audiència Nacional.

Les armes i les morts extrajudicials

dimecres, 10/12/2014

En Josep Maria Espinàs diu que l’impressiona que sigui tan fàcil morir absurdament, com el nen que fa poques setmanes va ser abatut per tres policies a Cleveland. Té tota la raó. En aquest món que ens sembla tan avançat tecnològicament, ens relacionem, ens odiem i ens matem com fa deu o vint segles. Ens hem acostumat a llegir notícies que cada dia ens informen de la mort de persones innocents. I tot es tapa, quasi tot queda impune, com la mort del periodista José Couso o les morts que constantment denuncien organitzacions com Amnistia Internacional o Human Rights Watch. Tristament, la ciència i la tecnologia han servit massa vegades a la industria militar i han contribuït a la fabricació de les armes que després ens acaben matant.

Un dels informes del Centre Delàs per la Pau es pregunta quina classe de moral justifica utilitzar uns productes que serveixen per destruir vides humanes. D’altra banda, explica que és evident que s’està implantant a Catalunya un complex militar industrial estretament lligat al desenvolupament del sector aeronàutic i de l’espai. La despesa militar en armament sempre representa una disminució de la inversió pública productiva en termes de rendibilitat social. Perquè aquests mateixos recursos materials, de béns d’equip, de coneixements tecnològics i de mà d’obra, destinats a altres sectors de la producció civil, generarien majors beneficis socials.

La ben coneguda i tan citada Declaració Universal dels Drets Humans, en el seu article 3, diu que tot individu té dret a la vida, a la llibertat i a la seguretat de la seva persona. És quelcom d’inherent a la dignitat humana. Com deia el poeta Luis Cernuda, la destrucció i la mort, sigui quin sigui el pretext, no es poden cantar ni molt menys glorificar. I com que tot dret genera un deure, tal vegada hauríem de parlar del Deure Universal de no matar, no penseu?

Cada cop estic més convençut que totes les morts extrajudicials són potencialment punibles i que, de la mateixa manera que les tortures, han de poder ser jutjades per tribunals adients amb jurisdicció universal. Diem que vivim en sistemes democràtics amb separació de poders, i ens agradar pensar que tenim una declaració dels drets humans que parla del dret de tothom a la vida i del dret a tenir un judici just. D’altra banda, cada cop hi ha més països que han abolit la pena de mort. En aquest context en el que els jutges no poden decretar la pena capital, com és que els governs, els poders executius, decideixen matar? No és legítim que el poder executiu usurpi competències del judicial. En els actuals Estats de dret sense pena de mort, és perfectament argumentable que els poders executius no poden torturar ni matar. En democràcia, els Estats es reserven el recurs a la violència. Però és un recurs limitat, perquè és en mans del poder judicial i perquè ja hem abolit la pena de mort. En el moment que les morts judicials han deixat d’existir, les altres deixen de ser legítimes. La meva conclusió és que totes les morts extrajudicials (per part de la policia, exèrcit o serveis secrets) han de poder ser punibles i han de poder ser jutjades pel tribunals amb jurisdicció universal, com és el cas del Tribunal Penal Internacional.

Tothom té dret a somiar. El meu somni és un món en el que la ciència i la tecnologia serveixin per a construir i viure millor, i no per destruir. Un món en el que els néts dels nostres néts hi puguin viure bé. Un món sense pena de mort, amb control de les desigualtats, basat en una cultura de pau i en la sortida negociada dels conflictes. Un món en que les morts, extrajudicials, siguin sempre objecte de judici. Un món en el que no hi hagi comerç d’armes i en el que les armes deixin de ser mortals. És utòpic, ho sé. Però quan penso en utopies em ve al cap la frase de Gandhi, que deia: “sigues el canvi que vols al món”. Potser cal ser una mica utòpic si volem canviar alguna cosa, oi?

Per cert, en Rafael Sánchez Ferlosio diu que ningú s’atrevirà a negar que els bons, molt abans de ser Bons, són els Nostres. Els Nostres són els que guanyen, els que han de guanyar. I diu que les armes de foc han estat l’instrument capital dels herois de la gran epopeia del Destí Manifest.