Entrades amb l'etiqueta ‘Salmon Levinson’

Versatilitat, autonomia, morts i ètica

dijous, 18/01/2018

A mitjans del segle XX, no hi havia màquines versàtils. Les neveres servien per conservar aliments, les tisores per tallar i les bicicletes per anar amunt i avall. Però ben aviat, els ordinadors ens van canviar les coses. Treballaven amb informació, adaptant-se en cada moment a allò que ens calia i fent tot tipus de càlculs. La seva versatilitat era extraordinària. Van passar de ser eines de càlcul a ajudar-nos en l’escriptura, processament i gestió de textos, ben aviat es van convertir en màquines ideals per manipular imatge, vídeos i so, i ara són eines bàsiques per a la comunicació i cerca d’informació. Els ordinadors són essencialment màquines versàtils.

Pot semblar estrany aquesta afirmació que els ordinadors són màquines, perquè estem acostumats a pensar que una màquina és un giny mecànic que actua i fa alguna cosa, mentre que els ordinadors treballen amb això tan subtil que anomenem informació. Però el fet és que les màquines actuals inclouen en general ordinadors que, gràcies a determinats mecanismes actuadors, realitzen tasques en el món real. Un amic meu diu que els cotxes d’avui en dia són ordinadors que controlen un motor, tot plegat cobert amb allò que anomenem carrosseria. Podríem parlar dels robots-aspiradora i de molts altres invents per la llar. I és clar que els mòbils són ordinadors amb una bona càmera de fotos que, a més, serveixen per a telefonar. Estem voltats d’ordinadors que fan coses, des de sistemes que llegeixen la matrícula del cotxe en entrar al pàrquing, fins màquines que ens fan un TAC i ens creen imatges del que tenim dins del nostre cos. En tots aquests ginys sempre hi ha el mateix: un ordinador convenientment programat, que detecta el que passa en el seu entorn amb un conjunt adequat de sensors, i que controla determinats actuadors que acaben fent el que cal. Ordinadors amb sensors i actuadors.

Fa ben poc, alguns d’aquests invents han aprés a volar. Són els drons: ordinadors que volen, detecten i actuen. Tenen motors elèctrics, una bateria, un sistema de control de vol i estabilització (ordinador), sensors (d’alçada, GPS i altres) i alguns actuadors (per exemple, una càmera de fotos o de vídeo). Són força autònoms, però habitualment requereixen que algú els condueixi des de terra. Els més sofisticats es controlen des d’un ordinador que mostra, a la pantalla, allò que el dron està veient amb la seva càmera. Això facilita el guiatge i la decisió de quan cal fer les fotos. Això sí, els drons, ordinadors que volen, porten determinats dispositius específics en funció del seu ús. És habitual que incloguin una càmera de fotos, però poden portar, a més i per exemple, material específic d’ajut per a rescats a la muntanya o fins i tot desfibril·ladors.

Els drons, hereus dels ordinadors, són altament versàtils. Poden salvar vides, cartografiar cultius, o fotografiar objectius militars que després seran bombardejats. Fins i tot, poden portar explosius i matar, comandats remotament des d’un ordinador per un “soldat” que actua com si estigués en un joc inofensiu. Malauradament, però, hi ha molt poc debat ètic sobre les morts extra-judicials amb drons. És èticament acceptable que, en països que han abolit la pena de mort, els jutges no condemnin ningú a mort mentre hi ha qui pot matar, impunement, amb drons? No puc entendre que la resposta no sigui un NO rotund.

Doncs bé, les armes autònomes encara van un pas més enllà. Aquestes armes, habitualment drons, inclouen un sistema d’intel·ligència artificial que pot acabar decidint, sense intervenció humana, si cal matar una determinada persona o destruir un objectiu concret. Són autònomes, cert; però el problema és que, com nosaltres, es poden equivocar. Perquè els sistemes d’intel·ligència artificial estan sotmesos a errors i perquè les màquines no tenen el que s’anomena comprensió profunda. I el problema és que els seus errors són vides de persones concretes.

Actualment hi ha un gran debat sobre aquestes armes autònomes letals (LAWS, conegudes també com robots assassins; la imatge de dalt és d’aquesta web). L’Stuart Russell, de la Universitat de California a Berkeley, diu que són “la tercera revolució de l’art de la guerra, després de la pólvora i la bomba atòmica”. I hi ha debat perquè hi ha grans interessos. El Departament de Defensa nord-americà insta a un augment de la inversió en tecnologies d’armes autònomes, de manera tal que “Amèrica pugui mantenir la seva posició davant els adversaris, que també explotaran els seus beneficis operacionals”. La frase no pot ser més clara. És l’ètica del poder i del domini, la llei del més fort que ignora la gent.

Per sort, els científics pensen més en termes d’una ètica que posa les persones al centre i que defensa els quasi oblidats drets humans, un dels quals és l’indiscutible dret a la vida de tota persona humana. Per exemple, un total de 116 experts en els àmbits de la intel·ligència artificial i la robòtica han signat una carta en la que demanen a les Nacions Unides que prohibeixi aquestes armes autònomes letals.

Acabo citant un article recent d’en Michael Shermer, en el que diu que el que cal prohibir és la guerra, directament. El podeu llegir aquí. Diu (poca gent ho sap) que això no és res de nou i que, de fet, la guerra ja es va prohibir l’any 1928 amb el pacte de Kellogg–Briand a París. Les disposicions bàsiques del pacte, que continua vigent, fixaven la renuncia a l’ús de la guerra i la promoció de la solució pacífica dels conflictes i disputes. Ho expliquen l’Oona A. Hathaway i en Scott J. Shapiro, professors de Yale, en un llibre recent. En Michael Shermer recorda el que ja deia en Salmon Levinson l’any 1917: que no hauríem de tenir lleis sobre la guerra com tenim ara, sinó lleis contra la guerra, de la mateixa manera que no tenim lleis sobre l’assassinat o l’enverinament, sinó lleis contra l’assassinat i l’enverinament. Cent anys després, amb una segona guerra mundial i infinitat d’altres guerres que han generat morts innocents, no només continuem igual sino que ara volem que les màquines versàtils siguin les que s’encarreguin de la feina bruta. Qui són els responsables? On és la ètica?

———

Per cert, en Bru Rovira parla del cas de l’activista Helena Maleno, i constata que el govern espanyol pressiona un tercer país (el Marroc) perquè condemni una persona que les nostres lleis no condemnen. Recorda que la investigació va ser ja rebutjada i arxivada per la mateixa fiscalia de l’Audiència Nacional.