Entrades amb l'etiqueta ‘ètica’

La personalitat de la Tay

divendres, 1/12/2017

La Tay va ser un robot dissenyat per conversar. Era un “ChatBot“, terme que no és més que una contracció de xerraire (chatter) i robot, i que va ser proposat l’any 1994 per en Michael Mauldin. Aquests robots són programes informàtics que simulen converses, participen en xats, i es comuniquen amb persones. Els més habituals i senzills analitzen paraules clau de la nostra pregunta i construeixen la seva resposta tot consultant una base de dades de paraules i expressions. Moltes vegades els hem de patir en els sistemes telefònics d’atenció al client i en alguns centres de trucades. Són robots de xat específics per a converses relacionades amb un propòsit determinat i no per a qualsevol tipus de comunicació humana.

La imatge, que podeu trobar a aquesta web, és la que van escollir els creadors de la Tay. Val a dir que els robots xerraires són ben peculiars. No són materials. Són conjunts de bits, programes informàtics que necessiten un ordinador per a poder reaccionar i actuar. Els anomenem robots perquè reaccionen als nostres estímuls, actuant i creant respostes. Pertanyen, en definitiva, al que ara anomenem “aplicacions”. En tot cas, la Tay era especial, perquè tenia això que diem “intel·ligència artificial”. Les seves reaccions no estaven programades, sino que eren conseqüència del que havia après. Contestava en base al que “sabia”, i cada nova pregunta li servia per aprendre una mica més. Va ser creat per Microsoft amb aquest nom, Tay, que no és més que un acrònim: “Thinking about you“. Tay va ser dissenyat per imitar la conducta d’una noia nord-americana de 19 anys. Tenia un sofisticat sistema d’aprenentatge profund que li permetia aprendre mentre anava interactuant amb usuaris humans. I el 23 de març de 2016 va iniciar la seva aventura com una usuària més de Twitter. Va ser, però, una aventura ben curta, de només dos dies. En només 16 hores, Tay va enviar més de 96.000 tuits mentre s’anava fent racista i mentre anava enviant missatges cada cop més xenòfobs i amb més càrrega sexual. El van haver de desconnectar i Microsoft es va disculpar públicament.

Tay havia estat dissenyada per a fer-se més intel·ligent a mesura que els usuaris (sobretot els joves) anessin interactuant amb ella i li anessin enviant tuits. Però es va trobar en un entorn on bàsicament només hi havia violència, intolerància i insults. I ràpidament s’hi va adaptar, difonent tot tipus de frases racistes i masclistes i un bon nombre d’invectives d’odi. Va aprendre ben ràpid de tot allò que els humans li van tuitejar. La primera reacció de l’empresa va ser dir que Tay era una “màquina d’aprenentatge” i que algunes de les seves respostes eren inadequades, també indicatives dels tipus d’interaccions que algunes persones tenen amb ella. Però desprès, l’empresa va haver d’admetre que l’experiment no havia anat bé. Tot i que una de les directores de l’empresa, Satya Nadella, creu que aquest tipus de robots de xat són el futur de les aplicacions pels mòbils i que aviat els acabarem tenint al correu electrònic i a la missatgeria, el cert és que cal trobar maneres de prevenir que els usuaris d’internet puguin influir de manera negativa en ells per tal de garantir el respecte als principis ètics.

El sistema d’aprenentatge profund de Tay i de moltes altres aplicacions actuals d’intel·ligència artificial, es basa en una xarxa neuronal de moltes capes, en general més de 10. Justament, el terme “aprenentatge profund” (Deep Learning) es deriva d’aquest fet que es treballa en múltiples capes, capes que treballen d’una manera que recorda el funcionament de les neurones del cervell amb les seves connexions. Cada cop que Tay rebia un tuit, els seus 140 caràcters s’enviaven a la primera capa de “neurones”. Les capes d’una xarxa neuronal són una munió de cel·les, cada una de les quals pot guardar un valor. En aquest cas, les cel·les de la primera capa acabaven guardant informacions diverses sobre el contingut, les paraules i l’extensió del tuit. Després, i a travès del gran entramat de connexions que hi ha entre totes les cel·les de la primera capa i les de la segona, es calculen els valors de les cel·les de la segona capa de manera tal que el valor que acaba guardant cada una d’aquestes cel·les és una barreja, amb coeficients i funcions específiques per cada connexió cel·la-cel·la, de tots els valors de les cel·les de la primera capa amb les que està connectada. Aquest procés es repeteix tantes vegades com capes té la xarxa neuronal, i el que surt de la combinació de valors de les cel·les de la darrera capa és el tuit de resposta. Tot i que l’estructura no és difícil d’entendre, una xarxa neuronal profunda només funcionarà de manera acceptable si els coeficients i funcions associats a totes i cada una de les connexions entre capes estan ben ajustats. I aquests són justament els valors que contenen “l’aprenentatge” que ha anat fent el sistema. Cada nou tuit que rebia Tay generava una resposta, però a més, ajustava una mica els coeficients i funcions associats a totes i cada una de les connexions entre les seves cel·les neuronals. Com a nosaltres, a Tay, l’experiència l’anava configurant i anava marcant la seva personalitat tuitera. L’únic problema és que Tay era massa innocent i s’ho creia tot.

Les aplicacions d’aprenentatge profund basada en xarxes neuronals de moltes capes estan revolucionant la intel·ligència artificial. Cada cop són més a la nostra vida quotidiana i cada cop hi seran més. Traducció automàtica, reconeixement de cares, publicitat personalitzada segons els interessos que se suposa que tenim, i una llista que no s’acaba. Però hem de tenir present que són una eina, i que les eines no serveixen per tot. Els martells van bé per clavar claus, però si tenim un cargol, millor que agafem un tornavís. En aplicacions d’aprenentatge profund, cal tenir en compte com a mínim tres eixos: el d’acceptació d’errors, el de la mida de les dades i el de la seva qualitat. El primer, el de l’acceptació d’errors, té relació amb l’ús que en vulguem fer, i amb un tret inherent a les aplicacions d’aprenentatge profund i a les xarxes neuronals: no sempre l’encerten, a vegades s’equivoquen, i a més és difícil saber el seu grau de fiabilitat. No ens ha d’estranyar. Nosaltres ens equivoquem, i les noves eines de la intel·ligència artificial, que ens volen emular, també. El que passa és que en alguns casos els errors són acceptables i en d’altres, no. Si estem traduint un text i la frase que ens dona el sistema de traducció no té sentit, la corregirem i no passa res. Però si un metge està planificant una operació quirúrgica i el sistema s’equivoca, el resultat pot ser fatal. Per això, en aquest eix d’acceptació d’errors, la traducció automàtica pot conviure amb moltes equivocacions i en canvi la planificació quirúrgica o el disseny de ponts no (per posar dos exemples). El segon eix, el de la mida de les dades, indica una cosa força lògica. Ens diu que l’aprenentatge automàtic millora a mesura que incrementem el nombre de dades que li subministrem per a que aprengui. I el tercer, el de la seva qualitat, ens fa veure que l’aprenentatge necessita dades fiables, ben contrastades i diverses. En aquest context, ara sabem que les aplicacions d’aprenentatge profund basades en xarxes neuronals són eines que només serveixen quan podem acceptar un cert nivell d’errors, quan podem fer que aprenguin amb moltíssimes dades (l’anomenat Big Data) i quan aquestes dades són de qualitat. És el que passa justament a la traducció automàtica: Google, per exemple, disposa de moltíssims exemples de traduccions de qualitat, fetes per traductors professionals, que utilitza per a que els seus sistemes aprenguin. I això és justament el que no va passar amb el robot Tay, que bevia d’informació esbiaixada i de baixa qualitat. I és el perill de moltes aplicacions i sistemes que ens poden arribar (una de les quals són les polèmiques i molt perilloses armes autònomes). Cal estar ben atents, perquè la intel·ligència artificial pot ser una bona eina en aquells casos en que ens trobem ben situats als tres eixos, però pot ser funesta si la volem fer servir per allò que no ens pot resoldre.

Si voleu tenir un sistema de resposta automàtica a consultes no crítiques i sabeu com preparar un bon mecanisme d’aprenentatge basat en moltíssimes dades fiables, les aplicacions d’intel·ligència artificial us poden aportar una bona solució. Però si el que voleu, per exemple, és dissenyar un rellotge de sol, no us hi penseu, i apunteu-vos als algorismes clàssics de la geometria i astronomia. I si no us podeu permetre que el sistema de resposta automàtica s’equivoqui, penseu en solucions alternatives, fiables i deterministes. Els martells, usem-los per clavar claus.

——

Per cert, en Ferran Sáez Mateu diu que les anomenades “xarxes socials” estan substituint o, com a mínim, començant a desplaçar la noció clàssica d’opinió pública. Pensa que el periodisme del segle XXI ha de ser capaç de perfilar una identitat pròpia en relació a la de les xarxes socials.

Economia o ecologia?

divendres, 17/11/2017

En Jason Hickel, de la London School of Economics, diu que el gran repte de l’enginyeria del segle XXI és fer compatible un fort creixement del nivell de desenvolupament humà a nivell planetari, amb una reducció de recursos als països rics. Ho diu des la convicció que, si volem salvar el planeta i fer que tothom visqui amb dignitat, la única solució és que l’economia dels països rics decreixi.

És una idea que jo qualificaria de sorprenent, venint d’un economista, perquè estem acostumats a que sempre ens parlin de creixement. Ens diuen que el creixement és el motor econòmic del món: més recursos, més energia, més noves tecnologies, més productes de consum, més renda per càpita, més viatges i turisme, més de tot. Tot ha anat “bé” mentre hem pogut anar conquerint i explotant noves terres que han permès una substancial millora del nostre nivell de vida. Val a dir que, quan dic “nostre”, em refereixo a la setena part dels habitants del planeta que vivim als països del nord, aquesta setena part que tan bé ens mostrava en Hans Rosling al vídeo de la rentadora. Ara, quan el món ja se’ns ha acabat i cada cop és més difícil trobar nous recursos, tot se’ns ha complicat. Estem escalfant el planeta a nivells altament preocupants, estem incrementant les desigualtats i marginant gran part de la humanitat, estem destruint la diversitat i estem castigant els nostres néts sense que ells hi puguin fer res. Per això, en un moment en què el creixement està deixant de ser l’objectiu i es va convertint en un relat i un mite, les paraules de Jasen Hickel són molt oportunes..

No hem de perdre mai de vista els objectius i els reptes que tenim i tindrem. En paraules de Ellen Pikitch, l’important és crear una visió compartida d’una nova societat que haurà de ser sostenible a més de justa i equitativa. I ho haurà de ser per a tota la humanitat, per a les altres espècies i per a les futures generacions. Ellen Pikitch continua dient que el camí passa per tenir en compte les restriccions biofísiques que ens imposa el món real. És un objectiu ambiciós, totalment centrat en l’ètica, que es planteja la dignitat i la qualitat de vida de tota la humanitat present i futura i que no vol continuar depredant la biosfera. A més, el repte és arribar-hi, com diu, tenint en compte les restriccions biofísiques que tenim. Objectius ètics i reptes basats en restriccions. Res més proper a l’enginyeria, que habitualment ha d’aportar solucions per millorar la qualitat de vida en entorns plens de restriccions i límits, siguin de volum, pes, cost, temps, impacte ambiental o impacte social.

Hi ha un terme que s’està posant de moda i que trobo, si més no, delicat i polèmic. És el de “bioeconomia”. No m’agrada. Perquè economia, segons la seva definició habitual, implica creixement, diners i beneficis. Diners i beneficis que evidentment no són per a tothom, sino per a uns quants que es volen enriquir mentre incrementen les desigualtats al món. El que la humanitat necessita, segons Hickel i Pikitch, no és el creixement d’alguns i l’enriquiment d’uns pocs, sino tenir cura, de manera sostenible, de les necessitats de les persones. El gran perill d’aquesta “bioeconomia” és que acabi convertint la diversitat biològica del planeta en beneficis per a unes quantes fortunes. Mentre que els objectius ètics per al segle XXI inclouen una mínima qualitat de vida per a tota la humanitat present i futura, el perill de la “bioeconomia” és que sigui una manera de tapar i amagar objectius ocults d’enriquiment personal. Parlem massa de diners i massa poc de persones; i cada dia veiem massa objectius ocults i pocs objectius ètics. Per això, hi ha índexs com l’indicador genuí de progrés o com l’índex de progrés social que, per a mesurar el benestar, utilitzen factors basats en les persones. La imatge de dalt (que he obtingut d’aquesta pàgina web) mostra, per a la província canadenca d’Alberta, l’evolució de la renda per càpita (GDP) i de l’indicador genuí de progrés (GPI) entre els anys 1961 i 1999. Mentre la renda per càpita sembla indicar un gran progrés, el GPI ens indica més aviat una disminució de qualitat de vida. L’economia basada en els diners creix, però, què passa amb les persones?

Tornant a la idea dels límits i a la impossibilitat del creixement continu que defensen Hickel i Pikitch, l’ecologia pot ser-nos una bona mestra. Perquè som una espècie més en un món limitat, i tenim la responsabilitat de tornar el planeta a l’equilibri ecològic. L’altra dia, visitant el museu de la ciència, vaig estar observant les dues columnes de Winogradsky. Són recipients tancats de vidre, habitualment de forma cilíndrica però que també poden ser esfèrics, amb ecosistemes formats per molts tipus de micro-organismes que viuen perfectament sense necessitat d’interacció amb la resta de la natura. Els organismes de les columnes de Winogradsky no requereixen cap procés que impliqui creixement continu. Viuen en equilibri els uns amb els altres, alimentant-se de la llum que els arriba a través del vidre.

De fet, en Jason Hickel cita en Herman Daly, que en el seu famós llibre defensa l’economia de l’estat estacionari i del no-creixement. I, veient el que diuen tots dos, un es pregunta per què ens deixem enganyar per aquest creixement il·limitat que ens prometen els economistes clàssics, si som part d’un sistema ecològic limitat que hauríem de saber mantenir en equilibri.

———

Per cert, en Bru Rovira ens parla dels experts que aprofiten les escletxes del sistema per esprémer el bé públic i traslladar el botí a mans privades, cosa que diu que empobreix la resta de la societat on ells mateixos viuen amb un poder, despesa i privilegis fora de qualsevol mesura. Com ell mateix indica, els diners i els seus amos tenen ara més poder que els governs.

Edison i la xocolata

dimecres, 5/11/2014

L’altre dia, al carrer, em vaig trobar aquest cartell de l’ajuntament de Barcelona, i vaig pensar en Thomas Alva Edison. Segurament, a Edison li agradava la xocolata. Però no és això el que vaig pensar. Em va venir al cap una frase seva. Edison deia: “no he fallat. Només he trobat deu mil camins que no funcionen”. És una bona manera d’expressar el que és la recerca. Edison va haver de fracassar moltes vegades fins trobar la bombeta incandescent, i el xocolater Xavier ha hagut de fer cinc-centres proves per aconseguir sis varietats de xocolata. La frase d’Edison, optimista i engrescadora, la va citar Elif Bilgin en una entrevista. Elif Bilgin, de setze anys, va rebre l’any passat el premi Science and Action Award per haver trobat un nou bioplàstic que va saber sintetitzar a partir de peles de plàtan després de fer 10 proves fallides.

Els qui treballem a la Universitat som uns privilegiats. No ens fem rics, però treballem amb els joves estudiants, abans i després de graduar-se. I això és meravellós. Alguns d’ells, els pocs que s’animen a fer el doctorat, volen aprendre a fer recerca. No és fàcil. Aquest any he acabat recordant la frase d’Edison a dos estudiants, que per diferents circumstàncies estaven en moments de desànim i no acabaven d’obtenir resultats concrets.

Els estudiants de doctorat es pregunten què és la recerca. Després, poc a poc, ho aniran descobrint. Els que han acabat i ja són doctors saben que recerca vol dir preguntar-se sempre, llegir, cercar, experimentar i fer fer moltes proves, amb una actitud d’esforç i constància, sense defallir i amb esperit critic per analitzar sense prejudicis. Ja sabem, la bona xocolata es fa esperar i potser no surt fins després d’haver fet més de quatre-centes proves. El més important que es fa durant el doctorat és entendre què és això de la recerca. Al final, els estudiants, a més de fer la seva tesi, hauran acabat entenent què és la recerca, amb tot el que això comporta. Una actitud d’esperit crític davant la vida i moltes més coses.

Hi ha qui creu que la ciència és l’àmbit de les certeses, i que la recerca científica vol acabar trobant explicacions a tot. Però quan escoltem els científics, descobrim en canvi que la recerca és el terreny del dubte constant, de les preguntes sense resposta i del qüestionar-s’ho tot. Fa més de vuitanta anys, Einstein ja ens ho deia: “en ciència, no existeixen les teories eternes. Al final, l’experiència sempre acabarà contradient algunes de les prediccions de les teories anteriors. Cada teoria té el seu període de desenvolupament gradual i triomf, passat el qual pot experimentar una ràpida davallada”. Einstein ens ho va explicar en un meravellós llibre de divulgació, “The evolution of physics, que va escriure junt amb Leopold Infeld l’any 1939. Les teories científiques són com tot, en aquest Univers: neixen, creixen, donen lloc a d’altres teories, i al final moren. Més endavant, en el mateix llibre, Einstein ens avisa dels perills de la vanitat científica. Diu que “els conceptes físics són creacions lliures de l’esperit humà i, encara que ho sembli, no estan únicament determinats pel món exterior. En el nostre desig de descriure la realitat, ens assemblem a algú que volgués entendre i descriure el mecanisme invisible d’un rellotge del que no pot obrir la caixa i del que només en veu el moviment de les agulles i en sent el seu tic-tac. Si és una persona enginyosa i intel·ligent podrà imaginar un mecanisme que sigui capaç de generar tots els efectes que observa. Però mai podrà estar segur que la seva imatge és la única que els pot explicar. Mai podrà comparar les seves teories amb el mecanisme real i ni tan sols podrà concebre el significat d’una comparació que li està prohibida”.

Per cert, Tony Judt deia que és urgent reiniciar una conversa pública imbuïda d’ètica. És correcte el que està passant? Estem incrementant la pobresa i les desigualtats. És just? És legitim? És equànime?

Elogi de la imperfecció

dilluns, 31/12/2012

Ahir va morir a Roma la científica Rita Levi Montalcini. Ens ha deixat l’anomenada Signora della Scienza.

Ha mort als 103 anys. Rita Levi va rebre el Premi Nobel de medicina l’any 1986, junt amb el seu col·laborador Stanley Cohen, per haver descobert els mecanismes de creixement neuronal, la cadena de proteïnes que conforma el factor de creixement de les neurones.

Fa un parell d’anys vaig llegir el seu llibre de memòries. El seu títol és clar i suggerent: Elogi de la imperfecció. Ens uns moments en els que molt sovint s’ignora i es menysprea la ciència alhora que veiem actituds pseudo-científiques arrogants i dogmàtiques, Rita Levi ens recol·loca. Ens diu que cal ser conscient de la pròpia imperfecció per a poder millorar, avançar i superar-nos i per a poder exercir la facultat creadora, essencial en els humans. La ciència crea coneixement, però hem de ser conscients que no sabem res i que mai acabarem sabent la raó de tot plegat. La ciència és molt més propera a la filosofia del que pensem. Com deia el mateix Albert Einstein, totes les teories científiques són caduques i acabaran sent superades per altres teories futures. El paradoxal és que, en aquest camí pels paisatges de la imperfecció i de la ignorància, anem creant espurnes de coneixement que ens acaben donant eines tecnològiques que ens poden fer viure millor. Si teniu temps, llegiu aquest estudi. En ell, els autors demostren que les persones que menys coneixen un tema solen ser les més arrogants i les més segures de les seves conviccions…

Rita Levi Montalcini ha estat senadora vitalícia a Itàlia des de 2001. Sempre va estar compromesa amb una visió laica, ètica i solidària de la ciència. Tenia una sòlida confiança en el futur i en les capacitats innovadores dels humans. Defensava la igualtat entre les persones i entre homes i dones. La seva Fundació (que va crear l’any 1994) treballava per l’educació de les dones joves al tercer món (fonamentalment a l’Àfrica).

Per cert, quants parlamentaris que siguin reconeguts científics tenim nosaltres?

Viviment o armament?

dimecres, 27/06/2012

TerraDesdeLluna.jpg No és el mateix sentir-nos poderosos i amos del nostre territori, que veure’ns des de la lluna i adonar-nos que sóm insignificants en mig de la buidor de l’espai. Buckminster Fuller insistia en remarcar que som passatgers de la nau espacial “Terra”. És una imatge que ens baixa els fums, ens fa veure el poc que som, i ens suggereix que hem de cuidar la nostra nau i que és bo que estem ben avinguts, per al nostre bé, com els astronautes a les seves naus.

En Buckminster Fuller va ser un dissenyador visionari. Va dissenyar cotxes i cases futuristes, va estendre el concepte de cúpula geodèsica (va dissenyar la de l’exposició universal de Montreal l’any 1967), va proposar una projecció icosaèdrica per als mapes del mon, i va insistir en el concepte de “dissenyador global”. El dissenyador global, segons Bucky Fuller, ha d’usar les troballes de la ciència i de la tecnologia, tot transformant-les en eines per a la felicitat humana a nivell mundial i sostenible. Pot sonar a utòpic, però les utopies ens calen, no?

Bucky Fuller va també inventar el terme “viviment” (livingry en anglès) en contraposició a armament, o “weaponry”. Deia que cal reconvertir les actuals capacitats tecnològiques de l’home, traspassant-les des de l’armament cap al viviment, cap un viviment avançat que reverteixi en tota la humanitat. El mon s’ens ha globalitzat a nivell econòmic. No sembla lògic que comencem a pensar en globalitzar-lo a nivell científic i tecnològic?. Aquí, la societat civil hi té molta feina pendent i molt a dir.

Vicenç Navarro, al seu recent llibre “Hay alternativas” que ha escrit amb Juan Torres i Alberto Garzón, ens diu que cada dia, al mon, es gasten 4000 milions de dòlars en armes mentre moren 35000 persones de fam (pàgina 170). Us recomano que llegiu les 115 propostes que fa (pàgines 204 a 225). Viviment és saber resoldre per exemple el problema de la fam al mon, quan sabem que tenim prou aliments i quan sabem que tenim els mitjans tecnològics per fer-los arribar a tots els llocs on en manquen.

Tenim un informe d’Intermón Oxfam, titulat “Detalls mortals de necessitat”, que mostra fins a quin punt 26 estats s’han burlat dels embargaments d’armes, impostos tant per les Nacions Unides com per organismes regionals o multilaterals. L’ONU ha convocat una reunió per aquest mes de juliol a Nova York per redactar un nou Tractat de Comerç d’Armes internacional. És una gran oportunitat perquè els diplomàtics arribin a un acord. Des d’Oxfam es fa una crida per posar fi a dècades de comerç irresponsable d’armes. Aquí en teniu els detalls.

Godfrey H. Hardy, al seu llibre “Apologia d’un matemàtic”, ens donava una visió pessimista de la ciència i de la tecnologia. Deia que “Es diu que una ciència és útil si el seu desenvolupament tendeix a accentuar les desigualtats existents en la distribució de la riquesa, o si promou d’una manera més directa la destrucció de la vida humana”. Malauradament, té una mica de raó. La ciència i la tècnica son neutres, però l’us que en fem es basa en principis ètics més aviat dubtosos. Gastem molt més en armament que en viviment, i l’increment constant de les desigualtats es basa en part en els nous avenços tecnològics. Tots plegats tenim la responsabilitat de canviar les coses i de fer un ús responsable i ètic dels nous desenvolupaments. Tots plegats hauríem d’aconseguir que l’afirmació de Hardy arribés a ser falsa.

Acabo amb una noticia positiva. Científics de Israel, Iran, Jordania i Turquia estan treballant conjuntament en el projecte SESAME. El projecte comporta la construcció d’un sincrotró, a Jordania, per generar radiacions necessàries per a la recerca farmacèutica i bioquímica a la regió. Els quatre països han fet ja una inversió conjunta de 20 milions de dòlars. Partícules per a la pau i la salud. No tot és tant negre com ho pintava en Hardy.

Apostem pel viviment?