ARGIA.eus

2021eko urriaren 25a
Gemma Galdon

"Algoritmoak normalitatea pribilegio bihurtzeko makinak dira"

  • Algoritmoen auditorea eta politika publikoen analista da Gemma Galdon (Mataró, Herrialde Katalanak, 1971). Teknologiak legedian, gizartean, zelatatan eta etikan duen inpaktua aztertu du, eta hiri adimendunetan, pribatutasunean eta segurtasun-politiketan aditua da, besteak beste. Eticas Research & Consulting erakundeko zuzendaria da eta Bartzelonako Unibertsitateko Soziologia Saileko ikertzailea. Euskarabildua jardunaldietan izan dugu datuen gainean hartu beharreko kontzientziaz hausnarketa interesgarria eskainiz.

Xalba Ramirez @xalbaram
2020ko abenduaren 27a
Gemma Galdon, Donostian. (Argazkia: Dani Blanco)
Gemma Galdon, Donostian. (Argazkia: Dani Blanco)

Teknologien erabileraren eztabaida emozioen gainean eraikia dela diozu. Lilura edo beldurretik. Zientzia eta zientzia-fikzioa banatu behar al dugu?

Jendeak ideia batzuk ditu teknologiak zer egiten duen jakiteko, eta horrek zerikusi gutxi du teknologiak benetan egiten duenarekin. Eta ulertzen da komunikabideak etengabe ari direlako teknologiaren irudi desitxuratu eta disfuntzionala ematen, prentsa bulegoei kasu egiten. Teknologikoki nahiko aspergarria den garaian gaude, baina ez zenuke inoiz asmatuko, 4.0 edo 5.0 iraultzak iragartzen ari den prentsa irakurriz gero.

Jendeak uste du lana robot batek lapurtuko diola bihar. Eta egia dena da, egunerokotasunean algoritmoekin, teknologia aurreratuekin edo hizkuntza naturalaren prozesamendu sistemekin lan egiten dugunok, oso oinarrizko teknologiak ikusten ditugula. Gaur egun ikusten dugun zientziak ez dauka zerikusirik hedabideek hitz egiten duten zientzia fikzioarekin. Jendeak existitzen ez diren teknologiei die beldurra, eta horrek eztabaida publiko duina ekiditen du, zein teknologia mota nahi dugun aukeratzen utziko diguna.

Eta zein dira eztabaida publiko faltaren ondorioak?

Eztabaida publiko informatua demokrazia guztien oinarria da. Gure bizitzetan eragina duten gauzen inguruan erabakitzeko eskubidea dugu, eta algoritmoek gure bizitzetan badute eragina. Espainiako Estatuan tratu txarrak jasotzen dituzten emakumeen arriskua algoritmo batek erabakitzen du, Estatuaren prestazioak jasotzeko eskubidea ote dugun, hipoteka bat jaso edo ez, etxebizitza publiko bat eskuratu edo ez. Teknologia hauek inguratzen gaituzte eta erabaki garrantzitsuak hartzen ari dira.

Iritzia emateko eskubidea eduki beharko genuke, baina iritzia emateko jakin behar dugu zer den gertatzen ari dena. Eta zientzia bereizi zientzia fikziotik. Jakin zer datu hartzen ari diren, zertarako, zein den datu horien gainean dugun eragiteko aukera, bestelako alternatibarik ba ote den. Guzti hau ez da mahai gainean jartzen teknologiarekin harremantzeko dugun modua alde emozional horretatik egiten dugulako: edo liluratzen gaitu eta ipuinak asmatzen ditugu edo beldur izugarria ematen digute eta uko egiten diogu primitibismora joaz.

Teknologiez ari garenean makinak eta robotak ditugu gogoan normalean. Baina zu algoritmoez eta formula matematikoez ari zara. Nola egin dezakegu herritarrek horren gai konplexuen gaineko ikuskaritza?

Eztabaida publikoa egoteak ez du esan nahi denok adituak izan behar dugunik, denok matematika ikasketak egin behar dugunik. Elikagaien eta medikamentuen auzia berdina da. Erosketak egitera noanean ez daukat inongo zalantzarik supermerkatu horretan dauden gauza guztiek igaro dituztela segurtasun kontrol zorrotzak, eta beraz, jangarriak direla. Farmaziara noanean, ez naiz kimikaria, ez dakit zer daraman aspirinak edo ibuprofenoak, eta irakurri arren ez dut ulertuko, baina konfiantza daukat  botikariak edo medikuak hartu dituzten neurrietan eta ez dela nire osasunarentzat kaltegarria izango.

Kontrol Prozesu horiek gure bizitzako eremu guztietan ematen dira teknologia gaietan izan ezik. Ez dakigu ea legea betetzen duten edo min gehiago eragin dezaketen. Eta ez zait bidezkoa iruditzen prozesu horiek ulertzeko erantzukizuna herritarrengan uztea. Inork ez dit niri eskatuko kimikan doktoretza ateratzeko aspirina erosteko. Horregatik uste dut ez dela bidezkoa herritarrei informatikaz jakitea eskatzea aplikazio bat erabiltzeko. Huts egiten ari direna mekanismo horien kontrol prozesuak dira; sistema horiek auditatzea/ikuskatzea erraza da, algoritmoen atzean dauden prozesu matematiko horiek ikertzea erraz xamarra da, egin daiteke. Prozesu horien gardentasuna falta da, edozeinek bertan sartzeko eskubidea izateko, teknologia horiei galderak egiteko eta teknologia hori hobea izan dadin ekarpena egiteko.

Dani Blanco.

Opakutasun horrek, Anaia Handi bat sortzen duela diozu, baina zekena, txarra eta hutsala.

Anaia Handia zekena eta txarraz gain, banala da. Horren atzen ez dagoelako botere diktatorial bat, herri osoa ikusi nahi duena. Silicon Valley-ren helburua salmenta da, eta edozer asmatuko du saldu ahal izateko. Saltzeko menpekotasuna sortu behar badu, psikologoak kontratatuko ditu aplikazioan erabiltzen diren koloretxoek nola eragiten duten aztertzeko. Egitura panoptiko bat sortu dugu baina bere helburua ez da kontrol soziala, herritarren manipulazioa, Anai Handi bat daukagu bere helburu bakarra txepelkeriak saltzea dena. Horregatik da banala: gure eskubide eta berme garrantzitsuak sakrifikatu ditugu, gauzak hobeto sal diezazkiguten.

Baina arriskutsua ere bada.

Noski baietz, azpiegitura honek esku txarretan gizartean sekulako inpaktua eduki dezake. Hauteskundeen manipulazio potentzialaz hitz egiten ari gara –demostratua ez dagoen arren, egia da batzuetan teknologiari egozten diogula guztia–. Baina honelako sistema batekin helburu ez legitimoekin edo ilegalekin aritzeko aukerak handitzen dira. Sortzen ditugun azpiegiturak zaintzeko erantzukizuna dugu, baita arriskutsuak izango ez diren azpiegitura berriak sortzeko ere.

Askotan ezkerreko gobernuek egitura panoptikoak sortzen dituzte “gure hobe-beharrez zelatatzeko”. Sortzen ditugun azpiegiturek gehiegikeriarik baimendu ez dezaten bilatu behar dugu, izan ere, orain batek gobernatzen du, baina bihar nork daki? Beraz, eraiki ditzagun azpiegitura arduratsuak, damuaraziko ez gaituztenak.

Edward Snowdenek dio “ezkutatzeko ezer ere ez duzulako pribatutasun eskubidea ez defendatzea, esateko ezer ez duzulako adierazpen askatasuna ez defendatzea bezala” dela. Pribatutasun eskubidea beste eskubide guztien oinarria al da?

Pentsalari askok pribatutasuna askatasunarekin lotzen du. Nik ez dut aurreikusten nire autonomia pertsonala garatzea eremu ezberdinetan pertsona ezberdina izan gabe. Lagunarte ezberdinak, lan testuinguru ezberdinetan edo familian gaudenean ez gara pertsona berak. Gure identitatea kudeatzeko eta negoziatzeko aukera hori, gizaki egiten gaituen eta libre egiten gaituen oinarrizko atala da. Digitalizazioak gure identitatea finkatzen du. Algoritmoarentzat pertsona hau zara, erosketa-maila honekin, lagun hauekin... Gure identitate finko hori gizaki egiten gaituen askatasunaren kontra dago. Azkenean pribatutasunak gainontzeko eskubideak artikulatzen ditu libre izan eta libre sentitzeko eskubidearekin erabat estekatuta.

Teknologien kontrolerako programa duen alderdirik ez dagoela diozu. Kasu honetan, beraz, boteretsuen menpe geratzen direla teknologiak. Zer neurri proposa litezke?

Gauza asko egin daiteke gaurtik hasita. Adibidez, Algoritmoen erregistro nazionalak. Inpaktu soziala duten algoritmoak erabiltzen diren bakoitzean deklaratzea nola erabiltzen diren, erakunde publikoek jakin dezaten. Oso oinarrizkoak diren gardentasun tresnak, erakundeek beste eremuetan erabiltzen dituzten tankeran. Herritarren babeserako neurriak eta batez ere zaurgarriak diren kolektiboenak; azken finean algoritmoak normalitatea pribilegio bihurtzeko makinak dira. Normalitatea interneten beti da adin ertaineko gizon zuria. Gainontzekoak baztertuak dira sistema horiengatik. Nola babesten ditugu kolektiboa hauek?

Lege eta prozesu ugari dago kolektibo ez-hegemonikoak babesteko, baina beste behin ere, ez ditugu teknologietara eramaten. Offline babesten ditugun balio horiek, online ere babesteko aukera. Harrigarria da inolako alderdik –ez eskuin, ez ezker– ez duela programa landu bat politika publikoetatik gaiari nola ekin.

Dani Blanco

COVID-Radar aplikazioarekin gertatutakoa bitxia izan da, Apple eta Google ados jarri direlako deszentralizatua den sistema garatzeko.

Pertsonen arteko elkarrekintzak arakatzeko aplikazioaren eredu deszentralizatu, banatu eta arrakatsuaren gakoa ez zen kriptografia aurreratuaren zailtasuna soilik –elkarrekintza anonimoak arakatzea ahalbidetzen duena–, baizik eta Bluetooth-a etengabe atzitu ahal izatea. Edozein telefonotako aplikazioek azaletik funtzionatzen dute, ezin da sistema eragilera sartu.
Suitzako eredu deszentralizatuak lortu zuen Apple konbentzitzea, eredu deszentralizatua betetzen zuten estatu-aplikazioek sistema eragilera sartzea ahalbidetu zezatela, hau da, Bluetooth-ak etengabe funtziona zezan piztu gabe eta bateria-maila jaitsi gabe.

Applek urteak daramatza bere marka pribatutasunaren defentsarekin lotu nahian, epaitegietan ere irabazi izan ditu hainbat bataila. Egia da kontaktuen arakatze aplikazioaren bitartez lor dezakeen informazioa Applek beste bide batzuetatik lortzen duela, beraz, ez diola ezeri uko egin bereziki. Baina interesgarriena da Google eta Apple ere batu egin zirela osasun ministerioaren baitako estatu mailako aplikazioei sistema eragilean sarbidea baimenduz. Horregatik ez du bestelako sistema eragileekin funtzionatzen.

Eztabaida honetan interesgarriena da, eredu zentralizatuan jarraitzeko beharra aldarrikatzen duen estatu bakarra Frantziakoa dela. Bere subiranotasun nazional eta teknologikoaren izenean Applen inposaketaz kexu zen Frantzia. Datuen babeserako legislazio hoberena duen herriak erraldoi teknologiko bati aldarrikatzen zion bere menpeko herritarrak zelatatzeko eskubidea. Horregatik da interesgarria teknologien gaineko eztabaida integrala, ez daudelako aktore onak eta gaiztoak, bakarrik. Kasu honetan Apple posizionatu egin da herritarren eskubideen alde eta Frantziak oinarrizko eskubideak urratuko zituen erreminta bat nahi zuen. Honek ez du esan nahi beti berdina babestuko dutenik, baina sektore publiko zein pribatuetan leiho txikiak daude, praktika hobeak bideratze aldera.

Aipatzen zenuen ikuspegi kontsumista horretatik ihes, teknologia hauek modu masiboan erabiltzen dituen estatuetako bat da Txina. Hain zuzen ere, ikuspegi kolektibistaren mesedetan legokeen kontrol soziala erabilita.

Ni ez naiz Txinan aditua, baina badaude oso interesgarriak diren ikuspuntuak. Lehenik, inbertsio publikoa Txinan teknologietan izugarria da. Hamarkadak daramatzate inbertsio publikoak biderkatzen, mundu osoarekin alderatuta. Nabaritzen ari da eta are gehiago nabarituko da. Aldaketa egongo da nork ekoizten duen teknologia eta nork kontsumitzen duen. Silicon Valley-n diseinatutako mikrotxip merkeak soilik ekoizten dituen herria izatetik urrundu da dagoeneko Txina. Bestetik, enpresa txinatarrek AEBetan lan egiteko Trumpek jarritako trabek, euren erresilentzia handitu baino ez dute egin. Lehen sistema integratua zegoen, enpresa txinatarrek kanpoko software edo hardware beharrak zituzten. Baina Trumpek AEBetako ateak itxi ostean eskari eta eskaintza independentea sortu da. Beraz, oraintxe Txina indartsuagoa da jarri zitzaizkion zigorren aurretik baino.

Eta hirugarren kontua. Mendebaldetik asko gustatzen zaigu pentsatzea Txina estatu panoptikoa dela, erabateko herritarren kontrol sozialarekin. Baina han salatzen ditugun gehiegikeria asko aspalditik egiten dira adibidez AEBetan –eta beraiek salatu egiten dituzte!–. Txinan puntu digitalen sistema soziala jarri dute, herritar ona zaren edo ez jakiteko. AEBetan Credit Scoring sistema dute –pribatua dena, gainera–, zure iraganeko kredituak aztertzen ditu, ea ondo kobratu eta pagatu zenuen adibidez. Eta Credit Scoring on bat gabe ezin duzu zerbitzu ugari eskuratu. Oso sistema parekideak dira. Zuk kontrolatu ezin dituzun puntu batzuk zure iraganarekin lotuta daude, eta etorkizuna baldintzatuko dizute. AEBetatik hori salatzea harrigarria da, izena aldatu arren prozesua oso antzerakoa baita.

Hemen egin diren estrategia teknologikoek Silicon Valley kopiatu nahi dutela diozu, start up ereduan pelotazoaren bila, lurraldearen garapenean pentsatu gabe. Pandemian are gehiago ikusi da.

Mendebaldearen historiako garapen une guztiak diru publikoa inbertitu denean gertatu dira. Europa eta AEBak 60ko hamarkadatik ari dira inbertsio publikoak murrizten eta Txina 60ko hamarkadatik dena jartzen ari da eremu teknologikoan. Hori nabarituko da: gazte txinatarrak STEMen formatzeko egindako ahalegin eskerga unibertsitate hoberenetara bidaliaz eta abar. Europa eta AEB aldiz unibertsitate tasak igotzen ari dira, hezkuntzara sarbide orokor eta parekidea oztopatuz. Politika publikoak erabat ezberdinak dira, eta historiak erakutsi diguna da aurrera egiteko gaitasuna inbertsio publikoek dutela, enpresa pribatuak inoiz ez dira iritsiko maila horietara .

ARGIAn egiten dugun kazetaritza independenteak bultzada merezi duela uste duzu?

Informazio askea lantzen dugu ARGIAn, langileok gara proiektuaren jabeak eta gure informazioen atzean ez duzu sekula multinazionalik, bankurik edo alderdi politikorik topatuko. Gure ustez, burujabetza guztien oinarrian dago informazio burujabetza, ezagutzen dugunaren gainean pentsatzen eta erabakitzen dugu. Horregatik diogu kazetaritza independentea dela demokraziaren oinarrietako bat.

Aldizkaria paperean etxean edo e-postan PDFan jaso nahi duzu? Pozik hartuko zaitugu ARGIAko komunitatean. ARGIAkoa izateko, nahi eta ahal duzun ekarpena egin dezakezu, eta bueltan egoki ikusten duzuna eskatu. Indartu dezagun indartzen gaituena!

Kanal hauetan artxibatua: Teknologia burujabetza  |  Teknologia

Teknologia burujabetza kanaletik interesatuko zaizu...


ASTEKARIA
2020ko abenduaren 27a
Azkenak EGILEA
Argia buletina
Egunaren laburpena
zure e-postan
Eguneraketa berriak daude