Vostè és expert en aprenentatge automàtic, especialment en mètodes kernel o causalitat. Quin treball ha fet en aquest camp?

Els mètodes Kernel són un camp d'aprenentatge automàtic. En realitat, són mètodes d'aprenentatge de normes, addiccions o relacions des de les observacions, i són especials perquè estan connectats amb diferents àmbits de les matemàtiques: anàlisi funcional, teoria d'optimització… D'aquesta manera, proporcionen una manera d'aprendre normes a partir de les dades, bonica i elegant, que es poden utilitzar en camps com la medicina o la indústria. Són útils no sols per a conèixer les relacions existents entre les dades, sinó per a anar més enllà i detectar la causalitat. Per tant, va un nivell més profund que l'aprenentatge automàtic.

Una de les aplicacions no és, potser, la primera a pensar. Ho ha utilitzat en la detecció d'exoplanet. Com va ser això?

Bé. Estava passant un any sabàtic amb la meva família a Nova York i vaig començar a parlar amb els astrònoms. Em van dir que a partir de les dades recollides pel telescopi espacial Kepler tenien un problema per a detectar exoplanetes. Perquè per a detectar els exoplanetes, en passar per davant de la seva estrella, es basaven en la pèrdua de llum d'aquesta. Però aquesta pèrdua és molt petita i és difícil distingir-la del soroll que produeix la pròpia observació. Aquest soroll i els errors del telescopi poden deduir-se de les dades d'altres estrelles i l'aprofitem.

Amb això, en pocs anys, trobem entre 20 i 30 exoplanet, confirmats posteriorment per altres mètodes. I, al poc temps, es va confirmar que un d'ells es trobava a una distància vivible de la seva estrella. Això significa que estava a una distància que permetia tenir aigua líquida. El primer exoplaneta detectat va ser estimulant.

En quins altres àmbits és aplicable?

En principi, en totes les àrees en les quals es poden realitzar observacions experimentals. És necessari, d'una banda, disposar de gran quantitat de dades, molts mesuraments i, per un altre, establir relacions entre diferents observacions. Per exemple, podem relacionar les mesures d'un biomarcador amb el risc d'un tumor i saber si aquest biomarcador pot predir un tumor abans de detectar-lo. És a dir, una norma pot deduir-se de les dades, fins i tot quan per a una persona és difícil percebre-la.

Al marge dels mètodes Kernel, què creus que seran els principals desenvolupaments de la intel·ligència artificial?

Ara mateix, una de les àrees més excitants és el processament del llenguatge natural (NLP). Fa 20 o 10 anys es van dur a terme nombroses recerques sobre la visió computacional: com reconèixer objectes, o com separar cotxes i vianants… per a desenvolupar cotxes automàtics, per exemple. En els últims 10 anys s'ha avançat molt en l'anàlisi del llenguatge i en la predicció de textos. I de sobte els programes són capaços de produir textos. Això ha generat sorpresa i admiració, i crec que tindrà un gran desenvolupament en els pròxims anys.

 

Ed. © MPI for Intelligent Systems / Annette Cardinale

Com podem garantir que els beneficis dels sistemes d'intel·ligència artificial arribin a tots?

Perquè els beneficis dels sistemes d'intel·ligència artificial siguin el més accessibles possible, el primer pas és publicar la recerca. No sols descriure mètodes en una revista científica, sinó també publicar el codi. És més, les dades que s'han utilitzat per a entrenar aquest codi.

No obstant això, no és una qüestió qualsevol. Per exemple, en medicina, les dades no poden fer-se públics de qualsevol manera. O, en un altre àmbit, potser no és convenient, ja que corre el risc de malintencionarse. Però, en general, crec que si volem que sigui beneficiós per al major nombre de persones i societats, la recerca ha de ser el més transparent possible.

La intel·ligència artificial pot generar problemes en altres àmbits com el medi ambient?

És cert que per a entrenar els programes d'intel·ligència artificial es necessita una energia enorme que consumeix un munt de recursos. I els centres de recerca tampoc estan sempre en el lloc més adequat des de la perspectiva de la sostenibilitat.

Però des d'un altre punt de vista, la intel·ligència artificial també pot tenir un efecte positiu sobre el medi ambient. Efectivament, el clima és un sistema complex per al qual no tenim un model complet. L'ús de les intel·ligències artificials també ens pot ajudar a comprendre el clima, que ens ajudarà a frenar o mitigar el canvi climàtic. També ens ajudarà a crear millors tecnologies: millors cèl·lules solars, millors bateries elèctriques…

He llegit que s'ha negat a participar en les recerques militars. És així?

Sí. Tradicionalment, en les guerres està implicat l'home. Algú decideix atacar a l'altre o disparar-li, algú mana i és la decisió d'algú. Això significa que hi ha responsabilitats i judicis morals.

I la guerra sempre és dolenta. Però si les màquines es fan cada vegada més intel·ligents i se'ls assigna la responsabilitat de prendre aquestes decisions, de qui és la responsabilitat? De qui ha desenvolupat un programa per a conèixer i matar a una persona? Del que ha dissenyat? Del venut? El del govern que utilitza el sistema? És difícil preveure com pot canviar la guerra.

Crec que cal discutir sobre això i que és una qüestió que cal analitzar amb molta cura. Però soc molt escèptic, no veig que estiguem en això. Per tant, sempre intento protegir i fer costat als qui diuen que cal prohibir aquest tipus d'armes.

D'altra banda, has après filosofia. Creus que és útil o, més encara, és necessari tenir en compte la filosofia en la formació de la intel·ligència artificial?

Sens dubte, la filosofia m'ha estat molt útil. Crec que qualsevol cosa que aprenguis pot ser útil alguna vegada. I si has après filosofia, influirà com penses sobre els problemes de la intel·ligència artificial. Per descomptat, molts tècnics s'ocupen únicament dels aspectes tècnics de la intel·ligència artificial. Però les preguntes que nosaltres volem aclarir no són només tècniques, és a dir, com detectarem l'estructura del món? Per què sembla que el món està subjecte a les lleis i no a l'atzar? Al meu entendre, aquest tipus de preguntes, en profunditat, són filosòfiques i des d'aquesta perspectiva hem d'entendre-les.

Quines altres disciplines caldria tenir en compte?

En definitiva, influirà quan es tracta d'intel·ligència artificial, per la qual cosa caldria tenir en compte tots els aspectes, des de les ciències naturals fins a l'art. Però l'economia, la politologia, la societat… Efectivament, la societat necessita més debat.

 

Ed. FBBVA

Què opina de les sol·licituds de paralització temporal de la recerca?

Com acabo de dir, em sembla necessari discutir i reflexionar sobre el desenvolupament i les conseqüències de la intel·ligència artificial. Però aquestes moratòries no són gens realistes, no ocorrerà. És significatiu que darrere d'una de les sol·licituds estigui Elon Ms. La veritat és que hi ha competència entre companyies, i els que venen de darrere demanen temps per a poder atrapar als seus predecessors.

És molt més important entendre com funcionen aquests sistemes, quines conseqüències poden tenir i com podem garantir que s'utilitzin en benefici. I això cal fer-ho amb la gent, no es pot deixar tot en mans de les companyies.

Què pot portar ara la intel·ligència artificial en el futur?

Pregunta no contestable. No es pot preveure què ocorrerà. Fins i tot quan es va crear Internet, era impossible saber com ho usaríem avui i què ens anava a portar. En l'actualitat comptem amb sistemes capaços de crear poemes. Aquí hi ha un salt i en el futur la conversa entre màquines i persones serà cada vegada més comuna.

Hem de pensar com enfortir la societat perquè sigui conscient del bon i mal ús de la intel·ligència artificial.