Entrevista exclusiva a Enric Trillas: “Els models d’IA raonen, però no pensen”

Enric Trillas Ruiz (Barcelona, 1940) és el pare de la lògica borrosa a l’Estat espanyol, una teoria que permet treballar amb valors imprecisos o graduals com “calent”, “fred”, “una mica” o “molt” i és fonamental en sistemes d’IA que han d’interpretar dades amb incertesa o ambigüitat. Doctor en Matemàtiques, catedràtic a la Universitat Politècnica de Catalunya i Universitat Politècnica de Madrid, va ser el primer president del Centre Superior d’Investigacions Científiques (CSIC) dels governs de Felipe González (1984–1988). Des de fa 19 anys viu a Astúries, és professor emèrit de la Universitat d’Oviedo i està jubilat des del 2017. Claudi Alsina és el millor dels seus deixebles i va dirigir la tesi de Ramon López de Mántaras a la UPC. Modernitzador del CSIC, durant la seva presidència es va fer el Centre d’Estudis Avançats de Blanes i el 1985 va encarregar a López de Mántaras que fundés el grup d’IA a Blanes, llavor de l’actual IIIA. Inexplicablement, aquest científic català no disposa de la Creu de Sant Jordi tot i ser un dels pares de la IA a nivell estatal.

De què donava classes, vostè?
Des que em vaig traslladar a la Politècnica de Madrid, vaig passar a ser professor de lògica borrosa, és a dir, mètodes per tractar la imprecisió del llenguatge. Parlem amb moltes paraules imprecises: alt, guapo, bonic, lluny, a la vora...

Té a veure amb la visió per computació?
Hi ha aplicacions, sí. La lògica borrosa s’aplica a molts llocs. Essencialment, a llocs de control. Per exemple, el control d’un pont grua, d’un tren, d’un pèndol invertit... El sistema fuzzy, que vol dir borrosa en anglès, ho fa perfectament.

És pioner de la lògica borrosa?
A Espanya, sí. M’ho reconeixen.

Qui és el pare a nivell mundial?
El professor Lotfi A. Zadeh, de pare iranià, mare russa, nascut a Azerbaidjan, criat a Teheran i fugit als Estats Units el 1944.

És de Berkeley?
Sí.

El va conèixer? Com va anar?
Sí, és complicat. Un dels meus deixebles, probablement un dels més bons, en Claudi Alsina, gràcies a la meva amistat amb el professor austríac Karl Menger, va anar a fer un postdoctorat a la Universitat de Massachusetts. Quan duia mig any allà hi vaig a veure’l, el 1976. Llavors vaig aprofitar per anar a San Francisco per conèixer Lotfi A. Zadeh, però no hi era. Ningú sabia on coi era. Viatjava moltíssim. El 2012, cinc anys abans de morir, va fer 250.000 milles. La qüestió és que no sabíem on era i li vaig deixar encàrrec que hi havia anat. Jo el 1977 organitzava a Barcelona la primera Conferència Mundial de Matemàtiques al Servei de l’Home, amb l’Antoni Ballester. Vaig convidar en Zadeh, i va venir! O sigui, que el vaig conèixer a Barcelona.

En Ramon López de Mántaras coneix en Zadeh llavors?
No, en Ramon el coneix de Toulouse. Allà hi ha un català molt maco que ara està jubilat, en Joseph Aguilar-Martin. Hi anàvem molt. Vaig tenir la visita d’un japonès valuosíssim, en Michio Sugeno. Tot el que es fa al món de control té les idees seves. Va venir aquí. Per què? Jo vaig anar a Toulouse per trobar-me amb en Josep Aguilar i allà vaig conèixer un jove català que corria per allà, que venia d’estudiar una enginyeria tècnica a Mondragón: en Ramon. La qüestió és que ve en Sugeno a Barcelona i el porto a Toulouse. I, pum, torna a haver-hi en Ramon. Mentrestant, a Barcelona jo ajudava en Gabriel Ferraté a crear la Facultat d’Informàtica. No n’hi havia cap! I quan Ferraté va ser director general d’Universitats a Madrid, se li va ficar al cap. Ramon Puigjaner, jo i tres o quatre més el vam ajudar. El decret de creació el vaig picar a màquina a les dues de la matinada d’un dimecres al rectorat de la Politècnica. Se’l va endur i l’endemà va anar al Consell de Ministres. Així va passar. De la meva màquina d’escriure al Consell de Ministres.

Vostè té la Creu de Sant Jordi?
No. Tinc la Medalla Monturiol.

I què és més important?
La Creu de Sant Jordi.

Per què no li l’han concedit?
No sé. Estaria molt content de rebre-la, però no em sap greu. En tinc moltes de medalles, en tinc un fotimer. Fins i tot soc Grande Ufficiale dell’Ordine al Merito della Repubblica Italiana.

I això? Com va venir?
Quan era president del CSIC vaig fer tot el que vaig poder per millorar les relacions amb el CNR italià. Són dues institucions molt semblants, fundades per Mussolini i Franco. Les relacions no eren meravelloses. Se’m va ficar al cap i vaig viatjar a Itàlia moltes vegades. Vaig ser rebut pel president del CNR, Luigi Rossi Bernardi. Portava unes sabates de crep i em vaig carregar d’electricitat estàtica. Vaig passar un passadís gegant amb catifa, ell surt a saludar-me, ens donem la mà i li vaig fotre una descàrrega que va fer un bot. Vaig pensar: “L’hem cagada”. Però ens vam fer amics. A partir d’aquí vam fer moltes coses junts. Per exemple, quan vam fundar el Centre d’Estudis Avançats de Blanes vaig imposar que hi haguessin dos estrangers, perquè no me’n fiava: eren molt joves. En Ramon era un nen! Vaig aconseguir que el CNRS enviés en Joseph Aguilar i els italians un amic meu, en Settimo Termini. El primer any hi van estar tots dos.

De què se sent més satisfet dels seus quatre anys al CSIC?
De llençar els bombos per la finestra.

Com? Quins bombos?
Els de les oposicions. Em va costar molt fer els tribunals. Amb els bombos, tots eren del CSIC. Endogàmia pura. Només entrava gent de dins. En Ramon no hauria entrat mai amb aquell sistema.

Quanta gent hi havia al CSIC?
110 instituts i 3.000 persones.

El Centre d’Estudis Avançats de Blanes el munta vostè?
Sí. Com el Centre Nacional de Microelectrònica, el Centre d’Investigació Econòmica, i vam ajudar l’Ajuntament pel Jardí Botànic. Moltes coses.

Després dels bombos, l’impacte va ser gran?
Molt gran. L’impacte del sistema d’elecció d’investigadors va ser fortíssim.

És democratitzar?
És obrir. Aire fresc. L’endogàmia porta a la mediocritat. Els mediocres volen envoltar-se de mediocres. Cada vegada pitjor.

Gràcies a vostè el CSIC va millorar internacionalment?
Ha canviat molt, i fa molts anys que no soc president. N’hi ha hagut molts després. Però tinc el mèrit d’haver-ho començat.

Qui el nomena?
En Rubalcaba. Érem amics.

D’on es coneixien?
De Valldoreix.

Havia militat al PSC?
Sí. Jo m’ocupava de la política científica. Vaig organitzar una trobada de científics a Valldoreix. Hi va venir molta gent. De Madrid, la Carmina Virgili i en Rubalcaba. Ens vam fer amics.

El proposen ells?
Sí. Quan guanyen les eleccions, la Carmina és secretària d’Estat i en Rubalcaba el seu cap de gabinet. I em proposen.

Això li va estroncar la seva carrera d’investigador i la recerca?
No. És més complicat. Quan guanyen les eleccions el 82 em nomenen delegat d’Espanya al Comitè de Política Científica i Tecnològica de l’OCDE a París. Hi havia d’anar cada setmana, però feia classe dilluns i divendres al matí a Barcelona. Així vaig estar des del gener del 83 fins al maig del 84, quan em nomenen president del CSIC. Al CSIC sí que vaig tenir una aturada. Els primers sis mesos no vaig poder fer res. Jo el CSIC no el coneixia. Coneixia l’Antoni Ballester, d’investigacions pesqueres de Barcelona. Érem molt amics. Per cert, l’Antoni és l’home que ens va portar a l’Antàrtida.

Ah, sí?
Quan em van nomenar president, com que no coneixia el CSIC, vaig voler portar algú de confiança que el conegués. Vaig pensar en l’Antoni, no coneixia ningú més. I em va dir: “Vindré, t’ajudaré, però tu m’has d’ajudar. Vull anar a l’Antàrtida”. I ho vam fer. Vam fer tres viatges a l’Antàrtida. La base Juan Carlos la fundem aleshores.

Alguna altra fita seva?
Microelectrònica, biotecnologia, anàlisi econòmica...

Com era l’Estat espanyol dels primers anys 80 en l’àmbit científic?
Trist. Als anys 60 i 70, per producció científica, Espanya estava al lloc 29 del món. Ara estem entre el 9 i el 10. Pensa qui hi ha per sobre: Estats Units, Anglaterra, França, Alemanya, la Xina, el Japó... Està bé. En lògica borrosa, la meva especialitat, a començaments d’aquest segle, el 2005, érem el tercer país del món.

Com s’explica això?
Treballant com uns animals. No hi ha cap més explicació.

I tots deixebles seus?
Tots no.

Fruit de la seva llavor?
Fins i tot el centre de Granada, que és molt bo, també neix per culpa meva. Als cursos que organitzava a Barcelona venia molta gent de Granada.

Després de la lògica borrosa, va fer altres investigacions importants individualment?
Sí, però importants no ho sé.

Expliqui-ho, sisplau.
Molta de la meva obra fins que me’n vaig de Madrid és juntament amb en Claudi Alsina. Tenim publicats més de 70 articles, amb resultats molt matemàtics, i crec que alguns molt bons. Quan vaig marxar de Madrid, en Claudi ja n’estava fart i, a més, va entrar al Govern de la Generalitat amb en [Andreu] Mas-Colell. Em va dir: “Jo ja no puc més”. Què hi farem. Jo em vaig plantejar què fer: si continuar amb allò que havíem fet molt o provar una cosa que em ballava pel cap, que era l’estudi del raonament i el llenguatge. Des del 2006, bàsicament m’he dedicat a això. Jo vaig introduir l’any 98 en el món de la intel·ligència artificial el concepte de conjectura. És la primera formalització matemàtica que hi ha de les conjectures. Ho vaig discutir molt amb en Settimo Termini i és a això que m’he dedicat.

Això és el que ara es diu raonament dels models de llenguatge natural?
Sí, sí.

Els models raonen o no?
Sí! El que no fan és pensar.

Quina diferència hi ha?
Pensar és automàtic. Tu i jo pensarem fins que ens morim. Fins que el cervell se’ns pari.

I raonar?
Raonar és regulat. Requereix dues coses que pensar no. La teva voluntat: has de voler raonar. “Vull trobar això, vull provar allò.” Per pensar, no cal. I després calen regles. No raones de qualsevol manera. Has de preservar la veritat.

És més segur i garantista el raonament que el pensament?
Sí, però, a veure, el raonament és una fase del pensament. No és diferent, és una especialització del pensament per abordar problemes. El pensament pot ser completament lliure o dirigit. Tu pots dirigir el teu pensament: “Vull anar a entrevistar en Trillas.” Una altra cosa és quan vols raonar per trobar l’estructura de les proteïnes, per exemple. Has de fer experiments, moltes coses.

Vostè creu que la IA pot acabar sent creativa com els humans?
A llarg termini, no ho sé. Potser sí. No som tant espirituals com ens creiem, eh. Compte. No confonguem les coses. Jo soc cristià, però no soc catòlic. Crist no va dir res de tot això, eh. Potser sí que la IA ho farà, però demà no. Estem molt lluny que una màquina sigui indistingible d’un home, d’una persona.

Això que es diu intel·ligència artificial general (AGI), som lluny o és màrqueting?
Són companyies que venen un producte.

Opina com en Ramon López de Mántaras, que ens enganyen?
Sí. Però en una cosa pensem diferent. Ell creu que [les màquines] no raonen.

I vostè sí?
Jo crec que sí. La gran diferència que hi ha entre ell i jo és aquesta.

Per què es fa fort vostè en dir que sí que raonen?
Les seves raons no les sé, perquè no existeixen. El raonament és reglat. Les màquines obeeixen regles. El pensament no és reglat. Les màquines no poden pensar. El pensament no és sempre digital. És moltes vegades analògic. Compte! Amb els sistemes digitals es poden imitar sistemes analògics, però no són analògics. Hi ha moltes coses que em fan pensar que raonar, raonen, però pensar no pensen. El gran salt que ha fet la IA és des del moment que es van decidir a fer servir de veritat les xarxes neuronals. És el gran salt.

No pensen, però sí raonen. Poden arribar a tenir sentiments o emocions?
Si són emocions simulables, sí. Però les hauran de simular d’alguna manera. Com t’explota l’emoció per una dona? T’explota. La màquina serà capaç de fer això? De veure una noia i sentir alguna cosa? Serà capaç de parlar amb aquesta noia i sentir més coses? Serà capaç de cohabitar amb aquesta noia?

Cada cop més gent fa servir la IA com a psicòlegs o assistents personals i els agafen afecte personal.
No sé què pensar, no sé què busquen. Com a ajut, aquests sistemes informàtics troben molta informació i la sintetitzen. Et pot ser molt útil! Ara, l’has de fer servir tu. El centre on vaig estar a Astúries el van tancar. En Sergio Guadarrama, que treballa a Google, un dels meus millors deixebles, em va fer una broma enviant-me un informe sobre el tancament del centre. Me’l vaig llegir i estava bastant bé. No ho encertava tot, però estava bastant bé. I em diu: “L’ha fet Gemini [la IA de Google]”. Si jo no hagués sabut res d’allò, m’hauria estat útil. El que no hauria d’haver fet és creure-m’ho tot. Però com a guia —si és un malalt per receptar-li— pot ser útil.

Vostè, que té 85 anys, utilitza aquestes intel·ligències artificials?
No. Soc de la vella escola. Soc dels que escriuen amb llapis.

Quan es va aturar, vostè?
Amb les xarxes neuronals.

Li fa por el camí que està agafant la intel·ligència artificial?
Sí, pot fer por. Per exemple: fotografies trampa. Informacions trampa. Pot ser terrible. A Espanya pot provocar una guerra civil, eh.

Com es pot evitar?
Controlant. Qui ha de fer-ho?

La llei europea és suficient?
Els interessos comercials són molt grans. Molt, molt, molt grans.

La democràcia està en un segon terme?
Em temo que sí. Sense democràcia hi ha coses que, pel meu gust, són impossibles. La llibertat de creació.

El 2025 a l’Estat espanyol estem en aquest punt?
Hi ha una persecució contra aquest govern! Acoso y derribo.