El risc de sumar Geoffrey Hinton (ex-Google) als apocalíptics de la intel·ligència artificial

Després de l’entrevista de dilluns a The New York Times (‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead), El País publica la seva aquest diumenge (Geoffrey Hinton: “Si hay alguna forma de controlar la inteligencia artificial, debemos descubrirla antes de que sea tarde”). El científic britànic acaba d’abandonar Google, on durant una dècada va ser vicepresident d’enginyeria, per sentir-se alliberat a l’hora d’advertir de les amenaces de la intel·ligència artificial. La seva és una veu autoritzada i gens sospitosa de ser contrari a la IA. Considerat com el ‘padrí’ de la intel·ligència artificial de Google, les últimes declaracions de Greoffrey Hinton [Viquipèdia] coincideixen en el temps amb la crida a capítol de la Casa Blanca als principals directius de les tecnològiques implicades en el desenvolupament de la IA i als impactes mediàtics més rellevants d’aquestes setmanes vertigioneses. La popularització d’eines com ChatGPT d’OpenAI i la irrupció entre el gran públic d’un debat que s’ha accelerat darrerament ve acompanyat del predomini d’un missatge de la por atiat per la majoria de mitjans de comunicació europeus. 

@geoffreyhinton, que el 2018 va rebre el Premi Turing, demana que es descobreixi el més aviat possible la manera de controlar la intel·ligència artificial perquè tem que el procés d’aprenentatge dels ordinadors sigui més eficient que el funcionament del cervell humà a partir dels propers cinc anys. Fins ara calculava que la IA superaria la intel·ligència humana en 30 o 50 anys. Per tant, les paraules del fins ara vicepresident d’enginyeria de Google, que s’ha instal·lat a Londres, han de ser tingues en compte. Però vigilem amb l’ús de les seves declaracions per part dels catastrofistes o apocalíptics (Hablamos del posible fin de la historia humana), perquè Hinton fa un advertiment sobre l’ús de la tecnologia més que no pas sobre la pròpia tecnologia i planteja dubtes raonables amb la prudència que haurien de mantenir empreses embogides per “la competència que provoca el capitalisme” i la intel·ligència de governs incapaços de reaccionar davant de reptes menors al de la IA.

El seu, doncs, no és un xec en blanc als propagandistes de l’apocalipsi. De fet, caldria interpretar la seva posició també en funció de la pugna entre Google i OpenAI, tenint en compte que Microsoft ha deixat l’exempresa on treballava Hinton descol·locada amb ChatGPT i la integració a tota l’oferta de la companyia multinacional d’informàtica fundada per Bill Gates i Paul Allen. Google va rebutjar llençar productes basats en LaMDA perquè considerava que una tecnologia amb aquest potencial havia d’estar millor controlada, però l’aliança de l’OpenAI de Sam Altman amb Microsoft va llençar ChatGPT sense tantes manies, amb una lògica més de Silicon Valley de prova i error. De debò que ho va fer per qüestions ètiques? O va ser una badada de Google?

Les paraules de Geoffrey Hinton, l’ingenu manifest demanant una aturada de sis mesos en intel·ligència artificial, i les veus adreçades a empreses tecnològiques i governs a reflexionar sobre les implicacions ètiques, socials i econòmiques de la IA posen en relleu la importància d'una discussió oberta i transparent sobre els avantatges i riscos d’aquesta tecnologia, així com la necessitat d'establir un marc regulador que garanteixi el seu ús responsable. En aquest sentit, és fonamental tenir en compte les següents qüestions:

• Privacitat i vigilància: La IA pot ser utilitzada per millorar la seguretat, però també pot posar en perill la privacitat dels ciutadans si es fa un ús inapropiat de la tecnologia.
• Automatització i desocupació: La IA pot augmentar l'eficiència en la indústria i altres sectors, però també pot provocar la pèrdua de llocs de treball i la desigualtat social si no es gestionen adequadament aquests canvis.
• Biaixos i discriminació: Les aplicacions de IA poden perpetuar i amplificar biaixos existents si no es prenen mesures per garantir la neutralitat i la justícia en les dades i algoritmes utilitzats.
• Ètica i responsabilitat: És necessari establir principis ètics i marcs reguladors que assegurin la responsabilitat dels desenvolupadors, empreses i governs en el desenvolupament i ús de la IA.
• Seguretat i ciberseguretat: La IA pot ser utilitzada tant per protegir com per atacar sistemes informàtics, per la qual cosa és crucial abordar els riscos de seguretat i ciberseguretat que aquesta tecnologia pot comportar.
• Transparència i explicabilitat: La IA ha de ser transparent i comprensible per a les persones que la utilitzen, garantint que les decisions basades en aquesta tecnologia siguin justes, equitatives i respectuoses amb els drets humans.

El debat en curs i el manifest sobre la IA reflecteixen la importància d'abordar aquestes qüestions en el nostre camí cap a un futur impulsat per la intel·ligència artificial. Els científics, les empreses i els governs han de treballar junts per desenvolupar polítiques i estratègies que assegurin que la IA sigui una força positiva en la nostra societat i no una amenaça per a la llibertat, la igualtat i el benestar de les persones.

La sortida de Geoffrey Hinton de Google i les seves advertències sobre els perills de la IA són un recordatori oportú de la necessitat d'un debat seriós i una reflexió crítica sobre l'impacte de la intel·ligència artificial en la nostra societat. Com a societat, hem de ser conscients dels reptes que afrontem i treballar junts per assegurar que la IA sigui desenvolupada i utilitzada de manera responsable i ètica, garantint un futur pròsper i just per a tots. Però no correm a afegir personalitats com Hinton al cabàs dels apocalíptics i catastrofistes sobre la IA. Sovint barregem crítics amb la intel·ligència humana (control i regulació) amb la intel·ligència artificial (tecnologia).