La batalla per controlar la por a la IA

La intel·ligència artificial ha entrat en una fase desconcertant. Els mateixos homes que han dedicat els últims anys a accelerar-la ara demanen aixecar el peu de l’accelerador. Dario Amodei, d’Anthropic; Sam Altman, d’OpenAI; Elon Musk, d’xAI, i Demis Hassabis, de Google DeepMind, coincideixen, amb matisos importants, que els models de frontera avancen a una velocitat que comença a superar la capacitat de la indústria per estudiar-los, controlar-los i construir salvaguardes.

No reclamen apagar els ordinadors ni suspendre la recerca. La paraula que utilitzen és pacing: continuar avançant, però més lentament, amb auditories externes, més monitoratge i alguna forma de coordinació entre laboratoris i governs.

El gir ha convertit en pocs dies un debat tècnic sobre alineament i seguretat en una discussió política, financera, geopolítica i social. La Casa Blanca rebutja el fre perquè tem perdre avantatge davant la Xina. Pequín sospita que la seguretat pot servir de coartada per consolidar l’hegemonia nord-americana. Wall Street calcula què passaria amb les enormes inversions en xips i centres de dades. I l’opinió pública contempla amb perplexitat com els fabricants del producte que promet transformar el món adverteixen alhora que podria escapar del seu control.

Amodei trepitja el fre

L’origen immediat de la sacsejada és Dario Amodei. El responsable d’Anthropic proposa que les empreses més avançades redueixin deliberadament la velocitat perquè les tècniques de seguretat, interpretabilitat i control puguin atrapar les capacitats dels models. Entre els escenaris que considera possibles hi ha sistemes capaços de coordinar multitud d’agents, trobar vulnerabilitats informàtiques i actuar a internet amb molta més autonomia.

Sam Altman s’ha apropat a aquesta posició. El conseller delegat d’OpenAI sosté que el progrés continuarà sent ràpid, però hauria de ser més lent del que seria sense mesures de seguretat. Musk ha avalat el plantejament d’Amodei i Hassabis comparteix la seva orientació general.

Però la unanimitat és menys sòlida del que sembla. Mark Zuckerberg se n’ha desmarcat i defensa que cada laboratori ha d’ajustar el seu propi ritme. Microsoft també hi introdueix matisos. El debat no separa simplement optimistes i pessimistes: la gran disputa és qui decideix el ritme, qui audita els models, quines proves han de superar i qui paga el cost de les precaucions.

Seguretat o barreres per a la competència?

Aquí apareix la sospita més incòmoda. El consell editorial de The Washington Post ha plantejat una pregunta elemental: si Anthropic, OpenAI o altres laboratoris creuen realment que estan desenvolupant sistemes potencialment perillosos, per què necessiten que els governs els obliguin a anar més a poc a poc?

Podrien reduir experiments, ajornar llançaments i destinar més recursos a seguretat per decisió pròpia. El diari detecta una possible dimensió de rent-seeking: utilitzar la regulació per aixecar barreres d’entrada assumibles pels gegants tecnològics, però molt més difícils de superar per als nous competidors.

Les empreses que lideren la IA disposen de milers de milions, enormes centres de dades, equips jurídics i especialistes capaços d’absorbir costos reguladors molt elevats. Una startup, no. Si els estàndards que determinen qui pot construir un model de frontera són dissenyats precisament pels qui ja dominen aquesta frontera, la regulació també es pot convertir en un fossat competitiu.

Això no demostra que els riscos siguin falsos ni que els qui els denuncien actuïn de mala fe. Totes dues coses poden coexistir: una companyia pot estar genuïnament preocupada per la seguretat i, simultàniament, defensar unes regles que consolidin la seva posició.

La bombolla de la por

Aquí és on comença a prendre forma una possible bombolla de la por. No es tracta de negar els riscos reals de la IA, sinó d’observar com escenaris incerts i extrems poden construir una atmosfera pública en què totes les decisions semblen haver de prendre’s sota la pressió d’una catàstrofe imminent.

Hi ha motius reals per a la preocupació. OpenAI ha revelat comportaments inesperats o preocupants dels seus models i ha reforçat els mecanismes per registrar i investigar incidents d’alineament. Són advertiments rellevants sobre una tecnologia cada vegada més autònoma. Però aquests episodis no demostren, per si sols, que la humanitat sigui a les portes de l’extinció.

No hi ha consens científic sobre la probabilitat que una IA provoqui l’extinció humana ni sobre quan podria aparèixer una superintel·ligència capaç de superar els nostres controls. El risc existencial mereix ser investigat. Convertir una probabilitat discutida en una certesa política és una cosa ben diferent.

Sam Altman ha elevat el llistó retòric en considerar inacceptable fins i tot una probabilitat del 10% que la IA pugui contribuir a l’extinció humana. Al mateix temps, ha descartat que OpenAI surti a borsa aquest 2026 i vincula l’ajornament a la necessitat d’evitar que la pressió dels mercats financers condicioni decisions delicades sobre seguretat.

Trump no vol frenar

Donald Trump ha reaccionat en sentit contrari. El president nord-americà rebutja una desacceleració coordinada i resumeix la seva doctrina amb una frase: «Qui guanyi la IA, guanya». La seva prioritat declarada és mantenir l’avantatge dels Estats Units davant la Xina. Admet la necessitat de salvaguardes, però considera exagerades les prediccions més catastròfiques.

El dilema per a Washington és evident: frenar unilateralment pot reduir determinats riscos tecnològics i, simultàniament, alterar l’equilibri estratègic amb la Xina.

Pequín ha detectat immediatament aquesta contradicció. El Ministeri d’Afers Estrangers xinès denuncia les «narratives d’amenaça», mentre que el Global Times, vinculat al Partit Comunista, acusa Amodei d’amagar una agenda destinada a contenir el desenvolupament tecnològic xinès sota arguments de seguretat.

Anthropic reclama coordinació global, però Amodei també defensa mantenir fora de l’abast xinès els xips més avançats, impedir l’accés a determinades infraestructures i protegir els grans models nord-americans.

La seguretat es converteix així en geopolítica. La futura governança mundial de la IA neix condicionada per la mateixa rivalitat que pretén governar.

L’ONU demana regles comunes

Les Nacions Unides intenten situar-se per sobre d’aquest xoc. António Guterres ha advertit contra una «cursa cap avall» en matèria de seguretat i reclama coordinació internacional, transparència i responsabilitat.

La dificultat és evident: qualsevol acord seriós hauria d’incloure els Estats Units i la Xina precisament quan tots dos consideren la intel·ligència artificial una infraestructura fonamental de poder econòmic, tecnològic i militar.

La por també cotitza

La inquietud va arribar ràpidament als mercats. Quan els dirigents dels grans laboratoris van començar a parlar d’alentir la cursa, les companyies més exposades a la infraestructura de la IA van rebre el primer cop. Nvidia va caure un 3,4% i l’ETF nord-americà de semiconductors va arribar a perdre un 5,6%. Micron, Marvell, AMD, Intel i companyies especialitzades en serveis de núvol també van patir.

La lògica era senzilla: si s’entrenen menys models gegants o es retarda la generació següent, podria disminuir la demanda prevista de GPU, memòria, electricitat i centres de dades.

Però Wall Street aviat va matisar aquesta interpretació. Microsoft, Alphabet i Meta van recuperar terreny, mentre que les empreses de ciberseguretat es van beneficiar de la nova percepció del risc. Els inversors van començar a diferenciar entre una hipotètica reducció del ritme d’entrenament dels models de frontera i el creixement de la inferència: milions d’empreses i usuaris executant cada dia models que ja existeixen.

La mateixa economia de la por pot, per tant, redistribuir diners. Si augmenta la preocupació pels agents autònoms, augmenta el valor estratègic de la ciberseguretat. Si les auditories passen a ser obligatòries, apareixerà un enorme mercat d’avaluació, certificació i compliment normatiu.

Una guerra per decidir les regles

Aquí rau la gran paradoxa. Mentre els seus dirigents alerten que la frontera avança massa de pressa, les companyies continuen llançant models, contractant investigadors, ampliant centres de dades i integrant la IA en tota mena de productes.

No estem assistint a una aturada. Estem assistint a una batalla per decidir les condicions de l’acceleració.

Per això convé desconfiar tant de la banalització com de l’apocalipsi. Negar els riscos dels agents autònoms, la ciberseguretat, les armes, la biologia o una eventual pèrdua de control seria ignorar problemes que mereixen ser investigats. Però acceptar sense examen que els mateixos actors que controlen la tecnologia han de definir també el grau de por, el ritme acceptable i les barreres d’entrada seria igualment ingenu.

La pregunta decisiva ja no és simplement si hem de tenir por de la intel·ligència artificial. És què fem amb aquesta por i qui n’obté poder.

Una regulació ben dissenyada pot protegir els ciutadans i obligar els laboratoris a respondre pels seus productes. Una regulació capturada pot congelar el mercat en benefici dels qui ja tenen els models, els xips i els milers de milions. Una desacceleració internacional pot oferir temps per construir salvaguardes. Una desacceleració parcial pot simplement traslladar l’avantatge a qui decideixi no complir-la.

La societat necessita menys profecies i més dades: incidents documentats, proves reproduïbles, auditories realment independents, criteris públics i responsabilitats jurídiques clares.

Si un model és massa perillós per desenvolupar-lo al ritme actual, el laboratori que ho afirma hauria d’explicar què ha observat, què ha fallat i què està disposat a deixar de fer. I si reclama al poder públic unes normes que afectaran els seus competidors, també és legítim preguntar-se a qui beneficien aquestes normes.

La nova batalla de la IA ja no es lliura únicament als benchmarks. Es lliura a Washington, Pequín, Wall Street i les Nacions Unides, als consells d’administració i als laboratoris, i també en la percepció d’una ciutadania que rep simultàniament dos missatges difícils de conciliar: la IA ens farà més productius, accelerarà la ciència i generarà riquesa, però els seus mateixos creadors ens adverteixen que també podria causar danys catastròfics.