OpenAI forma un comitè de seguretat per rebatre els retrets de Helen Toner a Sam Altman

Veníem de 10 dies elèctrics amb llançaments d'OpenAI, Google i Microsoft, i aquesta setmana estem vivint la ressaca de les novetats posant l'accent en els errors. Els mitjans i les xarxes som així. En lloc de fer pedagogia del que ens porten aquestes tres companyies —i del que anunciarà Apple aquest juny—, ens hem dedicat a forçar respostes incorrectes i generar polèmiques de llançaments precipitats o ajustos tècnics pendents. També és cert que alguns dels líders de la IA ho posen a l'abast. Només cal veure com es barallen Elon Musk (xAI) i Yann LeCun (Meta) a la xarxa social propietat del primer. X (Twitter) continua sent la millor plataforma per viure en viu i en directe la revolució de la IA a nivell global, amb les seves misèries (egos) i els seus moments de glòria (avenços). Recall de Microsoft, Sky d'OpenAI i Overview AI de Google són els tres punts febles de la darrera onada d'aplicacions en la popularització de la IA. Però que Microsoft hagués d'explicar-se per garantir la privacitat de l'opció Recall, que OpenAI aturés la veu Sky que recordava la de la pel·lícula 'Her' per evitar una hipotètica demanda de dubtós recorregut de Scarlett Johansson i que Google es fiqués en un embolic per alimentar la seva IA amb el pitjor d'Internet (la falsa 'participació ciutadana' de Reddit) per enriquir les cerques d'Overview, aquests tres despropòsits junts, són 'peccata minuta' si ho posem en el context històric de tot el que s'ha presentat els últims dies.

Quan la IA ofereix respostes políticament correctes però poc versemblants ens escandalitzem (els nazis negres de Gemini, per exemple). Quan en lloc de combatre el biaix, les grans tecnològiques afegeixen contingut 'ciutadà' com el de Reddit per 'humanitzar' la IA, els resultats també són escandalosos (afegir pegament a la pizza quan el formatge no és prou enganxós, a Overview). Si volem evitar una IA 'woke' editorialitzant ens trobem amb les barbaritats que els usuaris han anat llançant a Internet durant anys. És a dir, si volem una IA que s'assembli més al món real que al món ideal ens decepcionem veient que destaquen les bajanades difoses a les xarxes socials i Internet durant les tres últimes dècades. És un peix que es mossega la cua. I precisament en aquest punt em sembla rellevant que els mitjans de comunicació aprofitin la necessitat que les tecnològiques tenen d'obtenir permís per entrenar les seves IAs amb contingut de qualitat i optin per aliances perquè les seves notícies apareguin a les consultes que els usuaris faran als diferents models de IA.

Si volem evitar una IA 'woke' editorialitzant ens trobem amb les barbaritats que els usuaris han llançat a Internet les tres últimes dècades. Si volem una IA que s'assembli més al món real que a l'ideal ens decepcionem veient les bajanades a les xarxes i Internet.

Després de les polèmiques de la veu de GPT-4o i de la sortida dels científics Ilya Sutskever i Jan Leike, OpenAI ha posat aquesta setmana el focus en l'àmbit de la seguretat i de l'aliança amb els mitjans de comunicació. I quan OpenAI s’hi posa, és com una premsa hidràulica. La companyia del famós ChatGPT està col·laborant amb WAN-IFRA, l'Associació Mundial d'Editors de Notícies, per ajudar més de 100 editors de notícies a explorar i integrar la IA a les seves redaccions. També acaba d'anunciar un acord amb The Atlantic i un altre amb el grup Vox Media, que se sumen al més recent amb els mitjans de News Corp (The Wall Street Journal). La balança cada vegada més s'inclina a favor dels mitjans que pacten amb OpenAI davant els que li presenten demandes (encapçalats per The New York Times). Prenguem-ne nota.

La companyia que dirigeix Sam Altman també acaba d'anunciar la creació d'un Comitè de Seguretat dirigit pels membres de la seva junta Bret Taylor (el nou president), Adam D'Angelo (el supervivent discret), Nicole Seligman (advocada i exvicepresidenta executiva de Sony) i el mateix Sam Altman (CEO). També participaran en el comitè els directius d'OpenAI Aleksander Madry (Cap de Preparació), Lilian Weng (Cap de Sistemes de Seguretat), John Schulman (Cap de Ciència d'Alineació), Matt Knight (Cap de Seguretat) i Jakub Pachocki (Científic Cap, el substitut d'Ilya Sutskever). Quina millor manera d'aplacar les crítiques de manca de seguretat davant la futura Intel·ligència Artificial General (AGI) o els rumors sobre l'enigmàtic projecte Q* que creant un comitè amb quatre membres de la nova junta directiva d'OpenAI?

Però sis mesos després de la crisi del pseudoacomiadament de Sam Altman reapareix la instigadora més crítica d'aquell tsunami i la principal representant de l'altruisme efectiu a l'anterior junta directiva d'OpenAI. Sí, estimats lectors, estem parlant de la nostra coneguda Helen Toner, que aquesta setmana ha tornat a l'arena per atacar Altman per la seva falta de transparència amb l'anterior junta directiva. Toner afirma que la junta es va assabentar del llançament de ChatGPT per Twitter i acusa el CEO de la companyia d'amagar-los informació, entre altres retrets. Fa mig any ningú sabia que a OpenAI convivien a la cúpula els altruistes efectius amb els acceleracionistes i que aquestes tensions en la falsa dicotomia 'innovació vs seguretat' eren la mort anunciada de l'organització sense ànim de lucre i el naixement de l'empresa pura i dura que avui governa Sam Altman amb mà de ferro i Apple molt a prop.

En mig any OpenAI ha passat a formar part de l'imaginari col·lectiu amb el creixement espectacular de GPT, els llançaments de Sora i GPT-4o —i els seus beneficis per als usuaris gratuïts—, amb l'explosió de la multimodalitat que lidera la companyia, l'anunci de GPT-5 per al quart trimestre d'aquest any (potser novembre) i amb l'entrada d'Altman en el 'starsystem' mediàtic global. Però, al mateix temps, mig any després el que digui Helen Toner té molta més repercussió que quan ocupava el seu lloc a la junta directiva. De la mateixa manera que el mig any de 'desaparició' d'Ilya Sutskever comporta avui un major interès periodístic per saber on acabarà l'excientífic cap d'OpenAI. O que ara interessa més saber que Jan Leike s'incorpora a Anthropic per “continuar la missió de superalineació”, sent un fitxatge que reforça la imatge de 'seguretat' de la companyia d'Amazon davant l'aposta més purament 'comercial' d'OpenAI.

Elon Musk rep 6.000 milions perquè una 'gigafàbrica de computació impulsi la seva IA Grok

A més de barallar-se a X amb el científic cap d'intel·ligència artificial de Meta, Elon Musk treballa dur per aconseguir una 'gigafàbrica de computació', que disposarà de 100.000 semiconductors per entrenar i executar la pròxima versió de la seva IA conversacional Grok. Elon Musk i xAI volen guanyar la guerra de la IA: acaba de rebre 6.000 milions de dòlars per aconseguir-ho. En l'òrbita de Musk, Tesla pesa però la IA va guanyant pes: la galàxia d'empreses de Musk està amenaçada a mesura que Tesla cau en espiral. Aquestes persones mantenen el sistema en funcionament. I mentre tant, Donald Trump ha parlat amb Elon Musk de donar-li un càrrec si torna a la Casa Blanca.

Tot i que la UE ha estat pionera en regular la Intel·ligència Artificial, porta anys de retard en inversió. Els auditors de la UE alerten que Europa va a la cua en la competició de la Intel·ligència Artificial. La inversió privada dels EUA multiplica per set la de la UE. En any electoral a nivell global, Rússia està inundant Europa amb desinformació i les eleccions nord-americanes són les següents. El perill de la IA sobrehumana no és el que penses. Més temes de la setmana: NVIDIA prepara un xip ARM per als PC amb intel·ligència artificial. Google segueix la petjada de Windows i Copilot+: els Chromebook Plus ara integren Gemini i noves funcions de IA. El front de batalla més sagnant de la intel·ligència artificial: els generadors de vídeos.

Moltes gràcies a Bruno Capuano per recomanar Algoritmo Transparente a l'episodi #296 del seu podcast No Tiene Nombre. És tot un honor. Fins la setmana que ve!

[Article orginàriament publicat a Algoritmo Transparente.]