La primera gran estafa d’IA eclipsa una setmana d’avenços i el compromís de Meta, OpenAI i Microsoft contra la desinformació

Ha estat una setmana molt interessant en Intel·ligència Artificial. A Algoritme Transparent us ho explico de manera didàctica i fàcil. Els mitjans de comunicació tradicionals continuen destacant les notícies catastrofistes sobre la IA. Motius no els falta, ja que aquesta setmana hem sabut de la major estafa perpetrada amb IA: 23,7 milions d'euros a una multinacional. La xifra és la major coneguda fins a la data. El 'modus operandi' també és noticiable, cal reconèixer-ho. Un treballador de Hong Kong rep un correu electrònic del seu director financer demanant-li una sèrie de transferències bancàries. Per a més detalls, li proposa una videoconferència a la qual s'afegiran altres companys. La imatge i la veu clonades del director financer i dels altres treballadors a la videoconferència van fer caure a la trampa dels ciberdelinqüents a l'empleat. És la primera gran estafa amb IA. Molts diners i més d'una persona simultàniament suplantada amb IA.

Als Estats Units, el Govern acaba de declarar oficialment il·legals les trucades automàtiques amb veu d'IA. La fiscalia ha situat a Texas el focus de les falses trucades telefòniques del president Joe Biden demanant als votants de New Hampshire que no anessin a votar a les primàries. Es tracta de Life Corporation, una empresa que ja ha estat sorpresa difonent desinformació anteriorment. Biden acaba de nomenar a la seva exassessora Elizabeth Kelly directora del nou Institut de Seguretat d'IA dels Estats Units. L'ofensiva governamental contra la desinformació amb Intel·ligència Artificial està alineada amb les grans empreses tecnològiques que, després dels polèmics 'deepfakes' sexuals de Taylor Swift i en un any electoral als Estats Units (i a la resta del planeta, com Europa), han sortit en tromba a comprometre's en la lluita contra la manipulació i la desinformació.

Aquesta mateixa setmana, Meta (Facebook i Instagram) ha anunciat a través del blog de Nick Clegg que posarà marques d'aigua a les imatges generades amb IA que es pengin a les seves xarxes socials, i OpenAI —l'empresa de ChatGPT— ha advertit en el seu blog que les imatges que tan fàcilment generem amb el seu DALL·E 3 amb simples ordres textuals de llenguatge natural també contindran una marca d'aigua. El problema de posar portes al camp, més enllà del missatge pedagògic, és que són franquejables: qualsevol usuari pot eliminar les marques d'aigua fàcilment.

Europa avança amb la seva llei sobre IA garantista, malgrat el malestar de França. Emmanuel Macron vol protegir a Mistral, i arriba un nou avís d'Itàlia a OpenAI per la privacitat de ChatGPT. Seria una llàstima frustrar una Mistral espanyola o diverses Mistrales europees.

Europa avança amb la seva llei sobre IA especialment garantista, malgrat el malestar de França i del seu fallit sabotatge a una regulació que converteix la UE en una illa davant les dues grans potències en el desenvolupament de la Intel·ligència Artificial: Estats Units i Xina. L'interès d'Emmanuel Macron es diu Mistral. La cessió francesa (tampoc existia unanimitat al Govern) arriba pocs dies després del nou avís italià a OpenAI per la privacitat de ChatGPT. Sembla que la posició espanyola amb la llei europea d'IA s'està imposant. Seria una llàstima que això impossibilités tenir una Mistral espanyola o diverses Mistrals europees.

No condueixis el teu Tesla amb les Vision Pro posades

Aquesta setmana es tractava de fer ‘scroll’ per les nostres xarxes socials per veure aparèixer fotos i vídeos dels primers usuaris de les ulleres de realitat virtual d'Apple, les Vision Pro, posades pel carrer, al transport públic o a la cafeteria. Tim Cook acaba d'anunciar que aquest 2024 serà l'any d'aposta d'Apple per la Intel·ligència Artificial, i en els primers dies d'aquest febrer ja ha marcat l'agenda amb les seves ulleres. Pesen més de mig quilo i costen 3.500 dòlars. Els més atrevits se les han posat al volant del seu Tesla, i han provocat una reacció automàtica de les autoritats dels Estats Units, que han advertit de la prohibició d'usar-les conduint. Aquest fil de Gustavo Entrala citant l'experiència amb elles de Nilay Patel (The Verge), és mel, i em quedo amb aquest tuit: “Ni tan sols Apple està en condicions d'oferir en 2024 un dispositiu de ‘Computació Espacial’ que superi en termes d'usabilitat i eficàcia a l'ordinador, al ratolí, al teclat o al mòbil. Vision Pro impressiona en els detalls fins que passa una estona.” Javier Lacort també les ha provat i escriu a Xataka que són el futur i són espectaculars.

La necrològica de Bard i tota la carn de la IA de Google a l'assador de Gemini

La setmana ha estat bona per a Apple. Ha llançat un model d'IA de codi obert per editar imatges: MGIE. (Per a creació de fins a 400 imatges d'alta qualitat, tinc pendent provar Artflow.) I Meta també aposta pel codi obert per a la Intel·ligència Artificial com a estratègia ambiciosa, apunta Antonio Ortiz en el seu article a Error500. Just ara que Google acaba de posar tota la carn de la seva IA a l'assador de Gemini (aquest dijous van publicar la necrològica de Bard). Google vol competir amb ChatGPT d'OpenAI. Gemini estarà disponible en més de 40 idiomes i 230 països, permetent als usuaris interactuar amb el model Pro 1.0. A més, introdueix dues noves experiències: Gemini Advanced i una nova app. Gemini Advanced s'inclourà en el nou pla Google One AI Premium per 19,99 dòlars al mes, que a més de les capacitats avançades d'IA, ofereix beneficis com 2TB d'emmagatzematge. Els subscriptors d'aquest pla també podran utilitzar Gemini a Gmail, Docs, Slides, Sheets i més aplicacions de Google. Els usuaris que paguem per ChatGPT tenim ara un dilema (on invertir els 19,99 dòlars mensuals de Gemini o els 23,26 euros mensuals de GPT Plus) i un privilegi (aprofitar com es posa les piles OpenAI davant l'ofensiva de Google).

Vaig preguntar a la IA de Google com es deia, i em va dir que es deia Bard. Li vaig dir si no es deia Gemini i em va dir que sí, que perdó, que ara ja era Gemini.

Per cert, parlant amb el chatbot Gemini de Google em va passar una cosa curiosa aquest mateix dijous. Li vaig preguntar com es deia, i em va dir que es deia Bard. Li vaig dir si no es deia Gemini i em va dir que sí, que perdó, que ara ja es deia Gemini. Renombrar en l'era de la consulta conversacional no és fàcil.

Estem en un moment apassionant. GPT es vol ficar al nostre mòbil per matar Alexa i Google Assistant. Però a Google li creixen els nans en la redefinició de les cerques. M'explico: ara ja no vas a Google a buscar informació. Ara preguntes al teu chatbot i aquest et proporciona la informació, sense publicitat, sense el 'clickbait' i sense el soroll induït pel SEO. El nan es pot dir Perplexity. O es pot dir Arc Search. Per tant, fa bé Google d'apretar amb Gemini (però ull amb la privacitat).

Microsoft i Semafor llancen notícies amb IA, i ja podem entrar a la xarxa social de Jack Dorsey

Després de tot l'escàndol de la demanda de The New York Times a OpenAI i Microsoft per la suposada vulneració dels drets d'autor del diari en l'entrenament dels models d'IA —que ja veurem com acaba perquè el que va explicar Carlos Santana al seu últim vídeo (¿La IA Generativa plagia als artistes?) dóna base sòlida a un debat tècnic profund en el litigi legal—, Microsoft s'ha aliat amb Semafor, el nou mitjà de Ben Smith, per llançar un servei de notícies amb IA anomenat Signals.

Més mitjans apostant per una IA ben integrada en la seva redacció i en el seu producte. Més xarxes socials descentralitzades, també. Acabo d'incorporar-me a una nova xarxa social després de l'arribada de Threads a Europa. Es tracta de Bluesky. Ja podeu crear el vostre compte sense invitació en aquesta aplicació. Bluesky és la revenja del fundador de Twitter Jack Dorsey a Elon Musk, i un nou intent de desbancar a X. A diferència de Threads (Meta), em sembla que a Bluesky serà més difícil acumular seguidors. A risc d'equivocar-me, diria que és més aviat un Mastodon que no un Threads que té la facilitat d'importar i suggerir els teus seguidors i contingut en i des d'Instagram. Crec que els nostàlgics dels inicis del Twitter de @Jack Dorsey li devem el favor i que cal donar-li una (més) oportunitat a la (altra) xarxa social.

Tot el (bo de la IA) que no us expliquen els mitjans de comunicació

Mentre els mitjans de comunicació tradicionals us explicaran les estafes multimilionàries amb IA no tindran espai per explicar-vos que Microsoft formarà a 2 milions d'indis en IA i promociona un model superior a GPT-4, ni que Roblox introdueix la traducció de xat en temps real amb IA per connectar a jugadors, ni que Cambridge premia 5 projectes d'IA en fertilitat, clima i salut mental, ni que la IA descifra un pergamí grec antic, ni que Metomic llança un plugin de ChatGPT per protegir dades sensibles de les empreses, ni que apareix un model per a la detecció d'edificacions urbanes en imatges satel·litals, ni que DeVry University impulsa la revolució educativa amb el seu laboratori d'IA, ni que la IA impulsa el renaixement immobiliari de San Francisco, ni que Riffusion innova creant música a través de la IA, ni que un bebè ensenya llenguatge a una IA, però potser sí que us explicaran que un home usa ChatGPT per lligar per Tinder i fa 'match' amb 5.239 dones.

Gràcies als nous subscriptors d'Algoritme Transparent. Gràcies també a Tomás Cascante de BarcelonaDot per incorporar-me al seu espai TESTIMONia, per publicar aquests butlletins i convidar-me al seu programa El món és digital. Fins la setmana que ve amb més novetats i anàlisi d'Intel·ligència Artificial, tecnologia i mitjans!

[La primera gran estafa con IA eclipsa una semana de avances y el compromiso de Meta, OpenAI y Microsoft contra la desinformación, en castellà]