Algoritmo Transparente. OpenAI, Elon Musk y los últimos conflictos tecnológicos

Algoritmo Transparente. Podcast. OpenAI, Elon Musk y los últimos conflictos tecnológicos. 2 de junio de 2024 

¡Bienvenidos a Algoritmo Transparente! Hoy tenemos un episodio cargado de información sobre los últimos movimientos en el mundo de la inteligencia artificial y tecnología. Vamos a desglosar los eventos más destacados que han ocurrido en los últimos días. ¡Empecemos!

OpenAI ha formado un comité de seguridad con el objetivo de calmar los reproches de Helen Toner a Sam Altman. Recordemos que hace medio año, los altruistas efectivos fueron derrocados y ahora vuelven a la carga. Jan Leike se ha unido a Anthropic para continuar con la misión de superalineación, mientras que Yann LeCun de Meta se ha enfrascado en una disputa con Elon Musk.

Hemos pasado 10 días intensos con lanzamientos de OpenAI, Google y Microsoft. Esta semana, estamos viviendo la resaca de estas novedades, poniendo énfasis en los errores. Los medios y las redes sociales tienden a enfocarse en lo negativo. En lugar de destacar lo positivo que estas compañías nos traen, nos hemos centrado en generar polémicas sobre lanzamientos apresurados o ajustes técnicos pendientes.

Los líderes de la IA también ayudan a mantener estas polémicas vivas. Elon Musk y Yann LeCun se han estado tirando de los pelos en X, la red social de Musk, que sigue siendo la mejor plataforma para vivir en directo la revolución de la IA a nivel global. Con sus miserias y sus momentos de gloria, X es el epicentro de la actividad de IA.

Vamos a hablar de los puntos débiles recientes. Microsoft, OpenAI y Google han tenido que enfrentar críticas. Microsoft tuvo que explicar cómo garantiza la privacidad con su opción Recall. OpenAI pausó la voz Sky que emulaba a la de la película 'Her' para evitar una demanda potencial de Scarlett Johansson. Google se metió en un lío por usar lo peor de Internet para entrenar su IA, con la falsa 'participación ciudadana' de Reddit para mejorar las búsquedas de Overview. Sin embargo, estos deslices son 'peccata minuta' en el contexto histórico de todo lo presentado recientemente.

Cuando la IA ofrece respuestas políticamente correctas pero poco verosímiles, nos escandalizamos. Y cuando las grandes tecnológicas añaden contenido 'ciudadano' de sitios como Reddit, los resultados también son controvertidos. Si queremos evitar una IA 'woke', nos enfrentamos a las barbaridades que los usuarios han lanzado en Internet durante décadas. Queremos una IA que refleje el mundo real, pero eso también incluye muchas chorradas difundidas en redes sociales.

En este punto, es crucial que los medios de comunicación aprovechen la necesidad de las tecnológicas de entrenar sus IAs con contenido de calidad. Deberían optar por alianzas para que sus noticias aparezcan en las consultas de los usuarios.

Tras las polémicas de la voz de GPT-4 y la salida de los científicos Ilya Sutskever y Jan Leike, OpenAI ha centrado su atención en la seguridad y en aliarse con los medios de comunicación. OpenAI está colaborando con WAN-IFRA, la Asociación Mundial de Editores de Noticias, para ayudar a más de 100 editores a explorar e integrar la IA en sus redacciones. Además, han anunciado acuerdos con The Atlantic, Vox Media y recientemente con News Corp, incluyendo The Wall Street Journal. La balanza se inclina cada vez más a favor de los medios que pactan con OpenAI, en contraposición a aquellos que presentan demandas, como The New York Times.

La compañía dirigida por Sam Altman también ha anunciado la creación de un Comité de Seguridad. Este comité incluye miembros como Bret Taylor, Adam D'Angelo, Nicole Seligman y el propio Sam Altman, además de directivos de OpenAI como Aleksander Madry, Lilian Weng, John Schulman, Matt Knight y Jakub Pachocki. Este movimiento busca aplacar las críticas sobre la falta de seguridad ante la futura Inteligencia Artificial General (AGI) y los rumores sobre el enigmático proyecto Q*.

Seis meses después de la crisis del pseudodespido de Sam Altman, reaparece Helen Toner, la crítica más feroz de aquel tumulto. Toner ha atacado a Altman por su falta de transparencia con la junta anterior, alegando que se enteraron del lanzamiento de ChatGPT por Twitter. Estas tensiones entre altruistas efectivos y aceleracionistas en OpenAI fueron la muerte anunciada de la organización sin ánimo de lucro y el nacimiento de la empresa que hoy gobierna Altman con mano firme.

En medio año, OpenAI ha pasado a formar parte del imaginario colectivo con el crecimiento espectacular de GPT, los lanzamientos de Sora y GPT-4, y la explosión de la multimodalidad. El anuncio de GPT-5 para el cuarto trimestre de este año también ha generado expectativas. Sin embargo, medio año después, lo que diga Helen Toner tiene mucha más repercusión que antes. La desaparición de Ilya Sutskever también despierta interés sobre su futuro, y el fichaje de Jan Leike por Anthropic refuerza la imagen de seguridad de la compañía de Amazon.

Por otro lado, Elon Musk ha recibido 6.000 millones de dólares para impulsar una 'gigafábrica de computación' destinada a entrenar y ejecutar la próxima versión de su IA conversacional Grok. Musk y X.AI quieren ganar la guerra de la IA, y en la órbita de Musk, Tesla pierde terreno mientras la IA gana peso. En medio de todo esto, Donald Trump ha hablado con Musk sobre darle un cargo si regresa a la Casa Blanca.

A pesar de que la UE ha sido pionera en regular la Inteligencia Artificial, lleva años de retraso en inversión. Los auditores de la UE alertan que Europa está rezagada en la competición de la IA, con la inversión privada de EE.UU. superando con creces a la de la UE. En un año electoral global, Rusia está inundando Europa con desinformación y las elecciones estadounidenses son las siguientes en el radar.

Para finalizar, NVIDIA está preparando un chip ARM para PC con inteligencia artificial, y Google sigue la estela de Windows y Copilot+, integrando Gemini y nuevas funciones de IA en los Chromebook Plus. El frente de batalla más sangriento de la inteligencia artificial sigue siendo los generadores de videos.

Eso es todo por hoy en Algoritmo Transparente. Gracias por escucharnos y hasta la próxima semana.