Club de Lectura: Pedazo ola, la que viene

Pedazo ola la que viene

Por David Boronat, Presidente de Multiplica | Hoy toca hablar de futuro y hacerlo de una de las personas que lo está construyendo por nosotros: Mustafa Suleyman, fundador de Deepmind y ahora de Inflection AI. Acaba de publicar The coming wave, imprescindible para todos aquellos que quieran entender hacia dónde vamos porque dos olas enormes – la de la inteligencia artificial y la biología sintética – están convergiendo en una superola: la de la inteligencia sintética. Da un poco de miedo, la verdad.

Aquí os comparto las 10 cosas que más me han maravillado del libro.

1. AI is eating the world

Over the next few years, AI will become as ubiquitous as the internet itself.

En los próximos años, la inteligencia artificial se volverá tan ubicua como lo es Internet hoy. People seem to think it’s still far off, so futuristic and absurd-sounding that it’s just the providence of a few nerds. That’s a mistake. This is real. The pace of progress in AI has been breathtaking, with new models and new products coming out every week, sometimes every day. El swell se está poniendo bueno. It’s clear this wave is accelerating.

La historia se repite.  Al principio parece imposible e inimaginable. Luego parece inevitable.  And each wave grows bigger and stronger still. Waves get faster and more consequential. Once matured, these emerging technologies will spread rapidly, becoming cheaper, more accessible, and widely diffused throughout society.

AI will keep getting radically better at everything. En parte, la culpa son los cien mil millones de dólares que se están invirtiendo en innumerables startups y equipos de inteligencia artificial al año. Y por eso, no es de extrañar que PwC pronostique que la inteligencia artificial añadirá $15.7 billones de dólares a la economía global para el 2030 y McKinsey crea que debamos sumarle $4 billones más en biotecnología para ese mismo año.

What seems like near-magic engineering one day is just another part of the furniture the next. Como decía John McCarthy, tan pronto como funcione, nadie lo llamará inteligencia artificial más. AI is what computers can’t do. Once they can, it’s just software.

2. Agentes autónomos, a la vuelta de la esquina

Con la llegada de ChatGPT, los algoritmos están muy cerca de pasar el test de Turing (el test de saber realmente si hay un humano o una máquina del otro lado de una conversación).

Por ello, está claro que el futuro de la tecnología será conversacional. Machines would soon understand our language. But, intelligence is about so much more than just language. One particularly important dimension is in the ability to take actions. We don’t just care about what a machine can say; we also care about what it can do. Por eso, pasar la versión moderna del test de Turing se parecerá más a pedirle a un algoritmo algo como: «Gana un millón de dólares en Amazon en tan solo unos meses invirtiendo tan solo 100.000 dólares».

Esta sería la capacidad que habría entre la inteligencia artificial y la inteligencia artificial general y nos permitirá pedir todo tipo de tareas a agentes autónomos que las harán con mucho gusto por nosotros. Artificial Capable Intelligence (ACI) represents the next stage of AI’s evolution.

Mustafa cree que los agentes funcionarán con algunas intervenciones humanas menores durante el próximo año y probablemente de forma autónoma en un plazo de tres a cinco años. Now single systems like Deepmind’s generalist Gato can capably perform more than six hundred different tasks.

Make no mistake: they are on their way, and are already here in embryonic form. There will be thousands of these models, and they will be used by the majority of the world’s population.

En la próxima década tendremos acceso al mejor abogado, doctor, estratega, diseñador, o coach. Everyone will have a world-class team on their side and in their corner.

Within the next couple of years, whatever your job, you will be able to consult an on-demand expert, ask it about your latest ad campaign or product design, quiz it on the specifics of a legal dilemma, isolate the most effective elements of pitch, solve a thorny logistical question, get a second opinion on a diagnosis, keep probing and testing, getting ever more detailed answers grounded in the very cutting edge of knowledge, delivered with exceptional nuance.

Anyone with an internet connection and a credit card will soon be able to deploy these capabilities – an infinite stream of output on tap.

Vamos a vivir en una época en la que la mayoría de nuestras interacciones diarias no serán con otras personas, sino con inteligencias artificiales, y pasaremos cada vez más tiempo hablando y relacionándonos con máquinas, bots y algoritmos.

They will be our personal intelligences, our companions and helpers, confidants and colleagues, chiefs of staff, assistants, and translators. They’ll organize our lives and listen to our burning desires and darkest fears.

3. Un mundo de robots

It won’t be long before AI can transfer what it ‘knows’ from one domain to another, seamlessly, as humans do. Y eso dará paso a un mundo lleno de drones y robots por todas partes.

AIs are products of bits and code, existing within simulations and servers. Robots are their bridge, their interface with the real world. This new breed of robots can work on general activities, responding to natural language voice commands.

The real world is a strange, uneven, unexpected, and unstructured environment. De ahí que solo veamos fully autonomous mobile robots en warehouses recogiendo y moviendo paquetes. But soon they will increasingly be found in restaurants, bars, care homes, and schools.

We’re now getting to the point where AI is pushing robots toward their original promise: machines that can replicate all the physical actions of a human and more. As costs fall – the price of a robot arm declined by 46 percent in five years and is still growing down -, as they’re eventually equipped with powerful batteries, as they simplify, becoming easy to repair, they will become ubiquitous.

4. From atoms, to bits, to genes

The next forty years will see both the world of atoms rendered into bits at new levels of complexity and fidelity, and, crucially, the world of bits rendered back into tangible atoms with a speed and ease unthinkable until recently.

La inteligencia artificial ayuda ya a encontrar nuevos materiales y compuestos químicos. Así como los modelos actuales producen imágenes detalladas basadas en unas pocas palabras, en las próximas décadas modelos similares podrán generar un compuesto novedoso o incluso un organismo completo con solo algunas indicaciones en lenguaje natural.

Y eso es gracias a la secuenciación del ADN en tres mil millones de letras con información genética que no solo se puede leer sino también usar.

Information is a core property of the universe. It can be encoded in a binary format and is, in the form of DNA, at the core of how life operates. Understand and control these streams of information and you might steadily open a new world of possibility. First bits and then increasingly genes supplanted atoms as the building blocks of invention.

As a result, food, medicine, materials, manufacturing processes, and consumer goods will all be transformed and reimagined. So will humans themselves.

Hace solo unas décadas, la biotecnología era cara, compleja y lenta. Pero, el costo de la secuenciación de ADN solo ha hecho que bajar. De mil millones de dólares en el 2003 a mil dólares en el 2022. Y bajando. CRISPR es solo el comienzo y empresas como DNA Script están comercializando impresoras de ADN que entrenan y adaptan enzimas para construir moléculas completamente nuevas.

Por eso, en un futuro cercano se podrán crear virus que producen baterías, proteínas que purifican agua sucia o algas que capturan carbono de la atmósfera o que reconstruir células nerviosas para restaurar la visión (aunque sea de manera limitada) a una persona ciega (cómo se logró conseguir ya en el 2021).

5. No tenemos claras sus efectos y consecuencias

La tecnología tiene siempre algo de imprescindible. Technology’s unavoidable challenge is that its makers quickly lose control over the path their inventions take once introduced to the world.

Edison inventó el fonógrafo para que las personas pudieran grabar sus pensamientos para la posteridad. Se horrorizó cuando la mayoría de las personas sólo querían escuchar música con él. Gutenberg se propuso imprimir muchas Biblias y hacer llegar la palabra de Dios. Sin embargo, su imprenta fue en gran parte responsable de la revolución científica que acabó suponiendo y que representó la mayor amenaza para la Iglesia Católica desde su establecimiento.

Dual-use technologies are both helpful and potentially destructive, tools and weapons. Deep learning systems might be designed for playing games yet capable of flying a fleet of bombers. The difference is not a priori obvious.

Any technology is capable of going wrong, often in ways that directly contradict its original purpose. Las amenazas de la inteligencia artificial son múltiples: desinformación a gran escala, gobiernos controlando cada uno de nuestros movimientos, ciberataques de todo tipo… In the coming wave a single point – a given program – can alter everything. Even a single person will have the capacity to kill a billion people.

Sooner or later, a powerful generation of technology leads humanity toward either catastrophic or dystopian outcomes. This is the great metaproblem of the twenty-first century.

In the coming decades, a new wave of technology will force us to confront the most foundational questions our species has ever faced. Do we want to edit our genomes so that some of us can have children with immunity to certain diseases, or with more intelligence, or with the potential to live longer? Are we committed to holding on to our place at the top of the evolutionary pyramid, or will we allow the emergence of AI systems that are smarter and more capable than we can ever be?

6. Nuestro trabajo peligra

Por si fuera poco, algunos empezaremos a quedarnos – según Suleyman – sin trabajo.

With the arrival of the latest generation of language models, these tools will only temporarily augment human intelligence. They will make us smarter and more efficient for a time, and will unlock enormous amounts of economic growth, but they are fundamentally labor replacing. They will eventually do cognitive labor more efficiently and more cheaply than many people working in administration, data entry or customer service. Y ahí empezaremos a quedarnos sin trabajo. First come more efficient ways of doing specific tasks, and then entire roles become redundant, and soon entire sectors require orders of magnitude fewer workers.

ChatGPT consigue aumentar la productividad de «profesionales con educación universitaria de nivel medio» en un 40 por ciento en muchas tareas y – según McKinsey – más de la mitad de todos los trabajos podrían ver muchas de sus tareas automatizadas por máquinas en los próximos siete años.

Y a partir de ahí nuestros salarios empezarán a reducirse. Como pasó con la mecanización de la primera revolución industrial, los salarios de los tejedores se redujeron en más de la mitad en los cuarenta y cinco años posteriores a 1770, a pesar de que los precios de los alimentos básicos aumentaron sin parar. ¿Os suena algo familiar?

AI systems would replace «intellectual manual labor» in much the same way, and certainly long before robots replace physical labor. Por supuesto que se crearán nuevas categorías y puestos de trabajo. But new jobs won’t come in the numbers or timescale to truly help. The number of people who can get a PhD in machine learning will remain tiny in comparison to the scale of layoffs.

Labor markets will have immense friction in terms of skills, geography, and identity. Y muy probablemente volveremos a vivir otro momento ludita. Pero, esta vez no habrá maquina que romper. O no sabremos dónde buscarla.

People throughout history have attempted to resist new technologies because they felt threatened and worried their livelihoods and way of life would be destroyed. None of it worked. Where there is demand, technology alway breaks out, finds traction. Technology’s nature is to spread, no matter the barriers.

7. Como sociedad no estamos preparados

El drama es que este cambio de ciclo nos pilla en mal momento. Bueno, ¿qué gran cambio llega en uno bueno?

Global living conditions are objectively better today than at any time in the past. For most people in developed countries, life is marked by an ease and abundance that would have seemed yet, under the surface, there’s a nagging feeling that something isn’t quite right.

Después de muchos años boyantes y a pesar de vivir mejor que nunca, parece que como sociedad empezamos a tener una sensación extraña de que algo no va bien. Incluso de nuestras democracias. Across 27 countries, a majority were dissatisfied with their democracies.

Distrust breeds negativity and apathy. People decline to vote. Behind the new authoritarianism impulse and political instability lies a growing pool of social resentment.

Wealth is ever more concentrated in a tiny clique. Food, energy, raw materials, and goods of all kinds have become more expensive. The lower a country’s social mobility, the more it experiences upheavals like riots, strikes, assassinations, revolutionary campaigns, and civil wars. When people feel stuck, that others are unfairly hogging the rewards, they get angry.

There is a clear correlation between growing use of digital media and rising distrust in politics, populism movements, hate, and polarization.

Por eso, este no es un mundo que parezca preparado para lo que viene.

Emerging technologies have always created new threats, redistributed power, and removed barriers to entry. Y ese es el problema. Que no sabemos cuánta pendiente tomarán las curvas que vienen.

8. La hora de China

Technological rivalry is a geopolitical reality. Y a la China no le hizo ninguna gracia que AlphaGo venciera a Lee Sudol y Ke Jie jugando a Go. Fue su momento Sputnik. Fue como si un grupo de robots chinos hubieran ganado a los Yankees en su propio estadio.

It had endured a ‘century of humiliation’ as the Chinese Communist Party calls it. One that, the party believes, must never happen again. China se ha propuesto ser líder mundial en AI para el 2030.

Today, China has an explicit national strategy to be the world leader in AI by 2030. China is already ahead of the United States in green energy, 5G, and AI and is on a trajectory to overtake it in quantum and biotech in the next few years.

Y es difícil pensar que no lo logrará. In terms of volume of AI research, Chinese institutions have published a whopping four and a half times more AI papers than US counterparts since 2010. China installs as many robots as the rest of the world combined.

9. Super compañías más grandes todavía

La tecnología ya ha creado super compañías. Samsung representa el 20% de la economía coreana. Y sólo Apple tiene cerca de 200.000 millones de dólares en efectivo e inversiones en el banco.

Exponential technologies amplify everyone and everything. And that creates seemingly contradictory trends. Power is both concentrated and dispersed. Incumbents are both strengthened and weakened. Pero, todo apunta que los grandes se harán más grandes.

Samsung and Korea are outliers but perhaps not for much longer. Given the range of concentrated capabilities, things typically the providence of governments today, like education and defense, perhaps even currency or law enforcement, could be provided by this new generation of companies.

10. Vamos a necesitar contener lo que puede llegar

An ‘intelligence explosion’ is the point at which an AI can improve itself again and again, recursively making itself better in ever faster and more effective ways. The coming wave could mean humanity will no longer be at the top of the food chain. Homo technologicus may end up being threatened by its own creation.

The door to dystopia cracked open. Many technologies and systems are becoming so complex that they’re beyond the capacity of any one individual to truly understand. Y ese es el problema. Que no sabemos por dónde nos van a salir.

Por ello, containment is not possible. And yet for all our sakes, containment must be possible. Containment encompasses regulation, better technical safety, new government and ownership models, and new modes of accountability and transparency.

Regulation alone is not enough. Technology evolves week by week. Drafting and passing legislation takes years.

Por eso, deberemos trabajar en múltiples ejes. Pero, lo primero que deberemos hacer es reconocer como sociedad que podríamos tener un gran problema (como lo tenemos con el cambio climático). El tema es que no disponemos de una métrica que nos permita ser conscientes del riesgo que corremos como tenemos con la concentración de dióxido de carbono en la atmósfera en ppms.

The coming wave really is coming, but it hasn’t washed over us yet. Ese es el problema.

Una vez seamos conscientes, nuestros políticos se sentirán presionados a actuar.

Today anyone can build AI. Anyone can set up a lab. We should move o a more licensed environment to subscribe to clear, binding security and safety standards.

Y para ello, necesitaremos crear organismos que auditen a las empresas de AI y biotech y les permitan operar sin riesgos para la humanidad (de la misma manera que la ATA se preocupa de que sea más seguro volar que estar en el sofá de casa).

David Boronat | Presidente y Fundador de Multplica