So, there's about seven and a half billion of us. The World Health Organization tells us that 300 million of us are depressed, and about 800,000 people take their lives every year. A tiny subset of them choose a profoundly nihilistic route, which is they die in the act of killing as many people as possible. These are some famous recent examples. And here's a less famous one. It happened about nine weeks ago. If you don't remember it, it's because there's a lot of this going on. Wikipedia just last year counted 323 mass shootings in my home country, the United States. Not all of those shooters were suicidal, not all of them were maximizing their death tolls, but many, many were.
Somos alrededor de siete mil millones y medio de habitantes. Según la Organización Mundial de la Salud, 300 millones padecen depresión, y alrededor de 800 000 personas se suicidan cada año. De ellos, un porcentaje minúsculo escoge un método extremadamente nihilista: inmolarse y matar tanta gente como sea posible. Aquí vemos algunos ejemplos recientes. Este caso es menos conocido, sucedió hace unas nueve semanas. Si no lo recuerdan, es porque hay demasiadas noticias así. Wikipedia listó 323 tiroteos masivos el año pasado en mi país natal, EE. UU. No todos estos agresores eran suicidas, no todos intentaron maximizar el número de muertes, pero muchos sí.
An important question becomes: What limits do these people have? Take the Vegas shooter. He slaughtered 58 people. Did he stop there because he'd had enough? No, and we know this because he shot and injured another 422 people who he surely would have preferred to kill. We have no reason to think he would have stopped at 4,200. In fact, with somebody this nihilistic, he may well have gladly killed us all. We don't know. What we do know is this: when suicidal murderers really go all in, technology is the force multiplier.
Un interrogante importante: ¿qué límites tiene esta gente? Consideren el caso del tirador de Las Vegas que asesinó a 58 personas. ¿Se detuvo porque creyó que ese número era suficiente? No, y sabemos esto porque disparó e hirió a otras 422 personas a quienes seguramente hubiera preferido asesinar. No hay razón para creer que se hubiera detenido después de 4200. Una persona así de nihilista, podría habernos matado con gusto a todos. No lo sabemos. Pero sí sabemos lo siguiente: cuando un asesino suicida está listo para actuar, la tecnología amplifica su impacto.
Here's an example. Several years back, there was a rash of 10 mass school attacks in China carried out with things like knives and hammers and cleavers, because guns are really hard to get there. By macabre coincidence, this last attack occurred just hours before the massacre in Newtown, Connecticut. But that one American attack killed roughly the same number of victims as the 10 Chinese attacks combined. So we can fairly say, knife: terrible; gun: way worse. And airplane: massively worse, as pilot Andreas Lubitz showed when he forced 149 people to join him in his suicide, smashing a plane into the French Alps.
Por ejemplo: hace varios años hubo un brote de diez ataques masivos en escuelas de China, en los que se usaron navajas, martillos y cuchillos, pues es muy difícil conseguir armas de fuego allí. Por macabra casualidad, el último ataque se dio unas horas antes de la masacre en Newtown, Connecticut. Pero en ese ataque en EE. UU. murieron más o menos la misma cantidad de personas que en los diez ataques en China. Así que podemos concluir: navajas, terribles; armas de fuego, mucho peor; aviones, extremadamente peor, como lo demostró el piloto Andreas Lubitz cuando obligó a 149 personas a morir con él en un ataque suicida, al estrellar el avión en los Alpes de Francia.
And there are other examples of this. And I'm afraid there are far more deadly weapons in our near future than airplanes, ones not made of metal. So let's consider the apocalyptic dynamics that will ensue if suicidal mass murder hitches a ride on a rapidly advancing field that for the most part holds boundless promise for society. Somewhere out there in the world, there's a tiny group of people who would attempt, however ineptly, to kill us all if they could just figure out how. The Vegas shooter may or may not have been one of them, but with seven and a half billion of us, this is a nonzero population. There's plenty of suicidal nihilists out there. We've already seen that. There's people with severe mood disorders that they can't even control. There are people who have just suffered deranging traumas, etc. etc. As for the corollary group, its size was simply zero forever until the Cold War, when suddenly, the leaders of two global alliances attained the ability to blow up the world.
Hay más ejemplos de esto. Y me temo que habrá armas mucho más letales que un avión en el futuro, armas que no sean de metal. Consideremos la dinámica apocalíptica que se dará si los asesinos suicidas se aprovechan de un campo que se está desarrollando con rapidez y que promete grandes avances para la sociedad. En algún lugar del mundo hay un porcentaje minúsculo de gente que intentaría, quizá sin éxito, matarnos a todos si pudieran solamente descubrir cómo. El tirador de La Vegas podría haber sido uno de ellos, o no, pero considerando que somos 7 mil millones y medio, se trata de una población que no es cero. Hay bastantes nihilistas suicidas en el mundo. Ya lo hemos visto. Hay gente con trastornos graves de estados de ánimo que no pueden controlar. Hay gente que ha sufrido terribles traumas, etc. En relación con el grupo corolario, su tamaño se mantuvo en cero hasta la Guerra Fría, cuando los líderes de dos alianzas globales obtuvieron la capacidad de destruir el mundo entero.
The number of people with actual doomsday buttons has stayed fairly stable since then. But I'm afraid it's about to grow, and not just to three. This is going off the charts. I mean, it's going to look like a tech business plan.
El número de personas con la capacidad de provocar el fin del mundo se ha mantenido estable desde entonces. Pero me temo que el número está por aumentar, y no simplemente a tres. Esto está creciendo exponencialmente, parece el plan de negocios de una empresa.
(Laughter)
(Risas)
And the reason is, we're in the era of exponential technologies, which routinely take eternal impossibilities and make them the actual superpowers of one or two living geniuses and -- this is the big part -- then diffuse those powers to more or less everybody.
Esto se debe a que estamos en la era de grandes avances tecnológicos, que a diario toman tareas imposibles y las vuelven los superpoderes de uno o dos genios vivos. Y, esto es lo más importante, luego propagan esos poderes más o menos a todo el mundo.
Now, here's a benign example. If you wanted to play checkers with a computer in 1952, you literally had to be that guy, then commandeer one of the world's 19 copies of that computer, then used your Nobel-adjacent brain to teach it checkers. That was the bar. Today, you just need to know someone who knows someone who owns a telephone, because computing is an exponential technology.
Consideren este ejemplo benigno: si querían jugar a las damas con una computadora en 1952, debían ser ese tipo, literalmente. Debían manejar una de las 19 copias que existían en el mundo de esa computadora, y usar su cerebro ganador del Nobel para enseñarle a jugar a las damas. Todo esto era necesario. Hoy simplemente tienen que conocer a alguien que conozca a alguien que tenga un teléfono, pues la computación es una tecnología exponencial.
So is synthetic biology, which I'll now refer to as "synbio." And in 2011, a couple of researchers did something every bit as ingenious and unprecedented as the checkers trick with H5N1 flu. This is a strain that kills up to 60 percent of the people it infects, more than Ebola. But it is so uncontagious that it's killed fewer than 50 people since 2015. So these researchers edited H5N1's genome and made it every bit as deadly, but also wildly contagious. The news arm of one of the world's top two scientific journals said if this thing got out, it would likely cause a pandemic with perhaps millions of deaths. And Dr. Paul Keim said he could not think of an organism as scary as this, which is the last thing I personally want to hear from the Chairman of the National Science Advisory Board on Biosecurity. And by the way, Dr. Keim also said this --
También lo es la biología sintética, a la que llamaré, en adelante, "synbio". En 2011, un par de investigadores descubrieron algo igual de ingenioso y sin precedentes que el caso del juego de damas con el virus H5N1. Se trata de una cepa que mata hasta el 60 % de las personas que infecta, más que el ébola. Pero es tan poco contagioso que acabó con la vida de menos de 50 personas desde 2015. Estos investigadores editaron el genoma del H5N1 y lo hicieron igual de letal, y además hipercontagioso. Una de las revistas científicas más reconocidas del mundo comentó que, si esto sale del laboratorio, podría causar una pandemia y quizá millones de muertes. El Dr. Paul Keim afirmó que este organismo era el más aterrador de los que conocía, y eso es lo último que quiero escuchar del presidente de la Junta Consultiva Nacional de Ciencia y Tecnología en Bioseguridad. Además, el Dr. Keim agregó...
["I don't think anthrax is scary at all compared to this."]
["El ántrax no me parece tan aterrador en comparación"]
And he's also one of these.
Y él es uno de los...
[Anthrax expert] (Laughter)
[Expertos en ántrax]
Now, the good news about the 2011 biohack is that the people who did it didn't mean us any harm. They're virologists. They believed they were advancing science. The bad news is that technology does not freeze in place, and over the next few decades, their feat will become trivially easy. In fact, it's already way easier, because as we learned yesterday morning, just two years after they did their work, the CRISPR system was harnessed for genome editing. This was a radical breakthrough that makes gene editing massively easier -- so easy that CRISPR is now taught in high schools. And this stuff is moving quicker than computing. That slow, stodgy white line up there? That's Moore's law. That shows us how quickly computing is getting cheaper. That steep, crazy-fun green line, that shows us how quickly genetic sequencing is getting cheaper. Now, gene editing and synthesis and sequencing, they're different disciplines, but they're tightly related. And they're all moving in these headlong rates. And the keys to the kingdom are these tiny, tiny data files. That is an excerpt of H5N1's genome. The whole thing can fit on just a few pages. And yeah, don't worry, you can Google this as soon as you get home. It's all over the internet, right? And the part that made it contagious could well fit on a single Post-it note. And once a genius makes a data file, any idiot can copy it, distribute it worldwide or print it. And I don't just mean print it on this, but soon enough, on this.
Ahora bien, la buena noticia del "biohack" de 2011 es que quienes lo hicieron no pretendían lastimarnos, pues son virólogos. Creían estar contribuyendo a la ciencia. La mala noticia es que la tecnología no se congela en el acto y, en las próximas décadas, su hazaña se volverá algo trivial y sencillo. De hecho, ya es algo mucho más fácil puesto que, como escuchamos ayer, dos años después de su trabajo, el sistema CRISPR fue optimizado para editar el genoma. Fue un avance tecnológico radical que hace que la edición del genoma sea muchísimo más sencilla, tan sencilla que ahora se enseña CRISPR en las escuelas secundarias. Esto avanza más rápido que la computación. ¿Ven esa lenta línea blanca allí? Es la ley de Moore. Nos muestra la rapidez con la que la computación se abarata. Esa línea verde y pronunciada nos muestra la rapidez con la que la secuenciación del ADN se abarata. La edición, replicación y secuenciación del ADN son distintas disciplinas, pero están muy relacionadas, y todas se desarrollan con gran rapidez. Lo más importante de todo son estos diminutos archivos de información. Aquí vemos un extracto del genoma del H5N1. El genoma entero entra en unas pocas páginas. No se preocupen, pueden buscar esto en Internet en cuanto lleguen a casa. La parte que lo vuelve contagioso podría entrar perfectamente en una única nota adhesiva. Y una vez que el genio pone esta información en un archivo, cualquier idiota puede copiarla, distribuirla a todo el mundo o imprimirla. Y no me refiero únicamente a imprimir en esto, sino dentro de poco en esto.
So let's imagine a scenario. Let's say it's 2026, to pick an arbitrary year, and a brilliant virologist, hoping to advance science and better understand pandemics, designs a new bug. It's as contagious as chicken pox, it's as deadly as Ebola, and it incubates for months and months before causing an outbreak, so the whole world can be infected before the first sign of trouble. Then, her university gets hacked. And of course, this is not science fiction. In fact, just one recent US indictment documents the hacking of over 300 universities. So that file with the bug's genome on it spreads to the internet's dark corners. And once a file is out there, it never comes back -- just ask anybody who runs a movie studio or a music label. So now maybe in 2026, it would take a true genius like our virologist to make the actual living critter, but 15 years later, it may just take a DNA printer you can find at any high school. And if not? Give it a couple of decades.
Imaginemos lo siguiente: supongamos que estamos en el 2026, por escoger uno año al azar, y un brillante virólogo, con el objetivo de mejorar la ciencia y entender mejor las pandemias, diseña un nuevo virus. Es tan contagioso como la varicela, tan letal como el ébola e incuba por meses antes de ocasionar un brote. De esta forma, muchos pueden infectarse antes de que notemos el primer síntoma. Luego, hackean su universidad. Esto no es ciencia ficción. De hecho, en una acusación reciente en EE. UU. se documenta el hackeo de más de 300 universidades. Así, ese archivo con el genoma del virus se dispersa por todos los recovecos de Internet. Y una vez que un archivo se distribuye, no hay vuelta atrás. Pregunten a los dueños de sellos discográficos o estudios cinematográficos. Así que quizá en 2026 se necesite de un verdadero genio, como nuestro virólogo, para crear el virus real, pero 15 años después quizá se necesite simplemente de una impresora 3D, como la de las escuelas. ¿Y si no es así? Denle un par de décadas.
So, a quick aside: Remember this slide here? Turn your attention to these two words. If somebody tries this and is only 0.1 percent effective, eight million people die. That's 2,500 9/11s. Civilization would survive, but it would be permanently disfigured. So this means we need to be concerned about anybody who has the faintest shot on goal, not just geniuses. So today, there's a tiny handful of geniuses who probably could make a doomsday bug that's .1-percent effective and maybe even a little bit more. They tend to be stable and successful and so not part of this group. So I guess I'm sorta kinda barely OK-ish with that. But what about after technology improves and diffuses and thousands of life science grad students are enabled? Are every single one of them going to be perfectly stable? Or how about a few years after that, where every stress-ridden premed is fully enabled? At some point in that time frame, these circles are going to intersect, because we're now starting to talk about hundreds of thousands of people throughout the world. And they recently included that guy who dressed up like the Joker and shot 12 people to death at a Batman premiere. That was a neuroscience PhD student with an NIH grant.
Un breve paréntesis: ¿se acuerdan de esta diapositiva? Concéntrense en estas dos palabras. Si alguien intentara esto y tuviera un éxito de apenas 0,1 %, ocho millones de personas perecerían. Eso equivale a 2500 onces de septiembre. La humanidad sobreviviría, pero quedaría desfigurada de forma permanente. Esto significa que debemos preocuparnos por todas las personas que tengan la posibilidad, por mínima que sea, no simplemente por los genios. Hoy día, hay unos pocos genios que podrían crear un virus del fin del mundo que sea 0,1 % efectivo, quizá un poco más. Suelen ser personas estables y exitosas, es decir, no son parte de este grupo. Ellos no me preocupan tanto, supongo. Pero ¿qué pasará después de que la tecnología mejore, se disemine y alcance a miles de estudiantes de biología? ¿Serán todos ellos personas totalmente estables? ¿Y qué sucedería unos años más tarde, cuando la tecnología llegue a los estresados estudiantes de medicina? En algún momento de esta línea del tiempo, estos círculos se encontrarán, porque ahora nos referimos a cientos de miles de personas en todo el mundo. Recientemente se incluyó aquí al tipo que se disfrazó del Guasón y mató a 12 personas en el estreno de Batman. Era un doctorando en neurociencias que tenía una beca del NIH.
OK, plot twist: I think we can actually survive this one if we start focusing on it now. And I say this, having spent countless hours interviewing global leaders in synbio and also researching their work for science podcasts I create. I have come to fear their work, in case I haven't gotten that out there yet --
Giro de la trama: creo que podemos sobrevivir a esto si nos centramos en ello ahora. Y digo esto incluso tras haber pasado horas entrevistando a los líderes globales de "synbio" y tras haber analizado sus trabajos en mis podcasts científicos. He empezado a temer el trabajo que hacen, por si no se notó aún,
(Laughter)
(Risas)
but more than that, to revere its potential. This stuff will cure cancer, heal our environment and stop our cruel treatment of other creatures. So how do we get all this without, you know, annihilating ourselves?
pero también a apreciar su potencial. Estos trabajos encontrarán la cura al cáncer, sanarán el medio ambiente y detendrán nuestro cruel trato de otras criaturas. ¿Cómo conseguimos esto sin, ya saben, extinguirnos todos?
First thing: like it or not, synbio is here, so let's embrace the technology. If we do a tech ban, that would only hand the wheel to bad actors. Unlike nuclear programs, biology can be practiced invisibly. Massive Soviet cheating on bioweapons treaties made that very clear, as does every illegal drug lab in the world.
Primero: nos guste o no, la "synbio" existe, así que aceptemos la tecnología. Si prohibimos la tecnología, eso solamente hará que pase a manos incorrectas. A diferencia de los programas nucleares, la biología puede practicarse sin que nadie lo note. Los soviéticos que violaban los tratados sobre armas biológicas dejaron eso muy claro, como también los laboratorios de drogas ilegales.
Secondly, enlist the experts. Let's sign them up and make more of them. For every million and one bioengineers we have, at least a million of them are going to be on our side. I mean, Al Capone would be on our side in this one. The bar to being a good guy is just so low. And massive numerical advantages do matter, even when a single bad guy can inflict grievous harm, because among many other things, they allow us to exploit the hell out of this: we have years and hopefully decades to prepare and prevent. The first person to try something awful -- and there will be somebody -- may not even be born yet.
En segundo lugar: hay que reclutar a los expertos. Involucrémoslos y hagamos que sean más. Por cada millón uno de ingenieros que existen, tendremos al menos un millón de nuestro lado. Hasta Al Capone estaría de nuestro lado en este caso. El estándar para ser considerado "bueno" es demasiado bajo. Y las ventajas numéricas sí importan, incluso si una sola persona puede causar un daño enorme porque, entre otras cosas, nos permiten explotar al máximo esto: tenemos años y con suerte décadas para prepararnos y prevenir. La persona que intente hacer algo terrible, y sucederá, puede no haber nacido aún.
Next, this needs to be an effort that spans society, and all of you need to be a part of it, because we cannot ask a tiny group of experts to be responsible for both containing and exploiting synthetic biology, because we already tried that with the financial system, and our stewards became massively corrupted as they figured out how they could cut corners, inflict massive, massive risks on the rest of us and privatize the gains, becoming repulsively wealthy while they stuck us with the $22 trillion bill.
Además, esto debe ser un compromiso de toda la sociedad, todos Uds. deben ser parte de ello. Porque no podemos responsabilizar a un minúsculo grupo de expertos tanto de la tarea de contener como la de explotar la biología sintética. Ya lo intentamos con el sistema financiero y nuestros representantes se corrompieron totalmente al darse cuenta de que podían escatimar gastos, causarnos un gran daño al resto y privatizar las ganancias. Así se volvieron repulsivamente ricos y nos impusieron la deuda de 22 billones.
And more recently --
Y más recientemente...
(Applause)
(Aplausos)
Are you the ones who have gotten the thank-you letters? I'm still waiting for mine. I just figured they were too busy to be grateful.
¿Uds. recibieron la tarjeta de agradecimiento? Aún espero la mía. Deduje que estaban muy ocupados para agradecer.
And much more recently, online privacy started looming as a huge issue, and we basically outsourced it. And once again: privatized gains, socialized losses. Is anybody else sick of this pattern?
Más recientemente, la privacidad en línea comenzó a ser un gran problema: básicamente, la dejamos en manos de terceros. Y, nuevamente, se privatizaron las ganancias y se socializaron las pérdidas. ¿No están cansados de este patrón?
(Applause)
(Aplausos)
So we need a more inclusive way to safeguard our prosperity, our privacy and soon, our lives. So how do we do all of this?
Necesitamos una forma más abarcativa de proteger nuestra prosperidad, nuestra privacidad y, dentro de poco, nuestra vida. ¿Cómo conseguimos esto?
Well, when bodies fight pathogens, they use ingenious immune systems, which are very complex and multilayered. Why don't we build one of these for the whole damn ecosystem? There's a year of TED Talks that could be given on this first critical layer. So these are just a couple of many great ideas that are out there.
Cuando el organismo combate a los patógenos, recurre al ingenioso sistema inmunitario, que es muy complejo y tiene varias capas. ¿Por qué no crear uno así para todo el ecosistema? Podrían darse charlas TED todo un año sobre este primer paso. Estas ideas son solamente algunas de las que existen.
Some R and D muscle could take the very primitive pathogen sensors that we currently have and put them on a very steep price performance curve that would quickly become ingenious and networked and gradually as widespread as smoke detectors and even smartphones. On a very related note: vaccines have all kinds of problems when it comes to manufacturing and distribution, and once they're made, they can't adapt to new threats or mutations. We need an agile biomanufacturing base extending into every single pharmacy and maybe even our homes. Printer technology for vaccines and medicines is within reach if we prioritize it.
Algunas personas de I+D podrían tomar los sensores primitivos de patógenos que tenemos actualmente y ponerlos en una pronunciada curva de funcionamiento que rápidamente se vuelva algo ingenioso y en red y que gradualmente se extienda como los detectores de humo o los teléfonos. En relación con esto, las vacunas presentan muchos problemas de fabricación y distribución y, una vez fabricadas, no pueden adaptarse a nuevas amenazas o mutaciones. Necesitamos una base de biomanufactura ágil que incluya todas las farmacias y quizá incluso nuestros hogares. La tecnología de impresión de vacunas y medicamentos está a nuestro alcance si le damos prioridad.
Next, mental health. Many people who commit suicidal mass murder suffer from crippling, treatment-resistant depression or PTSD. We need noble researchers like Rick Doblin working on this, but we also need the selfish jerks who are way more numerous to appreciate the fact that acute suffering will soon endanger all of us, not just those afflicted. Those jerks will then join us and Al Capone in fighting this condition. Third, each and every one of us can be and should be a white blood cell in this immune system. Suicidal mass murderers can be despicable, yes, but they're also terribly broken and sad people, and those of us who aren't need to do what we can to make sure nobody goes unloved.
Luego, la salud mental. Muchas de las personas que comenten asesinatos en masa y se suicidan padecen depresión o TEPT incapacitante que no responde a los tratamientos. Necesitamos que investigadores nobles como Rick Doblin trabajen en esto, pero también es necesario que los idiotas egoístas, que son muchos más, se den cuenta de que el sufrimiento agudo muy pronto nos pondrá en peligro a todos, no solo a quienes lo padecen. Esos idiotas se unirán a nosotros y Al Capone para combatir esta enfermedad. Tercero, todos y cada uno de nosotros puede y debería ser un glóbulo blanco en este sistema inmunitario. Los asesinos en masa suicidas son despreciables, así es, pero también son personas terriblemente dañadas y afligidas, y quienes no lo somos debemos hacer lo posible para asegurarnos de que a nadie le falte cariño.
(Applause)
(Aplausos)
Next, we need to make fighting these dangers core to the discipline of synthetic biology. There are companies out there that at least claim they let their engineers spend 20 percent of their time doing whatever they want. What if those who hire bioengineers and become them give 20 percent of their time to building defenses for the common good? Not a bad idea, right?
Luego, debemos hacer que la lucha contra estos peligros sea algo central en la biología sintética. Existen empresas que al menos afirman que permiten a sus ingenieros pasar 20 % del tiempo de la forma que prefieran. ¿Y si quienes contratan bioingenieros y quienes se convierten en bioingenieros dedican 20 % de su tiempo a la creación de defensas en pos del bien común? No es una mala idea, ¿no?
(Applause)
(Aplausos)
Then, finally: this won't be any fun. But we need to let our minds go to some very, very dark places, and thank you for letting me take you there this evening. We survived the Cold War because every one of us understood and respected the danger, in part, because we had spent decades telling ourselves terrifying ghost stories with names like "Dr. Strangelove" and "War Games." This is no time to remain calm. This is one of those rare times when it's incredibly productive to freak the hell out --
Por último, no será nada divertido, pero debemos permitirnos imaginar algunas situaciones bastante oscuras. Así que les agradezco por haberme dejado hacerlo esta noche. Sobrevivimos a la Guerra Fría porque todos entendíamos y respetábamos el peligro, en parte, porque habíamos pasado décadas contando escalofriantes historias de terror con títulos como "Dr. Insólito" y "Juegos de guerra". No es momento para conservar la calma. Estamos en una época extraña en la que es increíblemente productivo espantarnos
(Laughter)
(Risas)
to come up with some ghost stories and use our fear as fuel to fight this danger.
para así crear algunas historias de terror y usar el miedo como incentivo para combatir este peligro.
Because, all these terrible scenarios I've painted -- they are not destiny. They're optional. The danger is still kind of distant. And that means it will only befall us if we allow it to.
Porque todos estos terribles escenarios que planteé hoy no son nuestro destino. Son opcionales. El peligro todavía es distante. Esto significa que solamente se presentará si lo permitimos.
Let's not.
No lo permitamos.
Thank you very much for listening.
Muchas gracias por su atención.
(Applause)
(Aplausos)