Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
Chris Anderson: Ayúdanos a entender qué es el aprendizaje de máquina porque parece ser el impulsor principal de gran parte del entusiasmo y la preocupación alrededor de la inteligencia artificial. ¿Cómo funciona el aprendizaje de máquina?
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
Sebastian Thrun: La inteligencia artificial y el aprendizaje de máquina tienen, más o menos, 60 años de antigüedad y su pasado no ha sido maravilloso, hasta hace poco. Y la razón es que hoy, se ha alcanzado una escala de computación y conjuntos de datos que era necesaria para hacer a las máquinas inteligentes. Así es como funciona: Si hoy programas una computadora, por ejemplo, tu teléfono, entonces contratas ingenieros de software que escriben una receta de cocina muy, muy larga, como, "si el agua está demasiado caliente, baja la temperatura; si está demasiado fría, sube la temperatura". Las recetas no tienen solo 10 líneas, tienen millones de líneas. Un teléfono móvil moderno tiene 12 millones de líneas de código. Un buscador tiene cinco millones de líneas de código. Y cada error en esta receta puede hacer que colapse tu computadora, por eso un ingeniero de software gana tanto dinero. Lo nuevo ahora es que las computadoras pueden encontrar sus propias reglas. Así que en vez de que un experto descifre, paso a paso, una regla para cada situación, ahora se puede dar ejemplos a la computadora y ella infiere sus propias reglas.
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
Un buen ejemplo es AlphaGo, que hace poco ganó Google. Normalmente, en los juegos, escribirías todas las reglas, pero en el caso de AlphaGo, el sistema analizó más de un millón de jugadas y pudo inferir sus propias reglas para luego ganarle al campeón mundial de go. Esto es emocionante porque exime al ingeniero de software de tener que ser súper inteligente, y le pasa la carga a los datos. Como dije, el punto de inflexión donde esto se volvió realmente posible... Es muy vergonzoso, mi tesis fue sobre aprendizaje de máquina, completamente insignificante, no la lean, porque fue hace 20 años y entonces las computadoras eran del tamaño del cerebro de una cucaracha. Ahora son suficientemente poderosas para realmente emular el pensamiento humano especializado. Y las computadoras tienen la ventaja de poder ver muchos más datos que una persona. Diría que AlphaGo analizó más de un millón de jugadas, ningún humano puede estudiar un millón de jugadas. Google ha revisado más de 100 000 millones de páginas web. Ninguna persona puede estudiar 100 000 millones de páginas web. Por lo tanto, la computadora puede encontrar reglas que una persona no puede.
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
CA: Así que en vez de decir "si él hace eso, yo hago aquello", es decir, "este parece ser un modelo exitoso, este parece un modelo exitoso".
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
ST: Sí. Piensa en cómo criamos a los niños. No pasas los primeros 18 años dándoles una regla para cada situación, y luego los dejas libres con este gran programa. Se tropiezan, se caen, se levantan reciben una bofetada o nalgada, tienen una experiencia positiva, una buena nota en la escuela, y lo resuelven por sí solos. Eso sucede ahora con las computadoras, lo cual hace que programar computadoras sea más fácil ahora. Ahora ya no tenemos que pensar, solo les damos muchos datos.
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
CA: Esto ha sido clave para el avance tan importante en tema de vehículos autónomos. Me parece que este es un ejemplo. ¿Puedes explicar qué está pasando aquí?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
ST: Este es un viaje de un vehículo autónomo que casualmente teníamos en Udacity y que recientemente convertimos en una filial llamada Voyage. Usamos algo llamado aprendizaje profundo para entrenar a un vehículo para auto-manejarse, y este está manejando de Mountain View, California a San Francisco en El Camino Real, en un día lluvioso, con ciclistas y peatones y 133 semáforos. Y lo novedoso aquí es que, hace muchas lunas, yo inicié el equipo de vehículos autónomos en Google. Y en ese entonces, contraté a los mejores ingenieros de software para encontrar las mejores reglas. Esto simplemente está entrenado. Manejamos esta ruta 20 veces, le pusimos todos esos datos al cerebro de la computadora, y tras algunas horas de procesamiento, se comporta de tal manera que en ocasiones, supera la agilidad humana. Se ha vuelto muy sencillo programarlo. Este es 100 % autónomo, 53 km, una hora y media.
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
CA: Explícanos, en la parte izquierda de esta pantalla vemos lo que la computadora identifica como camiones y autos y esos puntos que lo rebasan.
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
ST: A la derecha está la imagen de la cámara, que es la fuente principal, y sirve para encontrar los carriles, otros autos, los semáforos... El vehículo tiene un radar para estimar distancia. Son frecuentemente usamos en este tipo de sistemas. A la izquierda ven un diagrama de láser donde se ven obstáculos, como árboles, representados por el láser. Pero lo más interesante está en la imagen de la cámara. Estamos cambiando de usar sensores de precisión, como láseres y radares, hacia sensores muy baratos. Una cámara cuesta menos de USD 8.
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
CA: Y ese punto verde a la izquierda, ¿qué es? ¿Algo importante?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
ST: Es un punto de referencia para el regulador de velocidad adaptable, nos ayuda a entender cómo regular la velocidad dependiendo de la distancia con los autos de adelante.
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
CA: También tienes un ejemplo, me parece, de cómo transcurre el proceso de aprendizaje en sí. Podríamos verlo. Háblanos de esto.
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
ST: Este es un ejemplo de un desafío que hicimos a los estudiantes de Udacity de tomar este vehículo autónomo que llamamos Nanodegree. Les dimos este set de datos y les dijimos: "¿Pueden descifrar cómo dirigir este auto?" Si ves las imágenes, incluso para un humano, es casi imposible dirigirlo bien. Así que hicimos una competencia, una competencia de aprendizaje profundo e inteligencia artificial, y le dimos 48 horas a los estudiantes. Si eres un centro de software profesional como Google o Facebook, algo como esto te lleva al menos seis meses de trabajo. Así que pensamos que 48 horas estaba perfecto. Y en 48 horas tuvimos al menos 100 entregas de estudiantes, y los cuatro mejores lo hicieron perfectamente bien. Se maneja mejor de lo que yo podría manejar con estas imágenes, usando aprendizaje profundo. Y es la misma metodología. Esto que parece magia: si das suficiente información a una computadora, y suficiente tiempo para comprenderla, encuentra sus propias reglas.
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
CA: Esto ha llevado al desarrollo de aplicaciones muy poderosas en todo tipo de áreas. El otro día me hablabas del cáncer. ¿Puedo mostrar este vídeo?
ST: Yeah, absolutely, please. CA: This is cool.
ST: Claro, adelante. CA: Esto es genial.
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
ST: Esto es un vistazo a lo que está sucediendo en un campo completamente distinto. Esto está reforzando o compitiendo, dependiendo cómo se quiera ver, con gente que gana USD 400 000 al año: los dermatólogos, especialistas altamente entrenados. Convertirse en un buen dermatólogo toma más de una década de capacitación. Lo que ven aquí es la versión de aprendizaje de máquina. Se le llama una red neuronal. Redes neuronales es el término técnico para estos algoritmos de aprendizaje de máquina. Han existido desde los años 80. Este fue inventado en 1988 por Yann LeCun, un Facebook Fellow, y procesa los datos en etapas como lo hace el cerebro humano. No es exactamente lo mismo, pero lo emula. Va etapa por etapa. En la primera etapa toma la entrada visual y extrae los bordes y las barras y los puntos. Y en la siguiente los bordes más complicados y figuras como medias lunas. Y al final puede construir conceptos complejos. Andrew Ng ha podido demostrar que es capaz de encontrar caras de gatos y perros entre una gran cantidad de imágenes.
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
Lo que mi equipo de estudiantes en Stanford ha logrado demostrar es que si la entrenas con 129 000 imágenes de enfermedades de la piel, incluyendo melanomas y carcinomas, puedes haces un trabajo tan bueno como el del mejor dermatólogo humano. Y para convencernos de ello, capturamos un set de datos independientes que le presentamos a nuestra red y a 25 dermatólogos acreditados, de Stanford, y los comparamos. Y en la mayoría de los casos, su precisión al clasificar fue igual o mejor que la de los dermatólogos humanos. CA: Me contaste una anécdota,
CA: You were telling me an anecdote. I think about this image right here. What happened here?
sobre esta imagen de aquí. ¿Qué pasó aquí?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
ST: Esto fue el jueves. Lo que demostramos y publicamos en "Nature" este año fue la idea de mostrar ciertas imágenes a dermatólogos y a nuestro programa, y contar cuántas veces aciertan. Pero todas esas imágenes eran antiguas, ya se han realizado biopsias para confirmar su clasificación. Esta no. Esta fue tomada en Stanford por uno de nuestros colaboradores. Lo que sucedió fue que nuestro colaborador, un dermatólogo reconocido internacionalmente, de los tres mejores del mundo, vio este lunar y dijo: "Esto no es cáncer de piel". Y luego dudó y dijo: "Bueno, voy a chequear con la aplicación". Así que sacó su iPhone y abrió nuestro software, nuestro "dermatólogo de bolsillo", por así decirlo, y el iPhone dictaminó: cáncer. Dijo que era melanoma. Y el médico estaba confundido. Y decidió, "tal vez confío más en el iPhone que en mí mismo", y lo mandó al laboratorio para hacerle una biopsia. Y resultó ser un melanoma muy agresivo. Así que este puede ser el primer caso, usando aprendizaje profundo en la práctica, de una persona cuyo melanoma hubiera pasado sin diagnosticar de no ser por el aprendizaje profundo.
CA: I mean, that's incredible.
CA: Es increíble.
(Applause)
(Aplausos)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
Me parece que habría demanda instantánea por una aplicación como esta, o que muchas personas se asustarían. ¿Estás pensando hacerlo? ¿Crear una aplicación de autodiagnóstico?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
ST: Mi casilla está llena de correos sobre aplicaciones para cáncer, con historias estremecedoras de gente. Personas a quienes les han extraído 10, 15 o 20 melanomas, y temen que alguno les pase desapercibido, como este, pero también sobre, no sé, coches voladores y peticiones para conferencias, supongo. Mi opinión es que necesitamos estudiarlo más. Quiero ser muy cuidadoso. Es muy fácil dar un resultado ostentoso y deslumbrar al público de TED; es mucho más difícil sacar algo ético. Y si la gente fuera a usar esta aplicación y decidiera no consultar con un médico porque le dimos un mal diagnóstico, me sentiría fatal. Así que estamos haciendo pruebas clínicas, y si nuestros datos aguantan, entonces podremos tomar este tipo de tecnología, sacarla de la clínica de Stanford y presentarla al mundo entero, en lugares a los que los médicos de Stanford nunca irían.
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
CA: Y si te entendí bien, me parece que lo que dices es que, como estás trabajando con este ejército de estudiantes de Udacity, de cierta manera, estás aplicando otro modo de aprendizaje de máquina que puede ocurrir en una compañía, y es que estás combinando aprendizaje de máquina con sabiduría colectiva. ¿Quieres decir que de este modo se podrían sobrepasar los resultados de una compañía, incluso una grande?
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
ST: Creo que hay situaciones que me asombran, y todavía estoy intentando entender. Chris se refiere a estas competencias que hacemos. El tiempo de entrega es de 48 horas, y hemos logrado construir un vehículo autónomo que puede manejar de Mountain View a San Francisco por las calles. No está a la par con Google pues ellos llevan siete años trabajando en esto pero ahí va. Y requirió solo dos ingenieros y tres meses lograrlo. Y la razón es que tenemos un ejército de estudiantes que participan en las competencias. No somos los únicos que hacemos colaboración abierta: Uber y Didi lo usan para manejar. Airbnb lo usa para hoteles. Ahora hay muchos ejemplos de colaboración abierta para encontrar errores de programación, o desdoblar proteínas, imagínense. Pero pudimos construir este vehículo en tres meses, así que estoy reconsiderando cómo organizamos las empresas.
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
Tenemos una plantilla de 9000 personas que no son contratadas ni despedidas. Se presentan a trabajar y ni me entero. Recibo 9000 proyectos. No estoy obligado a usar ninguno de ellos. Al final solo le pago a los que ganan, en realidad soy muy tacaño en esto, puede que no sea lo mejor. Y ellos lo consideran parte de su educación, que está bien. Estos estudiantes han logrado resultados maravillosos en aprendizaje profundo. La síntesis de buenas personas y buen aprendizaje de máquina es fenomenal.
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
CA: Gary Kaspárov dijo el primer día de TED2017 que los ganadores del ajedrez resultaron ser dos jugadores amateur con tres programas de computadora semi-mediocres, que podían superar a un gran maestro con un jugador maravilloso, como si fuese parte del proceso. Y casi parece que estás hablando de una versión más sofisticada de esta misma idea.
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
ST: Tras asistir a los maravillosos paneles de discusión de ayer, dos sesiones sobre IA, "Líderes supremos robóticos" y "La respuesta humana", se dijeron muchas cosas maravillosas. Pero una de las preocupaciones es que a veces confundimos lo que ya se ha logrado con IA, con este riesgo de que nos dominen, de que la IA desarrolle consciencia, ¿cierto? Lo último que quiero es que mi IA desarrolle consciencia. No quiero entrar en mi cocina y que el refrigerador se enamore de la lavadora, y me diga que, como no fui suficientemente amable, mi comida ahora está tibia. Yo no compraría estos productos y no los quiero. Pero la realidad es que, para mí, la IA siempre ha sido un mejoramiento del hombre de nosotros mismos, para hacernos más fuertes. Y creo que Kaspárov tenía razón. Ha sido la combinación de las inteligencias humana y de máquina lo que nos fortalece. El tema de que las máquinas nos fortalecen es tan antiguo como las máquinas mismas. La revolución agrícola ocurrió cuando se creó la máquina de vapor y el equipo de cosecha que no podía manejarse solo; no nos reemplazó, nos hizo más fuertes. Y yo creo que esta nueva ola de IA nos hará mucho más fuertes como seres humanos.
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
CA: Volveremos con eso en un momento, pero retomando la parte alarmante para algunos, lo que asusta a la gente es cuando tienes una computadora que puede, primero, reescribir su propio código; puede crear copias de sí mismo, probar diferentes codificaciones, incluso de manera aleatoria, y luego, probarlas y determinar si la meta se cumplió y superó. Entonces, digamos que el objetivo es mejorar en una prueba de inteligencia. Una computadora un tanto buena en eso, podría intentar un millón de versiones. Podría encontrar una mejor, y luego, ya sabes, repetir. Entonces la preocupación es que se salga de control, donde todo esté bien el jueves por la noche, pero regresas al laboratorio el viernes por la mañana, y por la velocidad misma de la computadora, las cosas se hayan alocado y de pronto...
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
ST: Diría que sí es una posibilidad, pero una posibilidad muy remota. Déjame traducir lo que acabas de decir. En el caso de AlphaGo tuvimos justamente eso: La computadora jugaba contra sí misma y aprendía reglas nuevas. Y el aprendizaje de máquina es reescribir esas reglas, reescribir el código. Pero no había miedo alguno de que AlphaGo se apoderara del mundo. Ni siquiera puede jugar al ajedrez.
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
CA: No, no, no, pero estas cosas son de un campo muy limitado. Pero es posible imaginar... acabamos de ver una computadora que era casi capaz de aprobar un examen de ingreso a la universidad; no puede leer y comprender como nosotros podemos, pero, desde luego, puede asimilar todo el texto y tal vez identificar patrones de significado. ¿No existe la posibilidad, conforme esto se expande, que pudiera salirse de control?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
ST: Ahí pinto la raya, francamente. Y la posibilidad existe -- no quiero restarle importancia -- pero es remota y no es algo que ocupe mi mente ahora, porque la gran revolución es otra cosa. Todo lo que ha salido bien con la IA hasta el día de hoy ha sido extremadamente especializado, y ha prosperado en una sola idea, que es cantidades masivas de datos. AlphaGo funciona tan bien por la gran cantidad de jugadas de go, y AlphaGo no puede manejar un auto ni volar un avión. El vehículo autónomo de Google o el de Udacity prosperan por la gran cantidad de datos y no pueden hacer otra cosa; ni siquiera puede controlar una motocicleta. Es una función muy específica, y lo mismo sucede con la app del cáncer. Prácticamente no ha habido progreso en lo que llamamos "IA general", en que puedas decirle, "inventa la teoría de la relatividad especial o la teoría de cuerdas". Está en pañales.
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
Y quiero hacer hincapié en esto, porque veo la preocupación que existe y la reconozco. Pero si fuese a pensar en algo, sería: "¿Qué tal si podemos tomar cualquier actividad repetitiva y hacernos 100 veces más eficientes?" Resulta que hace 100 años todos trabajábamos en el campo y cultivábamos y hacíamos cosas repetitivas. Hoy, el 75 % de nosotros trabaja en una oficina y hacemos cosas repetitivas. Nos hemos convertido en hojas de cálculo humanas. Y no solo los trabajos básicos. Nos hemos hecho dermatólogos que hacen cosas repetitivas, abogados que hacen cosas repetitivas. Creo que estamos al borde de poder tomar la IA, echar un vistazo atrás, y hacernos tal vez 10 o 50 veces más efectivos en estas cosas repetitivas. Eso es lo que ocupa mi mente.
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
CA: Pues suena muy emocionante. El proceso para llegar ahí suena aterrador para algunas personas, porque una vez que la computadora pueda realizar esta actividad repetitiva mucho mejor que un dermatólogo, o que el conductor, es de lo que tanto se habla ahora, de pronto se pierden millones de empleos y, ya sabes, el país se revoluciona antes de que podamos alcanzar los aspectos más espectaculares posibles.
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
ST: Sí, y eso es un problema, un gran problema, y lo mencionaban ayer por la mañana varios oradores. Antes de subir al escenario confesé que soy una persona positiva y optimista, así que déjame darte mi discurso optimista que es: imagínense a Uds. mismos hace 300 años. Europa acababa de sobrevivir 140 años de guerra continua, nadie sabía leer o escribir, no existían los trabajos de hoy, como banca de inversiones o ingeniero de software o conductor de TV. Todos estaríamos en los campos, cultivando. Y por aquí llega el pequeño Sebastian con una máquina de vapor en su bolsillo, diciendo: "¡Ei, chicos! Vean esto. Esto los va a hacer 100 veces más fuertes para que puedan hacer otra cosa". Y en ese entonces no había escenario pero Chris y yo nos reuníamos en el establo de las vacas, y me dice: "estoy muy preocupado, porque ordeño a mi vaca a diario,
The reason why I mention this is,
y ¿qué pasará cuando esta máquina lo haga por mí?"
we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
Les digo esto porque, somos muy buenos reconociendo el progreso pasado y sus beneficios, como el iPhone o los aviones, la electricidad o los utensilios médicos. Nos encanta vivir hasta los 80 años, lo cual era imposible hace 300 años. Pero no aplicamos el mismo razonamiento hacia el futuro. Si tomo mi propio trabajo como CEO, diría que el 90 % de lo que hago es repetitivo, no lo disfruto, paso cuatro horas al día en emails estúpidos y repetitivos. Y muero por tener algo que me ayude a librarme de esto. ¿Por qué? Porque creo que todos somos extremadamente creativos; la comunidad de TED en particular. Pero hasta los obreros; creo que si toman un trago con la empleada o el empleado de un hotel, una hora después encontrarán allí una idea creativa. Esto permitirá convertir esa creatividad en acción. ¿Qué tal si pudieras inventar Google en un día? ¿Qué tal si tomaras una cerveza e inventaras el siguiente Snapchat, lo que sea, y para mañana ya está en operación?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
No es ciencia ficción. Lo que va a suceder es, que ya somos historia. Hemos desatado esta asombrosa creatividad emancipándonos del campo y luego, claro, de las fábricas, y hemos inventado muchas cosas. Va a ser aún mejor, en mi opinión. Y los efectos colaterales serán maravillosos. Uno de ellos será que cosas como la comida, los aparatos médicos, la educación, la vivienda y el transporte, serán mucho más asequibles para todos, no solo para las personas ricas.
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
CA: Mmm. Cuando Martin Ford explicaba que esta vez será distinto porque la inteligencia que hemos usado en el pasado para buscar caminos nuevos será igualada al mismo ritmo por las computadoras que las relevarán... lo que tú dices es que, no del todo, por la creatividad humana. ¿Crees que eso sea fundamentalmente distinto del tipo de creatividad que tienen las computadoras?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
ST: Estoy convencido, como experto en IA, que no he visto progreso real en lo referente a creatividad y pensamiento fuera de lo convencional. Lo que veo ahora, y es importante que la gente lo entienda, porque el concepto "inteligencia artificial" es muy aterrador, tenemos a Steven Spielberg que crea una película, y de pronto la computadora es nuestro líder supremo, pero en realidad es una tecnología. Es la tecnología la que nos ayuda a hacer actividades repetitivas. Se ha logrado progreso en las actividades repetitivas. En encontrar documentos legales, en redactar contratos. En analizar exámenes de rayos X del pecho. Y son cosas tan especializadas, que no veo la gran amenaza para la humanidad. De hecho, nosotros como personas... seamos realistas: nos hemos vuelto súper-humanos, nos hemos hecho súper-humanos. Podemos cruzar el Atlántico nadando en 11 horas. Podemos sacar un aparato del bolsillo y hacer un llamado a Australia, y en tiempo real la otra persona nos responde alto y claro. Eso es físicamente imposible, rompe las reglas de la Física. Al final, vamos a recordar todo lo que has dicho y lo que has visto, recordarás a cada persona, lo cual es bueno en mi etapa inicial de Alzheimer. Disculpa, ¿qué estaba diciendo? Lo olvidé.
CA: (Laughs)
CA: (Risas)
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
ST: Probablemente tendremos un coeficiente intelectual de 1000 o más. No habrá más clases de ortografía para los niños porque ya no existirán los errores de ortografía. No habrá problemas con las matemáticas. Y entonces sucederá que seremos súper creativos. Y lo somos. Somos creativos. Esa es nuestra arma secreta.
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
CA: Así que los empleos se van a eliminar, de cierto modo, aunque va a ser doloroso, los humanos somos capaces de más que esos trabajos. Este es el sueño. El sueño es que los humanos alcancen un nuevo nivel de empoderamiento y descubrimiento. Ese es el sueño.
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
ST: Y piensa en esto; si ves la historia de la humanidad, que serán unos 60 a 100 000 años, más o menos, casi todo lo que apreciamos en cuanto a invenciones, de tecnología, de lo que hemos construido, se ha inventado en los últimos 150 años. Si le agregas el libro y la rueda, es un poco más. O el hacha. Pero tu teléfono, tus zapatillas, estas sillas, la manufactura moderna, la penicilina... las cosas que atesoramos. Ahora, para mí eso significa que en los próximos 150 años encontraremos más cosas. De hecho, el ritmo de invención ha subido, no bajado, en mi opinión. Creo que se han creado solo el 1 % de las cosas interesantes. ¿Cierto? No hemos curado el cáncer. No tenemos coches voladores, todavía. Espero cambiar esto. Ese ejemplo solía provocar risas. (Risas) Es gracioso, ¿no es cierto? Trabajar en secreto en coches voladores. Todavía no vivimos el doble de años. No tenemos este implante mágico en el cerebro que nos dé la información que buscamos. Y puede parecer aberrante, pero les prometo que cuando lo tengan les encantará. Espero que les encante. Es un poco alarmante, lo sé.
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
Hay muchas cosas que todavía no inventamos, que inventaremos. No tenemos escudos de gravedad. No podemos teletransportarnos. Suena ridículo, pero hace 200 años, los expertos opinaban que no se podría volar, incluso hace 120 años, y que si te movías más rápido de lo que podías correr, morirías al instante. Así que, ¿quién puede estar seguro hoy de que no se pueda teletransportar a una persona de aquí a Marte?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
CA: Sebastian, muchas gracias por tu increíble visión inspiradora y tu genialidad. Gracias, Sebastian Thrun. ST: Fue fantástico. (Aplausos)