Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
Chris Anderson: Ajuda-nos a perceber o que é a aprendizagem automática, porque parece ser a força motriz principal de grande parte da excitação e das preocupações em torno da inteligência artificial. Como funciona a aprendizagem automática?
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
Sebastian Thrun: A inteligência artificial e a aprendizagem automática tem cerca de 60 anos, e não teve grande fama senão recentemente. A razão para isso é que hoje, atingimos uma dimensão de computação e bases de dados que eram necessárias para tornar as máquinas inteligentes. Então, é assim que as coisas funcionam. Se programarem hoje um computador, digamos, o nosso telemóvel, estamos a contratar engenheiros de <i>software</i> que escrevem uma receita muito comprida, por exemplo: “Se a água estiver demasiado quente, baixa a temperatura. “Se estiver demasiado fria, aumenta a temperatura.” As receitas não têm só 10 linhas de comprimento. Têm milhões de linhas de comprimento. Um telemóvel moderno tem 12 milhões de linhas de código. Um navegador tem cinco milhões de linhas de código. Cada erro nesta receita pode provocar uma avaria no computador. É por isso que um engenheiro de <i>software </i>ganha tanto dinheiro. O que há de novo agora é que os computadores conseguem encontrar as suas próprias regras. Em vez de ser um especialista a decifrar, passo a passo, uma regra para cada contingência, o que fazemos hoje é dar exemplos ao computador e levá-los a deduzir as suas regras.
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
Um exemplo muito bom é o AlphaGo, que recentemente foi ganho pela Google. Normalmente, nos jogos, tínhamos de escrever todas as regras, mas no caso do AlphaGo, o sistema observou um milhão de jogos e conseguiu deduzir as suas próprias regras e depois vencer o campeão mundial residente do Go. Isto é excitante, porque liberta o engenheiro de <i>software</i> da necessidade de ser super inteligente e passa a responsabilidade para os dados. Como já disse, o ponto de inflexão em que tudo isto se tornou possível — é embaraçoso, mas a minha tese foi sobre aprendizagem automática, foi totalmente insignificante, não a leiam, porque já lá vão 20 anos e, nessa altura, os computadores tinham o tamanho do cérebro de uma barata. Hoje têm suficiente potência para reproduzir um certo tipo de pensamento humano especializado. Depois, os computadores têm a vantagem de poderem observar muitos mais dados do que as pessoas podem. Eu diria que a AlphaGo observou mais de um milhão de jogos. Nenhum especialista humano pode pensar em estudar um milhão de jogos. A Google observou mais de cem mil milhões de páginas da <i>web.</i> Ninguém pode estudar cem mil milhões de páginas da <i>web</i>. Em resultado disso, o computador pode encontrar regras que as pessoas não podem encontrar.
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
CA: Então, em vez de pensarmos que “Se ele faz isso, eu também posso fazer”, é sobretudo dizer “É este o aspeto dum padrão vencedor, “é este o aspeto de um padrão vencedor.”
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
ST: Pois é. Pensa na forma como educamos uma criança. Não passamos os primeiros 18 anos a dar aos miúdos uma regra para cada contingência e liberdade e eles adquirem logo este bom programa. Eles tropeçam, levantam-se, levam uma bofetada ou uma palmada, e têm uma experiência positiva, boas notas na escola, e descobrem por si mesmos. É o que acontece hoje com os computadores, o que torna a programação muito mais fácil, de repente. Agora já não precisamos de pensar, basta darmos-lhes montes de dados.
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
CA: Isto tem sido fundamental para a melhoria espetacular no poder dos carros autónomos. Penso que me deste um exemplo. Podes explicar o que está a acontecer aqui?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
ST: Esta é a condução de um carro autónomo que, por acaso, tínhamos na Udacity e recentemente transformámos numa outra empresa chamada Voyage. Usámos a aprendizagem profunda para treinar um carro a conduzir autonomamente e está a conduzir de Mountain View, na Califórnia, até San Francisco no El Camino Real, num dia chuvoso, com ciclistas e peões e 133 semáforos. O que há de novo aqui é que, há muitas luas, iniciei a equipa de carros autónomos da Google. Nessa época, contratei os melhores engenheiros de <i>software </i>do mundo para encontrar as melhores regras mundiais. Isto foi só treino. Guiámos nesta estrada 20 vezes, pusemos todos estes dados no cérebro do computador, e, ao fim de umas horas de processamento, ele aparece com um comportamento que ultrapassa a agilidade humana. Portanto, torna-se realmente fácil programá-la. Isto é 100% autónomo, cerca de 50 km, uma hora e meia.
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
CA: Então, explica lá... na parte à esquerda deste programa, vemos basicamente o que o computador vê como camiões e carros e aqueles pontos que ultrapassam, e assim por diante.
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
ST: À direita, vemos a imagem da câmara, que é o principal <i>input </i>aqui, que se usa para ver faixas de rodagem, outros carros, semáforos. O veículo tem um radar para calcular a distância. Isto é usado habitualmente neste tipo de sistemas. Do lado esquerdo, vemos um diagrama a laser, onde vemos obstáculos como árvores descritos pelo laser. Mas quase todo o trabalho de interesse está centrado na imagem da câmara. Estamos a passar de sensores de precisão como radares e lasers para sensores muito baratos e de fácil utilização. Uma câmara custa menos de oito dólares.
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
CA: E o que é aquele ponto verde na coisa da esquerda? Tem algum significado?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
ST: É um ponto de observação para controlo de cruzeiro adaptativo, que nos ajuda a perceber como regular a velocidade com base na distância dos carros à nossa frente.
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
CA: Acho que também tens um exemplo de como ocorre a atual parte de aprendizagem. Talvez possamos ver isso. Fala-nos disso.
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
ST: Este é um exemplo em que lançámos um desafio aos estudantes da Udacity para obter aquilo a que chamamos um minicurso de carro autónomo. Demos-lhe um conjunto de dados e dissemos-lhes: “Conseguem descobrir como conduzir este carro?” Se olhares para as imagens, é impossível os seres humanos, acertarem na direção. Fizemos uma competição e dissemos: “É uma competição de aprendizagem profunda, de competição de IA” e demos 48 horas aos estudantes. Numa empresa de <i>software</i> como a Google ou o Facebook, uma coisa destas custa pelo menos seis meses de trabalho. Por isso achámos que 48h era ótimo. Nessas 48 horas, recebemos 100 provas dos estudantes e as quatro melhores acertaram na perfeição. Conduz melhor do que eu podia conduzir com esta imagem, usando a aprendizagem profunda. De novo, é a mesma metodologia. É esta coisa mágica. Se dermos dados suficientes a um computador, e lhe dermos tempo suficiente para compreender os dados, ele encontra as suas próprias regras.
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
CA: Então, isso levou à evolução de poderosas aplicações em todo o tipo de áreas. No outro dia falaste-me sobre o cancro. Posso mostrar este vídeo?
ST: Yeah, absolutely, please. CA: This is cool.
ST: Sim, claro, fazes favor. CA: É muito fixe.
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
ST: É o tipo de visão do que está a acontecer numa área totalmente diferente. Isto está a aumentar, ou a competir — depende dos olhos de quem vê — com pessoas que estão a ser pagas a 400 000 dólares por ano, dermatologistas, especialistas com alta formação. São precisos mais de 10 anos de formação para ser um bom dermatologista. O que vemos aqui é a versão disso em aprendizagem automática. Chama-se rede neural. “Rede neural” é o termo técnico para estes algoritmos de aprendizagem automática. Já existem desde os anos 80. Este foi inventado em 1988 por um tipo do Facebook chamado Yann LeCun, e propaga as fases de dados através do que podemos imaginar como um cérebro humano. Não é bem a mesma coisa, mas imita a mesma coisa. Passa de fase em fase. Na primeira fase, agarra no <i>input </i>visual e extrai as arestas, as varas e os pontos. Na fase seguinte, forma arestas mais complicadas e formas como meias luas. Por fim, consegue criar conceitos realmente complicados. Andrew Ng conseguiu mostrar que consegue encontrar focinhos de gatos e de cães em grande quantidade de imagens.
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
O que a minha equipa de estudantes em Stanford mostrou é que, se o treinarmos com 129 000 imagens de doenças de pele, incluindo melanomas e carcinomas, podemos fazer um trabalho tão bom como os melhores dermatologistas. Para nos convencermos de que isso é verdade, agarrámos num conjunto de dados independente que apresentámos à nossa rede e a 25 dermatologistas certificados de Stanford, e comparámos os resultados. Na maior parte dos casos, igualaram ou ficaram acima da exatidão da classificação de desempenho dos dermatologistas humanos.
CA: You were telling me an anecdote. I think about this image right here. What happened here?
CA: Contaste-me uma história. Estou a pensar nesta imagem aqui. O que é que aconteceu aqui?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
ST: Isto foi na quinta-feira passada. É um trabalho comovente. O que já mostrámos e publicámos na Nature, no início deste ano foi que mostrámos imagens de dermatologistas ao nosso computador e contámos quantas vezes ele tinha razão. Mas todas estas imagens são imagens antigas. Fizeram-se biópsias a todas para garantir que a classificação estava correta. E esta aqui não estava. Esta foi feita em Stanford por um dos nossos colaboradores. Acontece que o nosso colaborador, que é um dermatologista conhecido, um dos três melhores, segundo consta, olhou para este sinal e disse: “Isto não é um cancro da pele”. Depois, pensou melhor e disse: “Deixem-me ver o que se disse na aplicação.” Agarrou no seu iPhone e abriu o nosso <i>software</i>, o nosso “dermatologista de algibeira”, por assim dizer, e o iPhone disse: cancro. Disse: melanoma. E ele ficou confuso e decidiu: “OK, talvez acredite mais no iPhone do que em mim próprio” e enviou-o para o laboratório para fazer uma biópsia. O resultado foi um melanoma agressivo. Por isso, penso que pode ser a primeira vez que encontrámos na prática de usar a aprendizagem automática, uma pessoa com um melanoma que teria passado sem ser diagnosticado se não fosse a aprendizagem automática.
CA: I mean, that's incredible.
CA: É incrível.
(Applause)
(Aplausos)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
Deve ter havido um pedido imediato para uma aplicação dessas que assustaria muita gente. Estão a pensar fazer isso, uma aplicação que permite um auto-exame?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
ST: A minha caixa de entrada está atulhada com aplicações para o cancro, com histórias impressionantes de pessoas. Algumas pessoas já removeram 10, 15, 20 melanomas e têm medo de que um possa escapar, como este aqui e também, não faço ideia, de carros voadores e inquéritos, talvez. A minha posição é que precisamos de mais testes. Quero ser muito cuidadoso. É muito fácil dar um resultado vistoso e impressionar uma audiência TED. É muito mais difícil lançar uma coisa que seja ética. Se as pessoas fossem usar a aplicação e optassem por não consultar a ajuda de um médico e nós nos enganássemos, eu sentir-me-ia muito mal. Portanto estamos a fazer testes clínicos, e, se estes testes clínicos começarem e os nossos dados se confirmarem, podemos agarrar neste tipo de tecnologia e levá-lo para a clínica de Stanford e disponibilizá-lo para o mundo inteiro, a locais onde os médicos de Stanford nunca puseram o pé.
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
CA: Será que estou a ouvir bem? Parece-me que estás a dizer que, porque estás a trabalhar com esse exército de estudantes da Udacity, estás a aplicar uma forma diferente de aprendizagem automática que pode ocorrer numa empresa, combinas a aprendizagem automática com uma forma de sabedoria coletiva. Estás a dizer que podes ter um desempenho superior ao que uma empresa pode fazer, mesmo uma grande empresa?
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
ST: Eu penso que há hoje situações que me deixam de boca aberta e ainda estou a tentar perceber. Aquilo a que te referes são estas competições que promovemos. Obtemos respostas em 48 horas e já conseguimos criar um carro autónomo que pode conduzir de Mountain View até San Francisco, por estradas de superfície. Ainda não estamos a par da Google que já tem sete anos de trabalho, mas estamos a chegar lá. E só utilizamos dois engenheiros desde há três meses, para fazer isso. A razão é que temos um grupo enorme de estudantes que participam nas competições. Não somos só nós que usamos a colaboração voluntária. A Uber e a Didi usam-na para a condução. A Airbnb usa a colaboração voluntária para os hotéis. Há hoje muitos exemplos em que as pessoas fazem colaboração voluntária para encontrarem erros, ou enovelamento de proteínas. Mas conseguimos criar este carro em três meses, por isso estou a pensar melhor em como organizar empresas.
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
Temos uma equipa de 9000 pessoas que nunca são contratadas e que eu nunca dispenso. Aparecem para trabalhar e eu nem sequer sei. Depois apresentam-me talvez 9000 respostas. Eu não sou obrigado a usar nenhuma delas. E acabo por só pagar aos vencedores, por isso, sou nisto muito forreta, o que talvez não seja muito bom. Mas eles consideram que isto faz parte da formação, o que é agradável. Estes estudantes têm conseguido produzir resultados espantosos de aprendizagem profunda. A síntese de pessoas fantásticas e de ótima aprendizagem automática é um espanto.
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
CA: Gary Kasparov disse no primeiro dia da TED2017 que os vencedores do xadrez, surpreendentemente, passaram a ser dois jogadores amadores com três programas de computador medíocres, medíocres-a-bons, que podiam superar um grande mestre com um ótimo jogador de xadrez, como se tudo fizesse parte do processo. E quase parece que estás a falar de uma versão muito mais rica dessa mesma ideia.
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
ST: Sim, conforme seguiste ontem de manhã os fantásticos painéis, duas sessões sobre a IA, os senhores robóticos e a reação humana, foram ditas coisas extraordinárias. Mas uma das preocupações é que de certa forma confundimos o que está a ser feito com a IA com este tipo de ameaça em que a IA desenvolva uma consciência, não é? A última coisa que quero é que a minha IA tenha consciência. Não quero entrar na minha cozinha e ver que o meu frigorífico se apaixonou pela máquina de lavar loiça e me diga que, como eu não fui simpático, a minha comida descongelou. Eu não compro esses produtos e não os quero. Mas a verdade é que, para mim, a IA sempre foi um complemento das pessoas. Tem sido um complemento nosso para nos tornar mais fortes. Acho que Kasparov estava correto. Tem sido a combinação da inteligência humana com a inteligência da máquina que nos torna mais forte. O tema de as máquinas nos tornarem mais fortes é tão antigo como as máquinas. A revolução agrícola ocorreu graças às máquinas a vapor e aos equipamentos agrícolas que não podiam cultivar por si sós que nunca nos substituíram, mas tornaram-nos mais fortes. Penso que esta nova vaga da IA tornar-nos-á muito mais fortes enquanto raça humana.
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
CA: Já voltaremos a isso daqui a pouco mas para continuar com a parte assustadora para algumas pessoas, o que parece assustador para as pessoas é quando temos um computador que consegue alterar o seu próprio código e, assim, pode criar múltiplas cópias de si mesmo, e tentar uma série de diferentes versões de códigos, possivelmente de forma aleatória até e depois verificá-las, ver se atingiu um objetivo e melhorá-las. Digamos que o objetivo é ter um melhor desempenho num teste de inteligência. Um computador que seja moderadamente bom nisso, pode experimentar um milhão de versões. Pode encontrar a que seja melhor e repeti-la. Portanto, a preocupação é que se obtenha algum tipo de efeito de fuga em que tudo corre bem numa tarde de quinta-feira e, quando chegares ao laboratório na sexta-feira de manhã, dada a rapidez dos computadores e tudo isso, as coisas tenham ficado loucas e, de repente...
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
ST: Sim, diria que é uma possibilidade, mas é uma possibilidade muito remota. Deixa-me explicar o que te ouvi dizer. No caso da AlphaGo, tivemos extamente o seguinte: o computador jogava contra si mesmo e aprendia novas regras. O que a aprendizagem automática faz é modificar as regras. É modificar o código. Mas penso que não há qualquer preocupação de que o AlphaGo conquiste o mundo. Eu nem sequer sei jogar xadrez.
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
CA: Não, não, isso são coisas de uma área muito simples. Mas é possível imaginar, por exemplo, vimos um computador que quase parecia capaz de passar num teste de admissão à universidade. Não sabe ler e compreende no mesmo sentido que nós, mas certamente consegue absorver todo o texto e talvez ver mais padrões de significado. Não se dará o caso, à medida que isto se vai alargando, de poder haver um tipo diferente de efeito de fuga?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
ST: Sinceramente, é aí que eu traço a linha. Há essa possibilidade — não vou subestimá-la — mas penso que é remota, não é uma coisa que me preocupe atualmente, porque penso que a grande revolução está noutro lado. Tudo o que tem tido êxito na IA até à presente data tem sido extremamente especializado e tem-se desenvolvido a partir duma simples ideia que é uma quantidade maciça de dados. A razão por que a AlphaGo funciona tão bem deve-se aos números enormes de jogos Go e a AlphaGo não pode conduzir um carro nem pilotar um avião. O carro autónomo da Google ou o carro autónomo da Udacity prospera com quantidades enormes de dados e não consegue fazer mais nada. Nem sequer controla uma mota. É uma função muito específica, num domínio específico, e o mesmo é verdade para a aplicação do cancro. Quase não tem havido progresso nessa coisa chamada “IA geral”, em que vamos ter com a IA e dizemos: “Inventa-me a relatividade especial ou a teoria das cordas”. Isso está totalmente na infância.
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
E quero sublinhar isto porque vejo as preocupações e quero reconhecê-las. Mas, se eu fosse pensar numa coisa, colocaria a questão “E se pudermos agarrar numa coisa repetitiva “e a tornarmos 100 vezes mais eficaz?” Acontece que há 300 anos, todos trabalhávamos na agricultura fazíamos agricultura e fazíamos coisas repetitivas. Hoje, 75% das pessoas trabalham em escritórios e fazem coisas repetitivas. Tornámo-nos macacos da folha de cálculo. E não é apenas a mão de obra de baixa qualidade. Somos dermatologistas a fazer coisas repetitivas, advogados a fazer coisas repetitivas. Penso que estamos em vias de podermos pegar na IA, mantermo-nos atentos e ela torna-nos 10 ou 50 vezes mais eficazes nessas coisas repetitivas. É nisso que eu penso.
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
CA: Isso parece super interessante. O processo de lá chegar parece assustador para algumas pessoas, porque, assim que um computador consiga fazer uma coisa repetitiva, muito melhor do que o dermatologista, ou do que um condutor, em especial, é a coisa de que se fala tanto atualmente, de repente, desaparecem milhões de empregos, e um país entra em revolução antes mesmo de obtermos os aspetos mais gloriosos do que é possível.
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
ST: Pois, e isso é um problema, um grande problema, e ainda ontem de manhã foi referido por vários oradores convidados. Antes de eu aparecer aqui no palco, confesso que sou uma pessoa positiva, otimista, por isso vou dar-te uma ideia otimista. Pensa em ti mesmo, há 300 anos. A Europa sobreviveu a 140 anos de guerras contínuas, as pessoas não sabiam ler nem escrever, não havia empregos como os de hoje, como banqueiro de investimentos, ou engenheiro de <i>software</i>, ou pivô de TV. Estávamos todos nos campos a trabalhar na agricultura. Depois aparece o Sebastian com uma máquina a vapor no bolso, a dizer: “Olhem para isto, isto vai tornar-vos 100 vezes mais fortes, “para vocês poderem fazer outras coisas.” Nesses tempos, não havia um palco mas tu e eu estávamos no estábulo, com as vacas, e tu dizes: “Estou muito preocupado, “porque ordenho a minha vaca todos os dias e se a máquina fizer isso por mim?”
The reason why I mention this is, we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
Eu refiro isto porque somos muito bons em reconhecer o progresso do passado e os benefícios que nos trouxe como os iPhones ou os aviões, a eletricidade ou os medicamentos. Gostamos de viver até aos 80 anos, o que era impossível há 300 anos. Mas já não aplicamos as mesmas regras ao futuro. Se olhar para o meu emprego, enquanto diretor executivo, digo que 90% do meu trabalho é repetitivo, não o aprecio, gasto cerca de quatro horas por dia com <i>emails </i>estúpidos e repetitivos. Estou em pulgas para ter qualquer coisa que me ajude a ficar livre disto. Porquê? Porque acho que todos nós somos loucamente criativos, e a comunidade TED mais do que ninguém. Mas o mesmo se passa com os operários. Podemos ir ter com o empregado do hotel e beber um copo com ela/ele, e, ao fim de uma hora, encontramos uma ideia criativa. O que isto proporciona é transformar a criatividade em ação. Por exemplo, e se pudéssemos criar uma Google num só dia? E se pudéssemos sentar-nos com uma cerveja e inventar o próximo Snapchat, o que quer que isso seja, e amanhã de manhã isso estiver pronto e a funcionar?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
Isto não é ficção científica. O que vai acontecer é que já ficámos na História. Libertámos esta criatividade espantosa por acabarmos com a escravidão da agricultura e, mais tarde, claro, do trabalho fabril e inventámos muitas coisas. Vai ser ainda melhor, na minha opinião. E vai haver ótimos efeitos secundários. Um desses efeitos secundários vai ser que coisas como alimentos e medicamentos, educação, habitação e transportes, tudo isso será muito mais acessível para todos nós, não só para gente rica.
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
CA: Hum... Quando Martin Ford argumentou que esta época é diferente porque a inteligência que usámos no passado para encontrar novas formas de ser será acompanhada ao mesmo ritmo por computadores que se encarregarão dessas coisas, o que estou a ouvir-te dizer é que se deve, não totalmente, à criatividade humana. Achas que isso é fundamentalmente diferente do tipo de criatividade que os computadores podem ter?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
ST: Acredto plenamente, enquanto pessoa da IA que nunca vi nenhum progresso real em criatividade nem nenhum pensamento fora da caixa. O que vejo neste momento — e é muito importante que as pessoas percebam, porque a expressão “inteligência artificial” é muito traiçoeira, e depois temos Steve Spielberg a lançar um filme em que, de repente, o computador é dono e senhor mas, na verdade, é uma tecnologia que nos ajuda a fazer coisas repetitivas. O progresso tem sido inteiramente na área do repetitivo. Tem sido na análise de documentos jurídicos. Tem sido na redação de contratos. Tem sido no exame de raios X ao tórax. Estas coisas são muito especializadas, não vejo qual a grande ameaça para a Humanidade. Na verdade, enquanto pessoas, temos de reconhecer, tornámo-nos super-humanos. Fizemo-nos super-humanos. Podemos atravessar o Atlântico em 11 horas. Podemos tirar um aparelho do bolso e falar alto e bom som para a Austrália, e em tempo real, obter uma resposta dessa pessoa. Isso não é possível fisicamente. Estamos a quebrar as leis da Física. Quando dizemos e fazemos isto, lembramo-nos de tudo o que dissemos e vimos, recordamos todas as pessoas que foram boas para mim na fase inicial da minha doença de Alzheimer. Desculpem, o que é que eu estava a dizer? Esqueci-me.
CA: (Laughs)
Teremos, provavelmente, um QI de 1000 ou mais.
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
Deixará de haver aulas de ortografia para os nossos filhos, porque deixará de haver problemas de ortografia. Deixará de haver o problema da matemática. Eu penso que o que vai acontecer é que podemos ser super criativos. E somos. Somos criativos. É essa a nossa arma secreta.
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
CA: Então, os empregos que vão desaparecer, apesar de isso ser doloroso, os seres humanos são capazes de mais do que essas tarefas. É esse o sonho. O sonho é que os seres humanos se elevem a um novo nível de poder e de descoberta. É esse o sonho.
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
ST: E pensa nisto: se olharmos para a História da Humanidade, que pode ter, sei lá — 60 a 100 000 anos de idade — quase tudo que apreciamos, em termos de invenção, de tecnologia, das coisas que construímos, tem sido inventado nos últimos 150 anos. Se pensarmos no livro e na roda, são um pouco mais velhos. Ou no machado. Mas o telemóvel, os sapatos de ténis, estas cadeiras, o fabrico moderno, a penicilina, as coisas que apreciamos. Isso, para mim, significa que nos próximos 150 anos vamos encontrar mais coisas. Com efeito, na minha opinião, o ritmo das invenções subiu, não desceu. Penso que ainda só foi inventado 1% das coisas interessantes. Anda não curamos o cancro. Não temos carros voadores... ainda. Espero vir a mudar isso. Isso costumava ser um exemplo que fazia rir as pessoas. É cómico, não é? Trabalhar secretamente em carros voadores. Ainda não vivemos o dobro. Não temos aquele implante mágico no cérebro que nos dá as informações que queremos. E podem ficar chocados com isso, mas, garanto-vos que, quando o tiverem, vão adorá-lo. Pelo menos, é o que espero. É um bocado assustador, eu sei.
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
Há tantas coisas que ainda não inventámos e que penso que vamos inventar. Não temos escudos gravitacionais. Não podemos transportar-nos de um local para o outro. Isso parece ridículo, mas há 200 anos, os especialistas eram de opinião que nunca poderíamos voar, e mesmo há 120 anos. E, se nos movêssemos mais depressa do que podíamos correr, morreríamos instantaneamente. Por isso, quem diz que temos razão quando dizemos que não é possível teletransportar uma pessoa para Marte?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
CA: Sebastian, muito obrigado pela tua visão extremamente inspiradora e pelo teu brilhantismo. Obrigado, Sebastian Thrun. (Aplausos)