Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
Chris Anderson: Ajude-nos a entender o que é aprendizado de máquina, pois esse parece ser o principal motor tanto da empolgação quanto da preocupação com a inteligência artificial. Como funciona o aprendizado de máquina?
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
Sebastian Thrun: A inteligência artificial e o aprendizado de máquina têm cerca de 60 anos, e seus dias de glória só começaram recentemente. E a razão é que hoje chegamos a uma escala de computação e de dados que era necessária para tornar as máquinas inteligentes. Então, eis como funciona. Para programar um computador hoje, digamos, um celular, são contratados engenheiros de software que escrevem uma receita culinária bem longa, tipo: "Se a água estiver quente demais, diminua a temperatura. Se estiver fria demais, aumente a temperatura". E não são receitas de apenas dez linhas. Elas possuem milhões de linhas. Um celular moderno possui 12 milhões de linhas de programação. Um browser tem 5 milhões de linhas de programação. E cada falha nessa "receita" pode causar uma pane no computador. É por isso que engenheiros de software ganham tanto dinheiro. A novidade agora é que os computadores podem descobrir suas próprias regras. Então, em vez de um especialista decifrar, passo a passo, uma regra para cada contingência, o que se faz agora é dar exemplos ao computador e deixá-lo inferir as regras.
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
Um ótimo exemplo é AlphaGo, que recentemente venceu para o Google. Num jogo, normalmente escrevem-se todas as regras, mas, no caso do AlphaGo, o sistema pesquisou milhões de jogos e foi capaz de inferir suas próprias regras e então vencer o antigo campeão mundial de Go. Isso é interessante, pois alivia a carga do engenheiro de software de ser superinteligente, e transfere a carga para os dados. Como disse, o ponto de inflexão em que isso se tornou possível... muito constrangedor, minha tese foi sobre aprendizado de máquina, totalmente insignificante, não leiam, pois foi escrita há 20 anos... e, à época, os computadores eram como o cérebro de minhoca. Agora eles são poderosos o suficiente para simular o pensamento humano especializado. E os computadores têm a vantagem de trabalhar com muito mais dados do que as pessoas. Assim, o AlphaGo pesquisou mais de um milhão de jogos. Nenhum especialista humano conseguiria estudar esse número. O Google olhou mais de uma centena de bilhões de páginas da rede. Ninguém jamais conseguiu estudar bilhões de páginas. Em decorrência disso, o computador pode encontrar regras que nem as pessoas conseguem.
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
CA: Então, em vez de ser: "Se ele fizer isso, eu faço aquilo", é mais: "Eis o que parece um padrão de vitória; eis o que parece ser um padrão de vitória".
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
ST: Isso! Basta pensar na criação de filhos. Não passamos os primeiros 18 anos dando regras para cada contingência para, quando forem adultos, terem um programa enorme. Eles titubeiam, caem, levantam, levam tapas ou surras, têm uma experiência positiva, uma boa nota na escola, e aprendem por si mesmos. É o mesmo com os computadores agora, o que de repente facilitou a programação. Não temos mais de pensar; apenas damos a eles montes de dados.
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
CA: Então isso tem sido fundamental para o desenvolvimento espetacular do poder dos carros autônomos. Acho que você tem um exemplo. Você pode explicar o que está acontecendo aqui?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
ST: Este é o percurso de um carro autônomo que temos na Udacity e recentemente deu origem a uma filial chamada Voyage. Temos usado o chamado aprendizado profundo para treinar um carro a dirigir sozinho, e este está indo de Mountain View, Califórnia, para São Francisco no El Camino Real num dia chuvoso, com ciclistas e pedestres e 133 semáforos. E a novidade aqui é... muitas luas atrás, criei a equipe do carro autônomo do Google. E, naquela época, contratei os melhores engenheiros de software para descobrirem as melhores regras. Isso foi um teste. Dirigimos nessa estrada 20 vezes, colocamos todos os dados no cérebro do computador e, após algumas horas de processamento, ele demonstra um comportamento que sempre ultrapassa a agilidade humana. Assim, é muito fácil programá-lo. Este é 100% autônomo, cerca de 53 km em uma hora e meia.
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
CA: Então, nos explique: naquela parte grande do programa à esquerda, vemos mais ou menos o que o computador vê, caminhões, carros, pontos de ultrapassagem, e assim por diante.
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
ST: À direita, vemos a imagem da câmera, a entrada de dados mais expressiva, usada para encontrar pistas, outros carros, semáforos. O veículo tem um radar para calcular a distância, algo muito usado nesse tipo de sistema. À esquerda, vemos um diagrama a laser, que nos mostra obstáculos como árvores e coisas assim. Mas o mais importante está na imagem da câmera. Estamos passando de sensores de precisão como radares e lasers para sensores baratinhos, genéricos. Uma câmera custa menos de US$ 8.
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
CA: E aquele ponto verde à esquerda, o que é? É algo importante?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
ST: É uma referência para o cruzeiro regulável, que nos ajuda a entender como regular a velocidade com base na distância dos carros da frente.
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
CA: Você também tem um exemplo de como o aprendizado real acontece. Vamos dar uma olhada; fale sobre isso.
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
ST: Este é de um desafio que propusemos aos alunos da Udacity, de trabalharem com o chamado carro autônomo "Nanodegree". Demos a eles esses dados e dissemos: "Ei, vocês conseguem descobrir como dirigir esse carro?" Olhando essas imagens, até para os seres humanos é quase impossível dirigir certo. E fizemos uma competição de aprendizado profundo, uma competição de IA, e demos aos estudantes 48 horas. Bem, numa empresa de software como o Google ou o Facebook, algo assim vai demandar pelo menos seis meses de trabalho. Assim, decidimos que 48 horas estava ótimo. E, em 48 horas, recebemos cerca de 100 respostas dos alunos, e os 4 melhores solucionaram perfeitamente. Com o aprendizado profundo, ele dirigiu melhor do que eu. Novamente, é a mesma metodologia, é uma coisa mágica. Quando o computador tem dados e tempo suficientes para compreender esses dados, ele descobre suas próprias regras.
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
CA: E então isso levou ao desenvolvimento de aplicações poderosas em todo tipo de área. Outro dia, você estava me falando da oncologia. Posso mostrar esse vídeo?
ST: Yeah, absolutely, please. CA: This is cool.
ST: Sim, claro, por favor. CA: Isso é legal.
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
ST: Esse é um tipo de insight sobre o que está acontecendo num domínio completamente diferente. Isso está ampliando, ou competindo, como se queira, com pessoas que ganham US$ 400 mil por ano, dermatologistas, especialistas altamente treinados. Leva-se mais de uma década para se formar um bom dermatologista. E vemos aqui a versão aprendizado de máquina disso. É a chamada rede neural. "Redes neurais" é o termo técnico dado a algoritmos de aprendizado de máquina. Elas estão aí desde a década de 1980. Esta foi inventado em 1988 por Yann LeCun, um pesquisador do Facebook, e ela processa dados em estágios como faz o cérebro humano. Não é exatamente a mesma coisa, mas simula a mesma coisa. Ela vai por etapas. No primeiríssimo estágio, ela pega os dados visuais e extrai bordas, ângulos e pintas. E a seguir as bordas mais complicadas e figuras como meias-luas. E acaba sendo capaz de construir conceitos realmente complicados. Andrew Ng foi capaz de mostrar que é capaz de encontrar caras de gatos e de cachorros em vastas quantidades de imagens.
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
Minha equipe de alunos em Stanford mostrou que, se a treinarmos em 129 mil imagens de condições da pele, incluindo melanona e carcinomas, é possível fazer um trabalho tão bom quanto os melhores dermatologistas. E, para nos convencer disso, usamos um conjunto de dados independentes, que apresentamos à nossa rede e a 25 dermatologistas no nível de Stanford e comparamos. E, na maioria dos casos, sua precisão foi igual ou melhor do que a dos dermatologistas humanos. CA: Você estava me contando um caso
CA: You were telling me an anecdote. I think about this image right here. What happened here?
sobre essa imagem. O que houve aqui?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
ST: Isso foi na última quinta. Foi tocante. Foi publicado na "Nature" este ano: mostramos imagens a dermatologistas e ao nosso programa de computador e contamos o número de acertos. Mas todas as imagens já tinham biópsia para termos certeza de sua correta classificação. Mas não essa. Essa na verdade foi feita em Stanford por um de nossos colaboradores. A história é que nosso colaborador, um renomado dermatologista, aparentemente um dos três melhores, olhou para esta pinta e disse: "Não é câncer de pele". E depois, pensando melhor, ele disse: "Bem, deixe-me checar no aplicativo". Então ele pegou seu iPhone e usou nosso aplicativo, o chamado "dermatologista de bolso", e o iPhone disse câncer, melanoma. Então o médico ficou confuso, e decidiu: "Talvez eu confie no iPhone um pouco mais do que em mim mesmo", e enviou para o laboratório para biópsia. E o resultado foi um melanoma agressivo. Acho que essa foi a primeira vez que realmente encontramos, no uso do aprendizado profundo, uma pessoa real cujo melanoma não teria sido diagnosticado se não fosse pelo aprendizado profundo.
CA: I mean, that's incredible.
CA: Puxa, isso é incrível.
(Applause)
(Aplausos)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
Parece que há uma demanda imediata para um aplicativo como este agora, que deve assustar muitas pessoas. Pensam em fazer isso, um aplicativo que permita autoexame?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
ST: Minha caixa de correio está inundada de aplicativos sobre câncer com histórias de cortar o coração. Digo, algumas pessoas tiveram 10, 15, 20 melanomas removidos, e têm medo de que um tenha passado despercebido, como este, e também sobre carros voadores e pedidos de palestras, coisas assim. Minha postura é que precisamos de mais testes. Quero ser bem cuidadoso. É muito fácil dar um resultado chamativo e impressionar a plateia do TED. É muito mais difícil lançar algo ético. E, se as pessoas forem usar o aplicativo e forem dispensar a ajuda de um médico, é porque fizemos errado, e eu me sentiria muito mal com isso. Assim, estamos fazendo testes clínicos e, caso nossos dados se sustentem, talvez possamos, em algum momento, pegar esse tipo de tecnologia, tirá-la da clínica Stanford e levá-la ao mundo inteiro, lugares onde médicos de Stanford nunca estiveram antes.
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
CA: E, se entendi bem, se for como você está dizendo, você vem trabalhando com um exército de alunos da Udacity e, de certa maneira, está aplicando uma forma diferente de aprendizado de máquina da que ocorre numa empresa, que é combinar aprendizado de máquina com uma forma de sabedoria coletiva. Você está dizendo que poderia superar o que uma empresa pode fazer, mesmo uma grande?
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
ST: Acredito que haja agora instâncias que me surpreendem, e ainda estou tentando entender. O Chris está se referindo às competições que fazemos. Fazemos isso em 48 horas, e conseguimos construir um carro autônomo que pode dirigir de Mountain View a São Francisco pelas ruas, não no mesmo nível do trabalho de sete anos do Google, mas está chegando lá. E isso foi feito com apenas dois engenheiros em três meses, porque temos um exército de alunos que participam das competições. Não somos os únicos a usar colaboração coletiva. Uber e Didi fazem o mesmo. Airbnb usa colaboração coletiva para hospedagem. Há hoje muitos exemplos de pessoas fazendo isso para descobrir falhas ou enovelamento de proteínas, etc., na colaboração coletiva. Mas conseguimos construir esse carro em três meses, assim, o que estou fazendo faz repensar a organização das empresas.
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
Temos uma equipe de 9 mil pessoas que nunca foram contratadas, e que eu nunca demito. Elas aparecem para trabalhar e eu nem as conheço. Então elas submetem a mim talvez 9 mil respostas. Não sou obrigado a usar nenhuma delas. E remunero apenas os vencedores, então estou sendo meio sovina, o que talvez não seja o melhor a fazer. Mas eles consideram isso parte de sua formação, o que é legal. E esses alunos têm produzido incríveis resultados no aprendizado profundo. A síntese de pessoas qualificadas e bom aprendizado de máquina é incrível.
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
CA: Gary Kasparov disse no primeiro dia [do TED2017] que, surpreendentemente, os vencedores no xadrez foram dois jogadores amadores, com três programas de computador, de medíocres a bons, que poderiam superar um grande mestre, um grande jogador de xadrez, como se tudo fosse parte do processo. E me parece que você está falando duma versão muito mais rica da mesma ideia.
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
ST: Sim, quer dizer, você assistiu aos fantásticos painéis ontem de manhã, duas sessões sobre IA, senhores robóticos e a reação humana, muitas coisas interessantes foram ditas. Mas uma das preocupações é que às vezes confundimos o que está sendo feito com a IA com esse tipo de ameaça de dominação na qual a IA desenvolve uma consciência, certo? A última coisa que quero é que minha IA tenha consciência. Não quero entrar em minha cozinha e me deparar com a geladeira apaixonada pela lava-louça, me dizendo que minha comida não está quente porque não fui legal. Eu não compraria esses produtos, e não os quero. Mas a verdade, para mim, é que a IA sempre foi uma extensão das pessoas. Tem sido nossa extensão para nos fazer mais fortes. E acho que Kasparov está certíssimo. A combinação da inteligência humana com a das máquinas é o que nos faz mais fortes. O tema da máquina nos fazendo mais fortes é tão antigo quanto as próprias máquinas. A revolução agrícola aconteceu por causa do motor a vapor e equipamentos que não podiam cultivar sozinhos, que não nos substituíram, mas nos fizeram mais fortes. E acredito que essa nova onda de IA vai nos fazer muito mais fortes como raça humana.
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
CA: Vamos voltar nisso daqui a pouco, mas só para continuar com a parte que assusta as pessoas, como, por exemplo, o medo de um computador que possa, primeiro, reescrever seu próprio código e, assim, criar múltiplas cópias de si mesmo, tentar um monte de diferentes versões de código, possivelmente aleatoriamente, e depois checá-las e ver se um objetivo foi atingido ou aperfeiçoado. Assim, digamos que o objetivo seja se sair melhor num teste de inteligência. Por exemplo, um computador que seja mediano no teste, tentar um milhão de versões disso. Seria possível ele achar uma melhor e então, sabe, repetir. Então a preocupação é de que as coisas fujam ao controle, que tudo esteja bem na quinta à noite, e você volta ao laboratório na sexta de manhã e, devido à velocidade dos computadores e tudo mais, a coisa saia do controle e, de repente...
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
ST: Eu diria que há uma possibilidade, mas ela é muito remota. Então deixe-me traduzir o que você disse. No caso do AlphaGo, tínhamos exatamente isto: o computador jogaria o jogo contra si próprio para aprender novas regras. E o aprendizado de máquina é uma reescrita das regras. É a reescrita do código. Mas penso que não havia nenhuma preocupação de que AlphaGo fosse dominar o mundo. Ele nem consegue jogar xadrez.
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
CA: Não, mas esses são domínios bem específicos. Mas é possível imaginar... Acabamos de ver um computador que parecia quase capaz de passar num teste para ingressar numa universidade. Ele não sabe ler e entender no sentido que podemos, mas certamente pode absorver o texto todo e talvez identificar padrões de significado. Não há uma chance, à medida que isso se ampliar, de se perder o controle?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
ST: Honestamente, é aí que traço uma linha. E a chance existe, não quero minimizar isso, mas acho remota, e não é algo que me preocupe atualmente, pois acho que a grande revolução é outra coisa. Tudo que deu certo na IA até a presente data tem sido extremamente especializado, e tem prosperado com base numa única ideia, que é o enorme número de dados. A razão de AlphaGo funcionar tão bem é devido ao número de partidas jogadas, e AlphaGo não consegue dirigir um carro ou pilotar um avião. O carro autônomo do Google ou o da Udacity funciona com enormes quantidades de dados, e não consegue fazer mais nada, nem mesmo controlar uma moto. É uma função bem específica, e o mesmo vale para o aplicativo do câncer. Não houve quase nenhum progresso nessa coisa chamada "IA geral", em que se diga a uma IA: "Ei, invente uma teoria da relatividade especial ou a teoria das cordas". Está totalmente engatinhando.
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
Eu quero enfatizar isso porque vejo as preocupações e estou ciente delas, mas, se tivesse de pensar numa coisa, eu me faria a seguinte pergunta: "E se pudesse pegar algo repetitivo e nos fazer 100 vezes mais eficientes?" E ocorre que, 300 anos atrás, todos trabalhávamos na agricultura, na terra, e fazíamos coisas repetitivas. Hoje 75% de nós trabalhamos em escritórios e fazemos coisas repetitivas. Nos tornamos macaquinhos das tabelas. E não só nos trabalhos mais simples. Nos tornamos dermatologistas que fazem coisas repetitivas, advogados fazendo coisas repetitivas. Penso que estamos na iminência de sermos capazes de pegar uma IA, mesmo estando desconfiados, e ela nos fazer talvez 10 ou 50 vezes mais eficazes nessas coisas repetitivas. É nisso que fico pensando.
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
CA: Parece interessantíssimo. O processo para chegar lá parece aterrorizar algumas pessoas, porque uma vez que um computador possa fazer essa coisa repetitiva muito melhor do que o dermatologista ou, em especial, do que o motorista, algo tão falado hoje em dia, de repente milhões de empregos desaparecem, o país entra em convulsão antes de podermos ver aspectos mais gloriosos do que é possível.
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
ST: Esse é grande um problema, e foi apontado ontem de manhã por diversos palestrantes. Bem, antes de me mostrar no palco, confessei a eles que sou uma pessoa positiva, otimista, então, deixe-me lhe dar algo otimista, que é: pense em si mesmo 300 anos atrás. A Europa acabou de sobreviver a 140 anos de guerra contínua, ninguém sabia ler ou escrever, não havia os empregos que há hoje, como investidores financeiros, engenheiros de software ou âncoras de TV. Todos estaríamos no campo arando a terra. E lá vem o Sebastian com um motorzinho a vapor no bolso, dizendo: "Ei, pessoal, vejam só isto: vai torná-los 100 vezes mais fortes, e liberá-los pra fazer outra coisa". E, lá naquele tempo, não havia um palco, mas Chris e eu papeávamos perto das vacas, no estábulo, e ele diz: "Estou muito preocupado com isso, porque ordenho vacas todo dia, e se a máquina tomar meu lugar?"
The reason why I mention this is, we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
Estou dizendo isso porque somos ótimos em reconhecer o progresso passado e nos beneficiar dele, como nossos iPhones, aviões, eletricidade ou suprimentos médicos. Todos amamos viver até os 80 anos, o que era impossível 300 anos atrás. Mas nós meio que não aplicamos as mesmas regras para o futuro. Então, quando olho para o meu cargo de CEO, eu diria que 90% do meu trabalho é repetitivo, e não gosto disso. Passo cerca de quatro horas por dia com e-mails chatos e repetitivos. E estou louco para ter algo que me ajude a me livrar disso. Por quê? Porque acredito que todos nós somos loucamente criativos: especialmente a comunidade TED, mais do que todo mundo. Mas mesmo operários; acho que podemos chegar para a camareira do hotel tomar um drinque com ela, e, uma hora depois, descobrir uma ideia criativa. Isso vai possibilitar transformar essa criatividade em ação. Algo como: e se você pudesse construir o Google em um dia? E se pudesse parar pra tomar uma cerveja e inventar o próximo Snapchat, seja lá o que for, e amanhã de manhã estiver funcionando?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
E isso não é ficção científica. Nós já estamos nesse caminho. Já liberamos essa incrível criatividade ao nos des-escravizar do trabalho agrícola e, mais tarde, claro, do trabalho braçal e ter inventado tantas coisas. Vai ser até melhor, na minha opinião. E vai haver excelentes efeitos colaterais. Um deles vai ser que coisas como comida, suprimentos médicos, educação, moradia e transporte vão se tornar muito mais acessíveis para todos nós, não só para os ricos.
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
CA: Assim, quando Martin Ford disse que este tempo ia ser diferente, devido à inteligência que usamos no passado para descobrir novas formas de ser, vai no mesmo passo de os computadores assumindo essas coisas, mas ouço você dizendo que não completamente, devido à criatividade humana. Você acha que ela seja muito diferente do tipo de criatividade que os computadores conseguem ter?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
ST: Bem, tenho a firme convicção como uma pessoa IA, que não tenho visto nenhum progresso real em criatividade e pensamento fora da caixa. O que vejo, e é muito importante perceber isso, é que a expressão "inteligência artificial" é muito ameaçadora quando há um filme do Steve Spielberg em que, de repente, o computador nos domina. Mas é na verdade uma tecnologia que nos ajuda a fazer coisas repetitivas. E o progresso tem sido inteiramente no lado repetitivo. Em encontrar documentos legais, em elaborar minutas de contrato, em radiografias do tórax. E essas coisas são tão especializadas que não vejo a grande ameaça à humanidade. Na verdade, nós, como pessoas, temos de encarar que nos tornamos super-humanos. Nós nos fizemos super-humanos. Conseguimos atravessar o Atlântico em 11 horas. Podemos tirar um aparelho do bolso e falar com a Austrália e, em tempo real, alguém responder de volta para nós. Isso não é fisicamente possível: estamos quebrando as leis da física. Quando isso tiver sido dito e feito, nos lembraremos de tudo que já dissemos e vimos, vamos nos lembrar de cada pessoa, o que é bom para o meu Alzheimer. Desculpe, o que eu estava dizendo? Esqueci.
CA: (Laughs)
CA: (Risos)
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
ST: Provavelmente vamos ter um QI de mil ou mais. Nossos filhos não vão ter mais aula de ortografia, pois esse problema não vai existir. Nem problemas com a matemática. E acho que seremos realmente supercriativos. E nós somos. Nós somos criativos. Essa é nossa arma secreta.
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
CA: Então, os empregos que serão perdidos mesmo que seja doloroso, os humanos são mais capazes do que isso. Isso é um sonho. O sonho é que os humanos podem crescer num novo nível de empoderamento e descoberta. Esse é o sonho.
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
ST: E pense sobre isto: se olharmos a história da humanidade, isso pode ser, por exemplo, 60 a 100 mil anos atrás, quase tudo importante para nós em termos de invenção, de tecnologia, de coisas que construímos, foi inventado nos últimos 150 anos, Se incluirmos o livro e a roda, é um pouco mais de tempo; ou o machado. Mas seu celular, seu tênis, estas cadeiras, a produção moderna, a penicilina... as coisas com que nos importamos. Bem, isso significa pra mim que nos próximos 150 anos vamos descobrir mais coisas. De fato, penso que o ritmo da invenção tem aumentado, não diminuído. Acredito que apenas 1% das coisas interessantes foram inventadas, certo? Ainda não curamos o câncer. Não temos carros voadores... ainda; espero mudar isso. A gente costumava rir desse exemplo. (Risos) É engraçado, não é? Trabalhando secretamente em carros voadores. Não vivemos ainda o dobro do tempo, certo? Não temos um implante mágico em nosso cérebro para nos dar as informações que queremos. Talvez estejam chocados, mas lhes prometo: quando tivermos, vocês vão adorar. Espero que sim. É um pouco assustador, eu sei.
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
Tantas coisas ainda a serem inventadas, que vamos inventar: não temos escudo de gravidade, não podemos nos teletransportar. Isso tudo parece absurdo, mas, cerca de 200 anos atrás, os especialistas achavam que nunca íamos voar, mesmo 120 anos atrás, e se nos movêssemos mais depressa do que podemos correr, morreríamos instantaneamente. Então quem pode dizer que não podemos teletransportar uma pessoa daqui até Marte?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
CA: Sebastian, muito obrigado pela sua visão incrivelmente inspiradora e brilhante. Obrigado, Sebastian Thrun, foi fantástico. (Aplausos)