Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
Chris Anderson: Makine öğrenimini anlamamıza yardımcı ol çünkü yapay zekâ etrafında dönüp duran heyecanın ve ilginin çoğunun temel etkeni bu gibi gözüküyor. Makine öğrenimi nasıl çalışır?
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
Sebastian Thrun: Yapay zekâ ve makine öğrenimi, ortalama 60 yıllık şeyler ve yakın zamana kadar, geçmişte güzel günler geçirmediler. Bunun nedeni günümüzde makineleri zeki hale getirmek için gerekli olan hesaplama ve veri seti ölçeğine ulaşmış olmamız. İşler şu şekilde yürüyor. Bugün diyelim ki telefonunuzu programlayacak olsanız, yazılım mühendislerini işe alırsınız ve onlar da şunun gibi çok uzun bir tarif yazmaya başlarlar: "Eğer su çok sıcaksa, ısıyı düşür. Eğer çok soğuksa, ısıyı yükselt." Bu tarifler 10 satır uzunluğunda değildir. Milyonlarca satır uzunluğundadır. Modern bir cep telefonunun 12 milyon kod satırı vardır. İnternet tarayıcısında beş milyon satır kod var. Ve bu tarifteki her bir hata bilgisayarın çökmesine neden olabilir. O yüzden bir yazılım mühendisi çok para kazanır. Yeni olan şey bilgisayarların kendi kurallarını bulabiliyor olması. Yani bir uzmanın adım adım şifre çözmesi, her olasılık için bir kural koyması yerine, artık bilgisayara örnekler veriyorsunuz ve o da kendi kurallarını çıkartıyor.
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
Yakın zamanda Google'nin kazandığı AlphaGo çok iyi bir örnek. Normalde, oyun oynamada, tüm kuralları oturup yazardınız ama AlphaGo konusunda, sistem bir milyon oyunu inceledi ve kendi kurallarını üreterek Go dünya şampiyonunu yendi. Bu heyecan verici bir şey çünkü böylece yazılım mühendisi çok zeki olması gerektiği düşünmüyor ve yükü veriye yüklüyor. Dediğim gibi, bunun mümkün olduğu bükülme noktası -- çok utanç verici, tezim makine öğrenimi hakkındaydı. Ehemmiyetsiz bir şey, okumayın çünkü bu 20 yıl önceydi ve o zamanlar, bilgisayarlar hamamböceği beyni kadar büyüktü. Şimdi ise bir tür özelleştirilmiş insan düşüncesini taklit edecek kadar güçlüler. Ve bilgisayarlar insanlardan çok daha fazla veriye bakabiliyor olmalarından yararlanıyorlar. AlphaGo'nun bir milyondan fazla oyunu incelediğini söyleyeyim. Hiçbir uzman bir milyon oyuna çalışamaz. Google bir milyardan fazla web sayfasını inceledi. Hiçbir insan bir milyar web sayfasını inceleyemez. Sonuç olarak, bilgisayarlar insanların bile bulamayacağı kuralları bulabilirler.
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
CA: Yani "O şunu yaparsa, ben de şöyle yapacağım." yerine daha çok: "İşte bu işe yarar bir hamleye benziyor." gibi bir inceleme yapıyor.
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
ST: Yani, çocukları nasıl yetiştirdiğinizi düşünün. İlk 18 yıl, çocuğa her olasılık için bir kural vererek özgür bırakayım da o da bu büyük programla yaşasın demezsiniz. Tökezlerler, düşerler, kalkarlar, yanağa veya popoya şaplak yerler ve olumlu bir deneyim yaşar, okulda iyi notlar alır ve olayları kendileri hallederler. Şimdi bilgisayarlarla da olan bu. Böylece bilgisayar programlama birden çok daha kolay bir hâl aldı. Artık düşünmemiz gerekmiyor. Sadece onlara yığınla veri veriyoruz.
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
CA: Ve bu, sürücüsüz araçların gücündeki olağanüstü gelişimde kilit rol oynuyor. Bana bir örnek vermiştin. Burada ne olduğunu açıklayabilir misin?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
ST: Bu, Udacity'de gerçekleşen sürücüsüz aracın sürüşü ve yakın zamanda Voyage adında bir alt şirkete dönüştü. Derin öğrenme denen şeyi bir aracın sürüşünü geliştirmesi için kullandık. Bu araç yağmurlu bir günde, Mountain View, Kaliforniya'dan çıkarak El Camino Real yolu üzerinden San Francisco'ya gidiyor. Yolda bisikletli, yaya ve 133 trafik lambası bulunuyor. Ve burada ilginç olan şey, çok uzun zaman önce, Google sürücüsüz araç takımını kurdum. Ve o zaman, dünyanın en iyi kurallarını bulmak için dünyanın en iyi yazılım mühendislerini işe aldım. Bu eğitimli bir araç. Bu yolu 20 kez turladık, tüm veriyi bilgisayarın beynine koyduk ve birkaç saatlik işlemden sonra çoğu zaman insan kıvraklığını aşan davranışlar ortaya koydu. Onu programlamak çok kolay oldu. Yüzde 100 otonom olarak yaklaşık 50 kilometre, bir buçuk saat yol aldı.
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
CA: Açıklar mısın, soldaki bu programın büyük kısmında bilgisayar kamyon ve arabalar yerine bu noktaların onu solladığını görüyor.
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
ST: Sağ tarafta, ana bilgi olan kamera görüntüsünü görüyorsunuz ve bunu şeritleri, diğer araçları, trafik ışıklarını bulmada kullanılıyor. Araçta uzaklık tahmini için bir radar bulunuyor. Bu tür sistemlerde çok sık kullanılıyor. Sol tarafta lazer grafiği görüyorsunuz, orada ise lazerin tarif ettiği ağaç gibi engelleri görüyorsunuz. Fakat çoğu ilginç iş kamera görüntüsünde toplanıyor. Radar ve lazer gibi hassas algılayıcılardan çok ucuz, normal algılayıcılara geçiş yapıyoruz. Bir kameranın maliyeti sekiz dolardan daha az.
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
CA: Ve soldaki o yeşil nokta nedir? Anlamlı bir şey mi?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
ST: Bu, uyarlanabilir seyir kontrolünüz için bir ileri bakış noktasıdır ve önünüzdeki arabaların ne kadar uzakta olduğuna bağlı olarak hızı ayarlamamıza yardımcı olur.
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
CA: Öğrenme kısmının nasıl olduğu ile alakalı da bir örneğin vardır diye düşünüyorum. Belki bunu da görebiliriz. Bundan bahset.
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
ST: Bu, Udacity'nin Nanodegree sürücüsüz araç programında öğrencileri zorlamak için yaptığımız bir örnek. Onlara veri setini verdik ve: "Hey, bu arabayı nasıl idare edeceğinizi bulabilir misiniz?" dedik. Görüntüye bakacak olursanız, insanlar için bile direksiyon hâkimiyetini halletmek oldukça imkânsız. Bir yarışma düzenledik ve "Bu bir derin öğrenme yarışması, Yapay Zekâ yarışması." dedik ve öğrencilere 48 saat verdik. Eğer Google ve Facebook gibi bir yazılım evi iseniz, bunun gibi bir şey en azından altı haftalık bir iş demektir. Bu nedenle 48 saatin harika olduğunu düşündük. Ve 48 saat içinde, öğrencilerden yaklaşık 100 bildirim aldık ve en iyi dört bunu mükemmel şekilde halletti. Bu araç, derin öğrenmeyi kullanarak benim gidebileceğimden daha iyi gidiyor. Ve tekrar ediyorum, bu aynı yöntem. Bu büyülü bir şey. Artık bir bilgisayara yeterli veri ve veriyi kavraması için yeterli süre verirseniz kendi kurallarını bulur.
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
CA: Ve bu tüm alanlarda güçlü uygulamaların gelişmesine neden oldu. Geçen gün benimle kanser hakkında konuşuyordun. Videoyu gösterebilir miyim?
ST: Yeah, absolutely, please. CA: This is cool.
ST: Evet, lütfen. CA: Harika.
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
ST: Tamamen farklı bir alanda neler olduğunu göstermesi açısından güzel bir örnek. Bunun güçlendirdiği veya rekabet ettiği kişiler - nasıl ifade etmek isterseniz - yılda 400 bin dolar ödenen insanlar olan cildiye uzmanları, yüksek eğitimli uzmanlar. İyi bir cildiye uzmanı olmak için 10 yıldan fazla deneyim gerekir. Burada gördüğünüz şey bunun makine öğrenimi versiyonu. Buna sinir ağı deniyor. Sinir ağları makine öğrenimi algoritmaları için kullanılan teknik terimdir. 1980'lerden beri varlar. Bu, 1988'de Facebook kurucularından olan Yann LeCun tarafından bulundu ve bunun yaptığı şey insan beyni olarak düşünebileceğiniz şey aracılığıyla veri aşamalarını üretmektir. Pek aynı şey sayılmaz ama aynı şeyi taklit eder. Aşama aşama ilerler. İlk aşamada, görsel girdiyi alır ve kenarları, çizgi ve noktaları çıkarır. Ve bir sonraki küçük yarımay gibi daha karmaşık kenarlar ve şekillerdir. Ve sonuç olarak çok karmaşık kavramlar inşa edebilir. Andrew Ng bunun çok büyük miktardaki resimlerden kedi ve köpek yüzlerini bulabildiğini gösterebildi.
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
Stanford'daki öğrenci takımım, tümör ve ur içeren 129 bin resimle sistemi eğittiğinizde en iyi cildiye uzmanları kadar iyi bir iş çıkarabileceğinizi gösterdi. Durumun böyle olduğuna kendimizi ikna etmek için ağımıza ve 25 kurul sertifikalı, Stanford düzeyinde cildiye uzmanına sunduğumuz bağımsız bir veri kümesi topladık ve onları karşılaştırdık. Ve çoğu durumda, insan cildiye uzmanlarıyla ya eşit ya da daha üstün sınıflandırma doğruluğu gösterdiler.
CA: You were telling me an anecdote. I think about this image right here. What happened here?
CA: Bana bir olay anlatıyordun. Sanırım bu resimle ilgiliydi. Orada ne oldu?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
ST: Bu geçen Perşembeydi. Dokunaklı bir olay. Burada gösterdiğimiz ve "Nature" dergisinde yayınladığımız şeylerdeki fikir cildiye uzmanlarına ve bilgisayarımıza resimler göstermek ve ne kadar doğru yaprıklarını saymaktı. Fakat tüm bu resimler eski resimler. Doğru sınıflandırma yaptığımızdan emin olmak için hepsine biyopsi yapıldı. Buna yapılmadı. Bu aslında Stanford'daki iş arkadaşımız tarafından yapıldı. Anlatılana göre, dünya çapında ünlü, en iyi üç kişiden biri olan cildiye uzmanı arkadaşımız bu lekeye bakmış ve "Bu cilt kanseri değil." demiş. Ve sonra tekrar düşünmüş ve "Bir de uygulama ile kontrol edelim." demiş. Telefonunu çıkarmış, tabiri caizse bizim "cep cildiye uzmanı"mızı açmış ve telefon kanser demiş. Tümör olduğunu söylemiş. Doktorun kafası karışmış. "Pekâlâ, belki de telefona kendimden fazla güveniyorum." demiş ve örneği biyopsi için laboratuvara göndermiş. Ve sonuç kötü huylu tümör çıkmış. Bence derin öğrenmeyi sahada uygulayarak ilk defa, derin öğrenme olmasaydı tümörü tespit edilememiş olacak gerçek bir kişi bulmuş olduk.
CA: I mean, that's incredible.
CA: Bu inanılmaz bir şey.
(Applause)
(Alkışlar)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
Şu anda bunun gibi bir uygulama için anlık bir talep olabilir gibi geliyor, birçok insanı korkutabilirsiniz. Otomatik kontrol sağlayacak bir uygulama yapmayı düşünüyor musunuz?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
ST: E-posta kutum kanser uygulamalarıyla dolup taşıyor, çok üzücü hikâyeler var. Yani, kimisinin 10, 15, 20 tümörü alınmış ve bunun gibi, gözden kaçmasından korkuyorlar ve bundan başka uçan arabalar ve bugünlerde konuşmacı araştırmaları var. Bana göre daha çok teste ihtiyacımız var. Çok dikkatli olmak istiyorum. Göz alıcı sonuçlar verip TED izleyicisini etkilemek çok kolaydır. Etik olan bir şey ortaya koymak çok daha zordur. Ve eğer insanlar bu uygulamayı kullansa ve yanlış yaptıklarını düşünerek bir doktora danışmamayı seçerse kendimi çok kötü hissederim. Şu anda, klinik testler yapıyoruz ve eğer bu klinik testler başlar ve verilerimiz dayanırsa bir noktada bu teknolojiyi alıp Stanford kliniklerinden dışarıya taşıyarak ve bunu tüm dünyaya, Stanford doktorlarının hiç ayak basmadığı yerlere götürebiliriz.
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
CA: Doğru mu duyuyorum, söylediğin şey kulağa şöyle geliyor. Udacity öğrenci ordusuyla çalışarak bir bakıma bir şirkette yer alabilecek farklı bir tür makine öğrenimi uyguluyorsun, makine öğrenimini bir tür kitle aklıyla birleştiriyorsun. Bunun çok büyük bir şirketin bile yapabildiklerinden daha iyisini yapabileceğini mi söylüyorsun?
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
ST: Artık aklımı başımdan alan olaylar olduğuna inanıyorum ve hâlâ anlamaya çalışıyorum. Chris yaptığımız bu yarışmalara atıfta bulunuyor. Onlara 48 saat verdik ve ara caddeler üzerinden Mountain View'den San Francisco'ya gidebilen sürücüsüz bir araç yapabildik. Yedi yıllık bir Google çalışmasından sonra pek Google'la eşit durumda değil ama oraya gidiyor. Ve bunu yapmamız iki mühendisle üç ay sürdü. Ve bunun sebebi de, yarışmalarda yer alan bir öğrenci ordumuzun olmasıdır. Kitle kaynağı kullanan sadece biz değiliz. Uber ve Didi sürüş için kitle kaynağı kullanıyor. Airbnb oteller için kitle kaynağı kullanıyor. Hata bulma veya protein katlanması gibi kitle kaynağın kullanıldığı pek çok örnek mevcut. Fakat biz bu arabayı üç ay içinde geliştirdik, o yüzden şirketleri nasıl organize ettiğimiz üzerinde yeniden düşünüyorum.
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
Asla kovmadığım, asla işe almadığım 9.000 kişiden oluşan bir ekibimiz var. Birden ortaya çıkıp çalışmaya başladılar ve haberim bile yoktu. Ve bana 9.000 cevap ibraz ettiler. Bunların herhangi birini kullanmak zorunda değildim. Sonunda sadece kazananlara öderim, aslında burada çok beleşçiyim, ki belki bu yapılacak en iyi şey değildi. Onlar bunu eğitimlerinin bir parçası olarak görüyorlar ki bu çok güzel. Fakat bu öğrenciler müthiş derin öğrenme sonuçları üretmeyi başardılar. Yani evet, harika insanların ve harika makine öğrenimi birleşimi muhteşem.
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
CA: Gary Kasparov ilk gün satrancı kazananların, şaşırtıcı şekilde, üç vasat-üstü bilgisayar programı olan iki amatör satranç oyuncusu olduğu söyledi. Böyle bir şeyle büyük bir ustadan üstün gelinebilir. Sanki hepsi sürecin bir parçasıydı. Ve neredeyse aynı fikrin daha zengin bir sürümünden bahsediyorsun gibi.
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
ST: Evet, yani, dün sabah harika panellerden takip ettiğin gibi, Yapay Zekâ (AI) hakkında robot hükümdarlar ve insan tepkisi başlığıyla iki oturum gerçekleşti. Çok, çok harika şeyler söylendi. Fakat endişelerden biri bazen AI ile asıl yapılan şeyleri bu tür insana hükmetme tehdidi ile karıştırmamız. Yapay zekânın bilinç geliştirmesi, değil mi? En son isteyeceğim şey yapay zekâmın bilinç sahibi olmasıdır. Mutfağıma geldiğimde buzdolabının bulaşık makinesine aşık olmuş hâlde görmek ve nazik olmadığım için yiyeceklerin artık sıcak olacağını söylemesini istemem. Bu ürünleri satın almak istemem, onları istemem. Ama benim için hakikat şudur; AI daima insana bir takviye olmuştur. Bizi daha güçlü yapmak için bir takviyedir. Ve bence Kasparov kesinlikle haklıydı. Bizi güçlü kılan şey insan ve makine zekâsının birleşimi olmuştur. Makinelerin bizi güçlendirmesi fikri makineler kadar eskidir. Tarım devriminin gerçekleşme nedeni buhar makinelerinin ve tarım aletlerinin kendi kendine tarım yapamamasıydı ki bu bizi devreden çıkarmadı, bizi daha güçlü kıldı. Ve inanıyorum ki bu yeni AI dalgası bizi insan ırkı olarak çok daha güçlü kılacaktır.
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
CA: Buna biraz daha deyineceğiz fakat konunun bazı insanlar için korkutucu olan kısmına devam edelim. İnsanları korkutan şey şu: Bir bilgisayar kendi kodunu yazabildiğinde, kendi kopyalarını yaratabilir, farklı kod sürümleri deneyebilir, muhtemelen de bunu gelişigüzel yapar ve bir hedefe ulaşıldığını ve gelişimini kontrol edebilir. Diyelim ki, hedef zekâ testinden daha iyi yapmak. Bu işte kısmen iyi olan bir bilgisayarla bunun milyonlarca çeşidini deneyebilirsin. Daha iyi olan bir tane bulursun ve sonra bunu tekrar edersin. Buradaki endişe kontrolden çıkması. Perşembe gecesi her şey yerindedir ama Cuma sabahı laboratuvara gelirsiniz ve bilgisayarların hızlı olması nedeniyle işler çığırından çıkmıştır ve birden --
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
ST: Bunun bir ihtimal olduğunu söyleyebilirim ama çok uzak bir ihtimal. Dediğinden ne anladığımı tercüme etmeme müsaade et. AlphaGo durumunda, kesinlikle şöyle bir durum var: bilgisayar oyunu kendisi oynar ve yeni kurallar öğrenir. Makine öğrenimi ise kuralların tekrar yazılmasıdır. Kodun yeniden yazımıdır. Fakat AlpaGo'nun dünyayı ele geçirmesi gibi bir endişenin olduğunu kesinlikle düşünmüyorum. Satranç bile oynayamaz.
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
CA: Evet ama bunların hepsi tek etki alanı olan şeyler. Ama bunu hayal etmek mümkün. Yani, üniversite giriş sınavını geçen bir bilgisayar gördük. Bizim gibi okuyup anlayamayabiliyor ama tüm metni kesinlikle kavrıyor ve belki anlamın ileri kalıplarını görüyor. Peki bu genişledikçe farklı şekilde kontrolden çıkma şansı yok mu?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
ST: Açıkcası, orada bir sınır koyuyorum. İhtimal var, bunu önemsiz göstermek istemiyorum fakat uzak olduğunu düşünüyorum ve bu günlerde aklımda olan bir şey değil, çünkü büyük devrim başka bir şey. Günümüze kadar yapay zekâda başarılı olan her şey son derece özelleşmişti ve tek bir fikir üzerinde büyüyordu ki o da muazzam miktarda veridir. AlphaGO'nun çok iyi çalışmasının nedeni muazzam sayıda Go oyunudur ve AlphaGo bir araba veya uçak kullanamaz. Google'ın sürücüsüz aracı veya Udacity sürücüsüz aracı muazzam miktarda veriyle gelişiyor ve başka bir şey yapamıyor. Bir motosikleti bile kontrol edemez. Çok belirli, alana özel işlev ve aynısı kanser uygulamamız için de geçerli. "Genel AI" denen şeyle ilgili neredeyse hiçbir gelişme olmadı, yani gidip şunu diyemezsiniz: "Hey, benim için özel izafiyet veya sicim teorisi icat et." Henüz emekleme evresinde.
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
Bunu vurguluyorum çünkü endişeleri görüyorum ve onları anlıyorum. Fakat eğer bir şeyi düşünecek olursam, kendime şu soruyu sorarım: "Tekrarlayan bir şeyi alıp kendimizi 100 kat daha verimli yapsak nasıl olur?" 300 yıl önce hepimiz tarımla uğraşıyorduk ve çiftçilik yapıyorduk ve hep aynı şeyleri yapıyorduk. Bugün, %75'imiz ofiste çalışıyor ve hep aynı işi yapıyor. Hesap çizelgesi maymunları haline geldik. Alt sınıf işçiler de değil, aynı şeyleri yapan cildiye uzmanları, aynı şeyleri yapan avukatlar olduk. Bence kendimize bir yapay zekâ alabiliyor olmanın eşiğindeyiz. Diken üstüne olacağız ama bizi bu tekrarlı işlerde 10-50 kat daha etkili yapacaklar. Benim aklımdaki şey bu.
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
CA: Bu kulağa oldukça heyecan verici geliyor. İşin bu noktalara gelmesi bazı insanlar için korkutucu görünüyor çünkü bir bilgisayar tekrarlı işleri cildiye uzmanından çok daha iyi yapabildiğinde - veya bir şoförden, şu anda özellikle de bu konu konuşuluyor - milyonlarca iş alanı yok olacak ve mümkün olan şeylerin muhteşem yönlerine erişmeden ülkemiz devrim içerisine girecek.
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
ST: Evet, bu bir mesele ve büyük bir mesele ve bu, dün sabah birkaç misafir konuşmacı tarafından dile getirildi. Ben sahneye çıkmadan önce, olumlu, iyimser bir insan olduğumu itiraf ettim, o yüzden size iyimser bir tablo çizeyim. Kendinizi 300 yıl önce düşünün. Avrupa henüz 140 yıl süren savaştan çıkmış, hiçbiriniz okuyor veya yazmıyorsunuz, bugün sahip olduğunuz işlerin hiçbiri yok; yatırım bankeri veya yazılım mühendisi veya televizyon sunucusu. Hepimiz tarlalarda tarım yapıyor olurduk. Şimdi Küçük Sebastian cebinde küçük bir buharlı motorla gelir ve şöyle der: "Millet, şuna bakın. Bu sizi 100 kat güçlü kılacak, başka şeyler de yapabileceksiniz." Ve o zamanlar gerçek bir sahne yoktur, ama Chris ve ben ahırda ineklerle takılıyoruzdur ve bana şöyle der: "Çok endişeleniyorum, çünkü her gün inekleri sağıyorum. Ya bunu benim yerime makineler yaparsa?"
The reason why I mention this is, we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
Bunu şu yüzden söylüyorum; geçmiş gelişmeleri ve faydalarını kabul etme konusunda her zaman iyiyizdir, iPhone'larınız veya uçaklarımız veya elektrik, tıbbi malzeme gibi. Hepimiz 80 yaşına kadar yaşamak isteriz, ki bu 300 yıl önce imkânsızdı. Fakat aynı kuralları gelecek için uygulamıyoruz gibi. Yani eğer bir CEO olarak kendi işime bakarsam, işimin %90'ı aynı şeyler, bu eğlenceli değil, günde dört saatimi aptal, aynı e-postalarla harcıyorum. Ve bu işten beni kurtaracak bir şeyler için yanıp tutuşuyorum. Neden? Çünkü hepimizin acayip yaratıcı olduğumuzu düşünüyorum; TED topluluğunu başka her şeyden çok düşünüyorum. Fakat mavi yakalı işçiler olarak; bence otel görevlisi ile oturup onunla bir şeyler içseniz bir saat sonra yaratıcı bir fikir bulabilirsiniz. Bu yaratıcılığı eyleme dönüştürmeyi güçlendirecektir. Mesela, Google'ı bir günde inşa edebilseydiniz nasıl olurdu? Bir muhabbet üzerindeyken Snapchat'i icat etseniz, veya her ne ise ve ertesi sabah çalışmaya hazır olsa?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
Bu bilim kurgu da değil. Olacak olan şey zaten tarihte yaşandı. Bu muhteşem yaratıcılığın zincirlerini kırdık ve bunu kendimizi çiftçilikten ve sonrasında da, tabii ki fabrika işlerinden kurtararak yaptık ve bir çok şey icat ettik. Bence çok daha iyi bile olacaktır. Ve büyük yan etkileri olacaktır. Yan etkilerden birisi gıda, tıbbi malzeme, eğitim, barınma ve ulaşım gibi şeylerin sadece zenginler için değil hepimiz için daha az maliyetli olacak olmasıdır.
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
CA: Hımm. Martin Ford bu sefer işlerin farklı olduğunu tartışırken, geçmişte yeni yollar bulmak için kullandığımız zekâ bu şeyleri devralan bilgisayarlar tarafından aynı hızda karşılanacağını söylüyor. Sen ise insan yaratıcılığı nedeniyle tam olarak böyle olmayacağını söylüyorsun. Sence bu, bilgisayarların yapabildiği yaratıcılıktan temel olarak farklı mı?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
ST: Bir yapay zekâ insanı olarak benim inancım bu. Yaratıcılık üzerine gerçek bir ilerleme ve ezber bozan düşünme görmedim. Şu an bunu görüyorum ve insanların bunun farkına varması çok önemli, çünkü "yapay zekâ" kelimeleri çok tehdit edici. Sonra Steve Spielberg ortaya bir film atıyor, ve birden bilgisayar bizim efendimiz oluyor ama bu gerçek bir teknoloji. Tekrarlayan işleri yapmamıza yardım eden bir teknoloji. Ve ilerleme, tamamen tekrarlayan işlerde. Yasal belge incelenmesi, sözleşme taslağı hazırlanması, göğüs röntgeninizin izlenmesi. Bu işler o kadar özelleştirilmiş ki, insanlık için büyük bir tehdit görmüyorum. Aslında, insanlar olarak -- Yani, bununla yüzleşelim: İnsanüstü bir hâl aldık. Kendimizi insanüstüleştirdik. Atlantik'i 11 saatte geçebiliyoruz. Cebimizdeki bir aygıtla, Avustralya'ya seslenebiliyoruz ve aynı anda karşıdaki kişi de bize karşılık verebiliyor. Bu fiziksel olarak mümkün değil. Fizik kurallarını çiğniyoruz. Tüm bunlardan sonra, söylediğimiz ve gördüğümüz her şeyi hatırlayacağız, her kişiyi hatırlayacaksınız, ki Alzheimer'in ilk aşamasında olan benim için güzel bir şey. Pardon, ne demiştim? Unuttum.
CA: (Laughs)
CA: (Gülüşmeler)
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
ST: Muhtemelen 1.000 veya daha fazla IQ'ya sahip olacağız. Artık çocuklarımız için heceleme derslerine gerek kalmayacak çünkü heceleme sorunu kalmayacak. Matematik bir sorun olmaktan çıkacak. Ve süper yaratıcı olacağımızı düşünüyorum. Öyleyiz de, yaratıcıyız. Bu bizim gizli silahımız.
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
CA: İş alanları kayboluyor, sancılı olacak olmasına rağmen insanlar bu işlerin çok daha fazlasına muktedir. Hayalimiz bu. Hayalimiz, insanların yeni bir güç ve keşif seviyesine yükselebilmesi. Hayal bu.
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
ST: Bir de şunu düşün: insanlık tarihine bakarsan, aşağı yukarı 60-100.000 yıl öncesine bakarsak, keşif, teknoloji ve inşa ettiğimiz şeyler açısından el üstünde tuttuğumuz neredeyse her şey son 150 yıl içinde icat edildi. Kitap, tekerlek veya baltayı söyleyecek olursanız onlar biraz daha yaşlı. Fakat telefonunuz, ayakkabılarınız, bu sandalyeler, modern üretim, penisilin -- el üstünde tuttuğumuz şeyler. Bu benim için sonraki 150 yılın çok daha fazla şey bulacağı anlamına geliyor. Esasında, bana göre icadın temposu yükseldi, yavaşlamadı. Ben ilginç şeylerin henüz %1'inin icat edildiğine inanıyorum. Kanseri tedavi edemedik. Uçan arabalarımız yok -- henüz. Umarım, bu değişir. Bir zamanlar insanlar bu örneğe gülerdi. (Gülüşmeler) Komik, değil mi? Uçan arabalar üzerinde gizlice çalışmak. İki katı uzun yaşamıyoruz. Beynimizde bize istediğimiz bilgiyi veren büyülü bir şey yok. Dehşete kapılabilirsiniz, ama sizi temin ederim, bir kere sahip olduğunuzda, seveceksiniz. Umarım öyle olur. Biraz korkutucu, biliyorum.
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
İcat edeceğimiz çok şey olduğunu düşünüyorum. Yer çekimi kalkanlarımız yok. Kendimizi başka bir noktaya ışınlayamıyoruz. Bu gülünç bir şey, fakat yaklaşık 200 yıl önce, uzmanlar uçuşun mümkün olmayacağı görüşündeydiler, hatta 120 yıl önce. Ve koşmanızdan daha hızlı hareket ettiğinizde anında öleceğinize inanılırmış. Buradan Mars'a insan ışınlayamama konusunda haklı olduğumuzu söyler?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
CA: Sebastian, son derece ilham verici vizyonun ve dehan için çok teşekkür ederim. Teşekkürler, Sebastian Thrun. Bu muazzamdı. (Alkışlar)