In the coming years, artificial intelligence is probably going to change your life, and likely the entire world. But people have a hard time agreeing on exactly how. The following are excerpts from a World Economic Forum interview where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense.
Gelecek yıllarda yapay zeka, muhtemelen hayatınızı ve tüm dünyayı değiştirecek. Ama insanlar tam olarak nasıl olduğunu kabul etmekte zorlanıyorlar. Altta ünlü bilgisayar bilimi profesörü ve yapay zeka uzmanı Stuart Russell’ın duyuları saçmalıktan ayırdığı Dünya Ekonomi Forumu röportajından alıntılar mevcut.
There’s a big difference between asking a human to do something and giving that as the objective to an AI system. When you ask a human to get you a cup of coffee, you don’t mean this should be their life’s mission, and nothing else in the universe matters. Even if they have to kill everybody else in Starbucks to get you the coffee before it closes— they should do that. No, that’s not what you mean. All the other things that we mutually care about, they should factor into your behavior as well.
Bir insandan bir şey yapmasını istemek ile bunu bir yapay zeka sistemine amaç olarak vermek arasında büyük bir fark vardır. Birinden size kahve getirmesini istediğinizde, bunun onun hayatının misyonu olması gerektiğini evrende başka hiçbir şeyin önemi olmadığını kastetmezsiniz. Kapanmadan önce size kahve getirmek için Starbucks’taki herkesi öldürmek zorunda kalsalar bile bunu yapmalılar. Hayır, bunu kastetmediniz. Karşılıklı olarak önemsediğimiz diğer tüm şeyler, davranışlarınızı da hesaba katmalıdır.
And the problem with the way we build AI systems now is we give them a fixed objective. The algorithms require us to specify everything in the objective. And if you say, can we fix the acidification of the oceans? Yeah, you could have a catalytic reaction that does that extremely efficiently, but it consumes a quarter of the oxygen in the atmosphere, which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.
Yapay Zeka sistemlerini kurma şeklimizle ilgili sorun şu: Onlara sabit bir hedef veriyoruz. Algoritmalar, hedefteki her şeyi belirtmemizi istiyor. “Okyanusların asitlenmesini düzeltebilir miyiz?″ derseniz bunu son derece verimli bir şekilde yapan katalitik bir reaksiyon elde edebilirsiniz ancak bu atmosferdeki oksijenin dörtte birini tüketir, bu da görünüşe göre birkaç saat içinde oldukça yavaş ve nahoş bir şekilde ölmemize neden olur.
So, how do we avoid this problem? You might say, okay, well, just be more careful about specifying the objective— don’t forget the atmospheric oxygen. And then, of course, some side effect of the reaction in the ocean poisons all the fish. Okay, well I meant don’t kill the fish either. And then, well, what about the seaweed? Don’t do anything that’s going to cause all the seaweed to die. And on and on and on.
Peki, bu problemden nasıl kaçınırız? Diyebilirsiniz ki tamam, sadece hedefi belirleme konusunda daha dikkatli olun— atmosferik oksijeni unutmayın. Ve sonra tabii ki reaksiyonun okyanustaki bazı yan etkileri bütün balıkları zehirler. Balığı da öldürmeyin demek istedim. Peki ya deniz yosunu? Tüm deniz yosunlarının ölmesine sebep olacak hiçbir şey yapma. Ve benzerleri.
And the reason that we don’t have to do that with humans is that humans often know that they don’t know all the things that we care about. If you ask a human to get you a cup of coffee, and you happen to be in the Hotel George Sand in Paris, where the coffee is 13 euros a cup, it’s entirely reasonable to come back and say, well, it’s 13 euros, are you sure you want it, or I could go next door and get one? And it’s a perfectly normal thing for a person to do. To ask, I’m going to repaint your house— is it okay if I take off the drainpipes and then put them back? We don't think of this as a terribly sophisticated capability, but AI systems don’t have it because the way we build them now, they have to know the full objective. If we build systems that know that they don’t know what the objective is, then they start to exhibit these behaviors, like asking permission before getting rid of all the oxygen in the atmosphere.
Ve bunu insanlarla yapmak zorunda olmamamızın nedeni, insanlar çoğunlukla önemsediğimiz her şeyi bilmiyorlar. Eğer bir insana size bir fincan kahve getirmesini söylerseniz ve bir fincan kahvenin 13 euro olduğu Paris’teki Hotel George Sand’da olursanız, geri gelmeniz ve “o, 13 Euro istediğinden emin misin?” ya da “yan tarafa gidebilirim ve bir tane alabilir miyim?” demeniz tamamen makul. Bu tamamen bir kişinin yapması için normal bir şey. Evini yeniden boyayacağım— Tahliye borularını çıkarsam ve sonra geri taksam sorun olur mu? Bunun çok gelişmiş bir beceri olduğunu düşünmüyoruz ancak yapay zeka sistemlerinizin bu becerisi yok, üretme şeklimiz nedeniyle, bütün amacı bilmesi gerekir. Amacın ne olduğunu bilmediklerini bilen bir sistem kurarsak ardından bu davranışları sergilemeye başlarlar, atmosferdeki tüm oksijeni yok etmeden önce izin istemek gibi.
In all these senses, control over the AI system comes from the machine’s uncertainty about what the true objective is. And it’s when you build machines that believe with certainty that they have the objective, that’s when you get this sort of psychopathic behavior. And I think we see the same thing in humans.
Tüm bu açılardan, yapay zeka sistemi üzerindeki kontrol, makinenin gerçek hedefin ne olduğu konusundaki belirsizliğinden kaynaklanır. Kesinlikle hedefe sahip olduğuna inanan makineler yaptığınız anda böylesine psikopatça bir davranış sergiliyorsunuz. Sanırım aynı şeyi insanlarda da görüyoruz.
What happens when general purpose AI hits the real economy? How do things change? Can we adapt? This is a very old point. Amazingly, Aristotle actually has a passage where he says, look, if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, then we wouldn’t need any workers.
Her amaca uygun Yapay Zeka, reel sektörü de etkilediğinde ne olacak? İşler nasıl değişecek? Uyum sağlayabilecek miyiz? Bu uzun süredir tartışılan bir konu. Şaşırtıcı bir şekilde Aristotle’ın bir sözü var bak dört dörtlük otomatik dokuma makinelerimiz olsaydı penalar liri çalabilir ve insan olmadan müzik üretebilirlerdi, o zaman hiç müzisyene ihtiyacımız olmazdı.
That idea, which I think it was Keynes who called it technological unemployment in 1930, is very obvious to people. They think, yeah, of course, if the machine does the work, then I'm going to be unemployed.
1930′da bunu teknolojik işsizlik olarak adlandıran kişinin Keynes olduğunu düşündüğüm bu fikir, insanlar için çok açık. Tam olarak şöyle düşünüyorlar: “Makine işi hallediyorsa işsiz kalacağım demektir.”
You can think about the warehouses that companies are currently operating for e-commerce, they are half automated. The way it works is that an old warehouse— where you’ve got tons of stuff piled up all over the place and humans go and rummage around and then bring it back and send it off— there’s a robot who goes and gets the shelving unit that contains the thing that you need, but the human has to pick the object out of the bin or off the shelf, because that’s still too difficult. But, at the same time, would you make a robot that is accurate enough to be able to pick pretty much any object within a very wide variety of objects that you can buy? That would, at a stroke, eliminate 3 or 4 million jobs?
Şirketlerin hâlihazırda e-ticaret için kullandıkları ambarları düşünün, bunlar yarı otomatik. Bunun işleyiş şekli, her yerde birikmiş tonlarca eşyanın olduğu ve insanların ortalığı karıştırdığı ve ardından geri getirip gönderdiği eski bir depo— ihtiyacınız olan her şeyi bulunduran raf ünitesini gidip getiren bir robot var ancak insan, nesneyi ya çöp kutusundan ya da raftan almak zorundadır çünkü bu hala çok zor. Ancak aynı zamanda, satın alabileceğiniz, çeşitli nesnelerin içerisinden herhangi bir nesneyi seçebilmek için yeterince hassas bir robot yapar mıydınız? Bu tek seferde üç ya da dört milyon işe darbe yapar mıydı?
There's an interesting story that E.M. Forster wrote, where everyone is entirely machine dependent. The story is really about the fact that if you hand over the management of your civilization to machines, you then lose the incentive to understand it yourself or to teach the next generation how to understand it. You can see “WALL-E” actually as a modern version, where everyone is enfeebled and infantilized by the machine, and that hasn’t been possible up to now.
E.M. Forster’ın yazdığı, herkesin tamamen makinelere bağlı olduğu ilginç bir hikaye var. Hikaye aslında, uygarlığınızın yönetimini makinelere devrederseniz, o zaman kendini anlama veya gelecek nesillere nasıl anlayacaklarını öğretme dürtünü kaybedersin. “WALL-E”yi aslında herkesin makine tarafından güçsüzleştirildiği ve çocuklaştırıldığı, modern bir versiyon olarak görebilirsiniz bu şu ana kadar mümkün olmadı.
We put a lot of our civilization into books, but the books can’t run it for us. And so we always have to teach the next generation. If you work it out, it’s about a trillion person years of teaching and learning and an unbroken chain that goes back tens of thousands of generations. What happens if that chain breaks?
Medeniyetimizin çoğunu kitaplara aktardık ama kitaplar onu bizim için yönetemiyor. Her zaman gelecek nesillere öğretmek zorundayız. Eğer çözerseniz, yaklaşık bir trilyon kişi yıllık öğretme, öğrenme ve on binlerce nesil öncesine dayanan kesintisiz bir zincir demektir. O zincir kırılırsa ne olur?
I think that’s something we have to understand as AI moves forward. The actual date of arrival of general purpose AI— you’re not going to be able to pinpoint, it isn’t a single day. It’s also not the case that it’s all or nothing. The impact is going to be increasing. So with every advance in AI, it significantly expands the range of tasks.
Yapay Zeka ilerledikçe anlamamız gereken bir şey olduğunu düşünüyorum. Genel amaçlı yapay zekanın gerçek ortaya çıkma tarihini tam olarak belirleyemeyeceksiniz, bu tek bir günden ibaret değil. Ayrıca durum böyle değil ya hep ya hiç. Etki giderek artacak. Yapay zekadaki her bir ilerlemede görev yelpazesini önemli ölçüde genişletir.
So in that sense, I think most experts say by the end of the century, we’re very, very likely to have general purpose AI. The median is something around 2045. I'm a little more on the conservative side. I think the problem is harder than we think.
Bu anlamda, sanırım çoğu uzman yüzyılın sonunda şunu söylüyor: “Genel amaçlı yapay zekaya sahip olmamız çok ama çok muhtemel.” Medyan, 2045 civarında bir şeydir. Ben biraz daha muhafazakar taraftayım. Sanırım sorun düşündüğümüzden daha zor.
I like what John McAfee, he was one of the founders of AI, when he was asked this question, he said, somewhere between five and 500 years. And we're going to need, I think, several Einsteins to make it happen.
John McAfee’yi seviyorum, yapay zeka’nın kurucularından biriydi, kendisine bu soru sorulduğunda şöyle dedi: “Beş ila 500 yıl arasında bir yerde.” “Sanırım bunu yapacak birkaç Einstein’lara ihtiyacımız olacak.”