In the coming years, artificial intelligence is probably going to change your life, and likely the entire world. But people have a hard time agreeing on exactly how. The following are excerpts from a World Economic Forum interview where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense.
Beberapa tahun ke depan, kecerdasan buatan (AI) mungkin akan merubah hidup Anda, dan kemunginan besar, seluruh dunia. Namun, orang-orang kesulitan menyetujui bagaimana tepatnya. Berikut adalah penggalan dari wawancara Forum Ekonomi Dunia ketika profesor ilmu komputer dan ahli AI ternama, Stuart Russell, memisahkan hal masuk akal dari yang tidak masuk akal.
There’s a big difference between asking a human to do something and giving that as the objective to an AI system. When you ask a human to get you a cup of coffee, you don’t mean this should be their life’s mission, and nothing else in the universe matters. Even if they have to kill everybody else in Starbucks to get you the coffee before it closes— they should do that. No, that’s not what you mean. All the other things that we mutually care about, they should factor into your behavior as well.
Ada perbedaan besar antara meminta manusia mengerjakan sesuatu dan memberikan perintah kepada sistem AI. Ketika meminta manusia mengambil secangkir kopi, Anda tidak bermaksud menjadikan ini misi hidupnya, dan tidak ada hal lain yang berarti. Bahkan jika harus membunuh orang di Starbucks untuk dapat kopi sebelum tutup - mereka harus melakukannya. Bukan, maksud Anda bukan itu. Semua hal lain yang kita pedulikan, harus menjadi bagian dari sikap Anda juga.
And the problem with the way we build AI systems now is we give them a fixed objective. The algorithms require us to specify everything in the objective. And if you say, can we fix the acidification of the oceans? Yeah, you could have a catalytic reaction that does that extremely efficiently, but it consumes a quarter of the oxygen in the atmosphere, which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.
Masalah pada cara kita membangun sistem AI sekarang ada di pemberian perintah mutlak. Algoritmanya mengharuskan kita menjabarkan semua perintah. Dan jika Anda bilang, bisakah kita memperbaiki pengasaman laut? Ya, gunakan reaksi katalis yang bekerja dengan amat efisien, namun akan mengambil seperempat oksigen di atmosfer, yang ternyata akan membuat kita mati secara perlahan dan menyakitkan dalam beberapa jam.
So, how do we avoid this problem? You might say, okay, well, just be more careful about specifying the objective— don’t forget the atmospheric oxygen. And then, of course, some side effect of the reaction in the ocean poisons all the fish. Okay, well I meant don’t kill the fish either. And then, well, what about the seaweed? Don’t do anything that’s going to cause all the seaweed to die. And on and on and on.
Jadi, bagaimana menghindari masalah ini? Anda mungkin berkata, tinggal jelaskan saja perintahnya dengan lebih hati-hati-- jangan lupa tentang oksigen di atmosfer. Dan tentu saja, efek samping dari reaksi tersebut pada lautan meracuni seluruh ikan. Oke, maksud saya, jangan bunuh ikannya juga. Lalu, bagaimana dengan rumput laut? Jangan lakukan apapun yang dapat membunuh rumput laut. Dan lainnya, dan lainnya.
And the reason that we don’t have to do that with humans is that humans often know that they don’t know all the things that we care about. If you ask a human to get you a cup of coffee, and you happen to be in the Hotel George Sand in Paris, where the coffee is 13 euros a cup, it’s entirely reasonable to come back and say, well, it’s 13 euros, are you sure you want it, or I could go next door and get one? And it’s a perfectly normal thing for a person to do. To ask, I’m going to repaint your house— is it okay if I take off the drainpipes and then put them back? We don't think of this as a terribly sophisticated capability, but AI systems don’t have it because the way we build them now, they have to know the full objective. If we build systems that know that they don’t know what the objective is, then they start to exhibit these behaviors, like asking permission before getting rid of all the oxygen in the atmosphere.
Dan alasan mengapa kita tidak perlu melakukan hal tersebut pada manusia adalah manusia tahu dia tidak paham dengan semua yang kita pedulikan. Jika Anda meminta seorang manusia segelas kopi, dan kebetulan Anda berada di Hotel George Sand di Paris, di mana kopi berharga 13 euro per gelas, sangat wajar untuk kembali dan bilang, harganya 13 euro, Anda yakin, atau saya bisa ke toko sebelah untuk beli segelas? Dan itu hal wajar yang sempurna untuk dilakukan. Untuk bertanya, saya akan mengecat ulang rumah Anda -- Bolehkah saya melepas talang airnya dan pasang kembali nanti? Kita tidak menganggap ini sebagai kemampuan yang sangat canggih, tapi AI tidak memilikinya sebab bagaimana kita membangunnya kini, AI harus tahu semua perintahnya. Jika kita membangun sitem yang paham perintah yang tidak mereka tahu, dan mulai menunjukkan kebiasaan ini, seperti meminta izin menghilangkan seluruh oksigen di atmosfer.
In all these senses, control over the AI system comes from the machine’s uncertainty about what the true objective is. And it’s when you build machines that believe with certainty that they have the objective, that’s when you get this sort of psychopathic behavior. And I think we see the same thing in humans.
Dalam semua pengertian ini, kendali sistem AI datang dari ketidakpastian mesin mengenai apa perintah sebenarnya. Ini saat ketika Anda membangun mesin yang percaya pada kepastian soal perintah yang diperoleh, saat itulah didapat perilaku psikopat semacam ini. Dan saya pikir, manusia juga memilikinya.
What happens when general purpose AI hits the real economy? How do things change? Can we adapt? This is a very old point. Amazingly, Aristotle actually has a passage where he says, look, if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, then we wouldn’t need any workers.
Apa yang terjadi ketika AI umum menyentuh ekonomi riil? Bagaimana hal-hal berubah? Bisakah kita beradaptasi? Ini adalah hal yang usang. Hebatnya, Aristoteles berpesan di mana dia berkata, lihat, jika kita memiliki alat tenun yang otomatis sepenuhnya dan plektrum yang bisa memetik kecapi dan menghasilkan musik tanpa manusia, maka kita tidak membutuhkan pekerja.
That idea, which I think it was Keynes who called it technological unemployment in 1930, is very obvious to people. They think, yeah, of course, if the machine does the work, then I'm going to be unemployed.
Gagasan itu, yang saya kira adalah Keynes yang menyebutnya pengangguran teknologi pada 1930, sangat jelas bagi orang-orang. Mereka pikir, tentu jika mesin melakukan pekerjaan, maka saya akan jadi pengangguran.
You can think about the warehouses that companies are currently operating for e-commerce, they are half automated. The way it works is that an old warehouse— where you’ve got tons of stuff piled up all over the place and humans go and rummage around and then bring it back and send it off— there’s a robot who goes and gets the shelving unit that contains the thing that you need, but the human has to pick the object out of the bin or off the shelf, because that’s still too difficult. But, at the same time, would you make a robot that is accurate enough to be able to pick pretty much any object within a very wide variety of objects that you can buy? That would, at a stroke, eliminate 3 or 4 million jobs?
Anda bisa mengambil contoh gudang yang saat ini beroperasi untuk perdagangan elektronik, kini sebagian otomatis. Bagaimana gudang ini bekerja sebelumnya -- di mana barang-barang menumpuk dan orang berkeliling dan mengobrak-abrik kemudian kembali dan mengirimnya -- ada robot yang pergi dan mendapatkan rak yang berisi barang yang Anda butuhkan, namun manusia harus mengambil barang dari keranjang atau rak, karena itupun masih sangat sulit. Namun, pada saat bersamaan, akankah Anda membuat robot yang cukup akurat untuk mengambil segala jenis barang dari beragam hal yang bisa Anda beli? Itu akan, dengan sekali pukulan, menghilangkan 3 atau 4 juta pekerjaan?
There's an interesting story that E.M. Forster wrote, where everyone is entirely machine dependent. The story is really about the fact that if you hand over the management of your civilization to machines, you then lose the incentive to understand it yourself or to teach the next generation how to understand it. You can see “WALL-E” actually as a modern version, where everyone is enfeebled and infantilized by the machine, and that hasn’t been possible up to now.
Ada cerita menarik yang ditulis E.M. Foster, di mana semua orang sepenuhnya bergantung pada mesin. Ceritanya benar-benar soal bagaimana jika Anda menyerahkan pengelolaan peradaban Anda ke mesin, Anda kemudian kehilangan insentif untuk memahaminya sendiri atau mengajarkan anak cucu bagaimana cara memahaminya. Anda dapat melihat “WALL-E” sebagai versi modern di mana setiap orang dilemahkan dan diintimidasi oleh mesin, dan belum bisa dilakukan hingga saat ini.
We put a lot of our civilization into books, but the books can’t run it for us. And so we always have to teach the next generation. If you work it out, it’s about a trillion person years of teaching and learning and an unbroken chain that goes back tens of thousands of generations. What happens if that chain breaks?
Kita menuliskan peradaban di buku-buku, tapi buku tidak menjalankannya. Jadi kita harus selalu mengajarkan generasi berikutnya. Jika berhasil melakukannya, perlu triliunan tahun pengajaran & pembelajaran dan rantai tak terputus yang kembali ke puluhan ribu generasi. Apa yang terjadi jika rantainya putus?
I think that’s something we have to understand as AI moves forward. The actual date of arrival of general purpose AI— you’re not going to be able to pinpoint, it isn’t a single day. It’s also not the case that it’s all or nothing. The impact is going to be increasing. So with every advance in AI, it significantly expands the range of tasks.
Saya rasa, itu yang harus kita pahami selagi AI terus berkembang. Kapan sebenarnya AI umum hadir -- tidak akan kita temukan satu titik, AI bukan temuan satu hari. Bukan masalah seluruh atau tidak sama sekali. Dampaknya akan meningkat. Jadi tiap pembaharuan di AI, secara signifikan memperluas jangkauan tugas.
So in that sense, I think most experts say by the end of the century, we’re very, very likely to have general purpose AI. The median is something around 2045. I'm a little more on the conservative side. I think the problem is harder than we think.
Dengan itu, saya rasa semua ahli berpendapat, pada akhir abad ini, kita sangat mungkin memiliki AI tujuan umum. Nilai tengahnya ada pada tahun 2045. Saya sedikit lebih konservatif. Masalahnya akan lebih sulit dari perkiraan.
I like what John McAfee, he was one of the founders of AI, when he was asked this question, he said, somewhere between five and 500 years. And we're going to need, I think, several Einsteins to make it happen.
Saya suka apa yang John McAfee, salah satu penemu AI, katakan untuk pertanyaan ini, katanya, antara 5 dan 500 tahun. Dan kita akan butuh, saya pikir, beberapa Einsteins untuk mewujudkannya.