There was a day, about 10 years ago, when I asked a friend to hold a baby dinosaur robot upside down. It was this toy called a Pleo that I had ordered, and I was really excited about it because I've always loved robots. And this one has really cool technical features. It had motors and touch sensors and it had an infrared camera. And one of the things it had was a tilt sensor, so it knew what direction it was facing. And when you held it upside down, it would start to cry. And I thought this was super cool, so I was showing it off to my friend, and I said, "Oh, hold it up by the tail. See what it does." So we're watching the theatrics of this robot struggle and cry out. And after a few seconds, it starts to bother me a little, and I said, "OK, that's enough now. Let's put him back down." And then I pet the robot to make it stop crying.
Suatu hari, sekitar 10 tahun yang lalu, saya meminta teman untuk memegang robot bayi dinosaurus secara terbalik. Robot ini namanya Pleo. Saya yang memesannya. Saya begitu senang karena saya suka robot. Dan robot ini punya fitur teknis keren. Robot ini punya sensor gerak dan sentuh juga kamera infra merah. Dan salah satu fitur adalah sensor miring, jadi dia tahu ke mana dia menghadap. Dan kalau dipegang terbalik, dia akan menangis. Saya rasa itu sangat keren, jadi saya tunjukkan ke teman saya, saya bilang, "pegang ekornya. Lihat apa yang dia lakukan." Lalu kita memerhatikan aksi dramatis robot ini meronta dan menangis. Setelah beberapa detik, saya mulai terganggu, lalu saya bilang, "Oke, sudah cukup. Mari letakkan dia kembali." Lalu saya membelai robotnya agar berhenti menangis.
And that was kind of a weird experience for me. For one thing, I wasn't the most maternal person at the time. Although since then I've become a mother, nine months ago, and I've learned that babies also squirm when you hold them upside down.
Itu pengalaman aneh bagi saya. Karena satu hal, saat itu saya bukan orang yang keibuan. Walau kemudian saya jadi ibu, 9 bulan lalu, saya akhirnya tahu bayi pun meronta kalau dipegang terbalik.
(Laughter)
(Suara tawa)
But my response to this robot was also interesting because I knew exactly how this machine worked, and yet I still felt compelled to be kind to it. And that observation sparked a curiosity that I've spent the past decade pursuing. Why did I comfort this robot? And one of the things I discovered was that my treatment of this machine was more than just an awkward moment in my living room, that in a world where we're increasingly integrating robots into our lives, an instinct like that might actually have consequences, because the first thing that I discovered is that it's not just me.
Tapi respons saya ke robot ini juga menarik sebab saya tahu pasti cara kerja mesin ini, tapi saya merasa harus tetap bersikap baik padanya. Pengamatan itu mencetuskan rasa penasaran. Saya menghabiskan 10 tahun terakhir mencari jawabannya. Kenapa saya menenangkan robot ini? Salah satu hal yang saya dapati adalah perlakuan saya pada mesin ini lebih dari sekadar momen aneh di ruang tamu saya, di dunia di mana kita semakin mengintegrasikan robot dalam kehidupan, naluri semacam itu mungkin saja punya konsekuensi, sebab hal pertama yang saya dapati adalah bukan hanya saya
In 2007, the Washington Post reported that the United States military was testing this robot that defused land mines. And the way it worked was it was shaped like a stick insect and it would walk around a minefield on its legs, and every time it stepped on a mine, one of the legs would blow up, and it would continue on the other legs to blow up more mines. And the colonel who was in charge of this testing exercise ends up calling it off, because, he says, it's too inhumane to watch this damaged robot drag itself along the minefield. Now, what would cause a hardened military officer and someone like myself to have this response to robots?
Di tahun 2007, Washington Post melaporkan bahwa militer Amerika Serikat menguji robot penjinak ranjau darat. Robot ini bekerja dengan cara membentuk serangga tongkat dan akan berjalan kaki mengelilingi ladang ranjau, dan setiap menginjak ranjau, kakinya akan meledak, dia menggunakan kaki lain untuk meledakkan lebih banyak ranjau. Kolonel yang bertanggung jawab pada latihan percobaan ini akhirnya menghentikannya, sebab sangat tidak manusiawi melihat robot rusak ini menyeret dirinya di sepanjang ladang ranjau. Sekarang, apa yang menyebabkan seorang perwira militer tangguh dan orang seperti saya punya rasa seperti itu pada robot?
Well, of course, we're primed by science fiction and pop culture to really want to personify these things, but it goes a little bit deeper than that. It turns out that we're biologically hardwired to project intent and life onto any movement in our physical space that seems autonomous to us. So people will treat all sorts of robots like they're alive. These bomb-disposal units get names. They get medals of honor. They've had funerals for them with gun salutes. And research shows that we do this even with very simple household robots, like the Roomba vacuum cleaner.
Tentu saja, kita dibekali fiksi ilmiah dan budaya pop untuk mempersonifikasi hal seperti itu, tapi ini sedikit lebih dalam. Ternyata secara biologis kita terdorong untuk menyoroti hasrat dan kehidupan ke tiap gerakan di ruang fisik yang tampak otonom bagi kita. Jadi orang akan memperlakukan segala macam robot seakan mereka hidup. Unit-unit pembasmi bom ini punya nama dan mendapatkan medali kehormatan, juga dimakamkan dengan hormat senjata. Penelitian menunjukkan, bahkan robot sederhana di rumah pun bisa, contohnya: penyedot debu Roomba.
(Laughter)
(Suara tawa)
It's just a disc that roams around your floor to clean it, but just the fact it's moving around on its own will cause people to name the Roomba and feel bad for the Roomba when it gets stuck under the couch.
Itu cuma cakram yang menelusuri lantai untuk bersih-bersih, tapi karena dia bergerak sendiri, orang memanggilnya Roomba dan kasihan ketika Roomba tersangkut di bawah sofa.
(Laughter)
(Suara tawa)
And we can design robots specifically to evoke this response, using eyes and faces or movements that people automatically, subconsciously associate with states of mind. And there's an entire body of research called human-robot interaction that really shows how well this works. So for example, researchers at Stanford University found out that it makes people really uncomfortable when you ask them to touch a robot's private parts.
Kita bisa mendesain robot khusus untuk membangkitkan respons ini, menggunakan mata dan wajah, ataupun gerakan yang secara otomatis, orang akan menyatukannya dengan kondisi pikirannya. Sebuah badan penelitian terpadu bernama interaksi manusia-robot menunjukkan hebatnya cara kerja ini. Contohnya, peneliti di Standford University menemukan, orang-orang merasa sangat tidak nyaman saat diminta untuk menyentuh bagian pribadi robot
(Laughter)
(Suara tawa)
So from this, but from many other studies, we know, we know that people respond to the cues given to them by these lifelike machines, even if they know that they're not real.
Dari sini dan penelitian lainnya, kita tahu bahwa orang merespons isyarat yang diberikan oleh mesin yang tampak hidup ini, meski mereka tahu mesinnya tidak hidup.
Now, we're headed towards a world where robots are everywhere. Robotic technology is moving out from behind factory walls. It's entering workplaces, households. And as these machines that can sense and make autonomous decisions and learn enter into these shared spaces, I think that maybe the best analogy we have for this is our relationship with animals. Thousands of years ago, we started to domesticate animals, and we trained them for work and weaponry and companionship. And throughout history, we've treated some animals like tools or like products, and other animals, we've treated with kindness and we've given a place in society as our companions. I think it's plausible we might start to integrate robots in similar ways.
Sekarang kita menuju dunia di mana robot ada di mana-mana. Teknologi robotik keluar dari balik dinding pabrik, memasuki tempat kerja dan rumah. Mesin-mesin ini mampu merasakan, membuat keputusan sendiri, dan belajar, masuk ke ruang bersama ini, Saya pikir kita bisa menganalogikan itu seperti hubungan kita dengan hewan. Ribuan tahun lalu, kita mulai menjinakkan hewan, melatihnya untuk jadi pekerja, senjata, dan persahabatan. Sepanjang sejarah, kita memperlakukan sebagian hewan seperti alat atau produk, kita sayangi sebagian hewan lainnya. Kita menganggapnya teman dalam bermasyarakat. Saya pikir masuk akal bila kita mulai memperlakukan robot dengan cara yang sama.
And sure, animals are alive. Robots are not. And I can tell you, from working with roboticists, that we're pretty far away from developing robots that can feel anything. But we feel for them, and that matters, because if we're trying to integrate robots into these shared spaces, we need to understand that people will treat them differently than other devices, and that in some cases, for example, the case of a soldier who becomes emotionally attached to the robot that they work with, that can be anything from inefficient to dangerous. But in other cases, it can actually be useful to foster this emotional connection to robots. We're already seeing some great use cases, for example, robots working with autistic children to engage them in ways that we haven't seen previously, or robots working with teachers to engage kids in learning with new results. And it's not just for kids. Early studies show that robots can help doctors and patients in health care settings.
Tentu saja, hewan adalah makhluk hidup. Tapi robot tidak. Dari pengalaman kerja dengan ahli robot, saya beri tahu kita masih sangat jauh dari pengembangan robot yang bisa merasa. Tapi kita ada rasa pada robot, dan itulah yang penting, sebab kita berusaha mengintegrasikan robot ke ruang bersama ini, kita harus paham bahwa mereka akan diperlakukan berbeda dari alat lainnya, dan dalam beberapa kasus, contohnya, kasus tentara yang jadi terikat secara emosional dengan robot yang bekerja sama dengan dia, dan itu tidak efisien, bahkan berbahaya. Tapi pada kasus lain, sangat berguna jika kita memelihara keterkaitan emosi dengan robot. Kita sudah tahu beberapa contoh manfaatnya, misalnya, robot bekerja dengan anak autis untuk mengajak mereka dengan cara yang belum pernah kita tahu sebelumnya, atau robot bersama guru melibatkan anak dalam belajar dengan hasil baru Robot tidak hanya untuk anak. Studi awal menunjukkan bahwa robot bisa membantu dokter dan pasien dalam mengatur kesehatan.
This is the PARO baby seal robot. It's used in nursing homes and with dementia patients. It's been around for a while. And I remember, years ago, being at a party and telling someone about this robot, and her response was, "Oh my gosh. That's horrible. I can't believe we're giving people robots instead of human care." And this is a really common response, and I think it's absolutely correct, because that would be terrible. But in this case, it's not what this robot replaces. What this robot replaces is animal therapy in contexts where we can't use real animals but we can use robots, because people will consistently treat them more like an animal than a device.
Inilah PARO, robot bayi anjing laut. Dia digunakan di panti jompo dan untuk pasien demensia. Dia sudah lama digunakan. Saya ingat, beberapa tahun lalu, saat di sebuah pesta, saya memberi tahu seseorang tentang robot ini, dan respons dia, "Ya ampun. Mengerikan. Sulit dipercaya, kita memberi mereka robot bukan perawatan manusia." Dan ini respons yang amat umum, dan saya pikir itu sangat tepat, karena itu bisa jadi mengerikan. Tapi kasus ini bukan soal apa yang robot gantikan. Yang digantikan oleh robot ini adalah terapi hewan yang mana kita tidak bisa menggunakan hewan sungguhan, tapi bisa dengan robot, sebab orang akan terus memperlakukan mereka seperti hewan bukannya alat.
Acknowledging this emotional connection to robots can also help us anticipate challenges as these devices move into more intimate areas of people's lives. For example, is it OK if your child's teddy bear robot records private conversations? Is it OK if your sex robot has compelling in-app purchases?
Mengakui keterikatan emosional pada robot ini membantu kita mengantisipasi tantangan saat semua alat ini masuk lebih dalam ke area intim kehidupan manusia. Contohnya, apakah boleh jika robot beruang teddy anak Anda merekam percakapan pribadi? Apakah boleh jika robot seks Anda menarik pembelian dalam aplikasi?
(Laughter)
(Suara tawa)
Because robots plus capitalism equals questions around consumer protection and privacy.
Sebab robot plus kapitalisme sama dengan pertanyaan soal perlindungan konsumen dan privasi.
And those aren't the only reasons that our behavior around these machines could matter. A few years after that first initial experience I had with this baby dinosaur robot, I did a workshop with my friend Hannes Gassert. And we took five of these baby dinosaur robots and we gave them to five teams of people. And we had them name them and play with them and interact with them for about an hour. And then we unveiled a hammer and a hatchet and we told them to torture and kill the robots.
Dan itu bukan satu-satunya alasan bahwa tingkah laku kita pada mesin ini memiliki arti. Beberapa tahun setelah pengalaman pertama saya dengan robot bayi dinosaurus ini, saya dan rekan, Hannes Gassert menggelar lokakarya. Kami mengambil lima robot bayi dinosaurus dan memberikannya ke lima tim. Dan kami menamai robot-robot itu lalu bermain dan berinteraksi dengan mereka selama sekitar satu jam. Lalu kami mengeluarkan palu dan kapak, meminta mereka menyiksa dan membunuh robot itu.
(Laughter)
(Suara tawa)
And this turned out to be a little more dramatic than we expected it to be, because none of the participants would even so much as strike these baby dinosaur robots, so we had to improvise a little, and at some point, we said, "OK, you can save your team's robot if you destroy another team's robot."
Hal ini ternyata jadi agak lebih dramatis dari yang kami kira, karena tidak satu pun peserta yang mau memukul robot bayi dinosaurus ini, jadi kami harus sedikit mengubahnya, dan kami berkata, "Baik, robot tim Anda bisa selamat asal Anda hancurkan robot tim lain"
(Laughter)
(Suara tawa)
And even that didn't work. They couldn't do it. So finally, we said, "We're going to destroy all of the robots unless someone takes a hatchet to one of them." And this guy stood up, and he took the hatchet, and the whole room winced as he brought the hatchet down on the robot's neck, and there was this half-joking, half-serious moment of silence in the room for this fallen robot.
Tidak berhasil juga. Mereka tidak sanggup. Akhirnya kami bilang, "Kami akan hancurkan semua robot kecuali ada orang memukul salah satunya." Dan pria ini berdiri lalu mengambil kapak, dan seluruh ruangan meringis saat dia mengayunkan kapak ke leher robot itu, lalu setengah bercanda, setengah serius mereka mengheningkan cipta untuk robot yang gugur ini.
(Laughter)
(Suara tawa)
So that was a really interesting experience. Now, it wasn't a controlled study, obviously, but it did lead to some later research that I did at MIT with Palash Nandy and Cynthia Breazeal, where we had people come into the lab and smash these HEXBUGs that move around in a really lifelike way, like insects. So instead of choosing something cute that people are drawn to, we chose something more basic, and what we found was that high-empathy people would hesitate more to hit the HEXBUGS.
Itu sungguh pengalaman yang menarik. Itu jelas bukan penelitian terkontrol, namun mengarah ke penelitian yang nanti saya lakukan di MIT bersama Palash Nandy dan Cynthia Breazeal, di mana kami meminta orang-orang ke laboratorium dan menghantam HEXBUG yang bergerak sungguh nyata, seperti serangga. Jadi dari pada memilih sesuatu yang imut sehingga orang tertarik, kami memilih sesuatu yang lebih dasar, dan yang kami temukan bahwa orang yang tinggi rasa empatinya akan lebih ragu untuk memukul HEXBUG.
Now this is just a little study, but it's part of a larger body of research that is starting to indicate that there may be a connection between people's tendencies for empathy and their behavior around robots. But my question for the coming era of human-robot interaction is not: "Do we empathize with robots?" It's: "Can robots change people's empathy?" Is there reason to, for example, prevent your child from kicking a robotic dog, not just out of respect for property, but because the child might be more likely to kick a real dog?
Nah, ini cuma penelitian kecil, tapi bagian dari penelitian yang lebih besar yang mulai mengindikasikan bahwa mungkin ada hubungan antara tendensi rasa empati seseorang dan perilaku mereka terhadap robot. Tapi pertanyaan saya untuk era interaksi robot-manusia nanti bukan: "Apakah kita berempati pada robot?" Tapi: "Dapatkah robot mengubah rasa empati manusia?" Misal, Apakah ada alasan untuk melarang anak Anda menendang robot anjing, bukan karena menghargai barang, tapi karena si anak seperti menendang anjing sungguhan?
And again, it's not just kids. This is the violent video games question, but it's on a completely new level because of this visceral physicality that we respond more intensely to than to images on a screen. When we behave violently towards robots, specifically robots that are designed to mimic life, is that a healthy outlet for violent behavior or is that training our cruelty muscles? We don't know ... But the answer to this question has the potential to impact human behavior, it has the potential to impact social norms, it has the potential to inspire rules around what we can and can't do with certain robots, similar to our animal cruelty laws. Because even if robots can't feel, our behavior towards them might matter for us. And regardless of whether we end up changing our rules, robots might be able to help us come to a new understanding of ourselves.
Dan lagi, bukan hanya anak-anak. Ini soal video game kekerasan, tapi di tingkat yang berbeda sebab karena nafsu mendalam ini kita lebih merespons pada gambar di layar. Saat kita berperilaku kasar pada robot, khususnya robot yang didesain meniru kehidupan, apakah itu pelampiasan perilaku kasar yang sehat atau malah melatih otot-otot kejam kita? Kita tidak tahu... Tapi jawaban pertanyaan ini punya potensi yang berdampak pada perilaku manusia, punya potensi yang berdampak pada norma sosial, punya potensi mengilhami peraturan tentang apa yang bisa dan tak bisa kita lakukan pada robot tertentu, seperti undang-undang tentang hewan. Sebab meski robot tidak bisa merasa, perilaku kita pada mereka itu yang penting bagi kita. terlepas dari kita mengubah peraturannya atau tidak, robot mungkin bisa membantu kita mendapatkan pemahaman baru atas diri kita.
Most of what I've learned over the past 10 years has not been about technology at all. It's been about human psychology and empathy and how we relate to others. Because when a child is kind to a Roomba, when a soldier tries to save a robot on the battlefield, or when a group of people refuses to harm a robotic baby dinosaur, those robots aren't just motors and gears and algorithms. They're reflections of our own humanity.
Yang saya pelajari lebih dari 10 tahun sebagian besar bukan soal teknologi. Namun soal psikologi manusia empati, dan bagaimana berhubungan dengan orang lain. Sebab saat seorang anak bersikap baik pada Roomba, saat seorang tentara berusaha menyelamatkan robot di medan perang, atau saat sekelompok orang menolak melukai robot bayi dinosaurus, robot-robot itu bukan sekadar motor, mesin, dan algoritma. Merekalah cerminan dari kemanusiaan kita.
Thank you.
Terima kasih.
(Applause)
(Suara tepuk tangan)