There was a day, about 10 years ago, when I asked a friend to hold a baby dinosaur robot upside down. It was this toy called a Pleo that I had ordered, and I was really excited about it because I've always loved robots. And this one has really cool technical features. It had motors and touch sensors and it had an infrared camera. And one of the things it had was a tilt sensor, so it knew what direction it was facing. And when you held it upside down, it would start to cry. And I thought this was super cool, so I was showing it off to my friend, and I said, "Oh, hold it up by the tail. See what it does." So we're watching the theatrics of this robot struggle and cry out. And after a few seconds, it starts to bother me a little, and I said, "OK, that's enough now. Let's put him back down." And then I pet the robot to make it stop crying.
Vieną dieną, maždaug prieš 10 metų, paprašiau draugės, kad palaikytų robotą dinozauriuką žemyn galva. Tą žaislą, vardu Pleo, užsisakiau ir labai juo džiaugiausi, nes man visada patiko robotai. O Pleo techninės savybės – tiesiog nuostabios. Jis turėjo varikliukus, lietimo jutiklius ir infraraudonųjų spindulių kamerą. Ir dar jis turėjo vieną dalykėlį – pakrypimo jutiklį, tad robotukas žinojo, kur jis pakrypęs. O jeigu apversdavau jį žemyn galva, jis pradėdavo verkti. Tuomet man atrodė, kad tas žaislas nepaprastas, gyriausi juo draugei ir pasakiau: „Paimk jį už uodegos. Pamatysi, kas bus.“ Stebėjome, kaip įstabiai elgiasi robotukas, kaip jis priešinasi ir garsiai verkia. Po kelių akimirkų man pasidarė šiek tiek nesmagu ir aš pasakiau: „Baikim. Atverskime jį.“ Ir tuomet aš jį glosčiau, kad jis liautųsi verkęs.
And that was kind of a weird experience for me. For one thing, I wasn't the most maternal person at the time. Although since then I've become a mother, nine months ago, and I've learned that babies also squirm when you hold them upside down.
Man tai sukėlė keistoką jausmą. Įdomu, kad tuo metu aš nejaučiau stiprių motiniškų jausmų. Bet kuomet prieš devynis mėnesius tapau motina, supratau, kad aukštyn kojomis apversti kūdikiai taip pat muistosi.
(Laughter)
(Juokas.)
But my response to this robot was also interesting because I knew exactly how this machine worked, and yet I still felt compelled to be kind to it. And that observation sparked a curiosity that I've spent the past decade pursuing. Why did I comfort this robot? And one of the things I discovered was that my treatment of this machine was more than just an awkward moment in my living room, that in a world where we're increasingly integrating robots into our lives, an instinct like that might actually have consequences, because the first thing that I discovered is that it's not just me.
Bet mano reakciją į roboto veiksmus buvo įdomi, nes, nors ir žinojau, kaip veikia tas aparatas, vis tiek nenorėjau jo skriausti. Tas pastebėjimas man buvo toks įdomus, kad pastaruosius dešimt metų ieškojau paaiškinimo. Kodėl ėmiau guosti robotą? Vienas iš dalykų, kuriuos supratau buvo tai, kad mano elgesys su aparatu nebuvo vien tik keista akimirka patirta mano namų svetainėje, kad mūsų pasaulyje ir gyvenamoje aplinkoje nuolat daugėja robotų, kad šitoks instinktas kažką reiškia, nes jau pradžioje supratau, kad aš tokia ne viena.
In 2007, the Washington Post reported that the United States military was testing this robot that defused land mines. And the way it worked was it was shaped like a stick insect and it would walk around a minefield on its legs, and every time it stepped on a mine, one of the legs would blow up, and it would continue on the other legs to blow up more mines. And the colonel who was in charge of this testing exercise ends up calling it off, because, he says, it's too inhumane to watch this damaged robot drag itself along the minefield. Now, what would cause a hardened military officer and someone like myself to have this response to robots?
2007 m. „Washington Post“ pranešė, kad JAV kariuomenė testuoja robotą, išminuojantį po žeme slypinčias minas. Tas robotas veikė šitaip: jis buvo gyvalazdės formos ir jis eidavo po minų lauką judindamas kojas. Kaskart jam užlipus ant minos, mina jam nutraukdavo vieną iš kojų. Jis nesiliaudavo judėjęs, kad sprogtų dar daugiau minų. Už šias pratybas atsakingas pulkininkas neištvėrė ir atšaukė išminavimą, nes, jo teigimu, buvo pernelyg nežmoniška stebėti, kaip apgadintas robotas šliaužia per minų lauką. Tad kas verčia labai patyrusį karininką ir tokį žmogų kaip aš šitaip reaguoti į robotus?
Well, of course, we're primed by science fiction and pop culture to really want to personify these things, but it goes a little bit deeper than that. It turns out that we're biologically hardwired to project intent and life onto any movement in our physical space that seems autonomous to us. So people will treat all sorts of robots like they're alive. These bomb-disposal units get names. They get medals of honor. They've had funerals for them with gun salutes. And research shows that we do this even with very simple household robots, like the Roomba vacuum cleaner.
Esame prisiskaitę mokslo fantastikos ir paveikti popkultūros, tad, suprantama, kad personifikuojame šiuos dalykus, bet paaiškinimas čia daug gilesnis. Pasirodo, kad esame biologiškai užprogramuoti sieti bet kokį, mūsų manymu, autonomišką judesį mūsų fizinėje erdvėje su tikslingumu ir gyvybe. Todėl žmonės elgiasi su robotais taip, tarytum jie būtų gyvi. Tie robotai-išminuotojai yra vadinami vardais. Jie apdovanojami aukso medaliais. Jie netgi laidojami šaudant garbės salvėms. Tyrimai rodo, kad taip mes elgiamės netgi su paprastais buitiniais robotais, pavydžiui, su dulkių siurbliu „Roomba“.
(Laughter)
(Juokas.)
It's just a disc that roams around your floor to clean it, but just the fact it's moving around on its own will cause people to name the Roomba and feel bad for the Roomba when it gets stuck under the couch.
Tai tik slankiojantis diskas valantis jūsų grindis. Bet vien dėl to, kad jis savarankiškai juda, žmonės nori vadinti jį vardu ir jį užjausti, kai jis užstringa po sofa.
(Laughter)
(Juokas.)
And we can design robots specifically to evoke this response, using eyes and faces or movements that people automatically, subconsciously associate with states of mind. And there's an entire body of research called human-robot interaction that really shows how well this works. So for example, researchers at Stanford University found out that it makes people really uncomfortable when you ask them to touch a robot's private parts.
Galime sukurti tokius robotus, kurie tikslingai sukels tokią reakciją, nes jų akių ir veidų judesius žmonės pasąmonėje automatiškai sieja su konkrečiomis sąmonės būsenomis. Atlikta daug tyrimų žmonių ir robotų sąveikos srityje, kurie gerai parodo, kaip išties viskas veikia. Pavyzdžiui, Stanfordo universiteto mokslininkai atrado, kad žmonės jaučiasi nejaukiai paprašyti paliesti robotų intymias dalis.
(Laughter)
(Juokas.)
So from this, but from many other studies, we know, we know that people respond to the cues given to them by these lifelike machines, even if they know that they're not real.
Tad iš šio ir daugybės kitų tyrimų žinome, kad žmonės reaguoja į signalus skleidžiamus į žmones panašių prietaisų netgi suvokdami, kad prietaisai negyvi.
Now, we're headed towards a world where robots are everywhere. Robotic technology is moving out from behind factory walls. It's entering workplaces, households. And as these machines that can sense and make autonomous decisions and learn enter into these shared spaces, I think that maybe the best analogy we have for this is our relationship with animals. Thousands of years ago, we started to domesticate animals, and we trained them for work and weaponry and companionship. And throughout history, we've treated some animals like tools or like products, and other animals, we've treated with kindness and we've given a place in society as our companions. I think it's plausible we might start to integrate robots in similar ways.
Ateities pasaulyje robotų bus visur. Robotikos technologijos išėjo iš už gamyklų sienų. Jos smelkiasi į darbo vietas, buitį. Šie jutiklius turintys aparatai, galintys savarankiškai spręsti, mokytis, smelkiasi į bendrąsias erdves. Todėl manau, kad, galbūt, geriausia analogija būtų mūsų ryšys su gyvūnais. Prieš tūkstančius metų pradėjome jaukintis gyvūnus. Mokėme juos dirbti, padėti kovoti ir būti mūsų draugais. Per visą istoriją į kai kuriuos gyvūnus žiūrėjome kaip į įrankius ar produktus, o kitiems gyvūnams rodėme gerumą ir suteikėme jiems visuomeninę mūsų palydovų funkciją. Man atrodo visai tikėtina, kad robotus irgi panašiai integruosime.
And sure, animals are alive. Robots are not. And I can tell you, from working with roboticists, that we're pretty far away from developing robots that can feel anything. But we feel for them, and that matters, because if we're trying to integrate robots into these shared spaces, we need to understand that people will treat them differently than other devices, and that in some cases, for example, the case of a soldier who becomes emotionally attached to the robot that they work with, that can be anything from inefficient to dangerous. But in other cases, it can actually be useful to foster this emotional connection to robots. We're already seeing some great use cases, for example, robots working with autistic children to engage them in ways that we haven't seen previously, or robots working with teachers to engage kids in learning with new results. And it's not just for kids. Early studies show that robots can help doctors and patients in health care settings.
Aišku, gyvūnai yra gyvi. Robotai – ne. Kadangi dirbu su robotikos specialistais, galiu teigti, kad mums dar beveik neįmanoma sukurti jaučiančius robotus. Bet mes jiems kažką jaučiame. Ir tai svarbu, nes jeigu siekiame integruoti robotus į mūsų bendrąsias erdves, turime suvokti, kad žmonės elgiasi su jais kitaip nei su kitais įrenginiais. Ir kad kartais, pavyzdžiui, kareivio, kuris emociškai prisiriša prie roboto, su kuriuo dirba, tai gali būti ir neproduktyvu, ir netgi pavojinga. Tačiau kitais atvejais gali būti naudinga puoselėti šį emocinį ryšį su robotu. Jau turime puikių robotų naudojimo pavyzdžių, pavyzdžiui, kai robotai dirba su vaikais autistais. Nieko panašaus nesame matę praeityje. Arba kai robotus pasitelkia mokytojai siekdami geresnių mokymosi rezultatų. Ir tai ne tik su vaikais. Jau yra tyrimų apie robotų gebėjimą padėt gydytojams ir pacientams sveikatos priežiūros srityje.
This is the PARO baby seal robot. It's used in nursing homes and with dementia patients. It's been around for a while. And I remember, years ago, being at a party and telling someone about this robot, and her response was, "Oh my gosh. That's horrible. I can't believe we're giving people robots instead of human care." And this is a really common response, and I think it's absolutely correct, because that would be terrible. But in this case, it's not what this robot replaces. What this robot replaces is animal therapy in contexts where we can't use real animals but we can use robots, because people will consistently treat them more like an animal than a device.
Tai – PARO, ruoniukas robotas. Jis naudojamas slaugos namuose prižiūrint demencijos pacientus. Ir tai jau nėra naujiena. Pamenu, kaip prieš nemažai metų vieno vakarėlio metu vienai moteriai papasakojau apie šį robotą Ji atsakė: „Oi. Kaip baisu. Neįtikėta, dabar ne žmonės, o robotai paliekami rūpintis kitais žmonėmis.“ Tokia reakcija gana įprasta ir, mano manymu, visai teisinga, nes tai būtų išties baisu. Bet šiuo atveju kalbame ne apie ką pakeičia robotas. Šis robotas naudojamas vietoj gyvūnų terapijos tokioje situacijoje, kur neįmanoma pasitelkti tikrus gyvūnus, bet robotus – taip, nes žmonės linkę elgtis su jais tarytum su gyvūnais, bet ne prietaisais.
Acknowledging this emotional connection to robots can also help us anticipate challenges as these devices move into more intimate areas of people's lives. For example, is it OK if your child's teddy bear robot records private conversations? Is it OK if your sex robot has compelling in-app purchases?
Suvokimas apie šį emocinį ryšį su robotais gali padėti ir numatant problemas, kai šie įrenginiai panaudojami intymesnėse gyvenimo srityse. Pavyzdžiui, ar gerai, jeigu jūsų vaiko meškiukas robotas įrašo privačius pokalbius? Ar gerai, jeigu sekso robotas siūlo patrauklius mokamus priedus?
(Laughter)
(Juokas.)
Because robots plus capitalism equals questions around consumer protection and privacy.
Nes robotai plius kapitalizmas susiję su klausimais apie vartotojų apsaugą ir privatumą.
And those aren't the only reasons that our behavior around these machines could matter. A few years after that first initial experience I had with this baby dinosaur robot, I did a workshop with my friend Hannes Gassert. And we took five of these baby dinosaur robots and we gave them to five teams of people. And we had them name them and play with them and interact with them for about an hour. And then we unveiled a hammer and a hatchet and we told them to torture and kill the robots.
Ir tai nėra vienintelės priežastys, dėl kurių mūsų elgesys su šiais įrenginiais svarbus. Praėjus keleriems metams po mano pirmojo patyrimo su tuo dinozauriuku robotu vedžiau seminarą su savo draugu Hannes Gassert. Penkis tokius dinozauriukus robotus davėme penkioms grupėms žmonių. Paprašėme duoti jiems vardus, su jais pažaisti ir pabūti apie valandą. Po to parodėme plaktuką ir kirvuką ir liepėme kankinti ir sunaikinti robotus.
(Laughter)
(Juokas.)
And this turned out to be a little more dramatic than we expected it to be, because none of the participants would even so much as strike these baby dinosaur robots, so we had to improvise a little, and at some point, we said, "OK, you can save your team's robot if you destroy another team's robot."
Rezultatas buvo dramatiškesnis nei tikėjomės, nes nė vienas iš tyrimo dalyvių nesutiko net suduoti dinozauriukams robotams. Mums teko improvizuoti ir kažkuriuo momentu pasakėme: „Galėsite pasilikti savo robotą, jeigu sunaikinsite kitos grupės robotą."
(Laughter)
(Juokas.)
And even that didn't work. They couldn't do it. So finally, we said, "We're going to destroy all of the robots unless someone takes a hatchet to one of them." And this guy stood up, and he took the hatchet, and the whole room winced as he brought the hatchet down on the robot's neck, and there was this half-joking, half-serious moment of silence in the room for this fallen robot.
Ir netgi su tuo jie nesutiko. Negalėjo. Tada mes pasakėme: „Sunaikinsime visus robotus jeigu nesukaposite bent vieno iš jų.“ Vienas vyrukas atsistojo ir paėmė kirvuką. Jam nuleidus kirvuką ant roboto kaklo visi susigūžė ir patalpoje stojo tyla, pusiau juoko, pusiau rimties momentas, kuomet roboto neliko.
(Laughter)
(Juokas.)
So that was a really interesting experience. Now, it wasn't a controlled study, obviously, but it did lead to some later research that I did at MIT with Palash Nandy and Cynthia Breazeal, where we had people come into the lab and smash these HEXBUGs that move around in a really lifelike way, like insects. So instead of choosing something cute that people are drawn to, we chose something more basic, and what we found was that high-empathy people would hesitate more to hit the HEXBUGS.
Tas patyrimas buvo labai įdomus. Ir nors tai nebuvo tikras ekperimentas, akivaizdu, bet jis davė pradžią vėlesniam tyrimui, kurį atlikau Masačiusetso technologijos institute drauge su Palash Nandy ir Cynthia Breazeal. Tuome pakvietėme žmones į laboratoriją, kad jie sutraiškytų „HEXBUG“ robotus, kurie juda labai tikroviškai, kaip tikri vabzdžiai. Šiuo atveju rinkomės ne kažką mielo, kas traukia žmones, bet paprastą dalyką. Supratome, kad žmonės, gebantys giliai užjausti kitus, lūkuriuoja ilgiau prieš trankydami prietaisus.
Now this is just a little study, but it's part of a larger body of research that is starting to indicate that there may be a connection between people's tendencies for empathy and their behavior around robots. But my question for the coming era of human-robot interaction is not: "Do we empathize with robots?" It's: "Can robots change people's empathy?" Is there reason to, for example, prevent your child from kicking a robotic dog, not just out of respect for property, but because the child might be more likely to kick a real dog?
Tai tik mažas tyrimas, bet jis yra dalis didesnio tyrimų bloko, leidžiančio manyti, kad gali egzistuoti ryšys tarp žmonių polinkio užjausti kitus ir jų elgesio su robotais. Tačiau artėjant žmonių ir robotų sąveikos erai klausiu ne „Ar užjaučiame robotus?“, bet „Ar robotai gali pakeisti žmonių gebėjimą užjausti kitą?“ Ar turėtume neleisti vaikui įspirti šuniui robotui, ne todėl, kad daiktus reikia tausoti bet todėl, kad kitaip jis greičiausiai įspirs ir gyvam šuniui?
And again, it's not just kids. This is the violent video games question, but it's on a completely new level because of this visceral physicality that we respond more intensely to than to images on a screen. When we behave violently towards robots, specifically robots that are designed to mimic life, is that a healthy outlet for violent behavior or is that training our cruelty muscles? We don't know ... But the answer to this question has the potential to impact human behavior, it has the potential to impact social norms, it has the potential to inspire rules around what we can and can't do with certain robots, similar to our animal cruelty laws. Because even if robots can't feel, our behavior towards them might matter for us. And regardless of whether we end up changing our rules, robots might be able to help us come to a new understanding of ourselves.
Vėlgi, tai tinka ne tik vaikams. Tai gali padėti atsakyti į klausimus apie smurtinius video žaidimus, nes į tokį intuityvų fiziškumą reaguojame daug intensyviau nei į vaizdus ekrane. Ar smurtaudami prieš robotus, ypač prieš tokius, kurie sukurti gyvybei imituoti, sveiku būdu išliejame agresiją, ar treniruojame žiaurumo raumenis? Atsakymo nežinome... Bet atsakyme į šį klausimą slypi potencialas paveikti žmonių elgesį, paveikti socialines normas, padėti kuriant taisykles, ką galime ir ko negalime daryti su tam tikrais robotais, panašias į draudimą skriausti gyvūnus. Nes net jeigu robotai ir neturi jausmų, kaip mes su jais elgiamės yra svarbu. Ir nesvarbu, kokios galų gale bus mūsų taisyklės, robotai gali padėti mums geriau suprasti pačius save.
Most of what I've learned over the past 10 years has not been about technology at all. It's been about human psychology and empathy and how we relate to others. Because when a child is kind to a Roomba, when a soldier tries to save a robot on the battlefield, or when a group of people refuses to harm a robotic baby dinosaur, those robots aren't just motors and gears and algorithms. They're reflections of our own humanity.
Per pastaruosius 10 metų daugiausiai išmokau visai ne apie technologijas, o apie žmonių psichologiją, užuojautos jausmą ir tarpusavio santykius. Kai vaikas yra geras „Roombai“, kai kareivis stengiasi išgelbėti robotą minų lauke, ar kai žmonių grupė atsisako žaloti dinozauriuką robotą, visi tie robotai nėra vien tik varikliai, mechanizmai ar algoritmai. Jie – mūsų žmoniškumo atspindys.
Thank you.
Ačiū.
(Applause)
(Plojimai.)