There was a day, about 10 years ago, when I asked a friend to hold a baby dinosaur robot upside down. It was this toy called a Pleo that I had ordered, and I was really excited about it because I've always loved robots. And this one has really cool technical features. It had motors and touch sensors and it had an infrared camera. And one of the things it had was a tilt sensor, so it knew what direction it was facing. And when you held it upside down, it would start to cry. And I thought this was super cool, so I was showing it off to my friend, and I said, "Oh, hold it up by the tail. See what it does." So we're watching the theatrics of this robot struggle and cry out. And after a few seconds, it starts to bother me a little, and I said, "OK, that's enough now. Let's put him back down." And then I pet the robot to make it stop crying.
Jakieś 10 lat temu poprosiłam kolegę, by potrzymał do góry nogami małego dinozaura-zabawkę. Zamówiona zabawka nazywała się Pleo, a byłam tym bardzo przejęta, ponieważ od zawsze kochałam roboty. Ten model miał świetne funkcje. Silniczki i sensory dotykowe, miał też kamerę na podczerwień. Był tam i czujnik pochylenia, tak że zabawka wiedziała, gdzie jest zwrócona. Trzymana do góry nogami - zaczynała płakać. Myślałam, że to niesamowite, więc chwaliłam się przed znajomymi: "Potrzymaj go za ogon. Zobacz, co robi". Patrzymy na ruchy robota, który walczy i płacze. Po kilku sekundach zaczęło mi to trochę przeszkadzać. Powiedziałam: "OK, już wystarczy. Odstawmy go". Potem pogłaskałam robota, żeby przestał płakać.
And that was kind of a weird experience for me. For one thing, I wasn't the most maternal person at the time. Although since then I've become a mother, nine months ago, and I've learned that babies also squirm when you hold them upside down.
To było dość dziwne doświadczenie. Po pierwsze, miałam wtedy słaby instynkt macierzyński. Teraz jestem już matką od 9 miesięcy i wiem, że dzieci też płaczą, jeśli się je trzyma do góry nogami.
(Laughter)
(Śmiech)
But my response to this robot was also interesting because I knew exactly how this machine worked, and yet I still felt compelled to be kind to it. And that observation sparked a curiosity that I've spent the past decade pursuing. Why did I comfort this robot? And one of the things I discovered was that my treatment of this machine was more than just an awkward moment in my living room, that in a world where we're increasingly integrating robots into our lives, an instinct like that might actually have consequences, because the first thing that I discovered is that it's not just me.
Moja reakcja była o tyle interesująca, że doskonale znałam działanie tej maszyny, a nadal chciałam być dla niej miła. Ta obserwacja zaciekawiła mnie tak mocno, że ostatnią dekadę spędziłam, szukając odpowiedzi. dlaczego pocieszałam robota? Między innymi odkryłam, że moje zachowanie wobec maszyny było czymś więcej niż niezręczną chwilą. W świecie, w którym coraz częściej uczestniczą roboty, taki instynkt mógłby mieć prawdziwe konsekwencje, ponieważ od razu odkryłam, że nie tylko ja go mam.
In 2007, the Washington Post reported that the United States military was testing this robot that defused land mines. And the way it worked was it was shaped like a stick insect and it would walk around a minefield on its legs, and every time it stepped on a mine, one of the legs would blow up, and it would continue on the other legs to blow up more mines. And the colonel who was in charge of this testing exercise ends up calling it off, because, he says, it's too inhumane to watch this damaged robot drag itself along the minefield. Now, what would cause a hardened military officer and someone like myself to have this response to robots?
W 2007 roku Washington Post doniósł, że armia USA testuje robota do rozbrajania min lądowych. Wyglądał jak patyczak, chodził na cienkich nogach po polu minowym, a gdy nadepnął na minę, urywało mu nogę i szedł dalej na pozostałych nogach, by rozbrajać kolejne miny. Pułkownik, który nadzorował te testy, w końcu je przerwał, bo uznał za zbyt nieludzki widok uszkodzonego robota wlokącego się przez pole minowe. Co mogłoby wywołać u zahartowanego oficera lub u mnie taką reakcję wobec robota?
Well, of course, we're primed by science fiction and pop culture to really want to personify these things, but it goes a little bit deeper than that. It turns out that we're biologically hardwired to project intent and life onto any movement in our physical space that seems autonomous to us. So people will treat all sorts of robots like they're alive. These bomb-disposal units get names. They get medals of honor. They've had funerals for them with gun salutes. And research shows that we do this even with very simple household robots, like the Roomba vacuum cleaner.
Oczywiście sci-fi i pop kultura nastawiła nas na chęć ich uczłowieczania, ale jest to trochę bardziej skomplikowane. Okazuje się, że jesteśmy biologicznie uwarunkowani, by widzieć celowość i życie w każdym ruchu który w naszej sferze fizycznej wydaje się niezależny od nas. Ludzie traktują różne roboty jakby były żywe. Jednostki rozbrajające bomby dostają imiona. Dostają odznaczenia. Robiono dla nich pogrzeby z salwami honorowymi Badania pokazują, że robimy to nawet z prostymi urządzeniami w domu, jak odkurzacz Roomba.
(Laughter)
(Śmiech)
It's just a disc that roams around your floor to clean it, but just the fact it's moving around on its own will cause people to name the Roomba and feel bad for the Roomba when it gets stuck under the couch.
To tylko dysk, który czyści podłogę, ale sam fakt, że porusza się samodzielnie, wystarcza, by ludzie nadawali mu imię i współczuli mu, gdy utknie pod kanapą.
(Laughter)
(Śmiech)
And we can design robots specifically to evoke this response, using eyes and faces or movements that people automatically, subconsciously associate with states of mind. And there's an entire body of research called human-robot interaction that really shows how well this works. So for example, researchers at Stanford University found out that it makes people really uncomfortable when you ask them to touch a robot's private parts.
Można projektować roboty właśnie tak, żeby wzbudzały te odczucia, używając oczu, twarzy lub ruchu, aby ludzie podświadomie kojarzyli go z różnymi stanami umysłu. Istnieje cały zakres badań pod nazwą interakcja człowiek - robot, który pokazuje, jak dobrze to działa. Na przykład badacze z Uniwersytetu Stanforda odkryli, że ludziom robi się nieprzyjemnie, gdy prosi się ich o dotykanie miejsc intymnych robota.
(Laughter)
(Śmiech)
So from this, but from many other studies, we know, we know that people respond to the cues given to them by these lifelike machines, even if they know that they're not real.
Z tych oraz innych badań wynika, że ludzie reagują na sygnały niby-żywych maszyn, nawet gdy wiedzą, że nie są one prawdziwe.
Now, we're headed towards a world where robots are everywhere. Robotic technology is moving out from behind factory walls. It's entering workplaces, households. And as these machines that can sense and make autonomous decisions and learn enter into these shared spaces, I think that maybe the best analogy we have for this is our relationship with animals. Thousands of years ago, we started to domesticate animals, and we trained them for work and weaponry and companionship. And throughout history, we've treated some animals like tools or like products, and other animals, we've treated with kindness and we've given a place in society as our companions. I think it's plausible we might start to integrate robots in similar ways.
Obecnie zmierzamy ku rzeczywistości, w której roboty są wszędzie. Robotyka przenosi się z fabryk i wprowadza do miejsc pracy, domów. Maszyny, które umieją czuć, podejmować niezależne decyzje, uczyć się - znajdą się w tej wspólnej przestrzeni. Myślę, że najlepsze porównanie to nasz stosunek do zwierząt. Tysiące lat temu zaczęliśmy udomawiać zwierzęta, trenować je na współpracowników, obrońców i towarzyszy. Na przestrzeni dziejów jedne zwierzęta traktowaliśmy jak narzędzia lub produkty, a inne darzyliśmy życzliwością i społeczną rangą towarzyszy. Możliwe, że podobnie postąpimy z robotami.
And sure, animals are alive. Robots are not. And I can tell you, from working with roboticists, that we're pretty far away from developing robots that can feel anything. But we feel for them, and that matters, because if we're trying to integrate robots into these shared spaces, we need to understand that people will treat them differently than other devices, and that in some cases, for example, the case of a soldier who becomes emotionally attached to the robot that they work with, that can be anything from inefficient to dangerous. But in other cases, it can actually be useful to foster this emotional connection to robots. We're already seeing some great use cases, for example, robots working with autistic children to engage them in ways that we haven't seen previously, or robots working with teachers to engage kids in learning with new results. And it's not just for kids. Early studies show that robots can help doctors and patients in health care settings.
Wiadomo, zwierzęta są żywe. Roboty nie. Dzięki pracy z robotykami mogę was zapewnić, że daleko nam od wynalezienia robotów, które by coś czuły. Za to my im współczujemy. To ważne, bo jeśli chcemy zintegrować roboty z naszą wspólną przestrzenią, musimy zrozumieć, że ludzie będą traktować je inaczej niż inne urządzenia, Niektóre przypadki; jak żołnierz podchodzący emocjonalnie do robota, z którym pracuje, mogą stwarzać sytuacje tak niewydajne, jak i groźne. Jednak w innym kontekście może pomóc nam wspieranie tej więzi emocjonalnej. Już teraz widzimy wspaniałe przykłady, jak roboty współpracujące z autystycznymi dziećmi, by angażować je metodami niespotykanymi wcześniej, lub roboty pomagające nauczycielom we wdrażaniu nowych metod nauki. I to nie tylko z dziećmi. Wstępne badania dowodzą, że roboty mogą pomagać lekarzom i pacjentom podczas leczenia.
This is the PARO baby seal robot. It's used in nursing homes and with dementia patients. It's been around for a while. And I remember, years ago, being at a party and telling someone about this robot, and her response was, "Oh my gosh. That's horrible. I can't believe we're giving people robots instead of human care." And this is a really common response, and I think it's absolutely correct, because that would be terrible. But in this case, it's not what this robot replaces. What this robot replaces is animal therapy in contexts where we can't use real animals but we can use robots, because people will consistently treat them more like an animal than a device.
To jest Paro, mała foczka-robot. Używa się jej w domach opieki i z pacjentami z demencją. Używana już od jakiegoś czasu. Wiele lat temu na imprezie opowiadałam komuś o tym robocie. Jej odpowiedź brzmiała: "O Boże. To okropne. Nie do wiary, że powierzamy kogoś opiece robotów, a nie ludzi". Jest to dość typowa reakcja i według mnie całkiem właściwa, ponieważ to by było okropne. Lecz w tym przypadku robot nie zastępuje człowieka. Zastępuje terapię z udziałem zwierząt, w sytuacji, gdy nie można użyć prawdziwych zwierząt, ale można użyć robotów, bo ludzie będą je konsekwentnie traktować bardziej jak zwierzęta niż jak maszyny.
Acknowledging this emotional connection to robots can also help us anticipate challenges as these devices move into more intimate areas of people's lives. For example, is it OK if your child's teddy bear robot records private conversations? Is it OK if your sex robot has compelling in-app purchases?
Uświadomienie sobie więzi z robotami może pomóc nam przewidzieć wyzwania podczas wkraczania robotów w coraz intymniejsze obszary naszego życia Czy to dobrze, że miś twojego dziecka ma opcje nagrywania prywatnych rozmów? Lub że przez aplikację sex-robota można kupić ciekawe produkty?
(Laughter)
(Śmiech)
Because robots plus capitalism equals questions around consumer protection and privacy.
Bo roboty plus kapitalizm równa się kwestia prywatności i ochrony konsumenta.
And those aren't the only reasons that our behavior around these machines could matter. A few years after that first initial experience I had with this baby dinosaur robot, I did a workshop with my friend Hannes Gassert. And we took five of these baby dinosaur robots and we gave them to five teams of people. And we had them name them and play with them and interact with them for about an hour. And then we unveiled a hammer and a hatchet and we told them to torture and kill the robots.
Nie są to jedyne powody, dla których nasze zachowanie wobec nich ma znaczenie. Kilka lat po moim pierwszym doświadczeniu z małym dinozaurem-zabawką, prowadziłam warsztaty z moim kolegą, Hannesem Gassertem. Wzieliśmy 5 takich dinozaurów i daliśmy je pięciu grupom ludzi. Kazaliśmy im je nazwać i bawić się z nimi przez godzinę. Potem odsłoniliśmy młotek i siekierkę i kazaliśmy im torturować i zabić roboty.
(Laughter)
(Śmiech)
And this turned out to be a little more dramatic than we expected it to be, because none of the participants would even so much as strike these baby dinosaur robots, so we had to improvise a little, and at some point, we said, "OK, you can save your team's robot if you destroy another team's robot."
Okazało się to trochę bardziej dramatyczne, niż oczekiwaliśmy. Żaden z uczestników nie chciał choćby uderzyć tych małych dinozaurów. Musieliśmy więc improwizować i powiedzieliśmy: "Możecie uratować swojego robota, jeśli zniszczycie robota innej drużyny".
(Laughter)
(Śmiech)
And even that didn't work. They couldn't do it. So finally, we said, "We're going to destroy all of the robots unless someone takes a hatchet to one of them." And this guy stood up, and he took the hatchet, and the whole room winced as he brought the hatchet down on the robot's neck, and there was this half-joking, half-serious moment of silence in the room for this fallen robot.
Nawet to nie podziałało. Nie mogli tego zrobić. W końcu powiedzieliśmy: "Zniszczymy wszystkie roboty, chyba że ktoś rozwali jednego z nich". Jeden facet wstał, wziął siekierkę, a wszyscy wzdrygnęli się, gdy opuścił ją na kark robota, pół żartem, pół serio nastała chwila ciszy dla poległego robota.
(Laughter)
(Śmiech)
So that was a really interesting experience. Now, it wasn't a controlled study, obviously, but it did lead to some later research that I did at MIT with Palash Nandy and Cynthia Breazeal, where we had people come into the lab and smash these HEXBUGs that move around in a really lifelike way, like insects. So instead of choosing something cute that people are drawn to, we chose something more basic, and what we found was that high-empathy people would hesitate more to hit the HEXBUGS.
Naprawdę ciekawe doświadczenie. Choć badania te nie były kontrolowane, doprowadziły do badań, które robiłam w MIT z Palashem Nandym i Cynthią Breazeal. Zapraszaliśmy do laboratorium ludzi, żeby rozwalili roboty HEXBUG, które poruszały się jak żywe insekty. Zamiast czegoś ślicznego, co przyciągałoby ludzi, wybraliśmy coś prostszego. Okazało się, że ludzie o wysokim poziomie empatii z większym wahaniem podchodzili do bicia.
Now this is just a little study, but it's part of a larger body of research that is starting to indicate that there may be a connection between people's tendencies for empathy and their behavior around robots. But my question for the coming era of human-robot interaction is not: "Do we empathize with robots?" It's: "Can robots change people's empathy?" Is there reason to, for example, prevent your child from kicking a robotic dog, not just out of respect for property, but because the child might be more likely to kick a real dog?
To tylko pomniejsze badania, ale stanowią część większego korpusu badań wskazujących na związek między ludzkimi tendencjami do empatii, a ich zachowaniem wobec robotów. Lecz moje pytanie dla nadchodzącej ery w relacjach między ludźmi i robotami to nie: "Czy współczujemy robotom?", ale: "Czy roboty potrafią wpłynąć na ludzką empatię?". Czy jest powód, by, na przykład, zabronić dziecku kopania psa-robota? Nie tylko ze względu na szacunek do rzeczy, lecz dlatego, że wtedy łatwiej przyszłoby mu kopnąć żywego psa?
And again, it's not just kids. This is the violent video games question, but it's on a completely new level because of this visceral physicality that we respond more intensely to than to images on a screen. When we behave violently towards robots, specifically robots that are designed to mimic life, is that a healthy outlet for violent behavior or is that training our cruelty muscles? We don't know ... But the answer to this question has the potential to impact human behavior, it has the potential to impact social norms, it has the potential to inspire rules around what we can and can't do with certain robots, similar to our animal cruelty laws. Because even if robots can't feel, our behavior towards them might matter for us. And regardless of whether we end up changing our rules, robots might be able to help us come to a new understanding of ourselves.
Nie chodzi wyłącznie o dzieci. To jak pytanie o brutalność gier komputerowych, ale na nowym poziomie, ponieważ reakcja jest intensywniejsza, gdy mamy do czynienia z czymś fizycznym, a nie z obrazem na ekranie. Jeśli jesteśmy brutalni wobec robotów, szczególnie tych imitujących żywe istoty, czy jest to zdrowy sposób na pozbycie się gwałtownych emocji, czy raczej trenowanie okrucieństwa? Nie wiemy... Jednak odpowiedź na to pytanie może wpłynąć na ludzkie zachowanie, może wpłynąć na normy społeczne, może zainicjować prawa dotyczące tego, co wolno, a czego nie wolno robić z konkretnymi robotami, podobnie do praw zwierząt. Pomimo że roboty nie mają uczuć, nasze zachowanie wobec nich może mieć dla nas znaczenie. Bez względu na to, czy zmienimy zasady wobec robotów, mogą pomóc nam inaczej spojrzeć na siebie.
Most of what I've learned over the past 10 years has not been about technology at all. It's been about human psychology and empathy and how we relate to others. Because when a child is kind to a Roomba, when a soldier tries to save a robot on the battlefield, or when a group of people refuses to harm a robotic baby dinosaur, those robots aren't just motors and gears and algorithms. They're reflections of our own humanity.
Większość tego, czego nauczyłam się przez ostatnie 10 lat, nie dotyczyło technologii. Dotyczyło ludzkiej psychologii, empatii i stosunku do innych. Bo gdy dziecko jest uprzejme dla Roomby, gdy żołnierz próbuje ocalić robota na polu walki albo gdy grupa ludzi odmawia skrzywdzenia małego dinozaura-robota, te roboty nie są już tylko silnikami, trybikami i algorytmami. Są odbiciem naszego człowieczeństwa.
Thank you.
Dziękuję.
(Applause)
(Brawa)