There was a day, about 10 years ago, when I asked a friend to hold a baby dinosaur robot upside down. It was this toy called a Pleo that I had ordered, and I was really excited about it because I've always loved robots. And this one has really cool technical features. It had motors and touch sensors and it had an infrared camera. And one of the things it had was a tilt sensor, so it knew what direction it was facing. And when you held it upside down, it would start to cry. And I thought this was super cool, so I was showing it off to my friend, and I said, "Oh, hold it up by the tail. See what it does." So we're watching the theatrics of this robot struggle and cry out. And after a few seconds, it starts to bother me a little, and I said, "OK, that's enough now. Let's put him back down." And then I pet the robot to make it stop crying.
10년 전 어느날, 친구에게 아기 공룡 로봇을 거꾸로 들어봐라고 했어요. 제가 주문했던 것은 플레오(Pleo)라는 장난감이었고 모든 로봇을 좋아했기에 정말로 기대하고 있었습니다. 그리고 이 로봇은 정말 멋진 기술적 특징이 있었어요. 모터와 터치 센서가 있었고 적외선 카메라가 있었어요. 이 로봇이 가진 특징 중 하나는 수평 센서였는데 이 센서로 Pleo가 바라보는 방향을 알 수 있죠. 이것을 거꾸로 들면 Pleo는 울기 시작합니다. 이 점이 정말 멋지다고 생각해서 친구에게도 보여줬죠. "와, 이거 꼬리 좀 잡고 들어봐. 이게 뭐하는지 좀 봐"라고 말했어요. 우린 이 로봇이 기계적으로 버둥거리며 울부짖는 것을 보고있었습니다. 그리고 몇 초 후 이게 조금 불편해지기 시작했어요. "아, 충분해 이제. 다시 똑바로 세워 두자." 라고 말했습니다. 그리곤 전 Pleo가 더 이상 울지 않도록 쓰다듬었어요.
And that was kind of a weird experience for me. For one thing, I wasn't the most maternal person at the time. Although since then I've become a mother, nine months ago, and I've learned that babies also squirm when you hold them upside down.
이런것 은 저에게 기묘한 경험 중 하나입니다. 사실, 그 당시 저는 그다지 모성애적인 사람은 아니었죠. 비록 9개월 전에 엄마가 된 이후에 아기들 또한 거꾸로 뒤집히면 몸부림친다는 것을 알았지만요.
(Laughter)
(웃음)
But my response to this robot was also interesting because I knew exactly how this machine worked, and yet I still felt compelled to be kind to it. And that observation sparked a curiosity that I've spent the past decade pursuing. Why did I comfort this robot? And one of the things I discovered was that my treatment of this machine was more than just an awkward moment in my living room, that in a world where we're increasingly integrating robots into our lives, an instinct like that might actually have consequences, because the first thing that I discovered is that it's not just me.
하지만 이 로봇에 대한 저의 반응은 흥미로웠는데 이 로봇이 어떻게 움직이는지 정확하게 알고 있었음에도 불구하고 여전히 로봇에게 잘 해줘야 한다고 느꼈어요. 이 관찰은 지난 십여년의 연구를 하도록 호기심에 불을 붙였습니다. 왜 이 로봇을 위로해줬을까요? 제가 발견한 것들 중 하나는 이 로봇에 대한 저의 대우가 거실에서 단순히 어색한 순간 그 이상이라는 것을 발견한 것입니다. 그곳은 로봇이 점점 더 우리 삶으로 들어오는 곳이고 그런 본능은 실제로 어떤 결과를 낳는데 제가 처음 발견한 게 저만 그런 게 아니라는 겁니다.
In 2007, the Washington Post reported that the United States military was testing this robot that defused land mines. And the way it worked was it was shaped like a stick insect and it would walk around a minefield on its legs, and every time it stepped on a mine, one of the legs would blow up, and it would continue on the other legs to blow up more mines. And the colonel who was in charge of this testing exercise ends up calling it off, because, he says, it's too inhumane to watch this damaged robot drag itself along the minefield. Now, what would cause a hardened military officer and someone like myself to have this response to robots?
2007년, Washington Post는 미군이 지뢰를 제거하는 로봇을 테스트했다고 보고했었습니다. 이것이 작동하는 방식은 마치 막대 벌레처럼 생겼고 다리로 지뢰밭을 걸어다니다가 지뢰를 밟을 때마다 밟은 다리가 터질 겁니다. 그리곤 계속 남은 다른 다리로 더 많은 지뢰를 터뜨리겠죠. 이 실험의 책임자였던 대령은 이 실험을 끝냈습니다. 왜냐면 그가 말하길 부서진 로봇이 지뢰밭에서 질질 끌고 가는 모습을 보는 게 너무 비인간적이어서 랍니다. 단련된 군장교나 저 같은 사람이 로봇들에게 이런 반응을 갖도록 만든 것은 무엇일까요?
Well, of course, we're primed by science fiction and pop culture to really want to personify these things, but it goes a little bit deeper than that. It turns out that we're biologically hardwired to project intent and life onto any movement in our physical space that seems autonomous to us. So people will treat all sorts of robots like they're alive. These bomb-disposal units get names. They get medals of honor. They've had funerals for them with gun salutes. And research shows that we do this even with very simple household robots, like the Roomba vacuum cleaner.
물론 저희는 공상소설이나 대중 문화에 영향을 받았죠. 이런 로봇들을 의인화하고 싶어하죠. 하지만 이런 것보다 좀 더 심오합니다. 우린 생물학적으로 의도와 생명력을 투영시키도록 되어 있는데 실제 공간에서 자율적으로 보이는 움직임에 그런 반응을 갖는다고 합니다. 그렇기에 사람들은 모든 로봇을 마치 생물처럼 대합니다. 이 폭탄제거 로봇은 이름을 얻게되죠. 훈장도 받죠. 그들은 예포를 받으며 장례도 치렀습니다. 조사자료들은 가전기기에도 이런한 일들을 한다고 보여줍니다. 진공청소기 같은 것들에도요.
(Laughter)
(웃음)
It's just a disc that roams around your floor to clean it, but just the fact it's moving around on its own will cause people to name the Roomba and feel bad for the Roomba when it gets stuck under the couch.
이 청소기는 바닥을 청소하기 위해 움직이는 원반일 뿐이죠. 하지만 이 로봇은 자기 반경만 움직여서 룸바라고 불리게 될테고 소파 밑에 막혀버릴 때면 룸바가 안타깝죠.
(Laughter)
(웃음)
And we can design robots specifically to evoke this response, using eyes and faces or movements that people automatically, subconsciously associate with states of mind. And there's an entire body of research called human-robot interaction that really shows how well this works. So for example, researchers at Stanford University found out that it makes people really uncomfortable when you ask them to touch a robot's private parts.
이런 반응을 일으키도록 로봇을 설계할 수 있는데 눈, 얼굴이나 움직을 이용해서 사람들이 무의식적으로 마음 상태와 연결짓게 하는 거죠. 이것이 얼마나 잘 작동하는지 보여주는 인간-로봇 상호작용이라는 연구 단체가 있습니다. 예를 들면, 스탠포드 대학 연구진들이 발견했는데 사람들이 정말 불편해한다는 겁니다. 로봇의 사적인 부분을 만지라고 하면요.
(Laughter)
(웃음)
So from this, but from many other studies, we know, we know that people respond to the cues given to them by these lifelike machines, even if they know that they're not real.
이 연구와 다른 연구들로부터 사람들은 주어진 자극에 반응함을 압니다. 진짜가 아님을 아는데도 살아있는 것 같은 기계에 반응합니다.
Now, we're headed towards a world where robots are everywhere. Robotic technology is moving out from behind factory walls. It's entering workplaces, households. And as these machines that can sense and make autonomous decisions and learn enter into these shared spaces, I think that maybe the best analogy we have for this is our relationship with animals. Thousands of years ago, we started to domesticate animals, and we trained them for work and weaponry and companionship. And throughout history, we've treated some animals like tools or like products, and other animals, we've treated with kindness and we've given a place in society as our companions. I think it's plausible we might start to integrate robots in similar ways.
이제, 어디에나 로봇이 있는 세상으로 향해가고 있습니다. 로봇 기술은 공장을 벗어나고 있습니다. 직장과 가정으로 들어가고 있죠. 이렇게 이해하고 스스로 결정하고 배우는 기계들이 공용 공간에 들어가기에 이것을 적절하게 비유해보면 동물과의 관계일 겁니다. 수 천년 전, 우린 동물들을 길들이기 시작했고, 노동, 무기, 반려용으로 길렀습니다. 역사를 통틀어 동물들을 도구나 물건으로 대했고 어떤 동물들은 친절하게 대하고 반려 동물로 사회적 위치를 뒀습니다. 로봇을 비슷한 경우로 통합하기 시작한다고 생각합니다.
And sure, animals are alive. Robots are not. And I can tell you, from working with roboticists, that we're pretty far away from developing robots that can feel anything. But we feel for them, and that matters, because if we're trying to integrate robots into these shared spaces, we need to understand that people will treat them differently than other devices, and that in some cases, for example, the case of a soldier who becomes emotionally attached to the robot that they work with, that can be anything from inefficient to dangerous. But in other cases, it can actually be useful to foster this emotional connection to robots. We're already seeing some great use cases, for example, robots working with autistic children to engage them in ways that we haven't seen previously, or robots working with teachers to engage kids in learning with new results. And it's not just for kids. Early studies show that robots can help doctors and patients in health care settings.
물론, 동물들은 살아있죠. 로봇은 아니고요. 로봇 산업에서 일하는 사람으로 말씀드릴 수 있는 건 감정을 느끼는 로봇 개발은 한참 멀었습니다. 하지만 우리는 로봇에게 느낍니다. 그것이 중요합니다. 왜냐면 로봇을 공용 공간에 접목시키려 한다면 사람들이 다른 기계와는 다르게 대한다는 걸 이해해야 하니까요. 어떤 경우에는 예를 들어 함께 일하는 로봇과 애착이 생긴 군인의 경우 비효율적인 일부터 위험한 일이 될 수도 있어요. 하지만 다른 경우에는 로봇과 감정적인 소통을 촉진하는 것은 사실 아주 유용할 수 있습니다. 이미 휼륭한 사용처를 보고있습니다. 예를 들어, 자폐아동을 돌보는 로봇은 이전엔 보지 못한 방식으로 아이들을 돌보거나 학생들의 새로운 학습결과를 내는 교사와 함께 작업하는 로봇이죠. 아이들에게만 해당하진 않습니다. 초기 연구들은 로봇들이 의사와 환자들의 건강 유지에 도움을 준다고 합니다.
This is the PARO baby seal robot. It's used in nursing homes and with dementia patients. It's been around for a while. And I remember, years ago, being at a party and telling someone about this robot, and her response was, "Oh my gosh. That's horrible. I can't believe we're giving people robots instead of human care." And this is a really common response, and I think it's absolutely correct, because that would be terrible. But in this case, it's not what this robot replaces. What this robot replaces is animal therapy in contexts where we can't use real animals but we can use robots, because people will consistently treat them more like an animal than a device.
PARO라는 아기 바다표범 로봇입니다. 양로원과 치매 환자들을 돌보기위해 사용되죠. 얼마동안 있었습니다. 제 기억엔, 몇 년 전 한 파티에 있을 때 누군가에게 이 로봇을 말했어요. 그러자 그녀의 반응은 "세상에 끔찍하네요. 사람이 돌봐주지 않고 로봇을 주다니 믿을수 없네요." 였습니다. 이건 아주 일반적인 반응이에요. 그게 정말 맞다고 생각하는데 그게 끔찍할테니까요. 하지만 이 경우 로봇이 대체한 걸 말하는 게 아니에요. 로봇이 대체한 것은 동물치료입니다. 우리가 실제 동물을 쓸 수 없는 상황에선 로봇을 쓸 수 있죠. 사람들은 계속해서 기계라기보단 동물처럼 PARO를 대할 것이니까요.
Acknowledging this emotional connection to robots can also help us anticipate challenges as these devices move into more intimate areas of people's lives. For example, is it OK if your child's teddy bear robot records private conversations? Is it OK if your sex robot has compelling in-app purchases?
로봇과 이런 감성적인 연결을 인지하는 것은 어려움을 예상하도록 도와줄 수 있어요. 이런 기기들이 삶의 보다 친밀한 영역으로 들어오니까요. 이를테면, 여러분 자녀의 곰인형 로봇이 사적인 대화를 녹음해도 괜찮겠습니까? 여러분의 섹스로봇이 강제로 앱구매를 해도 괜찮나요?
(Laughter)
(웃음)
Because robots plus capitalism equals questions around consumer protection and privacy.
로봇과 자본주의의 결합은 소비자 보호와 사생활의 문제와 같으니까요.
And those aren't the only reasons that our behavior around these machines could matter. A few years after that first initial experience I had with this baby dinosaur robot, I did a workshop with my friend Hannes Gassert. And we took five of these baby dinosaur robots and we gave them to five teams of people. And we had them name them and play with them and interact with them for about an hour. And then we unveiled a hammer and a hatchet and we told them to torture and kill the robots.
그런 이유만으로 기계와 함께 있는 우리 행동이 중요한 건 아닙니다. 그 아기 공룡 로봇(Pleo)를 통한 경험이 있은 후 몇년 후에 하네스 가서트란 친구와 워크샵을 가졌습니다. 우린 다섯 개의 Pleo를 가져와서 다섯 팀에게 나눠주었죠. 그리곤 그 팀이 Pleo에게 이름을 짓게 하고 한 시간 동안 같이 놀고 소통하게 했습니다. 그리고 저희는 해머와 도끼를 꺼내선 그들에게 Pleo를 고문하고 부숴라고 말했죠.
(Laughter)
(웃음)
And this turned out to be a little more dramatic than we expected it to be, because none of the participants would even so much as strike these baby dinosaur robots, so we had to improvise a little, and at some point, we said, "OK, you can save your team's robot if you destroy another team's robot."
이것은 예상했던 것보다도 좀더 극적이었습니다. 어떤 참여자도 이 작은 아기 공룡 로봇을 아주 강하게 내려치지 않았거든요. 그래서 약간 계획을 수정해야 했고 어느 시점에 말했습니다. "좋아요, 다른 팀의 로봇을 부수면 여러분 팀의 로봇을 구할 수 있어요."
(Laughter)
(웃음)
And even that didn't work. They couldn't do it. So finally, we said, "We're going to destroy all of the robots unless someone takes a hatchet to one of them." And this guy stood up, and he took the hatchet, and the whole room winced as he brought the hatchet down on the robot's neck, and there was this half-joking, half-serious moment of silence in the room for this fallen robot.
이것도 소용 없었죠. 그들은 하지 않았어요. 그래서 결과적으로 저희는 말했죠. "우린 모든 로봇을 부술 거예요. 누군가가 도끼로 이 중 하나를 부수지 않으면요." 이랬더니 한 남자가 일어나곤 도끼를 집어들었죠. 그가 로봇의 목에 도끼를 내려찍을 때 방의 모든 사람들이 주춤했죠. 그 방에 반은 장난스럽고 반은 심각한 정적의 순간이 있었죠. 이 쓰러진 로봇에 대해서 말입니다.
(Laughter)
(웃음)
So that was a really interesting experience. Now, it wasn't a controlled study, obviously, but it did lead to some later research that I did at MIT with Palash Nandy and Cynthia Breazeal, where we had people come into the lab and smash these HEXBUGs that move around in a really lifelike way, like insects. So instead of choosing something cute that people are drawn to, we chose something more basic, and what we found was that high-empathy people would hesitate more to hit the HEXBUGS.
이건 엄청 흥미로운 경험이었어요. 이건 통제된 연구는 분명히 아니었죠. 하지만 이 실험으로 제가 MIT에서 동료인 Palsh와 Cynthia와 함께 한 이후의 몇몇 연구를 하게 됐습니다. MIT에서 우리들은 연구실로 사람들을 불러서 거미로봇을 부수게 했죠. 이 거미로봇은 진짜 산 곤충처럼 걸어다녔죠. 사람들이 생각하던 귀여운 모양을 선택하는 것 대신에 저희는 더 기본적인 걸 선택했고 저희가 발견한 것은 잘 감정이입하는 사람들이 거미로봇을 부수기에 주저한다는 겁니다.
Now this is just a little study, but it's part of a larger body of research that is starting to indicate that there may be a connection between people's tendencies for empathy and their behavior around robots. But my question for the coming era of human-robot interaction is not: "Do we empathize with robots?" It's: "Can robots change people's empathy?" Is there reason to, for example, prevent your child from kicking a robotic dog, not just out of respect for property, but because the child might be more likely to kick a real dog?
이건 단지 간단한 연구일 뿐이지만 사람들의 감정에 대한 경향과 로봇에 대한 그들의 행동 사이의 연결이 있을 것이라는 것을 보여주기 시작한 연구의 큰 틀 중 일부라는 것이죠. 하지만 사람-로봇의 상호작용의 다가오는 사대에 대한 제 의문은 "우리가 로봇에게 감정이입을 할까?" 가 아닙니다. "로봇이 사람들의 감정에 변화를 줄까?" 입니다. 예를 들면, 여러분의 아이들이 로봇 강아지를 발로 차는 걸 하지 말라고 할 이유가 있나요? 소유물에 대한 인식 때문이 아니라 아이가 진짜 강아지를 차버릴 것이란 걱정 때문에 말입니다.
And again, it's not just kids. This is the violent video games question, but it's on a completely new level because of this visceral physicality that we respond more intensely to than to images on a screen. When we behave violently towards robots, specifically robots that are designed to mimic life, is that a healthy outlet for violent behavior or is that training our cruelty muscles? We don't know ... But the answer to this question has the potential to impact human behavior, it has the potential to impact social norms, it has the potential to inspire rules around what we can and can't do with certain robots, similar to our animal cruelty laws. Because even if robots can't feel, our behavior towards them might matter for us. And regardless of whether we end up changing our rules, robots might be able to help us come to a new understanding of ourselves.
아이에게만 해당되는 게 아닙니다. 이건 폭력적인 비디오 게임의 질문이지만, 완전히 새로운 단계에 있죠. 스크린의 이미지에 비해 더 격렬하게 우리가 반응하는 감정적인 실체이기 때문이죠. 우리가 로봇을 난폭하게 대할 때 특히나 생물을 본딴 로봇을 폭력적으로 대할 때, 그것이 폭력적 행동에 대한 정상적인 해소법인가요? 또는 우리의 잔혹한 근육을 단련하는 것입니까? 우린 모르죠. 하지만 이 질문에 대한 답은 사람들의 행동에 잠재적인 영향력을 미칩니다. 사회적 규범에 잠재적인 영향을 미치죠. 우리가 특정 로봇으로 할 수 있는 것과 없는 것에 대한 법들을 고무시킬수 있죠. 이를 테면 돌물학대 방지법과 유사한 법을 말입니다. 로봇이 아무것도 느끼진 못하더라도 로봇에 대한 우리 행동이 중요하기 때문입니다. 우리 규칙을 바꾸게 되는 것과 상관없이 로봇은 아마 우리 스스로를 새롭게 이해하도록 도와줄 겁니다.
Most of what I've learned over the past 10 years has not been about technology at all. It's been about human psychology and empathy and how we relate to others. Because when a child is kind to a Roomba, when a soldier tries to save a robot on the battlefield, or when a group of people refuses to harm a robotic baby dinosaur, those robots aren't just motors and gears and algorithms. They're reflections of our own humanity.
지난 10여년 간 제가 배운 것 대부분은 단순히 기술적인 부분만은 아닙니다. 사람의 심리와 공감, 우리가 다른 사람과 관련짓는 방법입니다. 아이들이 Roomba에게 친절할 때, 한 병사가 전장에서 로봇을 구하려 노력할 때나 사람들이 아기 공룡을 다치게 하지 않으려 할 때 이런 로봇들은 단지 모터, 기어, 알고리즘이 아닙니다. 그들은 우리의 인류애가 반영된 것입니다.
Thank you.
감사합니다.
(Applause)
(박수)