You only get one chance to make a first impression, and that's true if you're a robot as well as if you're a person. The first time that I met one of these robots was at a place called Willow Garage in 2008. When I went to visit there, my host walked me into the building and we met this little guy. He was rolling into the hallway, came up to me, sat there, stared blankly past me, did nothing for a while, rapidly spun his head around 180 degrees and then ran away.
У вас є лише один шанс справити перше враження, і роботів це стосується так само, як і людей. Мій перший досвід зустрічі з одним із цих роботів відбувся в 2008-му, в компанії Willow Garage. Коли я туди завітала і зайшла разом з провідником в будівлю, ми зустріли це маленьке створіння. Воно викотилось в коридор, підкотилось до мене, стало, байдуже подивилось повз мене, потім певний час нічого не робило, раптом розвернуло голову на 180 градусів, і зрештою пішло геть.
And that was not a great first impression. The thing that I learned about robots that day is that they kind of do their own thing, and they're not totally aware of us. And I think as we're experimenting with these possible robot futures, we actually end up learning a lot more about ourselves as opposed to just these machines. And what I learned that day was that I had pretty high expectations for this little dude. He was not only supposed to be able to navigate the physical world, but also be able to navigate my social world -- he's in my space; it's a personal robot. wWhy didn't it understand me? My host explained to me, "Well, the robot is trying to get from point A to point B, and you were an obstacle in his way, so he had to replan his path, figure out where to go, and then get there some other way," which was actually not a very efficient thing to do. If that robot had figured out that I was a person, not a chair, and that I was willing to get out of its way if it was trying to get somewhere, then it actually would have been more efficient at getting its job done if it had bothered to notice that I was a human and that I have different affordances than things like chairs and walls do.
Таке перше враження важко назвати чудовим. В той день я дізналась про роботів таку річ: вони, схоже, просто виконують свої завдання, при цьому не усвідомлюючи нашої присутності. І я вважаю, що у подальших експериментах із роботизацією ми зрештою дізнаємось значно більше про самих себе, ніж про ці машини. В той день я усвідомила, що мала дуже завищені очікування щодо цього маленького пристрою. Я очікувала від нього здатності орієнтуватись не лише у фізичному, а й у соціальному світі – адже він потрапив у мій особистий простір. Чому робот мене не розумів? Провідник мені пояснив: "Ну, робот намагається дістатись з точки А в точку В, а ти – перешкода на його шляху, тож йому треба переглянути свій маршрут, і з'ясувати, як добратись у потрібний пункт іншим шляхом". Насправді, такий спосіб не дуже ефективний. Якби робот міг з'ясувати, що я людина, а не стілець, і що я можу залюбки поступитись йому дорогою, побачивши, що він кудись прямує, тоді він би міг значно ефективніше виконати своє завдання; тільки для цього йому слід було б встановити, що я людина, і маю інші властивості, ніж стільці або стіни.
You know, we tend to think of these robots as being from outer space and from the future and from science fiction, and while that could be true, I'd actually like to argue that robots are here today, and they live and work amongst us right now. These are two robots that live in my home. They vacuum the floors and they cut the grass every single day, which is more than I would do if I actually had time to do these tasks, and they probably do it better than I would, too. This one actually takes care of my kitty. Every single time he uses the box, it cleans it, which is not something I'm willing to do, and it actually makes his life better as well as mine. And while we call these robot products -- it's a "robot vacuum cleaner, it's a robot lawnmower, it's a robot littler box," I think there's actually a bunch of other robots hiding in plain sight that have just become so darn useful and so darn mundane that we call them things like, "dishwasher," right? They get new names. They don't get called robot anymore because they actually serve a purpose in our lives. Similarly, a thermostat, right? I know my robotics friends out there are probably cringing at me calling this a robot, but it has a goal. Its goal is to make my house 66 degrees Fahrenheit, and it senses the world. It knows it's a little bit cold, it makes a plan and then it acts on the physical world. It's robotics. Even if it might not look like Rosie the Robot, it's doing something that's really useful in my life so I don't have to take care of turning the temperature up and down myself.
Знаєте, ми думаємо про цих роботів, ніби вони з іншої планети, з майбутнього, чи з наукової фантастики, і хоч це має підстави, та я хочу підкреслити інше: роботи існують тут і тепер, вони живуть і працюють серед нас прямо зараз. У моєму домі є два роботи. Вони пилососять підлогу і стрижуть газон щодня, без вихідних. Це значно частіше, ніж робила б я, якби мала на це час, і вони, схоже, роблять це краще, ніж робила б я. Ось цей робот доглядає за моїм котиком. Він чистить лоток щоразу, як котик туди сходить, і мені не доводиться чистити лоток, а це справді поліпшує життя як мені, так і коту. І коли ми називаємо цю продукцію робототехніки – це "робот-пилосос", а це "робот-газонокосарка", а це "робот-лоток" – думаю, насправді, є ще чимало різних роботів, яких ми не помічаємо, і які стали настільки корисними і настільки звичними, що ми називаємо це, скажімо, "посудомийна машина", так? Ми називаємо їх інакше, ми не називаємо їх роботами, бо ці пристрої виконують для нас певні функції. Наприклад, термостат, так? Моїх приятелів, знавців робототехніки, могло б покоробити, що я називаю це роботом, але термостат має функцію. Він підтримує в моєму домі температуру 66 °F, і він здатен сприймати дані середовища. Коли стає холодно, він це фіксує, виробляє план і втілює його в навколишньому світі. Це теж робототехніка. Хоча вона, можливо, не схожа на Розі-робота, але вона робить для мене щось справді корисне, тож мені не доводиться самій стежити за температурою.
And I think these systems live and work amongst us now, and not only are these systems living amongst us but you are probably a robot operator, too. When you drive your car, it feels like you are operating machinery. You are also going from point A to point B, but your car probably has power steering, it probably has automatic braking systems, it might have an automatic transmission and maybe even adaptive cruise control. And while it might not be a fully autonomous car, it has bits of autonomy, and they're so useful and they make us drive safer, and we just sort of feel like they're invisible-in-use, right? So when you're driving your car, you should just feel like you're going from one place to another. It doesn't feel like it's this big thing that you have to deal with and operate and use these controls because we spent so long learning how to drive that they've become extensions of ourselves. When you park that car in that tight little garage space, you know where your corners are. And when you drive a rental car that maybe you haven't driven before, it takes some time to get used to your new robot body. And this is also true for people who operate other types of robots, so I'd like to share with you a few stories about that.
І я вважаю, що ці системи сьогодні живуть і працюють серед нас, причому не лише вони живуть серед нас, а, можливо, ви теж є оператором робота. Коли ви водите машину, це схоже на керування механізмом. При цьому ви також добираєтесь із пункту А в пункт Б. Та можливо, у вашому авто є підсилювач керма, автоматична система гальмування, автоматична передача, або навіть система регулювання швидкості. І хоча таке авто не можна вважати цілком автономним, але там є автономні системи, які дуже корисні, адже роблять поїздку безпечнішою, і ми просто ними користуємось, не зауважуючи цього, так? Тож, керуючи авто, ви відчуваєте, ніби просто добираєтесь з одного пункту до іншого. Керувати авто, мати справу із усіма цими системами ми вважаємо не дуже складною справою, бо ми впродовж тривалого часу вчились водити, і тепер сприймаємо авто як продовження нашого тіла. Коли ви паркуєте авто в тісному просторі гаража, ви знаєте, де його кути. А коли керуєте авто, взятим напрокат, яке ви раніше ніколи не водили, вам потрібен час, щоб цей робот став продовженням вашого тіла. Це також слушно і для тих, хто використовує інші види роботів, і я хочу з вами поділитись кількома історіями про це.
Dealing with the problem of remote collaboration. So, at Willow Garage I had a coworker named Dallas, and Dallas looked like this. He worked from his home in Indiana in our company in California. He was a voice in a box on the table in most of our meetings, which was kind of OK except that, you know, if we had a really heated debate and we didn't like what he was saying, we might just hang up on him.
Вирішення проблеми дистанційної співпраці. Отож, у Willow Garage в мене був колега, що звався Даллас, і виглядав так. Він працював зі свого дому в Індіані на нашу компанію в Каліфорнії. На більшості нарад він був присутній як голос із пристрою, і все було гаразд, але лише доти, доки не починалась запекла суперечка, і коли нам не подобались його ідеї, ми могли його просто відключити.
(Laughter)
(Сміх)
Then we might have a meeting after that meeting and actually make the decisions in the hallway afterwards when he wasn't there anymore. So that wasn't so great for him. And as a robotics company at Willow, we had some extra robot body parts laying around, so Dallas and his buddy Curt put together this thing, which looks kind of like Skype on a stick on wheels, which seems like a techy, silly toy, but really it's probably one of the most powerful tools that I've seen ever made for remote collaboration. So now, if I didn't answer Dallas' email question, he could literally roll into my office, block my doorway and ask me the question again --
Тож ми могли проводити засідання за засіданням, і насправді приймали рішення після них, в коридорі, де його вже більше не було. Це йому не дуже подобалось. Оскільки ми компанія робототехніки, у нас в приміщенні валялись різні запчастини до роботів. Тож Даллас зі своїм приятелем зробив із них ось це, що виглядало як Skype на паличці і колесах, ця штука, що здається такою кумедною, насправді, є одним із найпотужніших відомих мені винаходів, які були розроблені для дистанційної співпраці. Тож тепер, коли я не відповідаю на запитання у е-мейлі від Далласа, він може буквально вкотитись до мого кабінету, зачинити двері, і знову задавати своє питання,
(Laughter)
(Сміх)
until I answered it. And I'm not going to turn him off, right? That's kind of rude. Not only was it good for these one-on-one communications, but also for just showing up at the company all-hands meeting. Getting your butt in that chair and showing people that you're present and committed to your project is a big deal and can help remote collaboration a ton.
доки не отримає відповідь. І я не буду його вимикати, так? Адже це було б грубо. Цей пристрій хороший не лише для спілкування тет-а-тет, але й для того, щоб показатись на загальних зборах компанії. Вмоститись на цьому стільці, демонструючи свою присутність та залученість до спільного проекту, це важлива обставина, що може значно посилити дистанційну співпрацю.
We saw this over the period of months and then years, not only at our company but at others, too. The best thing that can happen with these systems is that it starts to feel like you're just there. It's just you, it's just your body, and so people actually start to give these things personal space. So when you're having a stand-up meeting, people will stand around the space just as they would if you were there in person. That's great until there's breakdowns and it's not. People, when they first see these robots, are like, "Wow, where's the components? There must be a camera over there," and they start poking your face. "You're talking too softly, I'm going to turn up your volume," which is like having a coworker walk up to you and say, "You're speaking too softly, I'm going to turn up your face." That's awkward and not OK, and so we end up having to build these new social norms around using these systems.
Ми в цьому переконались впродовж місяців і років, і не лише ми, а й інші компанії. Найкраща сторона цих систем – що вони дозволяють почуватись так, ніби ви справді присутні. Ось ви, люди бачать ваше тіло, і вони починають справді надавати цим речам персонального виміру. Коли ви стоїте, беручи участь в нараді, люди стають навколо пристрою, як вони б стали навколо вас, якби ви прийшли. Це чудово, однак існують і певні недоліки. Коли люди вперше бачать цей пристрій, запитують: "А з чого він складається? Мабуть, десь тут має бути камера", – і починають тицяти вам в обличчя. "Ви розмовляєте дуже тихо, я хочу збільшити гучність", – це так, ніби колега до вас підходить і каже: "Ви розмовляєте дуже тихо, я хочу наблизити ваше обличчя". Це некоректно і образливо, тож нам зрештою довелось розробити нові соціальні норми для користування цими системами.
Similarly, as you start feeling like it's your body, you start noticing things like, "Oh, my robot is kind of short." Dallas would say things to me -- he was six-foot tall -- and we would take him via robot to cocktail parties and things like that, as you do, and the robot was about five-foot-tall, which is close to my height. And he would tell me, "You know, people are not really looking at me. I feel like I'm just looking at this sea of shoulders, and it's just -- we need a taller robot." And I told him, "Um, no. You get to walk in my shoes for today. You get to see what it's like to be on the shorter end of the spectrum." And he actually ended up building a lot of empathy for that experience, which was kind of great. So when he'd come visit in person, he no longer stood over me as he was talking to me, he would sit down and talk to me eye to eye, which was kind of a beautiful thing.
Так само, якщо ви починаєте сприймати це як продовження свого тіла, ви починаєте думати щось типу: "Ой, мій робот має низький зріст". Даллас якось сказав – його зріст близько 6 футів – і за допомогою робота він міг брати участь у наших вечірках і подібних зустрічах, а висота робота була близько 5 футів, майже як мій зріст. І Даллас мені сказав: "Знаєш, люди на мене майже не дивляться. Я почуваюсь так, ніби дивлюсь на це море плечей, а значить, потрібен вищий робот". А я відповіла: "Е, ні. Сьогодні ти зможеш побути в моїй шкурі. Ти дізнаєшся, як почуваються ті, чий зріст нижчий за середній". І зрештою, він справді зміг глибоко відчути цей досвід, це було дуже корисно. Тож коли він з'явився особисто, то у розмові зі мною більше не стояв, дивлячись згори, а сів, щоб наші очі були на одному рівні, і це було значно приємніше.
So we actually decided to look at this in the laboratory and see what others kinds of differences things like robot height would make. And so half of the people in our study used a shorter robot, half of the people in our study used a taller robot and we actually found that the exact same person who has the exact same body and says the exact same things as someone, is more persuasive and perceived as being more credible if they're in a taller robot form. It makes no rational sense, but that's why we study psychology. And really, you know, the way that Cliff Nass would put this is that we're having to deal with these new technologies despite the fact that we have very old brains. Human psychology is not changing at the same speed that tech is and so we're always playing catch-up, trying to make sense of this world where these autonomous things are running around. Usually, things that talk are people, not machines, right? And so we breathe a lot of meaning into things like just height of a machine, not a person, and attribute that to the person using the system.
Тож ми зрештою вирішили провести дослідження, щоб виявити, які ще відмінності може зумовлювати зріст роботів. Половина учасників нашого дослідження мала справу з роботом, що був нижчим на зріст, а інша половина – з вищим. І зрештою ми виявили, що одна й та ж особа, яка має те ж саме тіло і каже однакові слова, виглядає переконливіше і викликає більше довіри, коли використовує вищого робота. Раціональних підстав для цього немає, тут треба досліджувати психологію. І, як би це прокоментував Кліффорд Насс, нам доводиться мати справу з усіма цими новими технологіями, незважаючи на те, що наші мізки залишаються дуже архаїчними. Людська психологія розвивається значно повільніше, ніж техніка, тож ми завжди женемось навздогін, намагаючись збагнути наш світ, у якому нас оточують ці автономні пристрої. Ми звикли, що розмовляють люди, а не машини, так? Тож ми надаємо велике значення таким речам, як зріст робота, і ми приписуємо цей зріст тій людині, яка використовує робота.
You know, this, I think, is really important when you're thinking about robotics. It's not so much about reinventing humans, it's more about figuring out how we extend ourselves, right? And we end up using things in ways that are sort of surprising. So these guys can't play pool because the robots don't have arms, but they can heckle the guys who are playing pool and that can be an important thing for team bonding, which is kind of neat. People who get really good at operating these systems will even do things like make up new games, like robot soccer in the middle of the night, pushing the trash cans around.
Знаєте, я вважаю, що це справді важливо, якщо йдеться про робототехніку. Це стосується не так перевинайдення людства, як осмислення того, яким чином ми подовжуємо себе в машинах. І зрештою ми використовуємо речі у досить незвичний спосіб. Хлопці з екранів не можуть грати в більярд, бо в них немає рук, але вони можуть підбадьорювати гравців, і таким чином робити значний внесок у згуртованість команди, а це чудово. Ті, хто навчився майстерно керувати цими системами, можуть навіть винаходити нові ігри, такі як футбол з роботом посеред ночі, штовхаючи сміттєві баки.
But not everyone's good. A lot of people have trouble operating these systems. This is actually a guy who logged into the robot and his eyeball was turned 90 degrees to the left. He didn't know that, so he ended up just bashing around the office, running into people's desks, getting super embarrassed, laughing about it -- his volume was way too high. And this guy here in the image is telling me, "We need a robot mute button." And by that what he really meant was we don't want it to be so disruptive. So as a robotics company, we added some obstacle avoidance to the system. It got a little laser range finder that could see the obstacles, and if I as a robot operator try to say, run into a chair, it wouldn't let me, it would just plan a path around, which seems like a good idea.
Але не все так добре. У багатьох виникають складнощі при використанні роботів. Один хлопець скористався роботом, чий фокус зору був зміщений на 90 градусів вліво. Хлопець цього не знав, тож він перевертав усе на своєму шляху, вкочувався в кабінети інших, почуваючись дуже збентежено і зі смішком казав, що його робот зависокий. Цей хлопець сказав мені: "У робота слід вмонтувати кнопку відключення". Він мав на увазі, що ми ж не хочемо, щоб робот був таким руйнівним. Тож, як компанія робототехніки, ми вмонтували в робота засоби уникнення перешкод. Невеликий лазерний дальномір дозволяє виявляти перешкоди, і коли я, керуючи роботом, намагаюсь, скажімо, врізатись у стілець, робот цього не зробить, він знайде обхідний шлях, тож здавалось, що це хороша ідея.
People did hit fewer obstacles using that system, obviously, but actually, for some of the people, it took them a lot longer to get through our obstacle course, and we wanted to know why. It turns out that there's this important human dimension -- a personality dimension called locus of control, and people who have a strong internal locus of control, they need to be the masters of their own destiny -- really don't like giving up control to an autonomous system -- so much so that they will fight the autonomy; "If I want to hit that chair, I'm going to hit that chair." And so they would actually suffer from having that autonomous assistance, which is an important thing for us to know as we're building increasingly autonomous, say, cars, right? How are different people going to grapple with that loss of control? It's going to be different depending on human dimensions. We can't treat humans as if we're just one monolithic thing. We vary by personality, by culture, we even vary by emotional state moment to moment, and being able to design these systems, these human-robot interaction systems, we need to take into account the human dimensions, not just the technological ones.
Користуючись цими роботами, люди справді рідше врізались у щось, але декотрим користувачам потрібно було значно більше часу, щоб навчитись керувати новим роботом, і ми хотіли дізнатись, чому так. І виявилось, що тут важливу роль відіграє важлива людська риса – риса особистості, відома як локус контролю. Люди з сильним інтернальним локусом контролю, тобто, ті, хто намагається бути творцем своєї долі, дуже не хотіли б віддавати контроль автономним пристроям. Такі люди протидіють автономії пристрою: "Якщо я хочу врізатись у стілець, то я зрештою це зроблю". Тож насправді, таким людям автономні пристрої створили б більше незручностей, і це дуже важливо усвідомлювати, конструюючи дедалі автономніші пристрої, наприклад, автівки, так? Як різні люди поставляться до втрати контролю? Їхня реакція буде різною, залежно від типу особистості. Ми не можемо розглядати людей як скроєних на один фасон. Серед нас існують психологічні, культурні відмінності, навіть наш психологічний стан різний у різні моменти, тож щоб успішно розробляти ці системи, які передбачають взаємодію робота й людини, нам слід взяти до уваги людські виміри, а не лише технологічні.
Along with a sense of control also comes a sense of responsibility. And if you were a robot operator using one of these systems, this is what the interface would look like. It looks a little bit like a video game, which can be good because that's very familiar to people, but it can also be bad because it makes people feel like it's a video game. We had a bunch of kids over at Stanford play with the system and drive the robot around our office in Menlo Park, and the kids started saying things like, "10 points if you hit that guy over there. 20 points for that one." And they would chase them down the hallway.
Відчуття контролю йде поряд із відчуттям відповідальності. І якщо ви, як оператор робота, скористаєтесь такою системою, то її інтерфейс виглядатиме приблизно так. Це схоже на відеогру, тут є перевага, бо такий інтерфейс звичний для користувачів, та це може бути недоліком, бо створює в людей враження, що це лише відеогра. Ми запропонували групі дітей у Стенфорді покерувати роботом, що міг рухатись по нашому офісі в Менло Парк. І діти почали казати щось типу: "10 очків, якщо вріжешся в цього хлопця, 20 очків – якщо в того". І діти почали ганятись за ними по коридору.
(Laughter)
(Сміх)
I told them, "Um, those are real people. They're actually going to bleed and feel pain if you hit them." And they'd be like, "OK, got it." But five minutes later, they would be like, "20 points for that guy over there, he just looks like he needs to get hit." It's a little bit like "Ender's Game," right? There is a real world on that other side and I think it's our responsibility as people designing these interfaces to help people remember that there's real consequences to their actions and to feel a sense of responsibility when they're operating these increasingly autonomous things.
Я їм сказала: "Слухайте, це реальні люди. Якщо в них врізатись, їм болітиме, і від удару у них йтиме кров." Діти відповіли: "Добре, зрозуміло". Але через п'ять хвилин вони знов казали: "20 очків за того хлопця. Він ніби напрошується, щоб в нього врізались". Це чимось нагадує "Гру Ендера", так? За екраном знаходиться реальний світ, і я вважаю, що як розробники, ми відповідальні за те, щоб нагадувати людям, що їхні дії мають реальні наслідки, і що не можна втрачати почуття відповідальності, користуючись цими речами, які стають все автономнішими.
These are kind of a great example of experimenting with one possible robotic future, and I think it's pretty cool that we can extend ourselves and learn about the ways that we extend ourselves into these machines while at the same time being able to express our humanity and our personality. We also build empathy for others in terms of being shorter, taller, faster, slower, and maybe even armless, which is kind of neat.
Цей випадок – чудовий приклад експерименту, який показує один з можливих варіантів майбутнього світу з роботами, тож я вважаю, справді прекрасно, що ми можемо продовжити себе, і дослідити шляхи того, як машини стають нашим продовженням, і при цьому зберегти здатність виражати нашу людяність і нашу особистість. Ми також розвиваємо емпатію, якщо хтось нижчий, вищий, повільніший, швидший, чи навіть безрукий, що теж по-своєму класно.
We also build empathy for the robots themselves. This is one of my favorite robots. It's called the Tweenbot. And this guy has a little flag that says, "I'm trying to get to this intersection in Manhattan," and it's cute and rolls forward, that's it. It doesn't know how to build a map, it doesn't know how to see the world, it just asks for help. The nice thing about people is that it can actually depend upon the kindness of strangers. It did make it across the park to the other side of Manhattan -- which is pretty great -- just because people would pick it up and point it in the right direction.
Ми також розвиваємо емпатію до самих роботів. Це один з моїх улюблених роботів, його звуть Твінбот. У нього є маленький прапорець, з написом: "Я намагаюсь добратись до цього перехрестя в Манхеттені" він милий, і котиться вперед, оце і все. Він не знає, як користуватись картами, він не бачить і не орієнтується, він просто просить допомоги. Це показує, до честі людей, що робот може справді покластись на доброзичливість незнайомців. Він добрався через парк на протилежний бік Манхеттена – і це справді чудово – лише завдяки тому, що люди його спрямовували у правильному напрямку.
(Laughter)
(Сміх)
And that's great, right?
І це прекрасно, хіба ні?
We're trying to build this human-robot world in which we can coexist and collaborate with one another, and we don't need to be fully autonomous and just do things on our own. We actually do things together. And to make that happen, we actually need help from people like the artists and the designers, the policy makers, the legal scholars, psychologists, sociologists, anthropologists -- we need more perspectives in the room if we're going to do the thing that Stu Card says we should do, which is invent the future that we actually want to live in.
Ми намагаємося побудувати світ для людей і роботів, у якому ми зможемо співіснувати і співпрацювати з ними, і де нам не буде потрібна цілковита самостійність, коли все доводиться робити самим. Насправді, ми вже співпрацюємо. І для успішної діяльності ми користуємось допомогою інших людей, скажімо, митців і дизайнерів, політиків, дослідників права, психологів, соціологів, антропологів – нам потрібна ширша перспектива, якщо ми хочемо здійснити те, про що ми мріємо, а саме, створити таке майбутнє, в якому б ми справді хотіли жити.
And I think we can continue to experiment with these different robotic futures together, and in doing so, we will end up learning a lot more about ourselves.
Я вважаю, що ми можемо продовжити експериментування з різними варіантами майбутньої роботизації, і роблячи це, ми, зрештою, чимало дізнаємось про самих себе.
Thank you.
Дякую.
(Applause)
(Оплески)