You only get one chance to make a first impression, and that's true if you're a robot as well as if you're a person. The first time that I met one of these robots was at a place called Willow Garage in 2008. When I went to visit there, my host walked me into the building and we met this little guy. He was rolling into the hallway, came up to me, sat there, stared blankly past me, did nothing for a while, rapidly spun his head around 180 degrees and then ran away.
Je krijgt maar één kans om een eerste indruk te maken en dat geldt evenzeer voor robots als voor mensen. De eerste keer dat ik een robot ontmoette, was op een plek die Willow Garage heette, in 2008. Toen ik er op bezoek ging, leidde mijn gastheer me naar binnen en kwamen we deze jongen tegen. Hij reed de gang in, kwam naar me toe, zat daar, keek wezenloos langs me heen, deed niets gedurende een tijd, draaide zijn hoofd snel 180 graden om en liep vervolgens weg.
And that was not a great first impression. The thing that I learned about robots that day is that they kind of do their own thing, and they're not totally aware of us. And I think as we're experimenting with these possible robot futures, we actually end up learning a lot more about ourselves as opposed to just these machines. And what I learned that day was that I had pretty high expectations for this little dude. He was not only supposed to be able to navigate the physical world, but also be able to navigate my social world -- he's in my space; it's a personal robot. wWhy didn't it understand me? My host explained to me, "Well, the robot is trying to get from point A to point B, and you were an obstacle in his way, so he had to replan his path, figure out where to go, and then get there some other way," which was actually not a very efficient thing to do. If that robot had figured out that I was a person, not a chair, and that I was willing to get out of its way if it was trying to get somewhere, then it actually would have been more efficient at getting its job done if it had bothered to notice that I was a human and that I have different affordances than things like chairs and walls do.
Dat was geen goede eerste indruk. Wat ik die dag over robots geleerd heb, is dat ze hun eigen ding doen en zich niet geheel bewust zijn van ons. Ik denk dat door te experimenteren met mogelijke toekomstige robots, we eigenlijk veel meer over onszelf leren en niet enkel over deze machines. Wat ik die dag geleerd heb, is dat ik vrij veel verwachtte van deze kleine jongen. Hij moest niet alleen de fysieke wereld kunnen navigeren, maar ook mijn sociale wereld -- het is een persoonlijke robot. Waarom begreep hij me niet? Mijn gastheer vertelde me: "Wel, de robot probeert om van punt A naar punt B te raken en jij was een obstakel op zijn weg, dus moest hij zijn route opnieuw plannen, uitzoeken waarheen te gaan en er via een andere weg raken." Eigenlijk was dat niet efficiënt. Als deze robot begrepen had dat ik een persoon was, geen stoel, en dat ik bereid was uit de weg te gaan als hij ergens naartoe moest, dan zou hij eigenlijk zijn taak efficiënter hebben kunnen volbrengen als hij opgemerkt had dat ik een mens was en dat ik dus flexibeler ben dan dingen zoals stoelen of muren. We hebben de neiging om robots te zien als wezens uit de ruimte
You know, we tend to think of these robots as being from outer space and from the future and from science fiction, and while that could be true, I'd actually like to argue that robots are here today, and they live and work amongst us right now. These are two robots that live in my home. They vacuum the floors and they cut the grass every single day, which is more than I would do if I actually had time to do these tasks, and they probably do it better than I would, too. This one actually takes care of my kitty. Every single time he uses the box, it cleans it, which is not something I'm willing to do, and it actually makes his life better as well as mine. And while we call these robot products -- it's a "robot vacuum cleaner, it's a robot lawnmower, it's a robot littler box," I think there's actually a bunch of other robots hiding in plain sight that have just become so darn useful and so darn mundane that we call them things like, "dishwasher," right? They get new names. They don't get called robot anymore because they actually serve a purpose in our lives. Similarly, a thermostat, right? I know my robotics friends out there are probably cringing at me calling this a robot, but it has a goal. Its goal is to make my house 66 degrees Fahrenheit, and it senses the world. It knows it's a little bit cold, it makes a plan and then it acts on the physical world. It's robotics. Even if it might not look like Rosie the Robot, it's doing something that's really useful in my life so I don't have to take care of turning the temperature up and down myself.
en uit de toekomst en uit science fiction, en hoewel dat waar kan zijn, zou ik graag argumenteren dat robots hier zijn, vandaag, en dat ze op dit moment leven en werken onder ons. Deze twee robots wonen in mijn huis. Ze stofzuigen en maaien het gras, elke dag, wat meer is dan ik zou doen als ik al tijd had om klusjes te doen, en ze doen het waarschijnlijk ook nog eens beter. Deze verzorgt mijn kat. Elke keer dat hij in de bak gaat, maakt hij die schoon, wat ik niet bereid ben om te doen, en zo maakt hij zowel zijn leven als het mijne beter. Hoewel we deze dingen 'robots' noemen - een robotstofzuiger, een robotmaaier, een kattenbakrobot - denk ik dat er heel wat andere robots zich ongemerkt voor onze neus bevinden die zo verdomd nuttig en alledaags geworden zijn dat we ze bijvoorbeeld 'afwasmachine' noemen. Ze krijgen nieuwe namen. We noemen ze geen robots meer omdat ze effectief een doel in onze levens hebben. Neem ook een thermostaat. Ik weet dat mijn robotica-vrienden erom moeten huiveren dat ik dit een robot noem, maar hij heeft een doel. Zijn doel is om mijn huis tot 19 graden Celsius op te warmen. Hij voelt de wereld aan. Hij weet dat het wat koud is, maakt een plan en beïnvloedt dan de fysieke wereld. Het is robotica. Hij ziet er misschien niet uit als Rosie de Robot, maar hij doet iets heel nuttigs in mijn leven, zodat ik niet zelf de temperatuur hoger of lager hoef te zetten.
And I think these systems live and work amongst us now, and not only are these systems living amongst us but you are probably a robot operator, too. When you drive your car, it feels like you are operating machinery. You are also going from point A to point B, but your car probably has power steering, it probably has automatic braking systems, it might have an automatic transmission and maybe even adaptive cruise control. And while it might not be a fully autonomous car, it has bits of autonomy, and they're so useful and they make us drive safer, and we just sort of feel like they're invisible-in-use, right? So when you're driving your car, you should just feel like you're going from one place to another. It doesn't feel like it's this big thing that you have to deal with and operate and use these controls because we spent so long learning how to drive that they've become extensions of ourselves. When you park that car in that tight little garage space, you know where your corners are. And when you drive a rental car that maybe you haven't driven before, it takes some time to get used to your new robot body. And this is also true for people who operate other types of robots, so I'd like to share with you a few stories about that.
Deze systemen leven en werken te midden van ons op dit moment en niet alleen leven deze systemen onder ons, maar jij bent waarschijnlijk ook een robotbestuurder. Als je met de auto rijdt, lijkt het alsof je een machine bestuurt. Je gaat van punt A naar punt B, maar je auto heeft mogelijk stuurbekrachtiging. Het heeft waarschijnlijk een automatisch remsysteem, een automatische versnellingsbak en misschien zelfs cruise control. En hoewel het misschien geen volledig autonome auto is, heeft het autonome delen die heel nuttig zijn en ons veiliger laten rijden en waarvan we het gevoel hebben dat ze onzichtbaar in gebruik zijn, neen? Dus wanneer je met de auto rijdt, moet je het gevoel hebben dat je van hier naar daar gaat. Het voelt niet aan als een groot ding dat je moet bedienen met allerlei bedieningselementen, omdat we zo lang hebben leren rijden dat het een verlenging van onszelf geworden is. Wanneer je de auto parkeert in die krappe garageplaats, weet je waar je hoeken zijn. En wanneer je in een huurauto rijdt die je niet eerder hebt gereden, duurt het even om gewend te raken aan je nieuwe robotlichaam. Dit geldt ook voor mensen die andere soorten robots besturen, dus zou ik hierover graag enkele verhalen vertellen.
Dealing with the problem of remote collaboration. So, at Willow Garage I had a coworker named Dallas, and Dallas looked like this. He worked from his home in Indiana in our company in California. He was a voice in a box on the table in most of our meetings, which was kind of OK except that, you know, if we had a really heated debate and we didn't like what he was saying, we might just hang up on him.
Omgaan met het probleem van telesamenwerking. In Willow Garage had ik een collega die Dallas heette. Dallas zag er zo uit. Hij werkte vanuit zijn huis in Indiana voor ons bedrijf in Californië. Hij was een stem in een doos op tafel tijdens onze meetings, en dat gaf meestal niet, maar wanneer we een verhit debat hadden en we waren het niet eens dan hingen we weleens op.
(Laughter)
(Gelach)
Then we might have a meeting after that meeting and actually make the decisions in the hallway afterwards when he wasn't there anymore. So that wasn't so great for him. And as a robotics company at Willow, we had some extra robot body parts laying around, so Dallas and his buddy Curt put together this thing, which looks kind of like Skype on a stick on wheels, which seems like a techy, silly toy, but really it's probably one of the most powerful tools that I've seen ever made for remote collaboration. So now, if I didn't answer Dallas' email question, he could literally roll into my office, block my doorway and ask me the question again --
Dan hadden we een meeting na die meeting en namen we de beslissingen pas achteraf wanneer hij er niet meer was. Dat was niet zo goed voor hem. En als roboticabedrijf hadden we in Widow wat extra robotlichaamsdelen liggen, dus maakten Dallas en zijn vriend Curt dit ding, dat er een beetje uitziet als Skype op een stok op wielen. Het lijkt een 'techy', dom speeltje, maar het is waarschijnlijk een van de krachtigste middelen die ik ooit heb zien maken voor telesamenwerking. Als ik nu niet antwoordde op de e-mailvraag van Dallas, kon hij mijn bureau letterlijk binnenrollen, de ingang blokkeren en de vraag opnieuw stellen -
(Laughter)
(Gelach)
until I answered it. And I'm not going to turn him off, right? That's kind of rude. Not only was it good for these one-on-one communications, but also for just showing up at the company all-hands meeting. Getting your butt in that chair and showing people that you're present and committed to your project is a big deal and can help remote collaboration a ton.
tot ik antwoord gaf. En ik ga hem niet afzetten, toch? Dat is onbeleefd. Niet alleen was het goed voor één-op-ééncommunicatie, maar ook om aanwezig te zijn bij de voltallige vergaderingen. Op die stoel gaan zitten en mensen tonen dat je aanwezig bent en toegewijd aan je project is belangrijk en kan telesamenwerking enorm helpen.
We saw this over the period of months and then years, not only at our company but at others, too. The best thing that can happen with these systems is that it starts to feel like you're just there. It's just you, it's just your body, and so people actually start to give these things personal space. So when you're having a stand-up meeting, people will stand around the space just as they would if you were there in person. That's great until there's breakdowns and it's not. People, when they first see these robots, are like, "Wow, where's the components? There must be a camera over there," and they start poking your face. "You're talking too softly, I'm going to turn up your volume," which is like having a coworker walk up to you and say, "You're speaking too softly, I'm going to turn up your face." That's awkward and not OK, and so we end up having to build these new social norms around using these systems.
We zagen dit over een periode van maanden en daarna jaren, niet enkel in ons bedrijf, maar ook in andere. Het beste dat kan gebeuren met deze systemen is dat het begint te voelen alsof je daar bent. Jij bent het, het is jouw lichaam, en mensen beginnen deze dingen zelfs persoonlijke ruimte te geven. Wanneer je een rechtstaande meeting hebt, zullen mensen rondom staan net zoals ze zouden doen als je echt daar was. Dat is goed tot er storingen zijn en dan niet meer. Dus als mensen robots voor het eerst zien, zeggen ze: "Wow, waar zijn de componenten? Er moet daar een camera zijn." En ze porren je gezicht. "Je praat te zacht, ik ga je volume hoger zetten." Dat is alsof een collega naar je toe komt en zegt: "Je praat te zacht, ik ga je gezicht hoger zetten." Dat is gênant en niet oké en dus moeten we nieuwe sociale normen creëren omtrent het gebruik van deze systemen.
Similarly, as you start feeling like it's your body, you start noticing things like, "Oh, my robot is kind of short." Dallas would say things to me -- he was six-foot tall -- and we would take him via robot to cocktail parties and things like that, as you do, and the robot was about five-foot-tall, which is close to my height. And he would tell me, "You know, people are not really looking at me. I feel like I'm just looking at this sea of shoulders, and it's just -- we need a taller robot." And I told him, "Um, no. You get to walk in my shoes for today. You get to see what it's like to be on the shorter end of the spectrum." And he actually ended up building a lot of empathy for that experience, which was kind of great. So when he'd come visit in person, he no longer stood over me as he was talking to me, he would sit down and talk to me eye to eye, which was kind of a beautiful thing.
Evenzo, naarmate het begint aan te voelen als je lichaam, begin je dingen op te merken zoals "Oh, mijn robot is vrij klein." Dallas zei dingen tegen me - hij was één meter tachtig - en we namen hem als robot mee naar feestjes en dat soort dingen, zoals dat gaat. De robot was ongeveer één meter vijftig, ongeveer even groot als ik. Hij vertelde me: "Weet je, mensen kijken niet echt naar mij. Ik heb gevoel alsof ik kijk naar een zee van schouders. We hebben een grotere robot nodig." En ik vertelde hem: "Euh, neen. Jij mag vandaag in mijn schoenen staan. Je mag eens zien hoe het is aan het kortere eind van het spectrum." En hij begon eigenlijk heel wat empathie te voelen voor deze ervaring, wat best geweldig was. Wanneer hij in persoon langskwam, stond hij niet langer over me heen als hij praatte. Hij zat neer en sprak met me op ooghoogte, wat heel mooi was.
So we actually decided to look at this in the laboratory and see what others kinds of differences things like robot height would make. And so half of the people in our study used a shorter robot, half of the people in our study used a taller robot and we actually found that the exact same person who has the exact same body and says the exact same things as someone, is more persuasive and perceived as being more credible if they're in a taller robot form. It makes no rational sense, but that's why we study psychology. And really, you know, the way that Cliff Nass would put this is that we're having to deal with these new technologies despite the fact that we have very old brains. Human psychology is not changing at the same speed that tech is and so we're always playing catch-up, trying to make sense of this world where these autonomous things are running around. Usually, things that talk are people, not machines, right? And so we breathe a lot of meaning into things like just height of a machine, not a person, and attribute that to the person using the system.
Dus besloten we om in het laboratorium te bekijken welke andere verschillen zaken zoals robotgrootte uitmaken. De helft van onze onderzoeksgroep kreeg een kleinere robot, de andere helft kreeg een grotere robot en we vonden dat de exact zelfde persoon met exact hetzelfde lichaam die exact hetzelfde zegt als iemand anders overtuigender is en als geloofwaardiger gezien wordt als hij een grotere robot heeft. Rationeel gezien slaat het op niets, maar daarom studeren we psychologie. Cliff Nass zou hiervan zeggen dat we het beste moeten maken van deze nieuwe technologieën ook al hebben we nog zulke oude breinen. Menselijke psychologie verandert niet zo snel als technologie en dus lopen we altijd achter en proberen we de wereld te begrijpen waar deze autonome dingen rondlopen. Normaal zijn pratende dingen mensen, geen machines, toch? Dus geven we veel betekenis aan zaken zoals de grootte van een machine, niet van een persoon, en schrijven dat toe aan de gebruiker.
You know, this, I think, is really important when you're thinking about robotics. It's not so much about reinventing humans, it's more about figuring out how we extend ourselves, right? And we end up using things in ways that are sort of surprising. So these guys can't play pool because the robots don't have arms, but they can heckle the guys who are playing pool and that can be an important thing for team bonding, which is kind of neat. People who get really good at operating these systems will even do things like make up new games, like robot soccer in the middle of the night, pushing the trash cans around.
Dit is, denk ik, heel belangrijk wanneer je nadenkt over robotica. Het is niet zozeer mensen heruitvinden, maar uitzoeken hoe we onszelf verruimen, niet? En zo gebruiken we dingen op enigszins verrassende manieren. Deze mensen kunnen geen pool spelen, omdat de robots geen armen hebben, maar ze kunnen de spelers wel afleiden en dat kan belangrijk zijn om een band te scheppen, wat best cool is. Mensen die deze systemen heel goed kunnen besturen, zullen zelfs nieuwe spelletjes bedenken, zoals robotvoetbal in het midden van de nacht door vuilbakken rond te duwen.
But not everyone's good. A lot of people have trouble operating these systems. This is actually a guy who logged into the robot and his eyeball was turned 90 degrees to the left. He didn't know that, so he ended up just bashing around the office, running into people's desks, getting super embarrassed, laughing about it -- his volume was way too high. And this guy here in the image is telling me, "We need a robot mute button." And by that what he really meant was we don't want it to be so disruptive. So as a robotics company, we added some obstacle avoidance to the system. It got a little laser range finder that could see the obstacles, and if I as a robot operator try to say, run into a chair, it wouldn't let me, it would just plan a path around, which seems like a good idea.
Maar niet iedereen is er goed in. Heel wat mensen hebben moeite met de besturing. Dit is een man die in een robot inlogde waarvan de oogbal 90° naar links gedraaid was. Hij wist dat niet en botste dus tegen alles in het kantoor aan, liep tegen bureaus aan, voelde zich belachelijk en lachte ermee - zijn volume stond veel te hoog. En deze man op de foto vertelt me: "We hebben een robotdempknop nodig." Daarmee bedoelde hij dat het niet zo storend mag zijn. Dus als roboticabedrijf voegden we obstakelvermijding aan het systeem toe. Het had een laser met een radius die de obstakels kon zien en als ik als robotbestuurder wil zeggen: "Bots tegen een stoel", dan zou hij dit niet doen, maar eromheen gaan, wat een goed idee lijkt.
People did hit fewer obstacles using that system, obviously, but actually, for some of the people, it took them a lot longer to get through our obstacle course, and we wanted to know why. It turns out that there's this important human dimension -- a personality dimension called locus of control, and people who have a strong internal locus of control, they need to be the masters of their own destiny -- really don't like giving up control to an autonomous system -- so much so that they will fight the autonomy; "If I want to hit that chair, I'm going to hit that chair." And so they would actually suffer from having that autonomous assistance, which is an important thing for us to know as we're building increasingly autonomous, say, cars, right? How are different people going to grapple with that loss of control? It's going to be different depending on human dimensions. We can't treat humans as if we're just one monolithic thing. We vary by personality, by culture, we even vary by emotional state moment to moment, and being able to design these systems, these human-robot interaction systems, we need to take into account the human dimensions, not just the technological ones.
Mensen raakten minder obstakels met dat systeem, natuurlijk, maar voor sommige mensen duurde het veel langer om door ons parcours te raken en we wilden weten waarom. Het blijkt dat er een belangrijke menselijke dimensie is, een karakterdimensie: beheersingsoriëntatie, en mensen die een sterke innerlijke beheersingsoriëntatie hebben, moeten meester zijn van hun eigen lot. Ze vinden het niets om controle te geven aan een autonoom systeem, in die mate dat ze tegen de autonomie ingaan. "Als ik die stoel wil raken, dan zal ik die stoel raken." En zij leden dus onder deze autonome assistentie, wat belangrijk is voor ons om te weten als we bijvoorbeeld auto's maken die steeds zelfstandiger zijn, toch? Hoe zullen verschillende mensen omgaan met dat controleverlies? Het zal afhangen van menselijke dimensies. We kunnen mensen niet behandelen alsof we één homogeen geheel zijn. We verschillen van karakter, van cultuur, zelfs van emotionele toestand, van moment op moment. Om deze systemen te kunnen ontwerpen, deze systemen van mens-robotinteractie, moeten we rekening houden met de menselijke dimensies, niet alleen met de technologische.
Along with a sense of control also comes a sense of responsibility. And if you were a robot operator using one of these systems, this is what the interface would look like. It looks a little bit like a video game, which can be good because that's very familiar to people, but it can also be bad because it makes people feel like it's a video game. We had a bunch of kids over at Stanford play with the system and drive the robot around our office in Menlo Park, and the kids started saying things like, "10 points if you hit that guy over there. 20 points for that one." And they would chase them down the hallway.
Samen met een gevoel van controle komt een verantwoordelijkheidsgevoel. Als jij een robot bestuurde met een van deze systemen, dan zou de interface er als volgt uitzien. Het ziet er wat uit als een videospel, wat goed kan zijn, omdat dat zeer bekend is voor mensen, maar ook slecht, omdat het het gevoel geeft dat het een videospel is. We lieten enkele kinderen in Stanford spelen met het systeem en de robot besturen in ons bureau in Menlo Park, en ze zeiden dingen zoals: "10 punten als je die man raakt. 20 punten voor die man." Ze joegen hen na in de gang.
(Laughter)
(Gelach)
I told them, "Um, those are real people. They're actually going to bleed and feel pain if you hit them." And they'd be like, "OK, got it." But five minutes later, they would be like, "20 points for that guy over there, he just looks like he needs to get hit." It's a little bit like "Ender's Game," right? There is a real world on that other side and I think it's our responsibility as people designing these interfaces to help people remember that there's real consequences to their actions and to feel a sense of responsibility when they're operating these increasingly autonomous things.
Ik zei: "Dat zijn echte mensen. Ze gaan echt bloeden en pijn voelen als je hen raakt." En zij reageerden met: "OK." Maar vijf minuten later zeiden ze: "20 punten voor die man daar; het lijkt alsof hij slaag nodig heeft." Het is een beetje zoals "Ender's Game", niet? De wereld aan de andere kant is echt en het is onze verantwoordelijkheid als ontwerpers van deze interfaces dat mensen onthouden dat hun daden echte gevolgen hebben en dat ze verantwoordelijk moeten zijn wanneer ze deze steeds autonomere objecten besturen.
These are kind of a great example of experimenting with one possible robotic future, and I think it's pretty cool that we can extend ourselves and learn about the ways that we extend ourselves into these machines while at the same time being able to express our humanity and our personality. We also build empathy for others in terms of being shorter, taller, faster, slower, and maybe even armless, which is kind of neat.
Dit zijn heel goede voorbeelden van het experimenteren met één mogelijke robottoekomst en ik denk dat het best cool is dat we onszelf kunnen verruimen en leren over de manieren waarop we dat doen in deze machines en tegelijk onze menselijkheid kunnen uitdrukken en onze persoonlijkheid. Het wekt empathie op voor anderen die kleiner, groter, sneller, trager zijn en misschien zelfs armloos, wat best cool is.
We also build empathy for the robots themselves. This is one of my favorite robots. It's called the Tweenbot. And this guy has a little flag that says, "I'm trying to get to this intersection in Manhattan," and it's cute and rolls forward, that's it. It doesn't know how to build a map, it doesn't know how to see the world, it just asks for help. The nice thing about people is that it can actually depend upon the kindness of strangers. It did make it across the park to the other side of Manhattan -- which is pretty great -- just because people would pick it up and point it in the right direction.
Het wekt ook empathie op voor de robots zelf. Deze robot is een favoriet van me. Hij wordt de Tweenbot genoemd. Hij heeft een kleine vlag waarop staat: "Ik probeer naar dit kruispunt in Manhattan te raken." Hij is schattig en rolt vooruit, dat is het. Hij kan geen kaart maken. Hij kan de wereld niet zien. Hij vraagt gewoon om hulp. Het leuke aan mensen is dat hij kan vertrouwen op de vriendelijkheid van vreemden. Hij heeft het park kunnen oversteken naar de andere kant van Manhattan - wat best fantastisch is - omdat mensen hem oppakten en de juiste richting wezen.
(Laughter)
(Gelach)
And that's great, right?
Dat is geweldig, toch?
We're trying to build this human-robot world in which we can coexist and collaborate with one another, and we don't need to be fully autonomous and just do things on our own. We actually do things together. And to make that happen, we actually need help from people like the artists and the designers, the policy makers, the legal scholars, psychologists, sociologists, anthropologists -- we need more perspectives in the room if we're going to do the thing that Stu Card says we should do, which is invent the future that we actually want to live in.
We proberen een mens-robotwereld te bouwen waarin we kunnen samenleven en samenwerken en we niet geheel zelfstandig moeten zijn en dingen alleen moeten doen. We doen echt dingen samen. En om daarvoor te zorgen, hebben we hulp nodig van mensen zoals artiesten en ontwerpers, beleidsmakers, juristen, psychologen, sociologen, antropologen. We hebben meer gezichtspunten nodig als we datgene gaan doen dat Stu Card zegt dat we moeten doen, namelijk het uitvinden van de toekomst waarin we effectief willen leven.
And I think we can continue to experiment with these different robotic futures together, and in doing so, we will end up learning a lot more about ourselves.
Ik denk dat we samen verder kunnen experimenteren met deze verschillende robottoekomsten en dat we al doende veel meer over onszelf zullen leren.
Thank you.
Bedankt.
(Applause)
(Applaus)