You only get one chance to make a first impression, and that's true if you're a robot as well as if you're a person. The first time that I met one of these robots was at a place called Willow Garage in 2008. When I went to visit there, my host walked me into the building and we met this little guy. He was rolling into the hallway, came up to me, sat there, stared blankly past me, did nothing for a while, rapidly spun his head around 180 degrees and then ran away.
Solo se tiene una oportunidad de causar una buena primera impresión, y eso es así, ya bien se sea un robot o una persona. La primera vez que conocí a uno de estos robots estaba en un lugar llamado Willow Garage en 2008. Cuando fui allí, mi anfitrión me acompañó al edificio y conocimos a este pequeño hombre. Estaba rodando por el pasillo, se acercó a mí, se sentó allí, me miró sin comprender, no hizo nada un rato, para rápidamente girar su cabeza 180 grados y huir.
And that was not a great first impression. The thing that I learned about robots that day is that they kind of do their own thing, and they're not totally aware of us. And I think as we're experimenting with these possible robot futures, we actually end up learning a lot more about ourselves as opposed to just these machines. And what I learned that day was that I had pretty high expectations for this little dude. He was not only supposed to be able to navigate the physical world, but also be able to navigate my social world -- he's in my space; it's a personal robot. wWhy didn't it understand me? My host explained to me, "Well, the robot is trying to get from point A to point B, and you were an obstacle in his way, so he had to replan his path, figure out where to go, and then get there some other way," which was actually not a very efficient thing to do. If that robot had figured out that I was a person, not a chair, and that I was willing to get out of its way if it was trying to get somewhere, then it actually would have been more efficient at getting its job done if it had bothered to notice that I was a human and that I have different affordances than things like chairs and walls do.
Y esa no fue una buena primera impresión. Lo que aprendí sobre los robots ese día es que hacen su trabajo sin ser plenamente conscientes de nosotros. Y creo que cuando experimentamos con estos posibles futuros de robots, en realidad aprendemos mucho más sobre nosotros mismos que sobre estas máquinas. Y lo que aprendí ese día fue que yo tenía muchas expectativas en este pequeño amigo. Pensaba que él no solo podía navegar el mundo físico, sino también mi mundo social, él está en mi espacio; es un robot personal. ¿Por qué no me entendió? Mi anfitrión me explicó, "El robot intenta ir del punto A al punto B, y eras un obstáculo en su camino, así que tuvo que replanificar su camino, averiguar a dónde ir, para luego llegar de otra manera". Lo que en realidad no resulto ser algo muy eficiente. Si ese robot hubiera descubierto que yo era una persona, no una silla, y que estaba dispuesta a apartarme de su camino si él quería llegar a alguna parte, entonces realmente habría sido más eficiente al hacer su trabajo si se hubiera molestado en entender que yo era un humano y que tengo posibilidades distintas de las que tienen objetos como sillas y paredes.
You know, we tend to think of these robots as being from outer space and from the future and from science fiction, and while that could be true, I'd actually like to argue that robots are here today, and they live and work amongst us right now. These are two robots that live in my home. They vacuum the floors and they cut the grass every single day, which is more than I would do if I actually had time to do these tasks, and they probably do it better than I would, too. This one actually takes care of my kitty. Every single time he uses the box, it cleans it, which is not something I'm willing to do, and it actually makes his life better as well as mine. And while we call these robot products -- it's a "robot vacuum cleaner, it's a robot lawnmower, it's a robot littler box," I think there's actually a bunch of other robots hiding in plain sight that have just become so darn useful and so darn mundane that we call them things like, "dishwasher," right? They get new names. They don't get called robot anymore because they actually serve a purpose in our lives. Similarly, a thermostat, right? I know my robotics friends out there are probably cringing at me calling this a robot, but it has a goal. Its goal is to make my house 66 degrees Fahrenheit, and it senses the world. It knows it's a little bit cold, it makes a plan and then it acts on the physical world. It's robotics. Even if it might not look like Rosie the Robot, it's doing something that's really useful in my life so I don't have to take care of turning the temperature up and down myself.
Tendemos a pensar que estos robots son del espacio exterior y del futuro y de la ciencia ficción. Si bien eso podría ser cierto, me gustaría exponer que los robots están aquí hoy, y viven y trabajan entre nosotros ahora. Estos son dos robots que viven en mi casa. Uno aspira los suelos y el otro corta la hierba todos los días. Lo que es más de lo que yo haría si tuviera tiempo para hacer estas tareas, y probablemente lo hacen mejor de lo yo lo haría. Este realmente se ocupa de mi gatito. Cada vez que usa la caja, la limpia, que no es algo que tenga ganas de hacer, y hace mejor la vida de mi gato y la mía. Y mientras llamamos a estos robots: es un "robot aspirador, es un robot cortacésped, es una caja de robot más pequeña", creo que hay muchos otros robots escondidos a plena vista que se han vuelto tan increíblemente útiles y mundanos que los llamamos, por ejemplo, "lavavajillas", ¿verdad? Reciben nuevos nombres. Ya no reciben el nombre de robot porque sirven para un objetivo en nuestras vidas. Igualmente, un termostato, ¿verdad? Sé que mis amigos robotistas quizá se encojan de hombros al verme llamar a esto un robot, pero sirve a un objetivo. Su objetivo es tener mi casa a la temperatura de 19 ºC y percibir el entorno. Sabe que está un poco frío, hace un plan y luego actúa en el mundo físico. Es robótica. Incluso si no se parece a Rosie the Robot, está haciendo algo que es realmente útil en mi vida para no tener que preocuparme de subir y bajar la temperatura yo misma.
And I think these systems live and work amongst us now, and not only are these systems living amongst us but you are probably a robot operator, too. When you drive your car, it feels like you are operating machinery. You are also going from point A to point B, but your car probably has power steering, it probably has automatic braking systems, it might have an automatic transmission and maybe even adaptive cruise control. And while it might not be a fully autonomous car, it has bits of autonomy, and they're so useful and they make us drive safer, and we just sort of feel like they're invisible-in-use, right? So when you're driving your car, you should just feel like you're going from one place to another. It doesn't feel like it's this big thing that you have to deal with and operate and use these controls because we spent so long learning how to drive that they've become extensions of ourselves. When you park that car in that tight little garage space, you know where your corners are. And when you drive a rental car that maybe you haven't driven before, it takes some time to get used to your new robot body. And this is also true for people who operate other types of robots, so I'd like to share with you a few stories about that.
Y creo que estos sistemas viven y trabajan entre nosotros ahora, y no solo estos sistemas viven entre nosotros, sino que probablemente también sean usuarios de robots. Cuando conducen el auto, es como estar manejando maquinaria. También uno va del punto A al punto B, pero su auto probablemente disponga de dirección asistida, probablemente tenga un sistema de frenado automático, o un cambio de marchas automático y quizá control de velocidad adaptativo. Y aunque no sea un automóvil completamente autónomo, tiene pedazos de autonomía, y son muy útiles y nos hacen manejar más seguros, y parece como si fueran invisibles al usarlos, ¿verdad? Cuando manejamos el auto, simplemente sentimos que vamos de un lugar a otro. No parece algo especial lidiar y operar y utilizar controles porque pasamos tanto tiempo aprendiendo cómo conducir que los actos se han convertido en extensiones de nosotros mismos. Cuando estacionamos el auto en ese espacio estrecho de garaje, sabemos dónde están los rincones. Y cuando conducimos un auto alquilado que no hemos conducido antes, toma algo de tiempo acostumbrarse a su nuevo cuerpo de robot. Y esto también aplica a las personas que manejan otros tipos de robots. Me gustaría compartir con Uds. algunas historias sobre eso.
Dealing with the problem of remote collaboration. So, at Willow Garage I had a coworker named Dallas, and Dallas looked like this. He worked from his home in Indiana in our company in California. He was a voice in a box on the table in most of our meetings, which was kind of OK except that, you know, if we had a really heated debate and we didn't like what he was saying, we might just hang up on him.
Lidiando con el problema de la colaboración remota. En Willow Garage tenía un compañero de trabajo llamado Dallas, y Dallas era así. Trabajaba desde su casa en Indiana en nuestra compañía en California. Él era una voz en una caja sobre la mesa en la mayoría de nuestras reuniones, lo que estaba bien, excepto si teníamos un debate acalorado y no nos gustaba lo que decía, podíamos simplemente colgar el teléfono.
(Laughter)
(Risas)
Then we might have a meeting after that meeting and actually make the decisions in the hallway afterwards when he wasn't there anymore. So that wasn't so great for him. And as a robotics company at Willow, we had some extra robot body parts laying around, so Dallas and his buddy Curt put together this thing, which looks kind of like Skype on a stick on wheels, which seems like a techy, silly toy, but really it's probably one of the most powerful tools that I've seen ever made for remote collaboration. So now, if I didn't answer Dallas' email question, he could literally roll into my office, block my doorway and ask me the question again --
Y podíamos tener una reunión tras esa reunión y tomar las decisiones en el pasillo cuando él ya no estaba allí. Y eso no era tan bueno para él. Y como compañía robótica en Willow, teníamos algunas partes extra de cuerpo del robot por ahí, y Dallas y su amigo Curt armaron esto, que se parece a Skype en un palo sobre ruedas, que parece un juguete teki, tonto, pero probablemente sea una de las herramientas más poderosas que he visto para colaboración remota. Si no respondía la pregunta de Dallas por correo electrónico, él podía, literalmente, rodar por mi oficina, bloquear mi puerta y hacerme la pregunta nuevamente
(Laughter)
(Risas)
until I answered it. And I'm not going to turn him off, right? That's kind of rude. Not only was it good for these one-on-one communications, but also for just showing up at the company all-hands meeting. Getting your butt in that chair and showing people that you're present and committed to your project is a big deal and can help remote collaboration a ton.
hasta que yo respondía. Y no voy a rechazarlo, ¿verdad? Eso sería grosero. No solo era bueno para estas comunicaciones uno-a-uno, sino también en la reunión general de la compañía. Sentarse en esa silla y mostrar a las personas que estás presente y comprometido con su proyecto es algo bueno y puede ayudar mucho a la colaboración remota.
We saw this over the period of months and then years, not only at our company but at others, too. The best thing that can happen with these systems is that it starts to feel like you're just there. It's just you, it's just your body, and so people actually start to give these things personal space. So when you're having a stand-up meeting, people will stand around the space just as they would if you were there in person. That's great until there's breakdowns and it's not. People, when they first see these robots, are like, "Wow, where's the components? There must be a camera over there," and they start poking your face. "You're talking too softly, I'm going to turn up your volume," which is like having a coworker walk up to you and say, "You're speaking too softly, I'm going to turn up your face." That's awkward and not OK, and so we end up having to build these new social norms around using these systems.
Vimos esto durante el período de meses y luego años, no solo en nuestra empresa, sino también en otras. Lo mejor que puede pasar con estos sistemas es que se perciben como si estuviera allí. Solo eres tú, es solo tu cuerpo, y así la gente en realidad comienza a darle a estas cosas un espacio personal. Y, cuando tienes una reunión de pie, la gente se sitúa alrededor del espacio como lo harían si uno estuviera allí en persona. Eso es genial hasta que hay averías. La gente, cuando ve estos robots por primera vez, dice, "Guau, ¿dónde están las piezas? Debe haber una cámara allí". Y comienzan a hurgar la cara. "Estás hablando demasiado bajo, voy a subir tu volumen" que es como tener un compañero caminando hacia ti y decirle, "Estás hablando en voz muy baja, voy a alzarte la cara". Eso es incómodo y no está bien, y así construimos estas nuevas normas sociales al usar estos sistemas.
Similarly, as you start feeling like it's your body, you start noticing things like, "Oh, my robot is kind of short." Dallas would say things to me -- he was six-foot tall -- and we would take him via robot to cocktail parties and things like that, as you do, and the robot was about five-foot-tall, which is close to my height. And he would tell me, "You know, people are not really looking at me. I feel like I'm just looking at this sea of shoulders, and it's just -- we need a taller robot." And I told him, "Um, no. You get to walk in my shoes for today. You get to see what it's like to be on the shorter end of the spectrum." And he actually ended up building a lot of empathy for that experience, which was kind of great. So when he'd come visit in person, he no longer stood over me as he was talking to me, he would sit down and talk to me eye to eye, which was kind of a beautiful thing.
De forma similar a como uno siente que es su cuerpo, uno comienzas a notar cosas como, "Oh, mi robot es bajito". Dallas me decía que medía 1.80 m, y lo llevaban a cócteles y cosas así, como lo hacen Uds., y el robot medía aproximadamente 1.5 m, que es más o menos mi altura. Y él me dijo, "Sabes, la gente realmente no me está mirando. Siento que solo estoy viendo este mar de hombros y necesitamos un robot más alto". Y le dije, "Mmm no. Tienes que caminar en mis zapatos solo hoy. Podrás ver lo que es estar en el extremo más corto del espectro". Y en realidad él generó mucha empatía con esa experiencia, lo cual fue genial. Y cuando vino de visita en persona, ya no se izaba ante mí mientras me hablaba, se sentaba y me hablaba cara a cara, lo que fue algo hermoso.
So we actually decided to look at this in the laboratory and see what others kinds of differences things like robot height would make. And so half of the people in our study used a shorter robot, half of the people in our study used a taller robot and we actually found that the exact same person who has the exact same body and says the exact same things as someone, is more persuasive and perceived as being more credible if they're in a taller robot form. It makes no rational sense, but that's why we study psychology. And really, you know, the way that Cliff Nass would put this is that we're having to deal with these new technologies despite the fact that we have very old brains. Human psychology is not changing at the same speed that tech is and so we're always playing catch-up, trying to make sense of this world where these autonomous things are running around. Usually, things that talk are people, not machines, right? And so we breathe a lot of meaning into things like just height of a machine, not a person, and attribute that to the person using the system.
Y decidimos ver esto en el laboratorio y ver qué otras diferencias podrían hacer cosas como la altura del robot. Y la mitad de las personas en nuestro estudio usaron un robot más bajo, la otra mitad en nuestro estudio usaron un robot más alto. Y comprobamos que exactamente la misma persona con el mismo cuerpo que dice las mismas cosas que alguien, es más persuasivo y se percibe como más creíble si lo emite un robot de talla más alta. No tiene sentido racional, por eso estudiamos psicología. Y realmente, la forma en que Cliff Nass pondría esto es que tenemos que lidiar con estas nuevas tecnologías a pesar del hecho de tener cerebros muy viejos. La psicología humana no cambia a la misma velocidad que la tecnología y siempre jugamos a alcanzarla, tratando de dar sentido a este mundo en el que estas cosas autónomas funcionan alrededor. Por lo general, las cosas que hablan son personas, no máquinas. Y otorgamos mucho significado a cosas como la altura de una máquina, no una persona, y a atribuir eso a la persona que usa el sistema.
You know, this, I think, is really important when you're thinking about robotics. It's not so much about reinventing humans, it's more about figuring out how we extend ourselves, right? And we end up using things in ways that are sort of surprising. So these guys can't play pool because the robots don't have arms, but they can heckle the guys who are playing pool and that can be an important thing for team bonding, which is kind of neat. People who get really good at operating these systems will even do things like make up new games, like robot soccer in the middle of the night, pushing the trash cans around.
Creo que esto es realmente importante cuando se piensa en robótica. No se trata tanto de reinventar a los humanos, se trata más de averiguar cómo nos extendemos, ¿verdad? Y terminamos usando cosas de una manera sorprendente. Y estos tipos no pueden jugar al billar porque los robots no tienen brazos, pero pueden coordinar a los tipos que están jugando al billar y eso puede ser algo importante para la unión de equipo, que sea algo ordenado. Los que se vuelvan muy buenos operando estos sistemas incluso harán cosas como inventar juegos nuevos, como el fútbol robot en el medio de la noche, empujando los botes de basura.
But not everyone's good. A lot of people have trouble operating these systems. This is actually a guy who logged into the robot and his eyeball was turned 90 degrees to the left. He didn't know that, so he ended up just bashing around the office, running into people's desks, getting super embarrassed, laughing about it -- his volume was way too high. And this guy here in the image is telling me, "We need a robot mute button." And by that what he really meant was we don't want it to be so disruptive. So as a robotics company, we added some obstacle avoidance to the system. It got a little laser range finder that could see the obstacles, and if I as a robot operator try to say, run into a chair, it wouldn't let me, it would just plan a path around, which seems like a good idea.
Pero no todos lo hacen bien. Mucha gente tiene problemas para manejar estos sistemas. Este es un tipo que inició sesión vía robot y su globo ocular giró 90 grados hacia la izquierda. Él no sabía eso, así que terminó dando golpes por la oficina, corriendo hacia las mesas de las personas, sintiéndose muy avergonzado, riendo nervioso con un volumen demasiado alto. Y este tipo aquí en la imagen me está diciendo, "Necesitamos un botón para silenciar al robot". Y con eso quiso decir que no quería que fuera tan molesto. Y, como compañía de robótica, añadimos funciones para evitar obstáculos al sistema. Tenía un pequeño buscador láser con el que veía los obstáculos, y si yo, como operadora del robot decía, ve hacia la silla, no lo haría, solo planearía un camino alternativo, lo que parece ser una buena idea.
People did hit fewer obstacles using that system, obviously, but actually, for some of the people, it took them a lot longer to get through our obstacle course, and we wanted to know why. It turns out that there's this important human dimension -- a personality dimension called locus of control, and people who have a strong internal locus of control, they need to be the masters of their own destiny -- really don't like giving up control to an autonomous system -- so much so that they will fight the autonomy; "If I want to hit that chair, I'm going to hit that chair." And so they would actually suffer from having that autonomous assistance, which is an important thing for us to know as we're building increasingly autonomous, say, cars, right? How are different people going to grapple with that loss of control? It's going to be different depending on human dimensions. We can't treat humans as if we're just one monolithic thing. We vary by personality, by culture, we even vary by emotional state moment to moment, and being able to design these systems, these human-robot interaction systems, we need to take into account the human dimensions, not just the technological ones.
La gente golpeó menos obstáculos usando ese sistema, obviamente, pero en realidad, a algunas personas, les tomó mucho más tiempo superar nuestra carrera de obstáculos, y queríamos saber por qué. Existe esta importante dimensión humana: una dimensión de la personalidad llamada locus de control. Y las personas con un fuerte locus interno de control, necesitan ser dueños de su propio destino: realmente no les gusta ceder el control a un sistema autónomo, tanto que lucharán contra la autonomía; "Si quiero golpear esa silla, voy a golpear esa silla". Y ellos realmente sufrirían de tener esa asistencia autónoma, lo que es importante saber para nosotros, ya que estamos construyendo autos cada vez más autónomos, por ejemplo. ¿Cómo van a lidiar las personas con esa pérdida de control? Va a ser diferente según las dimensiones humanas. No podemos tratar a los humanos como un ente monolítico. Variamos por personalidad, por cultura, incluso variamos por estado emocional momento a momento. Y al diseñar estos sistemas, estos sistemas de interacción humano-robot, debemos tener en cuenta las dimensiones humanas, no solo las tecnológicas.
Along with a sense of control also comes a sense of responsibility. And if you were a robot operator using one of these systems, this is what the interface would look like. It looks a little bit like a video game, which can be good because that's very familiar to people, but it can also be bad because it makes people feel like it's a video game. We had a bunch of kids over at Stanford play with the system and drive the robot around our office in Menlo Park, and the kids started saying things like, "10 points if you hit that guy over there. 20 points for that one." And they would chase them down the hallway.
Con una sensación de control, también surge un sentido de responsabilidad. Y si fueran operadores de robots usando uno de estos sistemas, así se vería la interfaz. Se parece un poco a un videojuego, lo que puede ser bueno porque resulta muy familiar a las personas, pero también puede ser malo porque hace que las personas sientan que es un videojuego. Tuvimos un montón de niños en Stanford jugando con el sistema conduciendo el robot por nuestra oficina en Menlo Park, y los niños decían cosas como, "10 puntos si das a ese tipo de ahí. 20 puntos por eso". Y los perseguían por el pasillo.
(Laughter)
(Risas)
I told them, "Um, those are real people. They're actually going to bleed and feel pain if you hit them." And they'd be like, "OK, got it." But five minutes later, they would be like, "20 points for that guy over there, he just looks like he needs to get hit." It's a little bit like "Ender's Game," right? There is a real world on that other side and I think it's our responsibility as people designing these interfaces to help people remember that there's real consequences to their actions and to feel a sense of responsibility when they're operating these increasingly autonomous things.
Les dije, "Esas personas son reales. Realmente sangrarán y sentirán dolor si los golpean". Y contestaban: "Bien, lo entendí". Pero cinco minutos después decían, "20 puntos para ese tipo de allí, parece que necesita algún golpe". Es un poco como "El juego de Ender". Hay un mundo real en ese otro lado y creo que es nuestra responsabilidad, como personas que diseñan esas interfaces, ayudar a la gente a recordar que hay consecuencias reales de sus acciones y obtener un sentido de responsabilidad cuando se están operando estas cosas cada vez más autónomas.
These are kind of a great example of experimenting with one possible robotic future, and I think it's pretty cool that we can extend ourselves and learn about the ways that we extend ourselves into these machines while at the same time being able to express our humanity and our personality. We also build empathy for others in terms of being shorter, taller, faster, slower, and maybe even armless, which is kind of neat.
Esto es un gran ejemplo de experimentar con un posible futuro robótico, y creo que es genial que podamos extendernos y aprender de las formas cómo nos extendemos en estas máquinas y al mismo tiempo expresar nuestra humanidad y nuestra personalidad. También construimos empatía para otros en términos de ser más bajo, más alto, más rápido, más lento, y tal vez incluso sin brazos, que es algo estupendo.
We also build empathy for the robots themselves. This is one of my favorite robots. It's called the Tweenbot. And this guy has a little flag that says, "I'm trying to get to this intersection in Manhattan," and it's cute and rolls forward, that's it. It doesn't know how to build a map, it doesn't know how to see the world, it just asks for help. The nice thing about people is that it can actually depend upon the kindness of strangers. It did make it across the park to the other side of Manhattan -- which is pretty great -- just because people would pick it up and point it in the right direction.
También generamos empatía para los mismos robots. Este es uno de mis robots favoritos Se llama Tweenbot. Y este lleva una banderita que dice: "Estoy tratando de llegar a este cruce en Manhattan" y es lindo y rueda, eso es todo. No sabe cómo construir un mapa, no sabe cómo ver el mundo, solo pide ayuda. Lo bueno de las personas es que realmente puede depender de la bondad de los extraños. Lo hicieron cruzar el parque al otro lado de Manhattan, lo que es bastante bueno, solo porque las personas lo recogen y lo orientan en la dirección correcta.
(Laughter)
(Risas)
And that's great, right?
Y eso es genial, ¿verdad?
We're trying to build this human-robot world in which we can coexist and collaborate with one another, and we don't need to be fully autonomous and just do things on our own. We actually do things together. And to make that happen, we actually need help from people like the artists and the designers, the policy makers, the legal scholars, psychologists, sociologists, anthropologists -- we need more perspectives in the room if we're going to do the thing that Stu Card says we should do, which is invent the future that we actually want to live in.
Estamos tratando de construir este mundo humano-robot en el que podemos convivir y colaborar el uno con el otro, y no hay que ser completamente autónomos y hacer cosas solo por nuestra cuenta. De hecho, hacemos cosas juntos. Y para que eso suceda, en realidad, necesitamos ayuda de personas como los artistas y los diseñadores, los políticos, los juristas, psicólogos, sociólogos, antropólogos, necesitamos más perspectivas en la sala si vamos a hacer lo que Stu Card dice que debemos hacer, que es inventar el futuro en el que realmente queremos vivir.
And I think we can continue to experiment with these different robotic futures together, and in doing so, we will end up learning a lot more about ourselves.
Y creo que podemos continuar experimentando con estos diferentes futuros robóticos juntos, y al hacerlo, terminaremos aprendiendo mucho más sobre nosotros mismos.
Thank you.
Gracias.
(Applause)
(Aplausos)