There was a day, about 10 years ago, when I asked a friend to hold a baby dinosaur robot upside down. It was this toy called a Pleo that I had ordered, and I was really excited about it because I've always loved robots. And this one has really cool technical features. It had motors and touch sensors and it had an infrared camera. And one of the things it had was a tilt sensor, so it knew what direction it was facing. And when you held it upside down, it would start to cry. And I thought this was super cool, so I was showing it off to my friend, and I said, "Oh, hold it up by the tail. See what it does." So we're watching the theatrics of this robot struggle and cry out. And after a few seconds, it starts to bother me a little, and I said, "OK, that's enough now. Let's put him back down." And then I pet the robot to make it stop crying.
Un giorno, circa 10 anni fa, ho chiesto a un amico di tenere un cucciolo di dinosauro robot a testa in giù. Era un giocattolo chiamato Pleo che avevo ordinato, e ne ero davvero entusiasta perché ho sempre amato i robot. E questo ha funzioni davvero eccezionali. Aveva dei motori, sensori tattili e una telecamera ad infrarossi. Una delle cose che aveva era un sensore di inclinazione, quindi riconosceva la direzione verso cui era rivolto. E quando lo tenevi a testa in giù, incominciava a piangere. Pensavo fosse eccezionale, così l'ho mostrato ai miei amici, e ho detto, "Oh, tienilo per la coda. Vedi cosa fa." Così osserviamo la teatralità di questo robot che si dimenava e piange. E dopo pochi secondi, comincia a infastidirmi, e ho detto, "OK, adesso basta. Rimettiamolo giù." Così accarezzo il robot per farlo smettere di piangere.
And that was kind of a weird experience for me. For one thing, I wasn't the most maternal person at the time. Although since then I've become a mother, nine months ago, and I've learned that babies also squirm when you hold them upside down.
È stata un'esperienza alquanto strana per me. Per prima cosa, al tempo non ero la persona più materna. Benché da allora sono diventata mamma, nove mesi fa, e ho imparato che anche i bimbi si agitano quando li tieni a testa in giù.
(Laughter)
(Risate)
But my response to this robot was also interesting because I knew exactly how this machine worked, and yet I still felt compelled to be kind to it. And that observation sparked a curiosity that I've spent the past decade pursuing. Why did I comfort this robot? And one of the things I discovered was that my treatment of this machine was more than just an awkward moment in my living room, that in a world where we're increasingly integrating robots into our lives, an instinct like that might actually have consequences, because the first thing that I discovered is that it's not just me.
Ma la mia reazione a questo robot è stata interessante perché sapevo esattamente come funzionava questa macchina, eppure mi sentivo costretta a essere gentile. E quell'osservazione suscitò una curiosità che ho perseguito nell'ultimo decennio. Perché ho consolato questo robot? Una delle cose che ho scoperto è stato che il modo di trattare la macchina era più che solo un momento imbarazzante nel mio salotto, che in un mondo dove stiamo sempre più integrando i robot nelle nostre vite, un istinto come quello in realtà potrebbe avere conseguenze, perché la prima cosa che ho scoperto è che non è capitato solo a me.
In 2007, the Washington Post reported that the United States military was testing this robot that defused land mines. And the way it worked was it was shaped like a stick insect and it would walk around a minefield on its legs, and every time it stepped on a mine, one of the legs would blow up, and it would continue on the other legs to blow up more mines. And the colonel who was in charge of this testing exercise ends up calling it off, because, he says, it's too inhumane to watch this damaged robot drag itself along the minefield. Now, what would cause a hardened military officer and someone like myself to have this response to robots?
Nel 2007, il Washington Post riportò che l'esercito degli Stati Uniti stava testando un robot che disinnescava le mine. Aveva la forma di un insetto stecco e camminava per un campo minato con le sue zampe, e ogni volta che calpestava una mina, una delle zampe esplodeva, e continuava poi con le altre zampe a far esplodere le altre mine. Il colonnello al comando di questa esercitazione alla fine si tirò indientro, perché, disse, era inumano guardare quel robot danneggiato trascinarsi lungo il campo minato. Ora, cosa porta un ufficiale militare indurito e qualcuno come me ad avere questa reazione di fronte ai robot?
Well, of course, we're primed by science fiction and pop culture to really want to personify these things, but it goes a little bit deeper than that. It turns out that we're biologically hardwired to project intent and life onto any movement in our physical space that seems autonomous to us. So people will treat all sorts of robots like they're alive. These bomb-disposal units get names. They get medals of honor. They've had funerals for them with gun salutes. And research shows that we do this even with very simple household robots, like the Roomba vacuum cleaner.
Certo, siamo stati preparati dalla fantascienza e dalla cultura pop nel voler personificare queste cose, ma va un po' più in profondità. Apparentemente siamo biologicamente programmati per proiettare intento e vita su qualsiasi movimento nel nostro spazio fisico che ci sembra autonomo. Quindi la gente tratterà tutti i tipi di robot come se fossero vivi. A queste unità di smaltimento di bombe viene dato un nome. Ricevono medaglie d'onore. Hanno avuto i funerali con il saluto delle armi. E la ricerca dimostra che lo facciamo anche con un semplice robot domestico, come l'aspirapolvere Roomba.
(Laughter)
(Risate)
It's just a disc that roams around your floor to clean it, but just the fact it's moving around on its own will cause people to name the Roomba and feel bad for the Roomba when it gets stuck under the couch.
È solo un disco che vaga sul pavimento per pulirlo, ma solo il fatto che si muova autonomamente porterà la gente a chiamarlo Roomba e dispiacersi per Roomba quando si incastra sotto il divano.
(Laughter)
(Risate)
And we can design robots specifically to evoke this response, using eyes and faces or movements that people automatically, subconsciously associate with states of mind. And there's an entire body of research called human-robot interaction that really shows how well this works. So for example, researchers at Stanford University found out that it makes people really uncomfortable when you ask them to touch a robot's private parts.
Possiamo progettare i robot proprio per evocare questa reazione, usando gli occhi e i volti o i movimenti che le persone automaticamente, inconsciamente associano con gli stati mentali. E c'è un intero campo di ricerca chiamato interazione uomo-robot che dimostra quanto bene funzioni. Per esempio, i ricercatori dell'università di Stanford hanno scoperto che le persone si imbarazzavano quando viene chiesto loro di toccare le parti intime di un robot.
(Laughter)
(Risate)
So from this, but from many other studies, we know, we know that people respond to the cues given to them by these lifelike machines, even if they know that they're not real.
Quindi da questo e da moltissimi altri studi, sappiamo che le persone reagiscono ai segnali dati da queste macchine realistiche anche se sanno che non sono reali.
Now, we're headed towards a world where robots are everywhere. Robotic technology is moving out from behind factory walls. It's entering workplaces, households. And as these machines that can sense and make autonomous decisions and learn enter into these shared spaces, I think that maybe the best analogy we have for this is our relationship with animals. Thousands of years ago, we started to domesticate animals, and we trained them for work and weaponry and companionship. And throughout history, we've treated some animals like tools or like products, and other animals, we've treated with kindness and we've given a place in society as our companions. I think it's plausible we might start to integrate robots in similar ways.
Andiamo verso un mondo in cui i robot sono ovunque. La tecnologia robotica sta uscendo da dietro le mura delle fabbriche. Sta entrando nei luoghi di lavoro e domestici. Quando queste macchine che possono sentire, prendere decisioni autonome e imparare entrano in questi spazi condivisi, penso che forse la migliore analogia che abbiamo è la nostra relazione con gli animali. Migliaia di anni fa, abbiamo iniziato ad addomesticare gli animali, e li abbiamo addestrati per il lavoro, gli armamenti e per compagnia. Nel corso della storia, abbiamo trattato gli animali come strumenti o come prodotti, e altri animali li abbiamo trattati con gentilezza e dato loro un posto nella società come nostri compagni. Penso che sia plausibile iniziare a integrare i robot allo stesso modo.
And sure, animals are alive. Robots are not. And I can tell you, from working with roboticists, that we're pretty far away from developing robots that can feel anything. But we feel for them, and that matters, because if we're trying to integrate robots into these shared spaces, we need to understand that people will treat them differently than other devices, and that in some cases, for example, the case of a soldier who becomes emotionally attached to the robot that they work with, that can be anything from inefficient to dangerous. But in other cases, it can actually be useful to foster this emotional connection to robots. We're already seeing some great use cases, for example, robots working with autistic children to engage them in ways that we haven't seen previously, or robots working with teachers to engage kids in learning with new results. And it's not just for kids. Early studies show that robots can help doctors and patients in health care settings.
E certo, gli animali sono vivi. I Robot non lo sono. E posso dirvi, lavorando con robottisti, che siamo molto lontani dallo sviluppo di robot che possono sentire qualcosa. Noi sentiamo per loro ed è quello che conta, perché se stiamo cercando di integrare i robot in questi spazi condivisi, dobbiamo capire che la gente li tratterà in modo diverso rispetto ad altri dispositivi, e che in alcuni casi, per esempio, il caso di un soldato che si affeziona al robot con con cui lavorava, può essere qualsiasi cosa, da inefficiente a pericoloso. Ma in altri casi, può effettivamente essere utile favorire questa connessione emotiva con i robot. Osserviamo già dei casi di utilizzo eccezionali, ad esempio, i robot che lavorano con bambini autistici per coinvolgerli in modi che non abbiamo visto in precedenza, o robot che lavorano con gli insegnanti per coinvolgere i bambini nell'apprendimento. E non solo per i bambini. I primi studi mostrano che i robot possono aiutare dottori e pazienti in ambito sanitario.
This is the PARO baby seal robot. It's used in nursing homes and with dementia patients. It's been around for a while. And I remember, years ago, being at a party and telling someone about this robot, and her response was, "Oh my gosh. That's horrible. I can't believe we're giving people robots instead of human care." And this is a really common response, and I think it's absolutely correct, because that would be terrible. But in this case, it's not what this robot replaces. What this robot replaces is animal therapy in contexts where we can't use real animals but we can use robots, because people will consistently treat them more like an animal than a device.
Questo è il cucciolo di foca robot Paro. È usato nelle case di cura e con pazienti affetti da demenza. È in giro da un po'. E ricordo, anni fa, a una festa raccontai a qualcuno di questo robot, e la sua risposta fu: "Oh mio Dio. È orribile. Non posso credere che diamo dei robot alle persone invece di cure umane." Questa è una risposta molto comune, e penso che sia assolutamente corretta, perché sarebbe terribile. Ma in questo caso, non è ciò che questo robot sostituisce. Ciò che questo robot sostituisce è la terapia animale in contesti in cui non possiamo usare animali veri ma possiamo usare i robot, perché le persone li tratterebbero sempre più come animali che come dispositivi.
Acknowledging this emotional connection to robots can also help us anticipate challenges as these devices move into more intimate areas of people's lives. For example, is it OK if your child's teddy bear robot records private conversations? Is it OK if your sex robot has compelling in-app purchases?
Riconoscere questa connessione emotiva con i robot può anche aiutarci ad anticipare le sfide poiché questi dispositivi si spostano nelle aree private della vita della gente. Ad esempio, va bene se l'orsacchiotto robot di tuo figlio registra le conversazioni private? Va bene se il tuo sex robot ha interessanti acquisti in-app?
(Laughter)
(Risate)
Because robots plus capitalism equals questions around consumer protection and privacy.
Perché robot più capitalismo equivale a domande sulla protezione dei consumatori e sulla privacy.
And those aren't the only reasons that our behavior around these machines could matter. A few years after that first initial experience I had with this baby dinosaur robot, I did a workshop with my friend Hannes Gassert. And we took five of these baby dinosaur robots and we gave them to five teams of people. And we had them name them and play with them and interact with them for about an hour. And then we unveiled a hammer and a hatchet and we told them to torture and kill the robots.
E non sono le uniche ragioni per cui nostro comportamento con queste macchine. potrebbe essere importante. Qualche anno dopo la mia prima esperienza con questo cucciolo di dinosauro robot, ho fatto un workshop con la mia amica Hannes Gassert. Abbiamo preso cinque di questi piccoli dinosauri robot e li abbiamo dati a cinque gruppi di persone. Abbiamo fatto dare loro un nome, li abbiamo fatti giocare e interagire con loro per circa un'ora. E poi abbiamo mostrato un martello e un'accetta e abbiamo detto loro di torturare e uccidere i robot.
(Laughter)
(Risate)
And this turned out to be a little more dramatic than we expected it to be, because none of the participants would even so much as strike these baby dinosaur robots, so we had to improvise a little, and at some point, we said, "OK, you can save your team's robot if you destroy another team's robot."
Risultò essere un po' più drammatico di quanto ci aspettassimo, perché nessuno dei partecipanti avrebbe colpito questi cuccioli di dinosauro robot, quindi abbiamo dovuto improvvisare un po', e a un certo punto, abbiamo detto, "Potete salvare il vostro robot,
(Laughter)
se distruggete il robot di un'altra squadra. "
(Risate)
And even that didn't work. They couldn't do it. So finally, we said, "We're going to destroy all of the robots unless someone takes a hatchet to one of them." And this guy stood up, and he took the hatchet, and the whole room winced as he brought the hatchet down on the robot's neck, and there was this half-joking, half-serious moment of silence in the room for this fallen robot.
E anche quello non ha funzionato. Non riuscivano a farlo. Alla fine, abbiamo detto, "Distruggeremo tutti i robot a meno che qualcuno non ne distrugga uno con l'accetta." E questo ragazzo si alzò, prese l'accetta, e tutta la stanza sussultò mentre calava l'accetta sul collo del robot, calò nella stanza un silenzio tra il serio e lo scherzoso per il robot ucciso.
(Laughter)
(Risate)
So that was a really interesting experience. Now, it wasn't a controlled study, obviously, but it did lead to some later research that I did at MIT with Palash Nandy and Cynthia Breazeal, where we had people come into the lab and smash these HEXBUGs that move around in a really lifelike way, like insects. So instead of choosing something cute that people are drawn to, we chose something more basic, and what we found was that high-empathy people would hesitate more to hit the HEXBUGS.
È stata davvero un'esperienza interessante Non era uno studio controllato, ovviamente, ma ha portato a successive ricerche che ho condotto al MIT con Palash Nandy e Cynthia Breazeal, dove abbiamo fatto distruggere alla gente questi HEXBUG che si muovono davvero in modo realistico, come degli insetti. Invece di scegliere qualcosa di carino verso cui si è attratti, abbiamo scelto qualcosa di più basilare, e abbiamo scoperto che persone con elevata empatia esitano di più a colpire gli HEXBUG.
Now this is just a little study, but it's part of a larger body of research that is starting to indicate that there may be a connection between people's tendencies for empathy and their behavior around robots. But my question for the coming era of human-robot interaction is not: "Do we empathize with robots?" It's: "Can robots change people's empathy?" Is there reason to, for example, prevent your child from kicking a robotic dog, not just out of respect for property, but because the child might be more likely to kick a real dog?
Questo è solo un piccolo studio, ma fa parte di una più ampia ricerca che sta iniziando a indicare che potrebbe esserci una connessione tra le tendenze per l'empatia e il comportamento con i robot. Ma la mia domanda per la prossima era di interazione uomo-robot non è: "Siamo empatici nei confronti dei robot?" È: "I robot possono cambiare l'empatia delle persone?" C'è un motivo, ad esempio, per impedire a tuo figlio di prendere a calci un cane robot, non solo per rispetto della proprietà. ma perché il bambino ha più probabilità di prendere a calci un vero cane?
And again, it's not just kids. This is the violent video games question, but it's on a completely new level because of this visceral physicality that we respond more intensely to than to images on a screen. When we behave violently towards robots, specifically robots that are designed to mimic life, is that a healthy outlet for violent behavior or is that training our cruelty muscles? We don't know ... But the answer to this question has the potential to impact human behavior, it has the potential to impact social norms, it has the potential to inspire rules around what we can and can't do with certain robots, similar to our animal cruelty laws. Because even if robots can't feel, our behavior towards them might matter for us. And regardless of whether we end up changing our rules, robots might be able to help us come to a new understanding of ourselves.
E non vale solo per i bambini. È la questione dei videogiochi violenti, ma su un livello completamente nuovo a causa di questa fisicità viscerale per cui reagiamo più intensamente che alle immagini su uno schermo. Quando ci comportiamo in modo violento con i robot, in particolare con robot che sono progettati per imitare la vita, può essere considerato uno sfogo sano per un comportamento violento o è quello che allena la nostra crudeltà? Non sappiamo... Ma la risposta a questa domanda ha la possibilità di influenzare il comportamento umano, ha la possibilità di influire sulle norme sociali, potrebbe ispirare le regole su ciò che possiamo e non possiamo fare con alcuni robot, simile alle leggi sulla crudeltà sugli animali. Perché anche se i robot non possono sentire, il nostro comportamento nei loro confronti potrebbe essere importante per noi. Indipendentemente dal fatto che finiamo per cambiare le nostre regole, i robot potrebbero aiutarci a raggiungere una nuova consapevolezza di noi stessi.
Most of what I've learned over the past 10 years has not been about technology at all. It's been about human psychology and empathy and how we relate to others. Because when a child is kind to a Roomba, when a soldier tries to save a robot on the battlefield, or when a group of people refuses to harm a robotic baby dinosaur, those robots aren't just motors and gears and algorithms. They're reflections of our own humanity.
Gran parte delle cose che ho imparato negli ultimi 10 anni non ha mai riguardato la tecnologia. È psicologia umana è empatia e come ci relazioniamo con gli altri. Perché, quando un bambino è gentile con un Roomba, quando un soldato cerca di salvare un robot sul campo di battaglia, o quando un gruppo di persone si rifiuta di danneggiare un dinosauro robot, quei robot non sono solo motori, ingranaggi e algoritmi. Sono il riflesso della nostra stessa umanità.
Thank you.
Grazie.
(Applause)
(Applausi)