Μια μέρα πριν περίπου 10 χρόνια, ζήτησα από μια φίλη να κρατήσει ανάποδα ένα ρομπότ μωρό δεινόσαυρο. Ήταν ένα παιχνίδι, ο Πλίο, που είχα παραγγείλει και ήμουν ενθουσιασμένη γιατί λατρεύω τα ρομπότ. Το συγκεκριμένο είχε ωραία τεχνικά χαρακτηριστικά. Είχε μοτέρ, αισθητήρες αφής και κάμερα υπερύθρων. Είχε και αισθητήρα κλίσης, οπότε γνώριζε σε ποια κατεύθυνση κοιτούσε. Όταν το κρατούσες με το κεφάλι κάτω, έβαζε τα κλάματα. Το έβρισκα εκπληκτικό και ήθελα να το δει η φίλη μου. Της είπα «Κράτα το από την ουρά να δεις τι κάνει». Κοιτούσαμε τα καμώματά του. Να χτυπιέται και να φωνάζει. Έπειτα από λίγα λεπτά το θέαμα αρχίζει να με ενοχλεί κάπως και λέω, εντάξει «Φτάνει για τώρα Ας τον αφήσουμε κάτω». Και τον χάιδεψα για να σταματήσει το κλάμα.
There was a day, about 10 years ago, when I asked a friend to hold a baby dinosaur robot upside down. It was this toy called a Pleo that I had ordered, and I was really excited about it because I've always loved robots. And this one has really cool technical features. It had motors and touch sensors and it had an infrared camera. And one of the things it had was a tilt sensor, so it knew what direction it was facing. And when you held it upside down, it would start to cry. And I thought this was super cool, so I was showing it off to my friend, and I said, "Oh, hold it up by the tail. See what it does." So we're watching the theatrics of this robot struggle and cry out. And after a few seconds, it starts to bother me a little, and I said, "OK, that's enough now. Let's put him back down." And then I pet the robot to make it stop crying.
Μου ήταν μια αλλόκοτη εμπειρία. Πρώτα απ' όλα, δεν είχα τότε και το πιο έντονο μητρικό ένστικτο. Αργότερα, όμως, πριν εννιά μήνες, έγινα μητέρα και έμαθα πως και τα μωρά κάνουν έτσι όταν τα κρατάς ανάποδα.
And that was kind of a weird experience for me. For one thing, I wasn't the most maternal person at the time. Although since then I've become a mother, nine months ago, and I've learned that babies also squirm when you hold them upside down.
(Γέλια)
(Laughter)
Επιπλέον, η αντίδρασή μου είχε ενδιαφέρον επειδή γνώριζα ακριβώς πώς λειτουργούσε αυτό το μηχάνημα, και παρ' όλα αυτά ένιωσα την ανάγκη να του δείξω καλοσύνη. Αυτή η συνειδητοποίηση πυροδότησε μια περιέργεια που κρατάει δέκα πια χρόνια Γιατί παρηγόρησα το ρομπότ; Ανακάλυψα ότι η στάση μου απέναντι σε αυτό το μηχάνημα ήταν κάτι σπουδαιότερο από μια αμήχανη στιγμή στο σαλόνι μου. Σε έναν κόσμο όπου βάζουμε συνεχώς τα ρομπότ στη ζωή μας στιγμές σαν εκείνη ίσως να έχουν επιπτώσεις, γιατί ανακάλυψα ότι δεν συνέβαινε μόνο με εμένα.
But my response to this robot was also interesting because I knew exactly how this machine worked, and yet I still felt compelled to be kind to it. And that observation sparked a curiosity that I've spent the past decade pursuing. Why did I comfort this robot? And one of the things I discovered was that my treatment of this machine was more than just an awkward moment in my living room, that in a world where we're increasingly integrating robots into our lives, an instinct like that might actually have consequences, because the first thing that I discovered is that it's not just me.
Το 2007 η Ουάσιγκτον Ποστ έγραψε ότι ο αμερικανικός στρατός έκανε δοκιμές με ένα ρομπότ που εξουδετέρωνε νάρκες εδάφους. Είχε σχήμα εντόμου με μακριά πόδια, βάδιζε στο ναρκοπέδιο, και όταν πατούσε νάρκη, έχανε ένα από τα πόδια του και συνέχιζε με τα υπόλοιπα για να ανατινάξει κι άλλες. Ο επικεφαλής συνταγματάρχης της άσκησης την ακύρωσε τελικά, γιατί, όπως είπε, ήταν απάνθρωπο να βλέπεις το διαλυμένο ρομπότ να σέρνεται στο ναρκοπέδιο. Τι προκαλεί σε έναν σκληραγωγημένο αξιωματικό του στρατού και κάποια σαν κι εμένα τέτοια αντίδραση απέναντι σ' ένα ρομπότ;
In 2007, the Washington Post reported that the United States military was testing this robot that defused land mines. And the way it worked was it was shaped like a stick insect and it would walk around a minefield on its legs, and every time it stepped on a mine, one of the legs would blow up, and it would continue on the other legs to blow up more mines. And the colonel who was in charge of this testing exercise ends up calling it off, because, he says, it's too inhumane to watch this damaged robot drag itself along the minefield. Now, what would cause a hardened military officer and someone like myself to have this response to robots?
Η επιστημονική φαντασία και η ποπ κουλτούρα μας προετοιμάζουν ώστε να προσωποποιούμε αυτά τα πράγματα. Αλλά η αιτία είναι βαθύτερη. Είμαστε εκ γενετής προγραμματισμένοι να αποδίδουμε προθέσεις και ζωή σε ό,τι κινείται στον χώρο μας και μοιάζει αυτόνομο. Γι' αυτό φερόμαστε στα ρομπότ σαν να είναι ζωντανά. Δίνουν ονόματα στα μηχανήματα εξουδετέρωσης βομβών. Τους δίνουν τιμητικά παράσημα. Τους κάνουν κηδείες με τιμητικές ρίψεις πυρών. Έρευνες δείχνουν ότι κάνουμε τέτοια ακόμη και για απλά ρομπότ του σπιτιού, όπως τη σκούπα ρομπότ Roomba.
Well, of course, we're primed by science fiction and pop culture to really want to personify these things, but it goes a little bit deeper than that. It turns out that we're biologically hardwired to project intent and life onto any movement in our physical space that seems autonomous to us. So people will treat all sorts of robots like they're alive. These bomb-disposal units get names. They get medals of honor. They've had funerals for them with gun salutes. And research shows that we do this even with very simple household robots, like the Roomba vacuum cleaner.
(Γέλια)
(Laughter)
Είναι ένας δίσκος που περιφέρεται και καθαρίζει το πάτωμα. Αλλά το γεγονός ότι έχει αυτόνομη κίνηση κάνει τους ανθρώπους να της δίνουν ονόματα και να τη λυπούνται όταν σφηνώνει στον καναπέ.
It's just a disc that roams around your floor to clean it, but just the fact it's moving around on its own will cause people to name the Roomba and feel bad for the Roomba when it gets stuck under the couch.
(Γέλια)
(Laughter)
Μπορούμε να φτιάξουμε ρομπότ με στόχο τέτοιες αντιδράσεις δίνοντάς τους μάτια, πρόσωπα, κινήσεις που αυτόματα, υποσυνείδητα σχετίζουμε με διανοητικές καταστάσεις. Υπάρχει τομέας ερευνών που καλείται αλληλεπίδραση ατόμων με ρομπότ και δείχνει πόσο καλά λειτουργεί αυτό. Για παράδειγμα, ερευνητές στο Στάνφορντ ανακάλυψαν ότι οι άνθρωποι νιώθουν άβολα αν πρέπει να αγγίξουν τα ρομπότ στα απόκρυφά τους.
And we can design robots specifically to evoke this response, using eyes and faces or movements that people automatically, subconsciously associate with states of mind. And there's an entire body of research called human-robot interaction that really shows how well this works. So for example, researchers at Stanford University found out that it makes people really uncomfortable when you ask them to touch a robot's private parts.
(Γέλια)
(Laughter)
Από αυτή και άλλες μελέτες γνωρίζουμε ότι οι άνθρωποι αντιδρούν στα σήματα αυτών των «ζωντανών» μηχανών παρότι ξέρουν πως δεν είναι ζωντανές.
So from this, but from many other studies, we know, we know that people respond to the cues given to them by these lifelike machines, even if they know that they're not real.
Στον κόσμο μας, μελλοντικά, θα υπάρχουν ρομπότ παντού. Η ρομποτική βγαίνει από τα εργοστάσια και μπαίνει σε χώρους εργασίας, σε σπίτια. Καθώς αυτές οι μηχανές που νιώθουν, αποφασίζουν αυτόνομα και μαθαίνουν μπαίνουν στους ίδιους χώρους με εμάς ίσως η καλύτερη αναλογία γι' αυτό είναι η σχέση μας με τα ζώα. Πριν χιλιάδες χρόνια αρχίσαμε να εξημερώνουμε ζώα. Τα μάθαμε να δουλεύουν, να πολεμούν και να μας κρατούν συντροφιά. Και στην πορεία είδαμε κάποια ζώα ως εργαλεία ή προϊόντα και σε άλλα φερθήκαμε με καλοσύνη και τους δώσαμε μια θέση δίπλα μας ως συντρόφους. Νομίζω πως μπορεί να γίνει το ίδιο και με τα ρομπότ.
Now, we're headed towards a world where robots are everywhere. Robotic technology is moving out from behind factory walls. It's entering workplaces, households. And as these machines that can sense and make autonomous decisions and learn enter into these shared spaces, I think that maybe the best analogy we have for this is our relationship with animals. Thousands of years ago, we started to domesticate animals, and we trained them for work and weaponry and companionship. And throughout history, we've treated some animals like tools or like products, and other animals, we've treated with kindness and we've given a place in society as our companions. I think it's plausible we might start to integrate robots in similar ways.
Βέβαια, τα ζώα είναι ζωντανά, ενώ τα ρομπότ όχι. Και γνωρίζω, αφού εργάζομαι στο χώρο της ρομποτικής, ότι δεν θα δούμε σύντομα ρομπότ με αισθήματα. Μα, εμείς νοιαζόμαστε γι' αυτά κι αυτό μετράει. Αν θέλουμε να βάλουμε τα ρομπότ στους κοινούς μας χώρους, πρέπει να γνωρίζουμε ότι θα έχουν διαφορετική μεταχείριση και ότι σε κάποιες περιπτώσεις, όπως κάποιου στρατιώτη που δένεται συναισθηματικά με το ρομπότ στη δουλειά του, μπορεί αυτό να αποδειχθεί ανεπαρκές έως επικίνδυνο. Όμως, αλλού μπορεί να είναι ωφέλιμο να ενισχυθεί ο συναισθηματικός δεσμός με τα ρομπότ. Βλέπουμε ήδη τέτοιες περιπτώσεις όπου ρομπότ δουλεύουν με αυτιστικά παιδιά και τα κάνουν να συμμετέχουν με πρωτόγνωρους τρόπους. Ή ρομπότ να δουλεύουν με δασκάλους για να εντάξουν παιδιά στο σχολείο. Δεν είναι μόνο για τα παιδιά. Μελέτες δείχνουν ότι μπορούν να βοηθήσουν γιατρούς και ασθενείς στην ιατρική φροντίδα.
And sure, animals are alive. Robots are not. And I can tell you, from working with roboticists, that we're pretty far away from developing robots that can feel anything. But we feel for them, and that matters, because if we're trying to integrate robots into these shared spaces, we need to understand that people will treat them differently than other devices, and that in some cases, for example, the case of a soldier who becomes emotionally attached to the robot that they work with, that can be anything from inefficient to dangerous. But in other cases, it can actually be useful to foster this emotional connection to robots. We're already seeing some great use cases, for example, robots working with autistic children to engage them in ways that we haven't seen previously, or robots working with teachers to engage kids in learning with new results. And it's not just for kids. Early studies show that robots can help doctors and patients in health care settings.
Αυτό είναι το ρομπότ μωρό-φώκια PARO, Χρησιμοποιείται σε οίκους ευγηρίας και σε ασθενείς με άνοια. Είναι καιρό στην αγορά. Θυμάμαι πριν χρόνια σε ένα πάρτι είπα σε κάποια γι' αυτό το ρομπότ και η αντίδρασή της ήταν «Θεέ μου, Φρικτό. Είναι απίστευτο ότι τους δίνουμε ρομπότ αντί για ανθρώπινη φροντίδα». Συνηθισμένη αντίδραση. Και εντελώς δικαιολογημένη, γιατί θα ήταν φρικτό. Μα, δεν είναι αυτό που το ρομπότ αντικαθιστά. Αντικαθιστά τη θεραπεία με ζώα σε περιπτώσεις που δεν μπορούμε να έχουμε αληθινά ζώα, αλλά να έχουμε ρομπότ, γιατί τα αντιμετωπίζουμε σταθερά σαν ζώα παρά σαν συσκευές.
This is the PARO baby seal robot. It's used in nursing homes and with dementia patients. It's been around for a while. And I remember, years ago, being at a party and telling someone about this robot, and her response was, "Oh my gosh. That's horrible. I can't believe we're giving people robots instead of human care." And this is a really common response, and I think it's absolutely correct, because that would be terrible. But in this case, it's not what this robot replaces. What this robot replaces is animal therapy in contexts where we can't use real animals but we can use robots, because people will consistently treat them more like an animal than a device.
Παραδεχομένοι τον συναισθηματικό μας δεσμό με αυτά θα μπορέσουμε να προβλέψουμε τις δυσκολίες όπως αυτά θα εισέρχονται σε πιο ιδιωτικούς χώρους της ζωής μας. Για παράδειγμα, θα το δεχτούμε αν το αρκουδάκι του παιδιού μας καταγράφει προσωπικές συνομιλίες; Ή αν το ρομπότ για σεξ έχει υποχρεωτικές ενσωματωμένες αγορές;
Acknowledging this emotional connection to robots can also help us anticipate challenges as these devices move into more intimate areas of people's lives. For example, is it OK if your child's teddy bear robot records private conversations? Is it OK if your sex robot has compelling in-app purchases?
(Γέλια)
(Laughter)
Επειδή ρομπότ συνδυασμένα με καπιταλισμό εγείρουν αμφιβολίες για την προστασία του καταναλωτή και την ιδιωτικότητα.
Because robots plus capitalism equals questions around consumer protection and privacy.
Δεν είναι αυτοί μόνο οι λόγοι που η στάση μας προς αυτές τις μηχανές έχει σημασία. Λίγα χρόνια μετά από εκείνη την πρώτη εμπειρία με το ρομπότ μωρό δεινοσαύρου οργάνωσα ένα σεμινάριο με τον φίλο μου Χάνες Γκάσερτ. Πήραμε πέντε τέτοια ρομπότ μωρά δεινοσαύρων και τα δώσαμε σε πέντε ομάδες ανθρώπων. Τους είπαμε να τους δώσουν ονόματα και να παίξουν μαζί τους για περίπου μία ώρα. Μετά τους δώσαμε ένα σφυρί και ένα τσεκουράκι, για να βασανίσουν και να σκοτώσουν τα ρομπότ.
And those aren't the only reasons that our behavior around these machines could matter. A few years after that first initial experience I had with this baby dinosaur robot, I did a workshop with my friend Hannes Gassert. And we took five of these baby dinosaur robots and we gave them to five teams of people. And we had them name them and play with them and interact with them for about an hour. And then we unveiled a hammer and a hatchet and we told them to torture and kill the robots.
(Γέλια)
(Laughter)
Αποδείχθηκε πιο δραματικό απ' ό,τι περιμέναμε, γιατί κανείς από τους συμμετέχοντες ούτε καν χτύπησε τα ρομπότ μωρά δεινοσαύρων. Έπρεπε να αυτοσχεδιάσουμε και κάποια στιγμή είπαμε «Μπορείτε να γλιτώσετε το ρομπότ σας αν καταστρέψετε μιας άλλης ομάδας».
And this turned out to be a little more dramatic than we expected it to be, because none of the participants would even so much as strike these baby dinosaur robots, so we had to improvise a little, and at some point, we said, "OK, you can save your team's robot if you destroy another team's robot."
(Γέλια)
(Laughter)
Ούτε αυτό βοήθησε. Δεν ήθελαν να το κάνουν. Τελικά τους είπαμε «Θα καταστρέψουμε όλα τα ρομπότ αν κάποιος δεν σκοτώσει ένα από αυτά». Σηκώθηκε ένας και πήρε το τσεκουράκι και όλοι μόρφασαν με αποτροπιασμό καθώς το κατέβασε στον λαιμό του ρομπότ και υπήρξε μια μισοαστεία μισοσοβαρή στιγμή σιωπής στον χώρο προς τιμήν του θανόντος ρομπότ.
And even that didn't work. They couldn't do it. So finally, we said, "We're going to destroy all of the robots unless someone takes a hatchet to one of them." And this guy stood up, and he took the hatchet, and the whole room winced as he brought the hatchet down on the robot's neck, and there was this half-joking, half-serious moment of silence in the room for this fallen robot.
(Γέλια)
(Laughter)
Ήταν μια πραγματικά ενδιαφέρουσα εμπειρία. Δεν ήταν, βέβαια, μια αυστηρά ελεγχόμενη μελέτη, αλλά οδήγησε σε μια κατοπινή έρευνα που έκανα στο ΜΙΤ με τον Παλάς Νάντι και την Σίνθια Μπραζίλ όπου καλέσαμε άτομα στο εργαστήριο για να κομματιάσουν HEXBUG που κινούνται με ρεαλιστικό τρόπο σαν έντομα. Αντί, λοιπόν, για κάτι χαριτωμένο που ελκύει τους ανθρώπους διαλέξαμε κάτι πιο βασικό και διαπιστώσαμε ότι τα άτομα με τη μεγαλύτερη συμπόνια δίσταζαν περισσότερο να χτυπήσουν τα HEXBUG.
So that was a really interesting experience. Now, it wasn't a controlled study, obviously, but it did lead to some later research that I did at MIT with Palash Nandy and Cynthia Breazeal, where we had people come into the lab and smash these HEXBUGs that move around in a really lifelike way, like insects. So instead of choosing something cute that people are drawn to, we chose something more basic, and what we found was that high-empathy people would hesitate more to hit the HEXBUGS.
Ήταν μια μικρή μελέτη, αλλά μέρος ενός μεγαλύτερου τομέα έρευνας που αρχίζει να δείχνει ότι ίσως υπάρχει σχέση μεταξύ της τάσης των ανθρώπων για συμπόνια και της στάσης τους προς τα ρομπότ. Η ερώτησή μου για την επερχόμενη εποχή της αλληλεπίδρασης με τα ρομπότ δεν είναι «Νιώθουμε συμπόνια για τα ρομπότ;» Αλλά «Μπορούν τα ρομπότ να επηρεάσουν την συμπόνια μας;» Υπάρχει λόγος, για παράδειγμα, να μην κλωτσήσει το παιδί σας ένα ρομπότ σκύλο, όχι από σεβασμό στα αντικείμενα αλλά γιατί έτσι θα είναι πιθανότερο να κλωτσήσει έναν αληθινό;
Now this is just a little study, but it's part of a larger body of research that is starting to indicate that there may be a connection between people's tendencies for empathy and their behavior around robots. But my question for the coming era of human-robot interaction is not: "Do we empathize with robots?" It's: "Can robots change people's empathy?" Is there reason to, for example, prevent your child from kicking a robotic dog, not just out of respect for property, but because the child might be more likely to kick a real dog?
Επαναλαμβάνω ότι δεν αφορά μόνο τα παιδιά. Αφορά στο ερώτημα για τα βίαια βιντεοπαιχνίδια από μια νέα σκοπιά γιατί υπάρχει αυθόρμητη υλική επαφή στην οποία αντιδρούμε πιο έντονα απ' ότι σε εικόνες στην οθόνη. Όταν φερόμαστε βίαια προς τα ρομπότ, ιδιαίτερα προς όσα έχουν σχεδιαστεί ως αντίγραφα όντων είναι αυτό υγιής διέξοδος βίαιης συμπεριφοράς ή εξάσκηση στη βία; Δεν γνωρίζουμε... Όμως η απάντηση μπορεί να επηρεάσει την συμπεριφορά των ανθρώπων, μπορεί να επηρεάσει τις κοινωνικές συμβάσεις, μπορεί να εμπνεύσει νέους κανόνες για το τι μπορούμε ή όχι να κάνουμε με συγκεκριμένα ρομπότ σαν αυτούς περί κακομεταχείρισης ζώων. Ακόμη κι αν τα ρομπότ δεν αισθάνονται, η συμπεριφορά μας προς αυτά ίσως είναι σημαντική για εμάς. Και άσχετα από το αν τελικά θα αλλάξουμε τους κανόνες, τα ρομπότ ίσως μας οδηγήσουν σε μια νέα γνώση του ποιοι είμαστε.
And again, it's not just kids. This is the violent video games question, but it's on a completely new level because of this visceral physicality that we respond more intensely to than to images on a screen. When we behave violently towards robots, specifically robots that are designed to mimic life, is that a healthy outlet for violent behavior or is that training our cruelty muscles? We don't know ... But the answer to this question has the potential to impact human behavior, it has the potential to impact social norms, it has the potential to inspire rules around what we can and can't do with certain robots, similar to our animal cruelty laws. Because even if robots can't feel, our behavior towards them might matter for us. And regardless of whether we end up changing our rules, robots might be able to help us come to a new understanding of ourselves.
Τα πιο πολλά από όσα έμαθα εδώ και δέκα χρόνια δεν έχουν καμία εντελώς σχέση με τεχνολογία. Αλλά με την ανθρώπινη ψυχοσύνθεση, την συμπόνια και τη δημιουργία σχέσεων. Όταν ένα παιδί συμπονά μια ηλεκτρική σκούπα, όταν ένας στρατιώτης σώζει ένα ρομπότ στο πεδίο της μάχης ή όταν κάποιοι αρνούνται να βλάψουν ένα ρομπότ μωρό δεινοσαύρου, τότε αυτά τα ρομπότ δεν είναι απλώς μηχανές, γρανάζια κι αλγόριθμοι. Είναι αντανακλάσεις της ανθρωπιάς μας.
Most of what I've learned over the past 10 years has not been about technology at all. It's been about human psychology and empathy and how we relate to others. Because when a child is kind to a Roomba, when a soldier tries to save a robot on the battlefield, or when a group of people refuses to harm a robotic baby dinosaur, those robots aren't just motors and gears and algorithms. They're reflections of our own humanity.
Σας ευχαριστώ.
Thank you.
(Χειροκρότημα)
(Applause)