Δύναμη. Αυτή η λέξη έρχεται στο μυαλό. Είμαστε οι νέοι τεχνολόγοι. Έχουμε πολλά δεδομένα, επομένως έχουμε μεγάλη δύναμη. Πόση δύναμη έχουμε; Σκηνή από την ταινία "Αποκάλυψη Τώρα" -- σπουδαία ταινία. Πρέπει να πάμε τον ήρωά μας, το λοχαγό Γουίλαρντ στις εκβολές του ποταμού Nανγκ ώστε να καταδιώξει τον ταγματάρχη Κερτς. Ο τρόπος που θα το κάνουμε είναι να τον "πετάξουμε" και να τον αφήσουμε. Οπότε η σκηνή: ο ουρανός είναι γεμάτος με αυτό το στόλο από ελικόπτερα που τον μεταφέρουν. Και υπάρχει αυτή η δυνατή, συγκλονιστική μουσική στο φόντο, αυτή η άγρια μουσική. ♫ ♫ ♫ Μεγάλη δύναμη. Είναι αυτό το είδος της δύναμης που αισθάνομαι σ΄αυτό το δωμάτιο. Αυτό το είδος της δύναμης που έχουμε εξ΄αιτίας όλων των δεδομένων που έχουμε.
Power. That is the word that comes to mind. We're the new technologists. We have a lot of data, so we have a lot of power. How much power do we have? Scene from a movie: "Apocalypse Now" -- great movie. We've got to get our hero, Captain Willard, to the mouth of the Nung River so he can go pursue Colonel Kurtz. The way we're going to do this is fly him in and drop him off. So the scene: the sky is filled with this fleet of helicopters carrying him in. And there's this loud, thrilling music in the background, this wild music. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ That's a lot of power. That's the kind of power I feel in this room. That's the kind of power we have because of all of the data that we have.
Ας πάρουμε ένα παράδειγμα. Τι μπορούμε να κάνουμε με τα δεδομένα ενός ατόμου; Τι μπορούμε να κάνουμε με τα δεδομένα αυτού του ανθρώπου; Μπορώ να κοιτάξω τα οικονομικά σου στοιχεία. Μπορώ να πω αν πληρώνεις έγκαιρα τους λογαριασμούς σου. Ξέρω αν μπορείς να πάρεις ένα δάνειο. Μπορώ να κοιτάξω στο ιατρικό σου ιστορικό, μπορώ να δώ αν η καρδιά σου δουλεύει ακόμη -- να δω αν είσαι καλός πελάτης για ασφάλεια. Μπορώ να κοιτάξω που κλικάρεις. Όταν έρχεσαι στην ιστοσελίδα μου, στην πραγματικότητα ξέρω από πριν τι θα κάνεις, επειδή σε έχω δει να επισκέπτεσαι εκατομμύρια ιστοσελίδες. Και λυπάμαι που στο λέω. αλλά είσαι σαν ένας παίχτης του πόκερ, έχεις συγκεκριμένο τρόπο σκέψης. Μπορώ να προβλέψω, μέσω ανάλυσης δεδομένων, τι πρόκειται να κάνεις πριν το κάνεις. Ξέρω τι σου αρέσει. Ξέρω ποιος είσαι. Κι αυτό πριν ακόμη κοιτάξω την αλληλογραφία σου ή το τηλέφωνό σου.
Let's take an example. What can we do with just one person's data? What can we do with that guy's data? I can look at your financial records. I can tell if you pay your bills on time. I know if you're good to give a loan to. I can look at your medical records; I can see if your pump is still pumping -- see if you're good to offer insurance to. I can look at your clicking patterns. When you come to my website, I actually know what you're going to do already because I've seen you visit millions of websites before. And I'm sorry to tell you, you're like a poker player, you have a tell. I can tell with data analysis what you're going to do before you even do it. I know what you like. I know who you are, and that's even before I look at your mail or your phone.
Τέτοια πράγματα μπορούμε να κάνουμε με τα δεδομένα που έχουμε. Αλλά, στην πραγματικότητα, δεν είμαι εδώ για να σας πω τι μπορούμε να κάνουμε. Είμαι εδώ για να σας πω τι πρέπει να κάνουμε. Ποιο είναι το σωστό;
Those are the kinds of things we can do with the data that we have. But I'm not actually here to talk about what we can do. I'm here to talk about what we should do. What's the right thing to do?
Τώρα βλέπω μερικά απορημένα βλέμματα όπως, "Γιατί ρωτάς εμάς ποιο είναι το σωστό που πρέπει να κάνουμε; Εμείς απλώς φτιάχνουμε αυτά τα πράγματα. Κάποιος άλλος τα χρησιμοποιεί." Αρκετά δίκαιο. Αλλά με κάνει να θυμηθώ. Θυμάμαι το Β' Παγκόσμιο Πόλεμο -- κάποιοι από τους καλύτερους τεχνολόγους μας τότε, κάποιοι από τους καλύτερους φυσικούς μας, μελετούσαν την πυρηνική σχάση και τήξη -- και άλλα πυρηνικά θέματα. Μαζεύουμε αυτούς τους φυσικούς στο Λος Άλαμος για να δούμε τι μπορούν να φτιάξουν. Θέλουμε τους ανθρώπους που φτιάχνουν την τεχνολογία να σκέφτονται τι θα έπρεπε να κάνουμε με την τεχνολογία.
Now I see some puzzled looks like, "Why are you asking us what's the right thing to do? We're just building this stuff. Somebody else is using it." Fair enough. But it brings me back. I think about World War II -- some of our great technologists then, some of our great physicists, studying nuclear fission and fusion -- just nuclear stuff. We gather together these physicists in Los Alamos to see what they'll build. We want the people building the technology thinking about what we should be doing with the technology.
Οπότε, τι πρέπει να κάνουμε με τα δεδομένα αυτού του ανθρώπου; Θα έπρεπε να τα συλλέγουμε και να τα μαζεύουμε, ώστε να κάνουμε τη διαδικτυακή του εμπειρία καλύτερη; Ώστε να βγάζουμε πιο πολλά χρήματα; Ώστε να μπορούμε να προστατέψουμε τους εαυτούς μας αν δεν είχε καλούς σκοπούς; Ή πρέπει να σεβαστούμε την προσωπική του ζωή, να προστατέψουμε την αξιοπρέπειά του και να τον αφήσουμε μόνο του; Τι πρέπει να κάνουμε; Πώς θα το καταλάβουμε;
So what should we be doing with that guy's data? Should we be collecting it, gathering it, so we can make his online experience better? So we can make money? So we can protect ourselves if he was up to no good? Or should we respect his privacy, protect his dignity and leave him alone? Which one is it? How should we figure it out?
Ξέρω - ας ψηφίσουμε. Οπότε για να ζεσταθούμε, ας ξεκινήσουμε με μια εύκολη ερώτηση -- κάτι για το οποίο είμαι σίγουρος ότι όλοι εδώ έχουμε άποψη: iPhone εναντίον Android. Ας σηκώσουμε χέρια -- iPhone. Αχά. Android. Θα περίμενες ότι τόσο έξυπνοι άνθρωποι δε θα πέφταμε σα χαζοί στα ωραία τηλέφωνα. (Γέλια) Επόμενη ερώτηση, λίγο πιο δύσκολη. Θα έπρεπε να συλλέγουμε τα δεδομένα αυτού του ανθρώπου για να κάνουμε καλύτερες τις εμπειρίες του και να προστατέψουμε τον εαυτό μας, σε περίπτωση που έχει κακό σκοπό; Ή πρέπει να τον αφήσουμε ήσυχο; Να συλλέξουμε τα δεδομένα. Να τον αφήσουμε ήσυχο. Είσαι ασφαλής. Εντάξει. (Γέλια) Ωραία, τελευταία ερώτηση -- πιο δύσκολη -- στην προσπάθεια να αξιολογήσουμε τι θα έπρεπε να κάνουμε σε αυτήν την περίπτωση, θα έπρεπε να χρησιμοποιήσουμε ένα Καντιανό δεοντολογικό ηθικό πλαίσιο, ή ένα Μιλλιανό τελεολογικό; Καντ. Μιλ. Όχι τόσες πολλές ψήφοι. (Γέλια) Αυτό είναι ένα τρομακτικό αποτέλεσμα. Τρομακτικό, γιατί έχουμε πιο ισχυρές απόψεις για τις φορητές συσκευές μας παρά για το ηθικό πλαίσιο που πρέπει να χρησιμοποιήσουμε για να πάρουμε τις αποφάσεις μας.
I know: crowdsource. Let's crowdsource this. So to get people warmed up, let's start with an easy question -- something I'm sure everybody here has an opinion about: iPhone versus Android. Let's do a show of hands -- iPhone. Uh huh. Android. You'd think with a bunch of smart people we wouldn't be such suckers just for the pretty phones. (Laughter) Next question, a little bit harder. Should we be collecting all of that guy's data to make his experiences better and to protect ourselves in case he's up to no good? Or should we leave him alone? Collect his data. Leave him alone. You're safe. It's fine. (Laughter) Okay, last question -- harder question -- when trying to evaluate what we should do in this case, should we use a Kantian deontological moral framework, or should we use a Millian consequentialist one? Kant. Mill. Not as many votes. (Laughter) Yeah, that's a terrifying result. Terrifying, because we have stronger opinions about our hand-held devices than about the moral framework we should use to guide our decisions.
Πώς θα ξέρουμε τι να κάνουμε με όλη αυτή τη δύναμη που έχουμε αν δεν έχουμε ένα ηθικό πλαίσιο; Ξέρουμε περισσότερα για λειτουργικά συστήματα φορητών συσκευών, αλλά αυτό που χρειαζόμαστε είναι ένα λειτουργικό σύστημα ηθικής. Τι είναι ένα λειτουργικό σύστημα ηθικής; Όλοι γνωρίζουμε το καλό από το κακό, δεν είναι έτσι; Αισθάνεσαι καλά όταν κάνεις κάτι σωστό, αισθάνεσαι άσχημα όταν κάνεις κάτι λάθος. Οι γονείς μας μαθαίνουν: έπαινος στο καλό, επίπληξη στο κακό. Αλλά πώς καταλαβαίνουμε τι είναι σωστό και λάθος; Και σεκαθημερινή βάση έχουμε τεχνικές που χρησιμοποιούμε. Ίσως να χρησιμοποιήσουμε το ένστικτό μας. Ίσως να ψηφίσουμε. Ή ίσως απλώς να το ρίξουμε στα νομικά -- να ρωτήσουμε το νομικό τμήμα να δούμε τι λένε. Με άλλα λόγια, γίνεται περίπου στην τύχη, περίπου κατά περίπτωση, το πως διαλέγουμε αυτό που πρέπει να κάνουμε. Και ίσως, αν θέλουμε να πατήσουμε σε πιο στέρεο έδαφος, αυτό που χρειαζόμαστε στην πραγματικότητα είναι ένα ηθικό πλαίσιο που θα μας οδηγήσει, που θα μας πει καταρχάς ποια πράγματα είναι σωστά και λάθος, και πώς θα ξέρουμε σε μια δεδομένη στιγμή τι να κάνουμε.
How do we know what to do with all the power we have if we don't have a moral framework? We know more about mobile operating systems, but what we really need is a moral operating system. What's a moral operating system? We all know right and wrong, right? You feel good when you do something right, you feel bad when you do something wrong. Our parents teach us that: praise with the good, scold with the bad. But how do we figure out what's right and wrong? And from day to day, we have the techniques that we use. Maybe we just follow our gut. Maybe we take a vote -- we crowdsource. Or maybe we punt -- ask the legal department, see what they say. In other words, it's kind of random, kind of ad hoc, how we figure out what we should do. And maybe, if we want to be on surer footing, what we really want is a moral framework that will help guide us there, that will tell us what kinds of things are right and wrong in the first place, and how would we know in a given situation what to do.
Οπότε ας βρούμε ένα ηθικό πλαίσιο. Είμαστε άνθρωποι των αριθμών, ζούμε με τους αριθμούς. Πώς μπορούμε να χρησιμοποιήσουμε τους αριθμούς σα βάση για ένα ηθικό πλαίσιο; Ξέρω κάποιον που έκανε ακριβώς αυτό, Έναν πανέξυπνο τύπο -- που έχει πεθάνει εδώ και 2500 χρόνια. Ο Πλάτωνας, αυτός είναι. Τον θυμάστε το γεροφιλόσοφο; Κοιμόσασταν σ΄αυτό το μάθημα. Ο Πλάτωνας είχε πολλές από τις ίδιες ανησυχίες που έχουμε κι εμείς. Τον απασχολούσε το σωστό και το λάθος. Ήθελε να μάθει τι είναι δίκαιο. Αλλά τον απασχολούσε ότι αυτό που μοιάζουμε να κάνουμε είναι να ανταλλάσουμε απόψεις γι αυτό. Αυτός λέει ότι κάτι είναι δίκαιο. Αυτή λέει ότι κάτι άλλο είναι δίκαιο. Είναι κάπως πειστικό όταν αυτός μιλά και όταν αυτή μιλά. Απλώς πηγαίνω μπρος - πίσω. Δε φθάνω πουθενά. Δε θέλω γνώμες, θέλω γνώση. Θέλω να μάθω την αλήθεια για τη δικαιοσύνη -- όπως έχουμες αλήθειες στα μαθηματικά. Στα μαθηματικά, γνωρίζουμε τα αντικειμενικά δεδομένα. Πάρτε ένα νούμερο, οποιοδήποτε νούμερο - δύο. Ο αγαπημένος μου αριθμός. Μου αρέσει αυτός ο αριθμός. Υπάρχουν αλήθειες για το δύο. Αν έχεις δύο από κάτι. και προσθέσεις άλλα δύο παίρνεις τέσσερα. Αυτό είναι αλήθεια ανεξάρτητα για ποιο πράγμα μιλάς. Είναι μια αντικειμενική αλήθεια σχετικά με το δύο, την αόριστη μορφή του. Όταν έχεις δύο από οτιδήποτε -- δύο μάτια, δύο αυτιά, δύο μύτες, απλώς δύο προεξοχές -- αυτές απαρτίζουν τη μορφή του δύο. Όλες παίρνουν μέρος στις αλήθειες που έχει το δύο. Όλες έχουν τη δυ-ότητα μέσα τους. Και επομένως δεν είναι θέμα άποψης.
So let's get a moral framework. We're numbers people, living by numbers. How can we use numbers as the basis for a moral framework? I know a guy who did exactly that. A brilliant guy -- he's been dead 2,500 years. Plato, that's right. Remember him -- old philosopher? You were sleeping during that class. And Plato, he had a lot of the same concerns that we did. He was worried about right and wrong. He wanted to know what is just. But he was worried that all we seem to be doing is trading opinions about this. He says something's just. She says something else is just. It's kind of convincing when he talks and when she talks too. I'm just going back and forth; I'm not getting anywhere. I don't want opinions; I want knowledge. I want to know the truth about justice -- like we have truths in math. In math, we know the objective facts. Take a number, any number -- two. Favorite number. I love that number. There are truths about two. If you've got two of something, you add two more, you get four. That's true no matter what thing you're talking about. It's an objective truth about the form of two, the abstract form. When you have two of anything -- two eyes, two ears, two noses, just two protrusions -- those all partake of the form of two. They all participate in the truths that two has. They all have two-ness in them. And therefore, it's not a matter of opinion.
Τι θα γινόταν αν, σκέφτηκε ο Πλάτωνας, η ηθική ήταν σαν τα μαθηματικά; Τι θα γινόταν αν υπήρχε μια καθαρή μορφή δικαιοσύνης; Τι θα γινόταν αν υπήρχαν αλήθειες για τη δικαιοσύνη, και μπορούσες να ψάξεις γύρω σου στον κόσμο και να δεις ποια πράγματα συμμετείχαν, απάρτιζαν αυτή τη μορφή της δικαιοσύνης; Τότε θα ήξερες τι ήταν, στην πραγματικότητα, δίκαιο και τι όχι. Δε θα ήταν ένα θέμα απλώς γνώμης ή εμφάνισης. Αυτό είναι ένα εκπληκτικό όραμα. Σκεφτείτε το. Πόσο μεγαλειώδες. Πόσο φιλόδοξο. Είναι τόσο φιλόδοξο όσο εμείς. Θέλει να λύσει την ηθική. Θέλει αντικειμενικές αλήθειες. Αν σκέφτεσαι έτσι, έχεις ένα Πλατωνικό ηθικό πλαίσιο.
What if, Plato thought, ethics was like math? What if there were a pure form of justice? What if there are truths about justice, and you could just look around in this world and see which things participated, partook of that form of justice? Then you would know what was really just and what wasn't. It wouldn't be a matter of just opinion or just appearances. That's a stunning vision. I mean, think about that. How grand. How ambitious. That's as ambitious as we are. He wants to solve ethics. He wants objective truths. If you think that way, you have a Platonist moral framework.
Αν δε σκέφτεσαι έτσι, λοιπόν, έχεις μεγάλη παρέα στην ιστορία της Δυτικής φιλοσοφίας, γιατί αυτήν την τακτοποιημένη ιδέα - πολλοί την κριτίκαραν. Ειδικά ο Αριστοτέλης, δεν ήταν και τόσο ευχαριστημένος. Σκεφτόταν ότι δεν ήταν πρακτική. Ο Αριστοτέλης έλεγε: "Πρέπει να ψάχνουμε μόνο τόση τελειότητα σε κάθε θέμα όση το θέμα επιτρέπει." Ο Αριστοτέλης πίστευε ότι η ηθική δεν είναι σαν τα μαθηματικά. Πίστευε ότι η ηθική ήταν ένα ζήτημα αποφάσεων στο εδώ και τώρα χρησιμοποιώντας την κρίση μας στην εξεύρεση του καλύτερου δρόμου. Αν σκέφτεσαι έτσι, τότε ο Πλάτωνας δεν είναι ο αγαπημένος σου. Αλλά μην τα παρατάς. Ίσως να υπάρχει κι άλλος τρόπος με τον οποίο μπορούμε να χρησιμοποιήσουμε τους αριθμούς σαν βάση για το ηθικό μας πλαίσιο.
If you don't think that way, well, you have a lot of company in the history of Western philosophy, because the tidy idea, you know, people criticized it. Aristotle, in particular, he was not amused. He thought it was impractical. Aristotle said, "We should seek only so much precision in each subject as that subject allows." Aristotle thought ethics wasn't a lot like math. He thought ethics was a matter of making decisions in the here-and-now using our best judgment to find the right path. If you think that, Plato's not your guy. But don't give up. Maybe there's another way that we can use numbers as the basis of our moral framework.
Ακούστε αυτό: Τι θα γινόταν αν σε κάθε περίσταση μπορούσες να υπολογίσεις, να κοιτάξεις τις επιλογές, και να μετρήσεις ποια είναι η καλύτερη και έτσι να ξέρεις τι να κάνεις; Σας φαίνεται γνώριμο; Αυτό είναι ένα ωφελιμιστικό ηθικό πλαίσιο. Ο Τζον Στιούαρτ Μιλ ήταν μεγάλος υπέρμαχος αυτού -- κατά τα άλλα ωραίος τύπος -- και πέθανε πριν από μόλις 200 χρόνια. Λοιπόν, η βάση του ωφελιμισμού --- είμαι σίγουρος ότι ήσαστε τουλάχιστον εξοικειωμένοι. Οι τρεις που ψήφισαν υπέρ του Μιλ πριν είναι εξοικειωμένοι μ' αυτό. Λοιπόν κοιτάξτε πώς δουλεύει. Τι θα γινόταν αν η ηθική και αυτό που κάνει κάτι ηθικό, είναι απλώς θέμα του αν μεγιστοποιεί την ευχαρίστηση και ελαχιστοποιεί τον πόνο; Είναι κάτι εσωτερικό στην πράξη. Δεν είναι σαν να έχει σχέση με κάποια αόριστη μορφή. Είναι απλώς θέμα συνεπειών. Απλώς κοιτάζεις τις συνέπειες και βλέπεις αν, συνολικά, είναι για το καλύτερο ή το χειρότερο. Μοιάζει απλό. Τότε θα ξέραμε τι να κάνουμε.
How about this: What if in any situation you could just calculate, look at the choices, measure out which one's better and know what to do? That sound familiar? That's a utilitarian moral framework. John Stuart Mill was a great advocate of this -- nice guy besides -- and only been dead 200 years. So basis of utilitarianism -- I'm sure you're familiar at least. The three people who voted for Mill before are familiar with this. But here's the way it works. What if morals, what if what makes something moral is just a matter of if it maximizes pleasure and minimizes pain? It does something intrinsic to the act. It's not like its relation to some abstract form. It's just a matter of the consequences. You just look at the consequences and see if, overall, it's for the good or for the worse. That would be simple. Then we know what to do.
Ας πάρουμε ένα παράδειγμα. Έστω ότι σηκώνομαι και λέω, "Θα σου πάρω το τηλέφωνο". Όχι γιατί χτύπησε πριν, αλλά θα στο πάρω γιατί έκανα ένα μικρό υπολογισμό. Σκέφτηκα, ότι αυτός ο τύπος μοιάζει ύποπτος. Και αν στέλνει μηνύματα στο Μπιν Λάντεν στο καταφύγιό του -- η σε οποιονδήποτε ανέλαβε μετά το Μπιν Λάντεν -- και είναι στην πραγματικότητα τρομοκράτης, μυστικός πράκτορας. Θα το ανακαλύψω, και όταν το ανακαλύψω, Θα εμποδίσω την τεράστια καταστροφή που θα μπορούσε να προκαλέσει. Το να αποτρέψω αυτήν την καταστροφή είναι πάρα πολύ ωφέλιμο. Και συγκρίνοντάς το με το μικρό πόνο που πρόκειται να προκαλέσω -- γιατί θα τον φέρω σε δύσκολη θέση όταν κοιτάξω στο τηλέφωνό του και δω ότι παίζει το παιχνίδι Farmville -- αυτό ξεπερνιέται από την αξία του να κοιτάξω το τηλέφωνό του. Αν αισθάνεσαι έτσι, αυτό είναι μια ωφελιμιστική επιλογή.
Let's take an example. Suppose I go up and I say, "I'm going to take your phone." Not just because it rang earlier, but I'm going to take it because I made a little calculation. I thought, that guy looks suspicious. And what if he's been sending little messages to Bin Laden's hideout -- or whoever took over after Bin Laden -- and he's actually like a terrorist, a sleeper cell. I'm going to find that out, and when I find that out, I'm going to prevent a huge amount of damage that he could cause. That has a very high utility to prevent that damage. And compared to the little pain that it's going to cause -- because it's going to be embarrassing when I'm looking on his phone and seeing that he has a Farmville problem and that whole bit -- that's overwhelmed by the value of looking at the phone. If you feel that way, that's a utilitarian choice.
Αλλά ίσως να μην αισθάνεσαι ούτε έτσι. Ίσως σκέφτεσαι ότι είναι το δικό του τηλέφωνο. Είναι λάθος να του πάρω το τηλέφωνό του, γιατί είναι ένας άνθρωπος και έχει δικαιώματα και αξιοπρέπεια, και δεν μπορούμε απλώς να εμπλακούμε με αυτά. Έχει αυτονομία. Δεν έχει σημασία τι υπολογισμούς κάναμε. Υπάρχουν πράγματα που είναι από τη φύση τους λάθος -- όπως το να λές ψέματα είναι λάθος, όπως το να βασανίζεις αθώα παιδιά είναι λάθος. Ο Καντ ήταν πολύ καλός σ΄αυτό το σημείο, και το είπε λίγο καλύτερα απ' ότι το λέω εγώ. Είπε ότι πρέπει να χρησιμοποιήσουμε τη λογική μας για να αντιληφθούμε τους κανόνες που θα καθοδηγήσουν τη συμπεριφορά μας. Και είναι καθήκον μας να ακολουθήσουμε αυτούς τους κανόνες. Δεν είναι ένα θέμα υπολογισμού.
But maybe you don't feel that way either. Maybe you think, it's his phone. It's wrong to take his phone because he's a person and he has rights and he has dignity, and we can't just interfere with that. He has autonomy. It doesn't matter what the calculations are. There are things that are intrinsically wrong -- like lying is wrong, like torturing innocent children is wrong. Kant was very good on this point, and he said it a little better than I'll say it. He said we should use our reason to figure out the rules by which we should guide our conduct, and then it is our duty to follow those rules. It's not a matter of calculation.
Λοιπόν ας σταματήσουμε Είμαστε χαμένοι μέσα σ' αυτό το φιλοσοφικό πυκνό δάσος. Και αυτό συνεχίζεται για χιλιάδες χρόνια, γιατί αυτές είναι δύσκολες ερωτήσεις, και έχω μόλις 15 λεπτά. Οπότε ας μπούμε στο ψητό. Πώς πρέπει να παίρνουμε τις αποφάσεις μας; Σύμφωνα με τον Πλάτωνα, τον Αριστοτέλη, τον Καντ, το Μιλ; Τι πρέπει να κάνουμε; Ποια είναι η απάντηση; Ποιος είναι ο τύπος που μπορούμε να χρησιμοποιήσουμε σε κάθε περίπτωση για να αποφασίσουμε τι πρέπει να κάνουμε, αν πρέπει να χρησιμοποιήσουμε τα δεδομένα αυτού του τύπου ή όχι; Ποιος είναι ο τύπος; Δεν υπάρχει τύπος. Δεν υπάρχει μια απλή απάντηση.
So let's stop. We're right in the thick of it, this philosophical thicket. And this goes on for thousands of years, because these are hard questions, and I've only got 15 minutes. So let's cut to the chase. How should we be making our decisions? Is it Plato, is it Aristotle, is it Kant, is it Mill? What should we be doing? What's the answer? What's the formula that we can use in any situation to determine what we should do, whether we should use that guy's data or not? What's the formula? There's not a formula. There's not a simple answer.
Η ηθική είναι δύσκολη. Η ηθική απαιτεί σκέψη. Κι αυτό είναι άβολο. Ξέρω, πέρασα μεγάλο μέρος της καριέρας μου στην τεχνητή νοημοσύνη, προσπαθώντας να φτιάξω μηχανές που θα μπορούσαν να κάνουν ένα μέρος αυτής της σκέψης για μας, που θα μπορούσαν να μας δώσουν απαντήσεις. Αλλά δεν μπορούν. Δεν μπορείς απλώς να πάρεις την ανθρώπινη σκέψη και να τη βάλεις σε μια μηχανή. Πρέπει να το κάνουμε μόνοι μας. Ευτυχώς, δεν είμαστε μηχανές και μπορούμε να το κάνουμε. Όχι μόνο μπορούμε να σκεφτούμε, αλλά πρέπει. Η Χάνα Άρεντ είπε, "Η πικρή αλήθεια είναι ότι το μεγαλύτερο κακό σ΄αυτόν τον κόσμο δε γίνεται από ανθρώπους που επιλέγουν να είναι κακοί. Προέρχεται από τη "μη σκέψη." Αυτό το ονόμασε "κοινοτυπία του κακού." Και η απάντηση σ' αυτό είναι ότι απαιτούμε την άσκηση της σκέψης από κάθε λογικό άτομο.
Ethics is hard. Ethics requires thinking. And that's uncomfortable. I know; I spent a lot of my career in artificial intelligence, trying to build machines that could do some of this thinking for us, that could give us answers. But they can't. You can't just take human thinking and put it into a machine. We're the ones who have to do it. Happily, we're not machines, and we can do it. Not only can we think, we must. Hannah Arendt said, "The sad truth is that most evil done in this world is not done by people who choose to be evil. It arises from not thinking." That's what she called the "banality of evil." And the response to that is that we demand the exercise of thinking from every sane person.
Οπότε ας το κάνουμε αυτό. Ας σκεφτούμε. Πραγματικά, ας αρχίσουμε τώρα. Ο καθένας από μας ας κάνει το εξής: σκεφτείτε την τελευταία στιγμή που είχατε να πάρετε μια απόφαση που ανησυχούσατε αν κάνατε το σωστό. που αναρωτηθήκατε. "Τι πρέπει να κάνω;" Φέρτε το στο μυαλό σας. Και τώρα αναλογιστείτε και πείτε, "Πώς έφθασα σ΄αυτή την απόφαση;" Τι έκανα; Ακολούθησα το ένστικτό μου; Είχα κάποιον να ψηφίσει; Ή το έριξα στα νομικά; Ή τώρα έχουμε μερικές ακόμη επιλογές. "Υπολόγισα ποια θα ήταν η μεγαλύτερη ευχαρίστηση όπως θα έκανε ο Μιλ; Ή χρησιμοποίησα τη λογική για να δω τι ήταν το ουσιαστικά σωστό όπως ο Καντ;" Σκεφτείτε το. Πραγματικά φέρτε το στο μυαλό σας. Είναι σημαντικό. Είναι τόσο σημαντικό ώστε θα αφιερώσουμε 30 δευτερόλεπτα πολύτιμου χρόνου TED ομιλίας χωρίς να κάνουμε τίποτε άλλο εκτός από το να σκεφτούμε αυτό. Έτοιμοι; Πάμε.
So let's do that. Let's think. In fact, let's start right now. Every person in this room do this: think of the last time you had a decision to make where you were worried to do the right thing, where you wondered, "What should I be doing?" Bring that to mind, and now reflect on that and say, "How did I come up that decision? What did I do? Did I follow my gut? Did I have somebody vote on it? Or did I punt to legal?" Or now we have a few more choices. "Did I evaluate what would be the highest pleasure like Mill would? Or like Kant, did I use reason to figure out what was intrinsically right?" Think about it. Really bring it to mind. This is important. It is so important we are going to spend 30 seconds of valuable TEDTalk time doing nothing but thinking about this. Are you ready? Go.
Σταματήστε. Καλή δουλειά. Αυτό που μόλις κάνατε, είναι το πρώτο βήμα στην κατεύθυνση του να πάρετε την ευθύνη του τι θα έπρεπε να κάνουμε με όλη αυτή τη δύναμή μας.
Stop. Good work. What you just did, that's the first step towards taking responsibility for what we should do with all of our power.
Τώρα το επόμενο βήμα -- δοκιμάστε αυτό. Βρείτε ένα φίλο και εξηγείστε του πώς πήρατε αυτή την απόφαση. Όχι αμέσως. Περιμένετε μέχρι να τελειώσω την ομιλία μου. Κάντε το στο μεσημεριανό φαγητό. Και μη βρείτε άλλον ένα τεχνολόγο φίλο σας, βρείτε κάποιον διαφορετικό από εσάς. Βρείτε έναν καλλιτέχνη ή ένα συγγραφέα -- ή, προς Θεού, βρείτε ένα φιλόσοφο και μιλήστε του. Εδώ που τα λέμε, βρείτε κάποιον από τις ανθρωπιστικές επιστήμες. Γιατί; Διότι σκέφτονται τα προβλήματα διαφορετικά απ' ότι εμείς οι τεχνολόγοι. Πριν λίγες μέρες, ακριβώς στον απέναντι δρόμο, ήταν εκαντοντάδες άνθρωποι μαζεμένοι. Ήταν τεχνολόγοι και ανθρωπιστές σ' αυτό το συνέδριο BiblioTech. Και μαζεύτηκαν γιατί οι τεχνολόγοι ήθελαν να μάθουν πώς θα ήταν να σκέφτεσαι με μια ανθρωπιστική προσέγγιση. Έχεις κάποιον από τη Google να μιλά σε κάποιον που κάνει συγκριτική λογοτεχνία. Σκέφτεσαι πόσο σχετικό είναι το γαλλικό θέατρο του 17ου αιώνα -- και πώς επιδρά στο κεφάλαιο μακροχρόνιων επενδύσεων; Λοιπόν, αυτό είναι το ενδιαφέρον. Αυτός είναι ένας διαφορετικός τρόπος σκέψης. Και όταν σκέφτεσαι έτσι, γίνεσαι πιο ευαίσθητος στις ανθρώπινες έγνοιες, κάτι που είναι βασικό στο να παίρνεις ηθικές αποφάσεις.
Now the next step -- try this. Go find a friend and explain to them how you made that decision. Not right now. Wait till I finish talking. Do it over lunch. And don't just find another technologist friend; find somebody different than you. Find an artist or a writer -- or, heaven forbid, find a philosopher and talk to them. In fact, find somebody from the humanities. Why? Because they think about problems differently than we do as technologists. Just a few days ago, right across the street from here, there was hundreds of people gathered together. It was technologists and humanists at that big BiblioTech Conference. And they gathered together because the technologists wanted to learn what it would be like to think from a humanities perspective. You have someone from Google talking to someone who does comparative literature. You're thinking about the relevance of 17th century French theater -- how does that bear upon venture capital? Well that's interesting. That's a different way of thinking. And when you think in that way, you become more sensitive to the human considerations, which are crucial to making ethical decisions.
Οπότε σκεφτείτε ότι τώρα πήγατε και βρήκατε το φίλο σας το μουσικό. Και του λέτε αυτά που συζητάμε, και την επανάσταση στα δεδομένα μας και όλα αυτά -- ίσως μουρμουρίζετε και λίγο από το μουσικό μας θέμα. ♫ Λοιπόν, ο μουσικός φίλος σας θα σας σταματήσει και θα σας πει, "Ξέρεις, το μουσικό θέμα για την επανάσταση των δεδομένων, είναι όπερα, είναι Βάγκνερ. Βασίζεται σ' ένα νορβηγικό μύθο. Είναι θεοί και μυθικά πλάσματα που παλεύουν για μαγικά κοσμήματα." Ενδιαφέρον. Είναι επίσης και μια όμορφη όπερα. Και μας συγκινεί. Μας συγκινεί γιατί έχει σχέση με τη μάχη μεταξύ του καλού και του κακού, μεταξύ του σωστού και του λάθους. Και μας ενδιαφέρει το σωστό και το λάθος. Μας ενδιαφέρει τι συμβαίνει σ' αυτή την όπερα. Μας ενδιαφέρει τι συμβαίνει στο "Αποκάλυψη Τώρα." Και σίγουρα μας ενδιαφέρει τι συμβαίνει με τις τεχνολογίες μας.
So imagine that right now you went and you found your musician friend. And you're telling him what we're talking about, about our whole data revolution and all this -- maybe even hum a few bars of our theme music. ♫ Dum ta da da dum dum ta da da dum ♫ Well, your musician friend will stop you and say, "You know, the theme music for your data revolution, that's an opera, that's Wagner. It's based on Norse legend. It's Gods and mythical creatures fighting over magical jewelry." That's interesting. Now it's also a beautiful opera, and we're moved by that opera. We're moved because it's about the battle between good and evil, about right and wrong. And we care about right and wrong. We care what happens in that opera. We care what happens in "Apocalypse Now." And we certainly care what happens with our technologies.
Έχουμε τόσο πολύ δύναμη σήμερα, είναι στο χέρι μας να αποφασίσουμε τι θα κάνουμε. Και αυτά είναι τα καλά νέα. Εμείς είμαστε αυτοί που γράφουμε αυτή την όπερα. Αυτή είναι η δική μας ταινία. Εμείς αποφασίζουμε τι θα γίνει μ' αυτήν την τεχνολογία. Εμείς αποφασίζουμε πως θα τελειώσει όλο αυτό.
We have so much power today, it is up to us to figure out what to do, and that's the good news. We're the ones writing this opera. This is our movie. We figure out what will happen with this technology. We determine how this will all end.
Ευχαριστώ
Thank you.
(Χειροκροτήματα)
(Applause)