So, security is two different things: it's a feeling, and it's a reality. And they're different. You could feel secure even if you're not. And you can be secure even if you don't feel it. Really, we have two separate concepts mapped onto the same word. And what I want to do in this talk is to split them apart -- figuring out when they diverge and how they converge. And language is actually a problem here. There aren't a lot of good words for the concepts we're going to talk about. So if you look at security from economic terms, it's a trade-off.
Tehát a biztonság két különböző dolog: egy érzés és egy valóság. És ezek különböznek. Érezheted magad biztonságban még akkor is ha nem vagy. És lehetsz biztonságban még akkor is, ha nem érzed. Tényleg, két külön fogalmunk van ugyanarra az egy szóra. És ebben a beszédemben szét akarom választani őket -- megfejtve mikor válnak szét és hogyan közelítenek. És itt a nyelv az igazi probléma. Nincs igazán sok jó szó a fogalmakra amikről beszélni fogunk. Tehát, ha a biztonságot a gazdasági oldaláról nézed, az egy kompromisszum.
Every time you get some security, you're always trading off something. Whether this is a personal decision -- whether you're going to install a burglar alarm in your home -- or a national decision, where you're going to invade a foreign country -- you're going to trade off something: money or time, convenience, capabilities, maybe fundamental liberties. And the question to ask when you look at a security anything is not whether this makes us safer, but whether it's worth the trade-off. You've heard in the past several years, the world is safer because Saddam Hussein is not in power. That might be true, but it's not terribly relevant. The question is: Was it worth it? And you can make your own decision, and then you'll decide whether the invasion was worth it. That's how you think about security: in terms of the trade-off.
Valahányszor némi biztonságot kapsz, mindig adsz cserébe valamit. Lehet ez egy személyes döntés -- felszerelsz-e biztonsági riasztót otthonodba -- vagy egy nemzeti döntés -- mikor megszállsz egy idegen országot -- mindig lemondasz cserébe valamiről, pénzről vagy időröl, kényelemről, képességekről, talán alapvető szabadságokról. És amikor bármilyen biztonságot vizsgálsz, a kérdés nem az, hogy ettől nagyobb biztonságban leszünk-e, hanem, hogy megéri-e a kompromisszumot. Hallották az elmúlt pár évben, hogy a világ biztonságossabb mert Szaddam Husszein nincs hatalmon. Ez lehet akár igaz is, de nem igazán lényeges. A kérdés az, hogy megérte-e? És meghozhatod a saját döntésedet, és majd eldöntheted, hogy a megszállás megérte-e. Így kell gondolni a biztonságra -- a kompromisszum körülményeitől függően.
Now, there's often no right or wrong here. Some of us have a burglar alarm system at home and some of us don't. And it'll depend on where we live, whether we live alone or have a family, how much cool stuff we have, how much we're willing to accept the risk of theft. In politics also, there are different opinions. A lot of times, these trade-offs are about more than just security, and I think that's really important. Now, people have a natural intuition about these trade-offs. We make them every day. Last night in my hotel room, when I decided to double-lock the door, or you in your car when you drove here; when we go eat lunch and decide the food's not poison and we'll eat it.
Sokszor nincs helyes vagy helytelen döntés. Van akinek van otthon betörés elleni riasztója, és van akinek nincs. Ez attól függ hol lakunk, egyedül vagy családdal, mennyi értékes dolgunk van, mennyire vagyunk hajlandók elfogadni a lopás rizikóját. A politikában szintén vannak különböző vélemények. Ezek a kompromisszumok sokszor nem csak a biztonságról szólnak, és én azt gondolom, hogy ez igazán fontos. Az embereknek van egy ösztönös megérzésük ezekről a kompromisszumokról. Minden nap teszünk ilyeneket -- múlt éjjel a hotel szobámban, amikor eldöntöttem, hogy kettőre zárom az ajtót, vagy önök az autójukban, miközben ide vezettek, amikor ebédelni megyünk és eldöntjük, hogy a étel nem méreg és megesszük.
We make these trade-offs again and again, multiple times a day. We often won't even notice them. They're just part of being alive; we all do it. Every species does it. Imagine a rabbit in a field, eating grass. And the rabbit sees a fox. That rabbit will make a security trade-off: "Should I stay, or should I flee?" And if you think about it, the rabbits that are good at making that trade-off will tend to live and reproduce, and the rabbits that are bad at it will get eaten or starve. So you'd think that us, as a successful species on the planet -- you, me, everybody -- would be really good at making these trade-offs. Yet it seems, again and again, that we're hopelessly bad at it.
Megtesszük ezeket a kompromisszumokat újra és újra, naponta többször. Sokszor észre se vesszük őket. Egyszerű részei az életnek; mind megtesszük. Mnden faj megteszi. Képzeljenek el egy nyulat, legel, és meglát egy rókát. A nyúl egy biztonsági döntést fog hozni: "Maradjak vagy fussak el?" És ha belegondolnak, a jó döntést hozó nyulak inkább maradnak életben és szaporodnak, míg a rossz döntést hozó nyulakat megeszik vagy éhen halnak. Tehát azt gondolnánk, hogy mi, mint a legsikeresebb faj a bolygón -- ön, én, mindannyian -- igazán jók lennénk ezekben a kompromisszumokban. És mégis úgy tünik, újra és újra, hogy menthetetlenül rosszak vagyunk.
And I think that's a fundamentally interesting question. I'll give you the short answer. The answer is, we respond to the feeling of security and not the reality. Now, most of the time, that works. Most of the time, feeling and reality are the same. Certainly that's true for most of human prehistory. We've developed this ability because it makes evolutionary sense. One way to think of it is that we're highly optimized for risk decisions that are endemic to living in small family groups in the East African Highlands in 100,000 BC. 2010 New York, not so much. Now, there are several biases in risk perception. A lot of good experiments in this. And you can see certain biases that come up again and again. I'll give you four.
És én azt gondolom, hogy ez egy alapvetően érdekes kérdés. Megadom a rövid választ. A válasz az, hogy a biztonság érzésére válaszolunk, nem pedig a biztonság valóságára. Legtöbbször ez müködik. Legtöbbször, az érzés és a valóság ugyanaz. Ez biztosan igaz az emberiség őstörténetére. Azért fejlesztettük ki ezt a képességet, mert értelme volt fejlődésünk szempontjából. Úgy is gondolhatunk erre, hogy mi erősen optimalizálva vagyunk olyan kockázati döntésekre, amelyek a kis családi csoportokban való élettel jártak a kelet afrikai szavannákon, K.e. 100000-ben -- de nem annyira 2010-ben, New Yorkban. Létezik több előítélet is a kockázat érzékelésben. Sok jó kísérlet van erre. És láthatnak bizonyos, újra és újra megjelenő előítéleteket. Leírok önöknek négyet.
We tend to exaggerate spectacular and rare risks and downplay common risks -- so, flying versus driving. The unknown is perceived to be riskier than the familiar. One example would be: people fear kidnapping by strangers, when the data supports that kidnapping by relatives is much more common. This is for children. Third, personified risks are perceived to be greater than anonymous risks. So, Bin Laden is scarier because he has a name. And the fourth is: people underestimate risks in situations they do control and overestimate them in situations they don't control. So once you take up skydiving or smoking, you downplay the risks. If a risk is thrust upon you -- terrorism is a good example -- you'll overplay it, because you don't feel like it's in your control.
Hajlamosak vagyunk eltúlozni a látványos és ritka kockázatokat és lekicsinyelni a gyakori rizikókat -- tehát a repülést az autóvezetés ellenében. Az ismeretlen rizikót kockázatosabbnak érzékeljük mint az ismerőst. Erre egy példa lenne, hogy az emberek félnek az idegenek általi emberrablástól, miközben az adatok szerint, a rokonok általi emberrablás sokkal megszokottabb. Ez a gyerekekre vonatkozik. Harmadik, a megszemélyesített kockázatot nagyobbnak érzékeljük, mint a névtelen rizikót -- tehát Bin Laden ijesztőbb, mert van neve. És a negyedik: az emberek alábecsülik a rizikókat az általuk szabályzott helyzetekben és felülbecsülik őket az általuk nem irányított helyzetekben. Tehát, ha egyszer elkezdtél ejtőernyőzni vagy dohányozni, alábecsülöd a kockázatot. Ha egy rizikót rád erőszakolnak -- a terrorizmus egy jó példa volt -- túl fogod becsülni, mert úgy érzed nincs az ellenőrzésed alatt.
There are a bunch of other of these cognitive biases, that affect our risk decisions. There's the availability heuristic, which basically means we estimate the probability of something by how easy it is to bring instances of it to mind. So you can imagine how that works. If you hear a lot about tiger attacks, there must be a lot of tigers around. You don't hear about lion attacks, there aren't a lot of lions around. This works, until you invent newspapers, because what newspapers do is repeat again and again rare risks. I tell people: if it's in the news, don't worry about it, because by definition, news is something that almost never happens.
Létezik egy csomó más előítéletek, ezek az észlelési előítéletek, amelyek befolyásolják a kockázati döntéseinket. Például az elérhetőségi heurisztika, ami alapján valaminek a valószínűségét annak alapján becsüljük meg, hogy milyen könnyen jutnak eszünkbe példák rá. El tudják képzelni, ez hogy működik. Ha sokat hallunk tigris támadásokról, akkor sok tigris kell legyen a környékünkön. Ha nem hallunk oroszlán támadásokról, akkor nincs sok oroszlán a környékünkön. Ez az újságok feltalálásáig működik. Mert amit az újságok újra és újra elismétlik a ritka rizikókat. Az embereknek azt mondom: ha a hírekben van, nem kell miatta aggódni. Mert a definició szerint, a hír olyasmi, ami szinte soha nem történik meg.
(Laughter)
(Nevetés)
When something is so common, it's no longer news. Car crashes, domestic violence -- those are the risks you worry about. We're also a species of storytellers. We respond to stories more than data. And there's some basic innumeracy going on. I mean, the joke "One, two, three, many" is kind of right. We're really good at small numbers. One mango, two mangoes, three mangoes, 10,000 mangoes, 100,000 mangoes -- it's still more mangoes you can eat before they rot. So one half, one quarter, one fifth -- we're good at that. One in a million, one in a billion -- they're both almost never.
Amikor valami annyira mindennapi, hogy az már nem hír -- autóbalesetek, családon belüli erőszak -- azok a rizikók, amelyektől tarthatunk. Mesemondó faj vagyunk. Jobban reagálunk a történetekre mint az adatokra. És létezik egy alapvető számismereti hiány. Vagyis az "Egy, kettő, három, sok" vicc valahogy igaz. A kis számokban vagyunk igazán jók. Egy mangó, két mangó, három mangó, 10000 mangó, 100000 mangó -- ez már több mangó annál, amit rothadásuk előtt megehetsz. Tehát egy fél, egy negyed, egy ötöd -- ebben jók vagyunk. Egy milliomod, egy milliárdomod -- ezekben szinte soha nem vagyunk jók.
So we have trouble with the risks that aren't very common. And what these cognitive biases do is they act as filters between us and reality. And the result is that feeling and reality get out of whack, they get different. Now, you either have a feeling -- you feel more secure than you are, there's a false sense of security. Or the other way, and that's a false sense of insecurity.
Tehát problémánk van a nem mindennapi rizikókkal. És ezek az észlelési előítéletek szűrőként viselkednek köztünk és a valóság között. Az eredmény pedig az, hogy az érzés és a valóság kapcsolata elromlik, különbözők lesznek. Nos, vagy van egy érzésed -- nagyobb biztonságban érzed magad, mint vagy. Ez a hamis biztonság érzése. Másfelől pedig létezik a hamis bizonytalanság érzése.
I write a lot about "security theater," which are products that make people feel secure, but don't actually do anything. There's no real word for stuff that makes us secure, but doesn't make us feel secure. Maybe it's what the CIA is supposed to do for us. So back to economics. If economics, if the market, drives security, and if people make trade-offs based on the feeling of security, then the smart thing for companies to do for the economic incentives is to make people feel secure. And there are two ways to do this.
Sokat írtam a "biztonsági előadásról", termékek amiktől az emberek nagyobb biztonságban érzik magukat, de tulajdonképpen nem csinálnak semmit. Nincs valós szó a dolgokra amiktől biztonságban leszünk, de nem fogjuk magunkat tőle biztonságban érezni. Talán ezt kellene megtegye a CIA értünk. Vissza a gazdasághoz. Ha a gazdaság, a piac ösztönzi a biztonságot és ha az emberek kompromisszumokat kötnek a biztonság érzetükre alapozva, akkor a cégek okosan tennék ha elérnék, hogy az emberek nagyobb biztonságban érezzék magukat -- a gazdasági ösztönzőkért. És ezt két féle képpen lehet megcsinálni.
One, you can make people actually secure and hope they notice. Or two, you can make people just feel secure and hope they don't notice. Right? So what makes people notice? Well, a couple of things: understanding of the security, of the risks, the threats, the countermeasures, how they work. But if you know stuff, you're more likely to have your feelings match reality. Enough real-world examples helps. We all know the crime rate in our neighborhood, because we live there, and we get a feeling about it that basically matches reality. Security theater is exposed when it's obvious that it's not working properly.
Egy: valóbban biztonságot szolgáltatsz az embereknek és reméled észreveszik. Vagy kettő: eléred, hogy az emberek csak biztonságban érzzék magukat és reménykedsz, hogy nem veszik észre. Mitől veszik észre az emberek? Egy pár dolog szükséges: a biztonság megértése, a rizikók, a fenyegetések, az ellenintézkedések működését. De ha tudsz ezekről, nagyobb a valószínűsége, hogy az érzéseid megfelelnek a valóságnak. Elégséges számú valós példa segít. Mind ismerjük a bűnözési arányt a környékünkön, mert ott lakunk, és van róla egy érzésünk ami nagyjából megfelel a valóságnak. A biztonsági előadás lelepleződik amikor nyilvánvaló, hogy nem működik megfelelően.
OK. So what makes people not notice? Well, a poor understanding. If you don't understand the risks, you don't understand the costs, you're likely to get the trade-off wrong, and your feeling doesn't match reality. Not enough examples. There's an inherent problem with low-probability events. If, for example, terrorism almost never happens, it's really hard to judge the efficacy of counter-terrorist measures. This is why you keep sacrificing virgins, and why your unicorn defenses are working just great. There aren't enough examples of failures. Also, feelings that cloud the issues -- the cognitive biases I talked about earlier: fears, folk beliefs -- basically, an inadequate model of reality.
Rendben, mi az amitől az emberek nem veszik észre? Nos, a gyenge megértés. Ha nem érted a rizikókat, nem érted a költségeket, valószínűleg rossz kompromisszumot fogsz kötni, és az érzésed nem felel meg a valóságnak. Nincs elég példa. Létezik egy vele járó probléma az alacsony valószínűségű eseményekkel. Ha például a terrorizmus szinte soha nem történik meg, nagyon nehéz megítélni a terrorellenes intézkedések hatékonyságát. Ezért folytatják a szűzek feláldozását, és ezért működnek olyan jól az egyszarvú védelmek. Nincs elég példa a kudarcokra. Szintén, az érzések elfedik a problémákat -- azok az észlelési előítéletek, amikről beszéltem előbb, félelmek, népi hiedelmek, valójában egy nem megfelelő valóságmodell.
So let me complicate things. I have feeling and reality. I want to add a third element. I want to add "model." Feeling and model are in our head, reality is the outside world; it doesn't change, it's real. Feeling is based on our intuition, model is based on reason. That's basically the difference. In a primitive and simple world, there's really no reason for a model, because feeling is close to reality. You don't need a model. But in a modern and complex world, you need models to understand a lot of the risks we face.
Engedjék meg, hogy komplikáljam a dolgokat. Van érzés és valóság. Egy harmadik elemet akarok hozzáadni, a modellt. Érzés és modell a fejünkben, a valóság pedig a külvilág. Az nem vátozik; az valós. Tehát az érzés az intuícióra alapszik. A modell a gondolkodásra alapszik. Ez tulajdonképpen a különbség. Egy primitiv és egyszerű világban nincs igazán szükség a modellre. Mert az érzés közel van a valósághoz. Nincs szükséged modellre. De egy modern és komplex világban, szükséged van modellekre, hogy megérts egy csomó rizikót, azokból amikkel szembesülünk.
There's no feeling about germs. You need a model to understand them. This model is an intelligent representation of reality. It's, of course, limited by science, by technology. We couldn't have a germ theory of disease before we invented the microscope to see them. It's limited by our cognitive biases. But it has the ability to override our feelings. Where do we get these models? We get them from others. We get them from religion, from culture, teachers, elders.
Nem létezik érzés a baktériumokról. Szükséged van egy modellre, hogy megértsd őket. Tehát ez a modell egy intelligens ábrázolása a valóságnak. Természetesen, a tudomány és a technológia határolja be. Nem lehetett bakteriális elméletünk a betegségekről, mielőtt feltaláltuk a mikroszkópot, amivel láthattuk őket. Az észlelési hajlamaink határolják be. De megvan az a képessége, hogy felülírja az érzéseinket. Honnan kapjuk ezeket a modelleket? Másoktól kapjuk. A vallástól, a kúltúrából, tanároktól, idősebbektől.
A couple years ago, I was in South Africa on safari. The tracker I was with grew up in Kruger National Park. He had some very complex models of how to survive. And it depended on if you were attacked by a lion, leopard, rhino, or elephant -- and when you had to run away, when you couldn't run away, when you had to climb a tree, when you could never climb a tree. I would have died in a day. But he was born there, and he understood how to survive. I was born in New York City. I could have taken him to New York, and he would have died in a day.
Egy pár éve, Dél-Afrikában voltam szafarin. A nyomkereső akivel voltam a Kruger Nemzeti Parkban nőtt fel. Néhány nagyon komplex túlélési modellje volt. És attól függött, hogy mi támadott meg: egy oroszlán vagy egy leopárd vagy egy orrszarvú vagy egy elefánt -- és mikor kell elszaladni, és mikor kell fára mászni -- illetve mikor nem szabad soha fára mászni. Én egy nap alatt meghaltam volna, de ő ott nőtt fel, és megértette hogyan kell életben maradni. Én New York-ban születtem. Elvihettem volna őt New York-ba és ő halt volna meg egy nap alatt.
(Laughter)
(Nevetés)
Because we had different models based on our different experiences. Models can come from the media, from our elected officials ... Think of models of terrorism, child kidnapping, airline safety, car safety. Models can come from industry. The two I'm following are surveillance cameras, ID cards, quite a lot of our computer security models come from there.
Mivel különböző modelljeink voltak a különböző tapasztalatainkra alapozva. A modellek származhatnak a médiából, a választott hivatalnokoktól. Gondoljanak a terrorizmus modellekre, gyermekrablásra, repülés biztonságra, autós biztonságra. A modellek jöhetnek az iparból. Kettő amit követek: a biztonsági kamerák, azonosító kártyák, elég sok számítógépes biztonsági modell jön onnan.
A lot of models come from science. Health models are a great example. Think of cancer, bird flu, swine flu, SARS. All of our feelings of security about those diseases come from models given to us, really, by science filtered through the media. So models can change. Models are not static. As we become more comfortable in our environments, our model can move closer to our feelings.
Egy csomó modell jön a tudományból. Az egészségi modellek nagyon jó példák. Gondoljanak a rákra, a madár vagy sertés influenzára, az atípusos tüdőgyulladásra. Az összes biztonsági érzésünk ezekről a betegségekről a modellektől származnak, amiket a média által megszűrt tudománytól kaptunk. Tehát a modellek változhatnak. A modellek nem statikusak. Ahogy jobban megszokjuk a környezetünket a modelljeink közeledhetnek az érzéseinkhez.
So an example might be, if you go back 100 years ago, when electricity was first becoming common, there were a lot of fears about it. There were people who were afraid to push doorbells, because there was electricity in there, and that was dangerous. For us, we're very facile around electricity. We change light bulbs without even thinking about it. Our model of security around electricity is something we were born into. It hasn't changed as we were growing up. And we're good at it. Or think of the risks on the Internet across generations -- how your parents approach Internet security, versus how you do, versus how our kids will.
Egy példa lehetne ez: ha visszamennénk 100 évet, amikor az elektromosság először kezdett elterjedni, sok félelem volt vele kapcsolatban. Voltak emberek akik féltek megnyomni a csengő gombját, mivel elektromosság volt benne, és az veszélyes volt. Mi már könnyedén vesszük az elektromosságot. Villanykörtéket cserélünk ki gondolkodás nélkül. A mi elektromosság biztonsági modellünk olyasmi amibe mi beleszülettünk. Nem változott amíg felnőttünk. És jók vagyunk benne. Vagy gondoljanak az Internet rizikóira a generációkon át -- hogyan viszonyulnak a szüleik az Internet biztonsághoz, ellentétben önökkel, ellentétben azzal, ahogy gyermekeink fognak.
Models eventually fade into the background. "Intuitive" is just another word for familiar. So as your model is close to reality and it converges with feelings, you often don't even know it's there. A nice example of this came from last year and swine flu. When swine flu first appeared, the initial news caused a lot of overreaction. Now, it had a name, which made it scarier than the regular flu, even though it was more deadly. And people thought doctors should be able to deal with it. So there was that feeling of lack of control. And those two things made the risk more than it was.
A modellek végül beleolvadnak a háttérbe. Az ösztönösség csak egy másik szó a megszokottra. Tehát ahogy a modelljük közeledik a valósághoz, és közelít az érzésekhez, sokszor nem is tudják, hogy ott van. Egy jó példa erre a tavalyi sertés influenza volt. Amikor a sertés influenza először megjelent, az első hírek sok túlreagálást okoztak. Aztán lett egy neve, amitől ijesztőbb lett mint a közönséges influenza, habár halálosabb volt. És az emberek azt gondolták, hogy az orvosok majd megbirkóznak vele. Tehát az ellenőrzés hiányának az érzése volt. És ez a két dolog
As the novelty wore off and the months went by, there was some amount of tolerance; people got used to it. There was no new data, but there was less fear. By autumn, people thought the doctors should have solved this already. And there's kind of a bifurcation: people had to choose between fear and acceptance -- actually, fear and indifference -- and they kind of chose suspicion. And when the vaccine appeared last winter, there were a lot of people -- a surprising number -- who refused to get it. And it's a nice example of how people's feelings of security change, how their model changes, sort of wildly, with no new information, with no new input. This kind of thing happens a lot.
felnagyította a rizikót. Ahogy az újdonság elkopott, teltek a hónapok, létezett egy adag tolerancia, az emberek hozzászoktak. Nem voltak új adatok, de kevesebb volt a félelem. Őszre az emberek azt gondolták, hogy az orvosoknak már meg kellet volna oldani ezt. És itt van egy fajta elágazás -- az embereknek választani kellett a félelem és az elfogadás között -- tulajdonképpen a félelem és a közöny között -- és valahogy a gyanút választották. És amikor az oltás megjelent a múlt télen, nagyon sok ember -- meglepő számban -- visszautasította az oltást -- mintegy szép példként arra, hogyan változik az emberek biztonsági érzése és modellje, elég vadul, új információ nélkül, új betáplált adat nélkül. Ilyen esetek sokszor fordulnak elő.
I'm going to give one more complication. We have feeling, model, reality. I have a very relativistic view of security. I think it depends on the observer. And most security decisions have a variety of people involved. And stakeholders with specific trade-offs will try to influence the decision. And I call that their agenda. And you see agenda -- this is marketing, this is politics -- trying to convince you to have one model versus another, trying to convince you to ignore a model and trust your feelings, marginalizing people with models you don't like. This is not uncommon. An example, a great example, is the risk of smoking. In the history of the past 50 years, the smoking risk shows how a model changes, and it also shows how an industry fights against a model it doesn't like.
Még egy komplikációt vezetek be. Van érzés, modell, valóság. Nekem egy nagyon relativisztikus nézetem van a biztonságról. Azt gondolom, függ a megfigyelőtől. És a legtöbb biztonsági döntésbe változatos emberek vannak érdekelve. És a résztvevők a sajátos kompromisszumaikkal megpróbálják befolyásolni a döntést. Én ezt az ő programjuknak nevezem. És láthatják a programot -- ez az értékesítés, ez a politika -- megpróbálnak meggyőzni, hogy ez legyen a modelled és nem az, megpróbálnak meggyőzni, hogy mellőzz egy modellt és bízz az érzéseidben, kiszorítva az embereket akiknek modelljét nem szereted. Ez nem ritka. Egy nagyon jó példa erre a dohányzás rizikója. Az elmúlt 50 évben a dohányzás rizikója megmutatja hogyan változott a modell, és azt is megmutatja hogyan harcolt egy iparág egy modell ellen, amit nem szeretett.
Compare that to the secondhand smoke debate -- probably about 20 years behind. Think about seat belts. When I was a kid, no one wore a seat belt. Nowadays, no kid will let you drive if you're not wearing a seat belt. Compare that to the airbag debate, probably about 30 years behind. All examples of models changing. What we learn is that changing models is hard. Models are hard to dislodge. If they equal your feelings, you don't even know you have a model. And there's another cognitive bias I'll call confirmation bias, where we tend to accept data that confirms our beliefs and reject data that contradicts our beliefs. So evidence against our model, we're likely to ignore, even if it's compelling. It has to get very compelling before we'll pay attention.
Hasonlítsák ezt össze a passzív dohányzás vitával -- valószínüleg 20 évvel lemeradva. Gondoljanak a biztonsági övre. Amikor gyerek voltam, senki nem használt biztonsági övet. Manapság egy gyermek se enged vezetni, ha nem használod a biztonsági övet. Hasonlítsák ezt össze a légzsák vitával -- valószínüleg 30 évvel lemeradva. Mind példák a modellek változására. Megtanultuk, hogy nehéz a modelleket megváltoztatni. Nehéz a modelleket kimozdítani. Ha a modellek megfelelnek az érzéseiknek, nem is tudják, hogy van egy modelljük. És van egy másik észlelési előítélet, amit én igazolási előítéletnek nevezek, ahol hajlamosak vagyunk elfogadni az olyan adatot, amelyik igazolja a hiedelmeinket és elutasítjuk az olyan adatot amelyik ellentmond nekik. Tehát valószínűleg mellőzük a modellünk elleni bizonyítékot, még ha ellenállhatatlan is. Nagyon ellenállhatatlanná kell váljon mielőtt figyelembe vesszük.
New models that extend long periods of time are hard. Global warming is a great example. We're terrible at models that span 80 years. We can do "to the next harvest." We can often do "until our kids grow up." But "80 years," we're just not good at. So it's a very hard model to accept. We can have both models in our head simultaneously -- that kind of problem where we're holding both beliefs together, the cognitive dissonance. Eventually, the new model will replace the old model.
Nagyon nehezek az új, hosszú időre szóló modellek. A globális felmelegedés egy kiváló példa. Szörnyűek vagyunk a 80 évet felölelő modellekben. A következő aratásig tartunk ki. Gyakran kitartunk, mít a gyermekeink felnőnek. De 80 év, egyszerűen nem vagyunk jók ebben. Tehát ez egy nagyon nehezen elfogadható modell. Lehet a fejünkben egyszerre mindkét modell, vagy az a fajta probléma, amikor két dologban hiszünk egyszerre, vagy a kognitív disszonancia. Végül,
Strong feelings can create a model.
az új modell helyetesíteni fogja a régi modellt.
September 11 created a security model in a lot of people's heads. Also, personal experiences with crime can do it, personal health scare, a health scare in the news. You'll see these called "flashbulb events" by psychiatrists. They can create a model instantaneously, because they're very emotive. So in the technological world, we don't have experience to judge models. And we rely on others. We rely on proxies. And this works, as long as it's the correct others.
Erős érzések létrehozhatnak egy modellt. Szeptember 11.-e létrehozott egy biztonsági modellt sok ember fejében. Személyes bűnügyi tapasztalat szintén megteheti, személyes egészségügyi ijedelem, egy egészségügyi pánik a hírekben. Láthatják ezeket a pszichiáterek által villanólámpa eseményeknek nevezett dolgokat. Létrehozhatnak egy modellt azonnal, mert nagyon érzelmileg színezettek. Tehát a technológiai világban nincs tapasztalatunk, hogy megítéljük a modelleket. És másokban bízunk. Közvetítőkben bízunk. Vagyis ez addig működik amíg másokat javítunk ki.
We rely on government agencies to tell us what pharmaceuticals are safe. I flew here yesterday. I didn't check the airplane. I relied on some other group to determine whether my plane was safe to fly. We're here, none of us fear the roof is going to collapse on us, not because we checked, but because we're pretty sure the building codes here are good. It's a model we just accept pretty much by faith. And that's OK.
Kormányhivatalokban bízunk, hogy megmondják nekünk melyik gyógyszerek biztonságosak. Tegnap repültem ide. Nem ellenőriztem a repülőt. Megbíztam egy másik csoportban, hogy megállapítsa repülhet-e az én gépem. Itt vagyunk, senki se fél, hogy a tető ránk fog szakadni, nem azért mert ellenőriztük volna, hanem mert elég biztosak vagyunk abban, hogy az építési szabályok megfelelőek itt. Ez egy modell, amit simán elfogadunk nagyjából hit alapján. És ez rendben van.
Now, what we want is people to get familiar enough with better models, have it reflected in their feelings, to allow them to make security trade-offs. When these go out of whack, you have two options. One, you can fix people's feelings, directly appeal to feelings. It's manipulation, but it can work. The second, more honest way is to actually fix the model. Change happens slowly. The smoking debate took 40 years -- and that was an easy one. Some of this stuff is hard. Really, though, information seems like our best hope.
Nos, amit akarunk az az, hogy az emberek elég jártasak legyenek a megfelelőbb modellekben -- ez jelenjen meg az érzéseikben -- hogy meg tudják hozni a biztonsági döntéseiket. Amikor ezek nem működnek, két lehetőségünk van. Első, megjavíthatjuk az emberek érzéseit, egyenesen az érzésekhez fordulhatunk. Ez manipuláció, de működhet. A második, becsületesebb út, a modell megjavítása. A változás lassan történik. A dohányzás vita 40 évet tartott, és az egy könnyű eset volt. Egyes dolgok nehezek. Vagyis nagyon nehezek, az információ tűnik a legjobb reményünknek.
And I lied. Remember I said feeling, model, reality; reality doesn't change? It actually does. We live in a technological world; reality changes all the time. So we might have, for the first time in our species: feeling chases model, model chases reality, reality's moving -- they might never catch up. We don't know. But in the long term, both feeling and reality are important.
És hazudtam. Emlékezenk, amikor azt mondtam: érzés, modell, valóság. Azt mondtam a valóság nem változik. De igen, változik. Egy technológiai világban élünk, a valóság állandóan változik. És talán -- fajunk esetében először -- az történik, hogy az érzés üldözi a modellt, a modell üldözi a valóságot, a valóság mozog -- talán soha nem érik egymást utol. Nem tudjuk. De hosszútávon, mind az érzés, mind a valóság fontosak.
And I want to close with two quick stories to illustrate this. 1982 -- I don't know if people will remember this -- there was a short epidemic of Tylenol poisonings in the United States. It's a horrific story. Someone took a bottle of Tylenol, put poison in it, closed it up, put it back on the shelf, someone else bought it and died. This terrified people. There were a couple of copycat attacks. There wasn't any real risk, but people were scared. And this is how the tamper-proof drug industry was invented. Those tamper-proof caps? That came from this. It's complete security theater. As a homework assignment, think of 10 ways to get around it. I'll give you one: a syringe. But it made people feel better. It made their feeling of security more match the reality.
És befejezésül két rövid történettel fogom ezt ábrázolni. 1982 -- nem tudom, hogy az emberek emlékni fognak erre -- akkor volt egy rövid Tylenol mérgezési járvány az USA-ban. Egy borzasztó történet. Valaki fogott egy Tylenol-os üveget, mérget tett bele, lezárta, visszatette a polcra. Valaki más megvette és meghalt. Ez megrémísztette az embereket. Volt egy pár másolós támadás is. Nem volt igazi rizikó, de az emberek meg voltak rémülve. És így jött létre a biztonsági kupakkal lezárt gyógyszerek iparága. Azok a biztonsági kupakok ebből származnak. Ez egy teljes biztonsági előadás. És házi feladatnak gondoljanak ki 10 módot ennek megkerülésére. Egyet megadok: a fecskendő. De az emberek jobban érezték magukat tőle. A biztonság érzésüket jobban közelítette a valósághoz.
Last story: a few years ago, a friend of mine gave birth. I visit her in the hospital. It turns out, when a baby's born now, they put an RFID bracelet on the baby, a corresponding one on the mother, so if anyone other than the mother takes the baby out of the maternity ward, an alarm goes off. I said, "Well, that's kind of neat. I wonder how rampant baby snatching is out of hospitals." I go home, I look it up. It basically never happens.
Utolsó történet, egy pár éve, egy barátnőm szült. Meglátogattam a kórházban. Kiderült, hogy most amikor egy csecsemő születik, tesznek egy RFID-es karkötőt a csecsemőre [RFID = rádiófrekvenciás azonosító] a párját meg az anyára teszik, tehát ha bárki más az anyán kivül kivinné a csecsemőt a szülészetről, megszólal a riasztó. Azt mondtam: "Nos, ez elegáns. Kiváncsi vagyok mennyire burjánzó a csecsemők rablása a kórházakból." Haza mentem, rákerestem. Tulajdonképpen, soha nem történik ilyen.
(Laughter)
De, ha belegondolnak,
But if you think about it, if you are a hospital, and you need to take a baby away from its mother, out of the room to run some tests, you better have some good security theater, or she's going to rip your arm off.
ha ön egy kórház volna, és el kellene vegye a csecsemőt az anyától, ki a szobából, valamilyen vizsgálatok miatt, hát legyen valamilyen jó biztonsági előadása, vagy máskülönben az anya letépi a karját.
(Laughter)
(Nevetés)
So it's important for us, those of us who design security, who look at security policy -- or even look at public policy in ways that affect security. It's not just reality; it's feeling and reality. What's important is that they be about the same. It's important that, if our feelings match reality, we make better security trade-offs.
Tehát fontos számunkra, akik a biztonságot tervezik, akik a biztonsági szabályokat hozzák, vagy akár a közpolitikát úgy módosítják, hogy érinti a biztonságot. Nem csak valóság, hanem érzés és valóság. Ami fontos, hogy ezek körülbelül egyformák legyenek. Fontos, hogy ha érzésünk megfelel a valóságnak, akkor jobb biztonsági döntéseket hozunk.
Thank you.
Köszönöm.
(Applause)
(Taps)