I didn't always love unintended consequences, but I've really learned to appreciate them. I've learned that they're really the essence of what makes for progress, even when they seem to be terrible. And I'd like to review just how unintended consequences play the part that they do.
Ik heb niet altijd van onbedoelde gevolgen gehouden, maar ik heb wel geleerd om ze naar waarde te schatten. Ik heb geleerd dat ze de essentie van vooruitgang zijn, zelfs als ze verschrikkelijk zijn. Ik wil met jullie overlopen hoe onbedoelde gevolgen hun duit in het zakje doen.
Let's go to 40,000 years before the present, to the time of the cultural explosion, when music, art, technology, so many of the things that we're enjoying today, so many of the things that are being demonstrated at TED were born. And the anthropologist Randall White has made a very interesting observation: that if our ancestors 40,000 years ago had been able to see what they had done, they wouldn't have really understood it. They were responding to immediate concerns. They were making it possible for us to do what they do, and yet, they didn't really understand how they did it.
Laten we eens teruggaan naar 40.000 jaar voor vandaag, naar de tijd van de culturele explosie toen muziek, kunst, technologie ontstonden. Zo veel van de dingen waar we vandaag van genieten, zo veel van de dingen die bij TED worden gedemonstreerd. De antropoloog Randall White maakte ooit een zeer interessante opmerking: als onze voorouders 40.000 jaar geleden hadden kunnen zien wat ze gedaan hadden, zouden ze het niet hebben begrepen. Ze waren bezig met te reageren op hun onmiddellijke behoeften. Ze maakten het voor ons mogelijk om te doen wat ze doen en toch begrepen ze niet echt hoe ze het deden.
Now let's advance to 10,000 years before the present. And this is when it really gets interesting. What about the domestication of grains? What about the origins of agriculture? What would our ancestors 10,000 years ago have said if they really had technology assessment? And I could just imagine the committees reporting back to them on where agriculture was going to take humanity, at least in the next few hundred years. It was really bad news. First of all, worse nutrition, maybe shorter life spans. It was simply awful for women. The skeletal remains from that period have shown that they were grinding grain morning, noon and night. And politically, it was awful. It was the beginning of a much higher degree of inequality among people. If there had been rational technology assessment then, I think they very well might have said, "Let's call the whole thing off."
Laten we nu verder gaan naar 10.000 jaar voor het heden. Dan wordt het pas echt interessant. Hoe zit het met de domesticatie van graan? Hoe zit het met de oorsprong van de landbouw? Wat zouden onze voorouders 10.000 jaar geleden hebben gezegd als ze technologie zouden evalueren? Ik kan me best voorstellen wat de commissies in hun rapport hen zouden vertellen over waar de landbouw de mensheid naartoe zou leiden. Tenminste in de volgende paar honderd jaar. Het was echt slecht nieuws. In de eerste plaats slechtere voeding, misschien een kortere levensduur. Het was gewoon vreselijk voor de vrouwen. De skeletresten uit die periode hebben aangetoond dat ze de hele dag door bezig waren met graan malen. Ook op politiek gebied was het vreselijk. Het was het begin van een veel hogere mate van ongelijkheid tussen de mensen. Als technologie toen rationeel was geëvalueerd, dan denk ik dat ze heel goed hadden kunnen zeggen: "Laten we dat zaakje maar afblazen."
Even now, our choices are having unintended effects. Historically, for example, chopsticks -- according to one Japanese anthropologist who wrote a dissertation about it at the University of Michigan -- resulted in long-term changes in the dentition, in the teeth, of the Japanese public. And we are also changing our teeth right now. There is evidence that the human mouth and teeth are growing smaller all the time. That's not necessarily a bad unintended consequence. But I think from the point of view of a Neanderthal, there would have been a lot of disapproval of the wimpish choppers that we now have. So these things are kind of relative to where you or your ancestors happen to stand.
Zelfs nu hebben onze keuzes onbedoelde effecten. Historisch gezien, bijvoorbeeld, resulteerde het gebruik van eetstokjes - volgens een Japans antropoloog die er een proefschrift over schreef aan de Universiteit van Michigan - op lange termijn in veranderingen van het gebit, de tanden, van de Japanse bevolking. Ook onze tanden zijn op dit moment aan het veranderen. Er is bewijs dat de menselijke mond en tanden geleidelijk aan kleiner worden. Dat is niet per se een slecht onbedoeld gevolg. Maar ik denk dat een Neanderthaler nogal afkeurend zou kijken naar de slappe bijtertjes die we nu hebben. Dit hangt allemaal af van de positie die jullie of jullie voorouders innemen.
In the ancient world there was a lot of respect for unintended consequences, and there was a very healthy sense of caution, reflected in the Tree of Knowledge, in Pandora's Box, and especially in the myth of Prometheus that's been so important in recent metaphors about technology. And that's all very true. The physicians of the ancient world -- especially the Egyptians, who started medicine as we know it -- were very conscious of what they could and couldn't treat. And the translations of the surviving texts say, "This I will not treat. This I cannot treat." They were very conscious. So were the followers of Hippocrates. The Hippocratic manuscripts also -- repeatedly, according to recent studies -- show how important it is not to do harm. More recently, Harvey Cushing, who really developed neurosurgery as we know it, who changed it from a field of medicine that had a majority of deaths resulting from surgery to one in which there was a hopeful outlook, he was very conscious that he was not always going to do the right thing. But he did his best, and he kept meticulous records that let him transform that branch of medicine.
In de antieke wereld was er veel respect voor onbedoelde gevolgen. Er is een zeer gezond gevoel van voorzichtigheid weerspiegeld in de Boom der Kennis, in de Doos van Pandora, en vooral in de mythe van Prometheus die zo’n belangrijke plaats inneemt in de recente metaforen over technologie. Dat is allemaal heel erg waar. De artsen van de oude wereld - in het bijzonder de Egyptenaren, die begonnen met de geneeskunde zoals wij die kennen - waren zich zeer bewust van wat zij al dan niet konden behandelen. De vertalingen van de overgeleverde teksten zeggen: "Dit zal ik niet behandelen. Dat kan ik niet behandelen." Ze waren zich daar zeer bewust van. Zo ook de volgelingen van Hippocrates. De Hippocratische manuscripten laten ook - herhaaldelijk, volgens recente studies - zien hoe belangrijk het is geen kwaad te doen. Meer recent ontwikkelde Harvey Cushing de neurochirurgie tot de vorm zoals wij die nu kennen. Hij veranderde het van een gebied van de geneeskunde met een meerderheid aan sterfgevallen als gevolg van een operatie naar een situatie waarin er hoopvolle vooruitzichten waren. Hij was zich zeer bewust dat hij niet altijd het juiste ging doen. Maar hij deed zijn best en hij hield een uiterst nauwgezette administratie bij. Daardoor kon hij die tak van de geneeskunde hervormen.
Now if we look forward a bit to the 19th century, we find a new style of technology. What we find is, no longer simple tools, but systems. We find more and more complex arrangements of machines that make it harder and harder to diagnose what's going on. And the first people who saw that were the telegraphers of the mid-19th century, who were the original hackers. Thomas Edison would have been very, very comfortable in the atmosphere of a software firm today. And these hackers had a word for those mysterious bugs in telegraph systems that they called bugs. That was the origin of the word "bug." This consciousness, though, was a little slow to seep through the general population, even people who were very, very well informed.
Als we een beetje vooruitlopen naar de 19e eeuw komen we een nieuwe stijl van technologie tegen. Wij vinden niet langer eenvoudig gereedschap, maar systemen. We vinden meer en meer complexe arrangementen van machines waarbij het steeds moeilijker wordt om uit te maken wat er misgaat. De eerste mensen die dat inzagen waren de telegrafisten van het midden van de 19e eeuw. Dat waren de oorspronkelijke hackers. Thomas Edison zou zich zeer op zijn gemak hebben gevoeld in de sfeer van een softwarebedrijf van vandaag. Deze hackers hadden een woord voor die mysterieuze bugs in telegraafsystemen die ze 'bugs' noemden. Dat was de oorsprong van het woord 'bug'. Dit bewustzijn sijpelde een beetje traag door naar de algemene bevolking. Zelfs naar mensen die zeer, zeer goed geïnformeerd waren.
Samuel Clemens, Mark Twain, was a big investor in the most complex machine of all times -- at least until 1918 -- registered with the U.S. Patent Office. That was the Paige typesetter. The Paige typesetter had 18,000 parts. The patent had 64 pages of text and 271 figures. It was such a beautiful machine because it did everything that a human being did in setting type -- including returning the type to its place, which was a very difficult thing. And Mark Twain, who knew all about typesetting, really was smitten by this machine. Unfortunately, he was smitten in more ways than one, because it made him bankrupt, and he had to tour the world speaking to recoup his money. And this was an important thing about 19th century technology, that all these relationships among parts could make the most brilliant idea fall apart, even when judged by the most expert people.
Samuel Clemens, Mark Twain, was een grote investeerder in de meest complexe machine ooit - in ieder geval tot 1918 - geregistreerd bij de US Patent Office. Dat was de Paige-letterzetter. De Paige-letterzetter had 18.000 onderdelen. Het patent besloeg 64 pagina's tekst en 271 figuren. Het was zo'n mooie machine omdat ze alles deed wat een mens deed bij het letterzetten - ook het terugplaatsen van de letters naar hun bakjes, wat zeer moeilijk was. Mark Twain, die alles wist over typografie, was echt weg van deze machine. Helaas was hij in meer dan één opzicht weg want ze veroorzaakte zijn failliet. Hij moest zijn geld terugverdienen met het geven van voordrachten over de hele wereld. Dit was een belangrijke les over de 19e-eeuwse technologie: dat al deze relaties tussen onderdelen het meest briljante idee konden laten stranden zelfs wanneer het beoordeeld werd door de meest deskundige mensen.
Now there is something else, though, in the early 20th century that made things even more complicated. And that was that safety technology itself could be a source of danger. The lesson of the Titanic, for a lot of the contemporaries, was that you must have enough lifeboats for everyone on the ship. And this was the result of the tragic loss of lives of people who could not get into them. However, there was another case, the Eastland, a ship that capsized in Chicago Harbor in 1915, and it killed 841 people -- that was 14 more than the passenger toll of the Titanic. The reason for it, in part, was the extra life boats that were added that made this already unstable ship even more unstable. And that again proves that when you're talking about unintended consequences, it's not that easy to know the right lessons to draw. It's really a question of the system, how the ship was loaded, the ballast and many other things.
Nu is er iets anders dat in het begin van de 20e eeuw alles nog ingewikkelder maakte. De veiligheidtechnologie kan zelf een bron van gevaar zijn. De les van de Titanic was voor een groot deel van de tijdgenoten dat je genoeg reddingsboten moest hebben voor iedereen op het schip. Dit was het resultaat van het tragische verlies van levens van mensen die er niet in konden geraken. Er was echter een ander geval, de Eastland. Het schip kapseisde in 1915 in Chicago Harbor waarbij 841 mensen de dood vonden - dat waren er 14 meer dan het dodental van de Titanic. Voor een deel was de reden daarvoor dat extra reddingsboten werden toegevoegd. Wat dit toch al instabiele schip nog onstabieler maakte. Dat bewijst opnieuw dat wanneer je het hebt over onbedoelde gevolgen, het niet zo is gemakkelijk om er de juiste lessen uit te trekken. Het is echt een kwestie van het systeem, hoe het schip was geladen, de ballast en vele andere dingen.
So the 20th century, then, saw how much more complex reality was, but it also saw a positive side. It saw that invention could actually benefit from emergencies. It could benefit from tragedies. And my favorite example of that -- which is not really widely known as a technological miracle, but it may be one of the greatest of all times, was the scaling up of penicillin in the Second World War. Penicillin was discovered in 1928, but even by 1940, no commercially and medically useful quantities of it were being produced. A number of pharmaceutical companies were working on it. They were working on it independently, and they weren't getting anywhere. And the Government Research Bureau brought representatives together and told them that this is something that has to be done. And not only did they do it, but within two years, they scaled up penicillin from preparation in one-liter flasks to 10,000-gallon vats. That was how quickly penicillin was produced and became one of the greatest medical advances of all time. In the Second World War, too, the existence of solar radiation was demonstrated by studies of interference that was detected by the radar stations of Great Britain. So there were benefits in calamities -- benefits to pure science, as well as to applied science and medicine.
De 20e eeuw leerde inzien dat de werkelijkheid veel complexer was maar er was ook een positieve kant aan. Ze zag dat inventiviteit haar voordeel kon doen met noodgevallen. We konden profijt trekken uit tragedies. Mijn favoriete voorbeeld hiervan - niet echt bekend als een technologisch wonder, maar het zou een van de grootste aller tijden kunnen zijn - was het opschalen van penicilline in de Tweede Wereldoorlog. Penicilline werd ontdekt in 1928, maar zelfs tegen 1940 werden er nog geen commercieel en medisch nuttige hoeveelheden van geproduceerd. Een aantal farmaceutische bedrijven was er mee bezig. Allemaal op zichzelf en ze kwamen geen meter vooruit. Het Research Bureau van de regering bracht vertegenwoordigers bij elkaar en vertelde hen dat dit iets was dat moest worden gedaan. Niet alleen deden zij het maar binnen de twee jaar schaalden ze de bereiding van penicilline op van literflessen naar vaten van veertig kubieke meter. Daardoor werd penicilline snel geproduceerd en werd het een van de grootste medische vooruitgangen aller tijden. Ook in de Tweede Wereldoorlog werd het bestaan van radiostraling door de zon aangetoond door studies van storingen die werden gedetecteerd door de radarstations van Groot-Brittannië. Uit die rampen kwamen dus voordelen - voordelen voor de zuivere wetenschap, de toegepaste wetenschap en de geneeskunde.
Now when we come to the period after the Second World War, unintended consequences get even more interesting. And my favorite example of that occurred beginning in 1976, when it was discovered that the bacteria causing Legionnaires disease had always been present in natural waters, but it was the precise temperature of the water in heating, ventilating and air conditioning systems that raised the right temperature for the maximum reproduction of Legionella bacillus. Well, technology to the rescue. So chemists got to work, and they developed a bactericide that became widely used in those systems.
Nu komen we tot de periode na de Tweede Wereldoorlog waar onbedoelde gevolgen nog interessanter werden. Mijn favoriete voorbeeld daarvan kwam begin 1976 toen werd ontdekt dat de bacterie die veteranenziekte veroorzaakte, altijd al aanwezig was in natuurlijke wateren. Het had te maken met de temperatuur van het water. In verwarmings-, ventilatie- en airconditioningsystemen werd de temperatuur zodanig verhoogd dat de maximale reproductie van de Legionellabacil er het gevolg van was. Technologie moest het oplossen. Dus gingen chemici aan het werk en ze ontwikkelden een bactericide voor toepassing in deze systemen.
But something else happened in the early 1980s, and that was that there was a mysterious epidemic of failures of tape drives all over the United States. And IBM, which made them, just didn't know what to do. They commissioned a group of their best scientists to investigate, and what they found was that all these tape drives were located near ventilation ducts. What happened was the bactericide was formulated with minute traces of tin. And these tin particles were deposited on the tape heads and were crashing the tape heads. So they reformulated the bactericide. But what's interesting to me is that this was the first case of a mechanical device suffering, at least indirectly, from a human disease. So it shows that we're really all in this together.
Maar iets anders gebeurde in de vroege jaren '80. Er was een mysterieuze epidemie van uitvallen van computer-bandrecorders overal in de Verenigde Staten. Bij de fabrikant IBM wisten ze gewoon niet wat doen. Ze gaven een groep van hun beste wetenschappers de opdracht om het te onderzoeken. Wat ze ontdekten, was dat al deze computer-bandrecorders in de buurt van ventilatiekanalen stonden. Het erin toegepaste bactericide bevatte minieme sporen van tin. Deze tindeeltjes werden afgezet op de koppen en deden de koppen crashen. Ze herformuleerden het bactericide. Maar het interessante voor mij was dat dit het eerste geval was van een mechanisch apparaat dat, onrechtstreeks dan toch, leed aan een menselijke ziekte. Dit laat zien dat we allemaal echt in hetzelfde schuitje zitten.
(Laughter)
(Gelach)
In fact, it also shows something interesting, that although our capabilities and technology have been expanding geometrically, unfortunately, our ability to model their long-term behavior, which has also been increasing, has been increasing only arithmetically. So one of the characteristic problems of our time is how to close this gap between capabilities and foresight. One other very positive consequence of 20th century technology, though, was the way in which other kinds of calamities could lead to positive advances. There are two historians of business at the University of Maryland, Brent Goldfarb and David Kirsch, who have done some extremely interesting work, much of it still unpublished, on the history of major innovations. They have combined the list of major innovations, and they've discovered that the greatest number, the greatest decade, for fundamental innovations, as reflected in all of the lists that others have made -- a number of lists that they have merged -- was the Great Depression.
Sterker nog, het toont ook iets interessants. Onze mogelijkheden en technologie breiden zich geometrisch uit. Maar helaas, ons vermogen om hun lange-termijngedrag - en daarvan is er ook steeds meer - te voorspellen neemt alleen maar rekenkundig toe. Een van de kenmerkende problemen van onze tijd is hoe deze kloof te dichten tussen mogelijkheden en vooruitziendheid. Een ander zeer positief gevolg van de 20e-eeuwse technologie was de manier waarop andere vormen van calamiteiten tot positieve ontwikkelingen kunnen leiden. Er zijn twee economiehistorici aan de Universiteit van Maryland, Brent Goldfarb en David Kirsch, die heel wat interessant werk hebben gedaan, veel ervan nog ongepubliceerd, over de geschiedenis van de grote innovaties. Zij hebben de lijsten van belangrijke innovaties samengesteld en hebben ontdekt dat het grootste aantal, het grootste decennium, voor fundamentele innovaties, zoals weerspiegeld in alle lijsten die anderen hebben gemaakt - een aantal lijsten die ze hebben samengevoegd - de Grote Depressie was.
And nobody knows just why this was so, but one story can reflect something of it. It was the origin of the Xerox copier, which celebrated its 50th anniversary last year. And Chester Carlson, the inventor, was a patent attorney. He really was not intending to work in patent research, but he couldn't really find an alternative technical job. So this was the best job he could get. He was upset by the low quality and high cost of existing patent reproductions, and so he started to develop a system of dry photocopying, which he patented in the late 1930s -- and which became the first dry photocopier that was commercially practical in 1960. So we see that sometimes, as a result of these dislocations, as a result of people leaving their original intended career and going into something else where their creativity could make a difference, that depressions and all kinds of other unfortunate events can have a paradoxically stimulating effect on creativity.
Niemand weet precies waarom dit zo was maar een verhaal kan daar iets van weergeven. Het was de oorsprong van de Xerox-kopieermachine, die vorig jaar haar 50ste verjaardag vierde. Chester Carlson, de uitvinder, was een octrooigemachtigde. Hij was echt niet van plan om te gaan werken in octrooionderzoek maar hij kon geen andere technische baan vinden. Dit was de beste baan die hij kon krijgen. Hij was geschokt door de lage kwaliteit en de hoge kosten van bestaande octrooireproducties en begon een systeem voor droog fotokopiëren te ontwikkelen. Hij patenteerde het in de late jaren ‘30 - en dat werd in 1960 de eerste commercieel praktische droge kopieermachine. Zo zien we dat soms door deze tegenvallers mensen hun oorspronkelijk bedoelde carrière mislopen. Ze komen ergens anders terecht waar hun creativiteit het verschil kan uitmaken. Op die manier kunnen depressies en allerlei andere ongelukkige gebeurtenissen paradoxaal genoeg een stimulerend effect hebben op creativiteit.
What does this mean? It means, I think, that we're living in a time of unexpected possibilities. Think of the financial world, for example. The mentor of Warren Buffett, Benjamin Graham, developed his system of value investing as a result of his own losses in the 1929 crash. And he published that book in the early 1930s, and the book still exists in further editions and is still a fundamental textbook. So many important creative things can happen when people learn from disasters.
Wat betekent dit? Het betekent, denk ik, dat we leven in een tijd van onverwachte mogelijkheden. Denk aan de financiële wereld bijvoorbeeld. De mentor van Warren Buffett, Benjamin Graham, ontwikkelde zijn investeringssysteem door zijn eigen verliezen in de crash van 1929. Hij publiceerde zijn boek in de vroege jaren ‘30. Dat boek bestaat nog steeds in verdere edities en is nog steeds een fundamenteel leerboek. Veel belangrijke creatieve dingen zijn het gevolg van tegenslag.
Now think of the large and small plagues that we have now -- bed bugs, killer bees, spam -- and it's very possible that the solutions to those will really extend well beyond the immediate question. If we think, for example, of Louis Pasteur, who in the 1860s was asked to study the diseases of silk worms for the silk industry, and his discoveries were really the beginning of the germ theory of disease. So very often, some kind of disaster -- sometimes the consequence, for example, of over-cultivation of silk worms, which was a problem in Europe at the time -- can be the key to something much bigger.
Denk eens aan de grote en kleine plagen waar we nu mee zitten - bedwantsen, killerbijen, spam - en het is heel goed mogelijk dat de oplossingen ervoor veel verder zullen gaan dan de oplossing van het probleem. Denk bijvoorbeeld aan Louis Pasteur. Hij werd in de jaren 1860 gevraagd om de ziekten van de zijderupsen voor de zijde-industrie te bestuderen. Zijn ontdekkingen waren het begin van de kiemtheorie van ziektes. Zo vaak kan een of andere tegenvaller - soms het gevolg, bijvoorbeeld, van het overmatig kweken van zijderupsen, zoals toen in Europa - de sleutel tot iets veel groter worden.
So this means that we need to take a different view of unintended consequences. We need to take a really positive view. We need to see what they can do for us. We need to learn from those figures that I mentioned. We need to learn, for example, from Dr. Cushing, who killed patients in the course of his early operations. He had to have some errors. He had to have some mistakes. And he learned meticulously from his mistakes. And as a result, when we say, "This isn't brain surgery," that pays tribute to how difficult it was for anyone to learn from their mistakes in a field of medicine that was considered so discouraging in its prospects. And we can also remember how the pharmaceutical companies were willing to pool their knowledge, to share their knowledge, in the face of an emergency, which they hadn't really been for years and years. They might have been able to do it earlier.
Dit betekent dat we onbedoelde gevolgen anders moeten gaan bekijken. We moeten een positief standpunt innemen. We moeten zien wat ze voor ons kunnen doen. We moeten iets leren van die cijfers die ik vernoemde. We moeten bijvoorbeeld leren van Dr. Cushing, die patiënten doodde in de loop van zijn vroege operaties. Hij moest een aantal fouten maken. Hij moest een aantal missers hebben. En hij leerde nauwgezet van zijn fouten. Als we nu zeggen "Dit is geen hersenchirurgie" dan is dat een eerbetoon aan hoe moeilijk het voor iedereen was om te leren van hun fouten op een gebied van de geneeskunde dat zulke ontmoedigende vooruitzichten had. We mogen ook niet vergeten hoe de farmaceutische bedrijven bereid waren om hun kennis met elkaar te delen in een noodsituatie. Dat hadden ze nooit eerder gedaan. Het had eerder gekund.
The message, then, for me, about unintended consequences is chaos happens; let's make better use of it.
Voor mij is de boodschap uit die onbedoelde gevolgen: chaos komt voor. Laten we er beter gebruik van maken.
Thank you very much.
Heel hartelijk bedankt.
(Applause)
(Applaus)