I didn't always love unintended consequences, but I've really learned to appreciate them. I've learned that they're really the essence of what makes for progress, even when they seem to be terrible. And I'd like to review just how unintended consequences play the part that they do.
Я не завжди любив непрогнозовані наслідки, але я навчився їх цінувати. Я дізнався, що вони є суттю того, з чого твориться прогрес, навіть тоді, коли вони здаються страшними. І я хотів би розглянути, яку непрогнозовані наслідки відіграють роль і яким чином вони це роблять.
Let's go to 40,000 years before the present, to the time of the cultural explosion, when music, art, technology, so many of the things that we're enjoying today, so many of the things that are being demonstrated at TED were born. And the anthropologist Randall White has made a very interesting observation: that if our ancestors 40,000 years ago had been able to see what they had done, they wouldn't have really understood it. They were responding to immediate concerns. They were making it possible for us to do what they do, and yet, they didn't really understand how they did it.
Повернімося на 40000 років назад, до часу культурного вибуху, коли музика, мистецтво, технології, так багато речей, якими ми користуємося сьогодні, так багато речей, що демонструються на TED тільки зароджувались. І антрополог Рендал Вайт зробив дуже цікаве спостереження: що, якби наші пращури 40 тис. років тому були б в змозі побачити, що вони зробили, вони, мабуть, цього б не зрозуміли. Вони відповідали на нагальні виклики. Вони зробили можливим для нас робити те, що ми робимо, і тим не менше вони насправді не зрозуміли б, як вони зробили це.
Now let's advance to 10,000 years before the present. And this is when it really gets interesting. What about the domestication of grains? What about the origins of agriculture? What would our ancestors 10,000 years ago have said if they really had technology assessment? And I could just imagine the committees reporting back to them on where agriculture was going to take humanity, at least in the next few hundred years. It was really bad news. First of all, worse nutrition, maybe shorter life spans. It was simply awful for women. The skeletal remains from that period have shown that they were grinding grain morning, noon and night. And politically, it was awful. It was the beginning of a much higher degree of inequality among people. If there had been rational technology assessment then, I think they very well might have said, "Let's call the whole thing off."
Переместімося тепер до позначки 10000 років назад. Саме з цього моменту все стає справді цікавим. Як щодо окультурення злаків? Чи щодо зародження сільського господарства? Що б наші предки 10000 років тому сказали якби мали технологію оцінки? І я можу собі уявити картину: комітети звітують перед ними щодо того, чим сільске господарство буде для людства, принаймі в наступні кілька сотень років. Це були б по-справжньому погані новини. Перш за все, гірше харчування, можливо коротший термін життя. Це було б просто жахливо для жінок. Залишки скелетів того періоду показали, що вони розмелювали зерно вранці, вдень і вночі. І політично - це було б жахливо. Це був початок набагато більшого рівня нерівності між людьми. Якби тоді провели раціональну оцінку технологій, я думаю, що вони скоріш за все сказали б: "Давайте залишимо все як є".
Even now, our choices are having unintended effects. Historically, for example, chopsticks -- according to one Japanese anthropologist who wrote a dissertation about it at the University of Michigan -- resulted in long-term changes in the dentition, in the teeth, of the Japanese public. And we are also changing our teeth right now. There is evidence that the human mouth and teeth are growing smaller all the time. That's not necessarily a bad unintended consequence. But I think from the point of view of a Neanderthal, there would have been a lot of disapproval of the wimpish choppers that we now have. So these things are kind of relative to where you or your ancestors happen to stand.
Навіть зараз, наш вибір має непрогнозовані наслідки. Історично, наприклад, палички, зі слів одного японського антрополога, який написав дисертацію про них в Університеті Мічигану, стали причиною тривалих змін в прикусі, в зубах японців. І ми також змінюємо наші зуби сьогодні. Є докази, що рот і зуби людини з часом стають менші і менші. Це не обовязково поганий непрогнозований наслідок. Але я думаю, що, з точки зору неандертальця, сильний осуд викликало б володіння крихітними зубами, які ми зараз маємо. Так що ці речі досить відносні та залежать від того, де ви чи ваші предки знаходяться.
In the ancient world there was a lot of respect for unintended consequences, and there was a very healthy sense of caution, reflected in the Tree of Knowledge, in Pandora's Box, and especially in the myth of Prometheus that's been so important in recent metaphors about technology. And that's all very true. The physicians of the ancient world -- especially the Egyptians, who started medicine as we know it -- were very conscious of what they could and couldn't treat. And the translations of the surviving texts say, "This I will not treat. This I cannot treat." They were very conscious. So were the followers of Hippocrates. The Hippocratic manuscripts also -- repeatedly, according to recent studies -- show how important it is not to do harm. More recently, Harvey Cushing, who really developed neurosurgery as we know it, who changed it from a field of medicine that had a majority of deaths resulting from surgery to one in which there was a hopeful outlook, he was very conscious that he was not always going to do the right thing. But he did his best, and he kept meticulous records that let him transform that branch of medicine.
В давньому світі приділяли велику увагу непрогнозованим наслідкам, у них було здорове почуття обережності, що відобразилось у Дереві Пізнання, у Скрині Пандори, і, особливо, у міфі про Прометея, який стає важливим в недавніх метафорах про технології. І це все дуже правдиво. Лікарі Давнього світу, особливо єгиптяни, які заклали основи медицини такої, якою ми її знаємо, були досить розсудливими щодо того, що вони могли чи не могли вилікувати. У перекладах збережених текстів говориться: "Це я не буду лікувати. Це я не можу лікувати." Вони були дуже розсудливими. Такими були і послідовники Гіпократа. У манускриптах Гіпократа також, неодноразово, згідно з останніми дослідженнями, показано, як важливо не завдати шкоди. Пізніше, Харві Кушинг, засновник сучасної нейрохірургії, який змінив її з гілки медицини, яка мала переважно смертельні наслідки операційного втручання, на одну з перспективних, він був цілком свідомим того, що він не завжди робить все правильно. Але він робив все можливе, він зберігав скурпульозні записи, які дозволили йому трансформувати цю галузь медицини.
Now if we look forward a bit to the 19th century, we find a new style of technology. What we find is, no longer simple tools, but systems. We find more and more complex arrangements of machines that make it harder and harder to diagnose what's going on. And the first people who saw that were the telegraphers of the mid-19th century, who were the original hackers. Thomas Edison would have been very, very comfortable in the atmosphere of a software firm today. And these hackers had a word for those mysterious bugs in telegraph systems that they called bugs. That was the origin of the word "bug." This consciousness, though, was a little slow to seep through the general population, even people who were very, very well informed.
Тепер, якщо ми глянемо дещо вперед, у 19-те сторіччя, ми знайдемо новий стиль технологій. Ми знайдемо вже не прості інструменти, а системи. Ми знайдемо все більш і більш складні механізми у машинах, які дедалі ускладнюють розуміння того, що відбувається. І першими, хто це помітив, були телеграфісти середини 19-го сторіччя, вони були першими хакерами. Томасу Едісону було б дуже-дуже комфортно в атмосфері софтверних фірм сучасності. І ці хакери запровадили слово для незрозумілих помилок у телеграфній системі: вони назвали їх комахами - "багами". Таким було походження слова "баг". Це усвідомлення, втім, не поспішало поширюватися на загальну публіку, навіть на дуже-дуже добре поінформованих людей.
Samuel Clemens, Mark Twain, was a big investor in the most complex machine of all times -- at least until 1918 -- registered with the U.S. Patent Office. That was the Paige typesetter. The Paige typesetter had 18,000 parts. The patent had 64 pages of text and 271 figures. It was such a beautiful machine because it did everything that a human being did in setting type -- including returning the type to its place, which was a very difficult thing. And Mark Twain, who knew all about typesetting, really was smitten by this machine. Unfortunately, he was smitten in more ways than one, because it made him bankrupt, and he had to tour the world speaking to recoup his money. And this was an important thing about 19th century technology, that all these relationships among parts could make the most brilliant idea fall apart, even when judged by the most expert people.
Самюель Клеменс - Марк Твен - був великим інвестором у найскладнішу техніку всіх часів, принаймні до 1918-го, зареєстровану у Патентному бюро Сполучених Штатів. Це була друкарська машина Пейджа. Друкарська машина Пейджа мала 18 тисяч деталей. Патент налічував 64 сторінки тексту і 271 малюнок. Це була настільки прекрасна машина, робила все, що людина робила до того у друкуванні, включаючи повернення каретки на своє місце, дуже складну річ. І Марк Твен, який знав усе про друкування, справді був вражений цією машиною. На жаль, він був вражений двічі: ця машина зробила його банкрутом, і він мусів їздити по світу з лекціями, аби повернути свої гроші. І це було важливим аспектом для технологій 19-го сторіччя, що всі ці взаємозвязки між деталями могли розвалити навіть найгеніальнішу ідею, навіть якщо її оцінювали експерти.
Now there is something else, though, in the early 20th century that made things even more complicated. And that was that safety technology itself could be a source of danger. The lesson of the Titanic, for a lot of the contemporaries, was that you must have enough lifeboats for everyone on the ship. And this was the result of the tragic loss of lives of people who could not get into them. However, there was another case, the Eastland, a ship that capsized in Chicago Harbor in 1915, and it killed 841 people -- that was 14 more than the passenger toll of the Titanic. The reason for it, in part, was the extra life boats that were added that made this already unstable ship even more unstable. And that again proves that when you're talking about unintended consequences, it's not that easy to know the right lessons to draw. It's really a question of the system, how the ship was loaded, the ballast and many other things.
Тепер дещо іще, на початку 20-го сторіччя, що ускладнило все ще більше. Це - технології безпеки, які самі ставали джерелом небезпеки. Урок Титаніка, для багатьох сучасників, полягав, у тому, що необхідно мати достатньо рятувальних шлюпок для кожного на кораблі. І це був результат трагічних втрат життя людей, які не могли потрапити до них. Але був і інший випадок, у Істленді, - корабель, що перевернувся у Чиказькій гавані у 1915 та забрав життя 841 людини, на 14 життів більше, ніж кількість смертей пасажирів Титаніку. Причиною цього частково були додаткові рятівні шлюпки, які зробили і без того нестійкий корабель ще більш нестійким. І це знову доказує, що коли ви говорите про непрогнозовані наслідки, ніколи не знаєш, які висновки з них будуть правильними. Це насправді питання системне, питання завантаженності корабля, баласту і багатьох інших факторів.
So the 20th century, then, saw how much more complex reality was, but it also saw a positive side. It saw that invention could actually benefit from emergencies. It could benefit from tragedies. And my favorite example of that -- which is not really widely known as a technological miracle, but it may be one of the greatest of all times, was the scaling up of penicillin in the Second World War. Penicillin was discovered in 1928, but even by 1940, no commercially and medically useful quantities of it were being produced. A number of pharmaceutical companies were working on it. They were working on it independently, and they weren't getting anywhere. And the Government Research Bureau brought representatives together and told them that this is something that has to be done. And not only did they do it, but within two years, they scaled up penicillin from preparation in one-liter flasks to 10,000-gallon vats. That was how quickly penicillin was produced and became one of the greatest medical advances of all time. In the Second World War, too, the existence of solar radiation was demonstrated by studies of interference that was detected by the radar stations of Great Britain. So there were benefits in calamities -- benefits to pure science, as well as to applied science and medicine.
Двадцяте сторіччя не лише показало, наскільки ускладнилася реальність, але мало і позитивний бік. Воно показало, що інновації можуть виграти від позаштатних ситуацій. Їх покращують трагедії. І мій улюблений приклад цього, який не є широко відомим як технологіче диво, але є, можливо, кращим усіх часів, - поширення пеніциліну у Другу світову війну. Пеніцилін був винайдений у 1928 році, але навіть у 1940-му у комерційно і медично значимих кількостях він не вироблявся. Кілька фармацевтичних компаній працювали над ним. Вони працювали над ним незалежно і без успіху. Аж доки Державне дослідницьке бюро не зібрало представників разом і не сказало їм, що це необхідно зробити. І вони не лише зробили, але протягом двох років змінили виробництво пеніциліну від препарату в літровому флаконі до 38-тонних баків. Саме з такою швидкістю вироблявся пеніцилін, ставши одним з найбільших медичних досягнень усіх часів. У Другій світовій війні також існування сонячної радіації, продемостроване дослідженням інтерференції, було зареєстроване британськими радарними станціями. Катастрофи приносили користь, вигоди для чистої науки, так саме, які і для наук прикладних, а також медицини.
Now when we come to the period after the Second World War, unintended consequences get even more interesting. And my favorite example of that occurred beginning in 1976, when it was discovered that the bacteria causing Legionnaires disease had always been present in natural waters, but it was the precise temperature of the water in heating, ventilating and air conditioning systems that raised the right temperature for the maximum reproduction of Legionella bacillus. Well, technology to the rescue. So chemists got to work, and they developed a bactericide that became widely used in those systems.
Тепер, коли ми наближаємось до періоду після Другої Світової Війни, непрогнозовані наслідки дедалі цікавішають. Мій улюблений приклад цього почався 1976-го, коли було відкрито, що бактерії, які викликали легіонельоз, завжди наявні у природній воді, але саме температура води у системах вентиляції, опалення і кондиціювання досягла оптимального свого значення для максимальної репродукції бактерії Legionella. Що ж, кличемо на допомогу технології. Тож хіміки приступили до роботи та винайшли бактерицид, який став широко використовуватись у подібних системах
But something else happened in the early 1980s, and that was that there was a mysterious epidemic of failures of tape drives all over the United States. And IBM, which made them, just didn't know what to do. They commissioned a group of their best scientists to investigate, and what they found was that all these tape drives were located near ventilation ducts. What happened was the bactericide was formulated with minute traces of tin. And these tin particles were deposited on the tape heads and were crashing the tape heads. So they reformulated the bactericide. But what's interesting to me is that this was the first case of a mechanical device suffering, at least indirectly, from a human disease. So it shows that we're really all in this together.
Але дещо інше сталось на початку 1980-х, а саме - містична епідемія відмов стрічкових накопичувачів по всіх Штатах. IBM, виробник цих носіїв, не знала, що робити. Вони скликали групу своїх найкращих спеціалістів для розслідування. Ті виявили, що всі стрічкові накопичувачі знаходились біля вентиляційних каналів. Причина була в тому, що бактерицид містив незначні частки олова. І ці часточки олова осідали на магнітних головках приводів, спричиняючи їх відмову. Бактерицид переробили. Але що цікаве для мене - це те, що це був перший випадок, коли механічний пристрій страждав, принаймі опосередковано, від людської хвороби. Так що це показало, що ми в одному човні.
(Laughter)
(сміх)
In fact, it also shows something interesting, that although our capabilities and technology have been expanding geometrically, unfortunately, our ability to model their long-term behavior, which has also been increasing, has been increasing only arithmetically. So one of the characteristic problems of our time is how to close this gap between capabilities and foresight. One other very positive consequence of 20th century technology, though, was the way in which other kinds of calamities could lead to positive advances. There are two historians of business at the University of Maryland, Brent Goldfarb and David Kirsch, who have done some extremely interesting work, much of it still unpublished, on the history of major innovations. They have combined the list of major innovations, and they've discovered that the greatest number, the greatest decade, for fundamental innovations, as reflected in all of the lists that others have made -- a number of lists that they have merged -- was the Great Depression.
Фактично, це також показує, що хоча наші можливості і технології розвинулися у геометричній прогресії, на жаль, наша можливість моделювання їхньої довготривалої поведінки також зростає, але лише у арифметичній прогресії. Отже, одна з характерних проблем нашого часу полягає в тому, як скоротити цей розрив між можливістю та далекоглядністю. Ще одним дуже позитивним наслідком технологій 20-го сторіччя було те, яким чином різні лиха можуть призвести до позитивних зрушень. Два історики бізнесу з Університету Меріленду, Брент Голдфарб та Девід Кірш, зробили дуже цікаву роботу, у великій частині ще не опубліковану, з історії найважливіших інновацій. Вони склали перелік основних інновацій і помітили, що відзначилася найбільшим числом, найбільш плідним десятиріччям для фундаментальних інновацій, як відображено у всіх списках, зроблених іншими (а вони об'єднали кілька списків), була Велика депресія.
And nobody knows just why this was so, but one story can reflect something of it. It was the origin of the Xerox copier, which celebrated its 50th anniversary last year. And Chester Carlson, the inventor, was a patent attorney. He really was not intending to work in patent research, but he couldn't really find an alternative technical job. So this was the best job he could get. He was upset by the low quality and high cost of existing patent reproductions, and so he started to develop a system of dry photocopying, which he patented in the late 1930s -- and which became the first dry photocopier that was commercially practical in 1960. So we see that sometimes, as a result of these dislocations, as a result of people leaving their original intended career and going into something else where their creativity could make a difference, that depressions and all kinds of other unfortunate events can have a paradoxically stimulating effect on creativity.
І ніхто не знає, чому це було так, але одна історія дещо прояснює. Це історія про походження копіра Ксерокс, який святкував своє 50-річчя минулого року. Честер Карлсон, винахідник, був патентним повіреним. Він, насправді, не збирався працювати в дослідженнях патентів, але не зміг знайти іншої технічної роботи. Тож це була найкраща робота з тих, які він міг отримати. Він був засмучений низькою якістю і високою вартістю існуючих патентних репродукцій, і тому почав розробку системи сухого фотокопіювання, яку запатентував у кінці 1930-х та яка стала першою сухою фотокопією, що мала комерційне застосування у 1960-му. Отже ми бачимо, що іноді, в результаті цих незгод, в результаті того, що люди відмовляються від своїх задуманої кар'єр та йдуть до іншої сфери, де їх креативність може викликати зміни, що депресії та будь-які нещасні випадки можуть мати парадоксальний стимулюючий ефект для креативності.
What does this mean? It means, I think, that we're living in a time of unexpected possibilities. Think of the financial world, for example. The mentor of Warren Buffett, Benjamin Graham, developed his system of value investing as a result of his own losses in the 1929 crash. And he published that book in the early 1930s, and the book still exists in further editions and is still a fundamental textbook. So many important creative things can happen when people learn from disasters.
Що це означає? Це означає, я думаю, що ми живемо у час несподіваних можливостей. Подумайте про фінансовий світ, наприклад, Наставник Ворена Бафета, Бенджамін Грехем, розробив свою систему вартістного інвестування в результаті своїх власних втрат у провальному 1929-му. Він опублікував книгу на початку 1930-х і книга все ще перевидається та досі є основним підручником. Так багато важливих винаходів може відбутись, коли люди вчаться на невдачах.
Now think of the large and small plagues that we have now -- bed bugs, killer bees, spam -- and it's very possible that the solutions to those will really extend well beyond the immediate question. If we think, for example, of Louis Pasteur, who in the 1860s was asked to study the diseases of silk worms for the silk industry, and his discoveries were really the beginning of the germ theory of disease. So very often, some kind of disaster -- sometimes the consequence, for example, of over-cultivation of silk worms, which was a problem in Europe at the time -- can be the key to something much bigger.
Тепер подумайте про великі та малі незгоди, що ми маємо тепер - лужкові клопи, бджоли-вбивці, спам - і дуже можливо, що рішення цих проблем будуть за межами цих вузьких питань. Якщо ми думаємо, наприклад, про Луі Пастера, якому у 1860-х було доручено вивчити захворювання шовкових червяків для шовкової промисловості, а його відкриття було початком мікробної теорії інфекційних хвороб. Дуже часто деякі види хвороб, які є наслідком, наприклад, надмірного вирощування шовкових червів, що було проблемою у тогочасній Європі, можуть бути ключем до чогось набагато більшого.
So this means that we need to take a different view of unintended consequences. We need to take a really positive view. We need to see what they can do for us. We need to learn from those figures that I mentioned. We need to learn, for example, from Dr. Cushing, who killed patients in the course of his early operations. He had to have some errors. He had to have some mistakes. And he learned meticulously from his mistakes. And as a result, when we say, "This isn't brain surgery," that pays tribute to how difficult it was for anyone to learn from their mistakes in a field of medicine that was considered so discouraging in its prospects. And we can also remember how the pharmaceutical companies were willing to pool their knowledge, to share their knowledge, in the face of an emergency, which they hadn't really been for years and years. They might have been able to do it earlier.
Це означає, що ми повинні прийняти іншу точку зору щодо непрогнозованих наслідків. Ми потребуємо позитивного погляду. Ми повинні побачити, що вони можуть зробити для нас. Ми повинні вчитися з тих цифр, що я згадував. Ми повинні вчитися, приміром, у доктора Кушінга, який вбивав пацієтнів у ході його ранніх операцій. Він мав зробити якісь помилки. Він не міг не помилятись. І він вчився прискіпливо на своїх помилках. Як результат, коли ми кажемо: "Це не операція на головному мозку", ми віддаємо належне тому, наскільки складно було будь-кому вчитися на своїх помилкам в галузі медицини, перспективи, якої вважались такими примарними. Можемо також згадати, як фармацевтичні компанії були готові об'єднати свої знання, аби ділитися ними перед обличчям надзвичайної ситуації, чого вони не робили до того роками. Вони, можливо, могли б зробити це раніше.
The message, then, for me, about unintended consequences is chaos happens; let's make better use of it.
Мій висновок про непрогнозовані наслідки такий: хаос відбувається; знайдімо йому краще використання.
Thank you very much.
Дуже вам дякую.
(Applause)
(аплодисменти)