I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
Я бы хотел рассказать о двух шахматных матчах. Первый был сыгран в 1997 году, и в нем Гарри Каспаров, человек, проиграл Дип Блю, компьютеру. Для многих это было рассветом новой эры, в которой машины господствуют над людьми. Но вот мы здесь, 20 лет спустя, и самое большое изменение в отношениях с компьютерами — это iPad, но не HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
Второй матч, в турнире по шахматам в вольном стиле, прошёл в 2005-м, и в нем человек мог по желанию использовать машину в качестве партнёра, а не соперника. Сначала результаты были предсказуемыми. Даже суперкомпьютер был побит гроссмейстером с относительно слабым ноутбуком. Но сюрприз был в конце. Кто победил? Не гроссмейстер с суперкомпьютером, а фактически двое американских любителей с тремя относительно слабыми ноутбуками. Их способность тренировать свои компьютеры и манипулировать ими для глубокого исследования специфических позиций эффективно противостояла превосходящим шахматным знаниям гроссмейстеров и выдающейся вычислительной способности их соперников. Это ошеломительный результат: обычные люди и средние компьютеры обыгрывают лучшего игрока и лучший компьютер. И, вообще, разве не предполагалась схватка человека с компьютером? Вместо этого получилось сотрудничество, и правильное сотрудничество.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
За последние 50 лет концепции Марвина Минского касательно искусственного интеллекта уделялось много внимания. Очень соблазнительная концепция, однозначно. Многие её восприняли. Она стала доминирующей школой мысли в компьютерной науке. Но по мере вхождения в эру большого количества данных, сетевых систем, открытых платформ и встроенных технологий, я бы предположил, что настало время переоценить альтернативную версию, которую, в общем-то, разработали почти в то же самое время. Я говорю о симбиозе человек-компьютер Дж. К. Р. Ликлайдера, возможно, более удачно названное «Усилением интеллекта», УИ.
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Ликлайдер был титаном компьютерной науки, оказавшим существенное влияние на развитие технологии и Интернета. Его концепция предполагала сотрудничество человека и компьютера в принятии решений, управлении сложными ситуациями без жёсткой зависимости от заранее предопределённых установок. Обратите внимание на слово «сотрудничать». Ликлайдер не воодушевляет нас взять тостер и сделать его мистером Дэйта из «Стар Трэка», а взять человека и дать ему больше возможностей. Люди так изумительны — то, как мы мыслим, наши нестандартные подходы, наша способность творить, плодить гипотезы — всё это очень трудно, а может и вовсе невозможно для компьютера. Ликлайдер интуитивно осознал это, созерцая, как люди ставят цели, формулируют гипотезы, определяют критерии и выполняют оценку. Конечно, с другой стороны, люди так ограничены. Мы слабы в измерениях, вычислениях и по объёмам данных. Нужен высококлассный отдел управления талантами, чтобы заставить играть рок-группу и удержать её вместе. Ликлайдер предвидел, что компьютеры будут делать всю рутинную работу, требующуюся для проникновения в суть и принятия решений.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
Потихоньку, без лишних фанфар, этот подход стал одерживать победы вне шахматных полей. Фолдинг белка, тема, которую объединяет с шахматами невероятная разветвлённость вариантов: способов сворачивания белка существует больше, чем атомов во вселенной. Это мироизменяющая проблема с огромными перспективами для понимания и лечения болезней. И грубой электронной силы суперкомпьютера недостаточно для этой задачи. «Foldit», игра, созданная компьютерными учёными, демонстрирует ценность данного подхода. Любители, не биологи, не техники, играют в видео-игру, в которой они визуально перестраивают структуру протеина, позволяя компьютеру управлять атомными силами и взаимодействиями и определять структурные составляющие. Этот подход выигрывает у суперкомпьютера в половине случаев, и одерживает ничью в ещё 30%. «Foldit» недавно сделала крупное и значительное научное открытие, расшифровав структуру обезьяньего вируса Мэйсона-Пфайзера. Протеаза, которая ускользала от определения более 10 лет, была рассчитана тремя игроками за несколько дней, что, пожалуй, стало первым большим научным прорывом, возникшим в результате видео-игры.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
В прошлом году на месте башен-близнецов открылся мемориал 9/11. На нем отображаются имена тысяч жертв с использованием красивой концепции «значимой смежности». Она располагает имена друг за другом, основываясь на их взаимоотношениях: друзья, семьи, сотрудники. Если собрать всё это вместе, получается как раз вычислительная задача: 3 500 жертв, 1 800 запросов смежности, влияние общих физических характеристик и конечная эстетика. Как впервые сообщили СМИ, этот подвиг был доверен алгоритму из нью-йоркской дизайнерской фирмы «Local Projects». На самом деле всё немного запутанней. В то время как алгоритм был использован для наброски каркасного эскиза, люди использовали этот эскиз для создания конечного результата. Таким образом, в этом случае компьютер производил оценку миллионов возможных вариантов размещения, управлял сложной системой связей, и следил за очень большим набором величин и переменных, позволяя людям сосредоточиться на макетных и композиционных решениях. И если оглянуться вокруг, мы увидим, как повсюду воплощается концепция Ликлайдера. Будь то дополненная реальность в вашем iPhone или GPS в вашем авто, симбиоз человек-компьютер даёт нам больше возможностей.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
И если вы хотите усовершенствовать этот симбиоз, что вы можете сделать? Вы можете начать со вписывания человека в этот процесс. Вместо размышления на тему, что сделает компьютер для решения некой проблемы, разработайте также варианты того, какую работу выполнит человек. Когда вы это сделаете, вы сразу поймёте, что всё своё время уделяете интерфейсу между человеком и машиной, особенно стараясь сгладить возможные трения в процессе взаимодействия. По сути, это трение является более определяющим для общей эффективности, нежели по отдельности способности человека или мощь машины. Вот почему двое любителей с двумя ноутбуками легко победили суперкомпьютер и гроссмейстера. Как сказал Каспаров, процесс является побочным продуктом трения. Чем лучше процесс, тем меньше трение. И снижение трения становится решающей переменной.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
Или взять другой пример: большой объем данных. Каждое наше взаимодействие с окружающим миром записывается всё большим количеством датчиков: ваш телефон, ваша кредитка, ваш компьютер. Результат — большое количество данных, и оно фактически даёт нам возможность глубже понять состояние человека. Большинство подходов к большим объёмам данных сосредоточивается на том, «Где хранить? Как искать? Как обрабатывать эти данные?» Эти вопросы необходимы, но этого недостаточно. Необходимо выяснить не только то, как вычислять, но и что вычислять. Как вы наложите человеческую интуицию на данные в этом масштабе?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
Опять же, мы начинаем вписывать в процесс человека. Когда PayPal только начинался как бизнес, их главнейшей проблемой было не «Как слать деньги онлайн вперёд и назад?» Вопрос звучал «Как делать это, не став жертвой мошенничества?» Почему это так трудно? Потому что, хотя компьютеры и могут научиться выявлять и распознавать обман, основываясь на заданной схеме, они не могут сделать этого, основываясь на схеме, которую им никто не задавал, а организованная преступность имеет много общего с этой аудиторией: блестящие люди, неустанно изобретательные, с духом предпринимательства — (Смех) и лишь одно большое и важное различие: цели. И пока компьютеры в одиночку могут поймать всех, кроме умнейших мошенников, поимка умнейших является различием между успехом и провалом.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Есть целый класс проблем подобных этой, ситуаций с приспосабливающимся противником. Они крайне редко следуют повторяющейся схеме, улавливаемой компьютером. Вместо этого, в них обязательно присутствует какая-нибудь примесь новизны, нарушения шаблона, и всё чаще эти проблемы погребены в большом объёме данных.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
Например, терроризм. Террористы постоянно приспосабливаются в мелочах и по-крупному к новым обстоятельствам, и, невзирая на то, что вы можете увидеть по ТВ, эти приспособления, и их распознавание принципиально ложатся на плечи людей. Компьютеры не выявляют новые схемы и непривычное поведение, но люди — да. Люди используют технологи, проверяют гипотезы, ищут понимание путём задания задач своим машинам. Осама бин Ладен был пойман не искусственным интеллектом. Он был пойман целеустремлёнными, изобретательными, блестящими людьми совместно с различными технологиями.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Но как бы привлекательно это ни звучало, невозможно вычислить истину путём алгоритма. Нет такой кнопки «Найти террориста». И чем больше данных мы собираем из огромного количества источников разного формата из совершенно различных систем, тем меньше эффективность поиска решения. Людям же достаточно посмотреть на данные и найти догадку. И, как и предвидел Ликлайдер ключом к получению хороших результатов является правильный тип взаимодействия. И, в понимании Каспарова, это означает уменьшить трение в интерфейсе.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Так вот, этот подход делает возможным такие вещи как — прочёсывание всех доступных данных из самых разных источников для определения ключевых закономерностей и сведения их воедино. То, что невозможно было сделать раньше. Кто-то считает, что это очень плохо скажется на личной и общественной свободах. Другие предвещают эру более надёжной защиты личной и социальной свобод. Но личная и социальная свободы имеют принципиальное значение. Они должны быть признаны и не могут игнорироваться даже исходя из самых лучших намерений.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Итак, давайте исследуем на нескольких примерах воздействие, которое технологии привносят в человеко-компьютерный симбиоз на сегодняшний день.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
В октябре 2007, США и силы коалиции обыскали конспиративную квартиру Аль-Каиды в городе Синджар на Сирийской границе Ирака. Они нашли драгоценные документы: 700 биографических очерков иностранных боевиков. Эти иностранные боевики оставили свои семьи в Персидском заливе, Леванте и Северной Африке, чтобы присоединиться к Аль-Каиде в Ираке. Эти записи были опросными анкетами. Иностранные боевики заполняли их при вступлении в организацию. Оказывается, что и в Аль-Каиде тоже не обошлось без бюрократии. (Смех) Они ответили такие вопросы, как: «Кто вас завербовал?», «Какой ваш родной город?», «Какую работу вы ищете?».
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
Последний вопрос раскрыл удивительные подробности. Большое число иностранных боевиков хотели стать смертниками-мучениками, что особенно важно, т.к. приблизительно с 2003-2007 года в Ираке было совершено 1382 взрыва смертников (основной источник нестабильности). Анализировать эти данные было трудно, т.к. оригиналами были листы бумаги на арабском, которые нужно было отсканировать и перевести. «Трение» в процессе не позволяло получить значимые результаты в отведённые сроки используя одних лишь людей, PDF-файлы и упорство. Исследователям нужно было усилить свои людские умы технологией, чтобы копнуть глубже и исследовать неочевидные гипотезы, таким образом открывая новые идеи. 20% иностранных боевиков были из Ливии, 50% из них из одного городка в Ливии, что важно, т.к. до этого в статистике была цифра 3%. Это также помогло обратить внимание на растущую значимость в Аль-Каиде такой фигуры как Абу Яхья аль-Либи старшего священника Ливийской Исламской боевой группы. В марте 2007 года он выступил с речью, после которой наблюдался интенсивный прирост новых участников из ливийских боевиков.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
Возможно самое умное из всего этого, хотя и наименее очевидное, переворачиванием данных с ног на голову исследователи смогли глубоко исследовать сети взаимодействий в Сирии, которые были в конечном счёте ответственны за получение и транспортировку иностранных боевиков на границу. Это были сети наёмников, а не идеологов, которые координировали свои дела для получения прибыли. К примеру, в основном они нанимали больше саудовских боевиков, чем ливийских. Ведь деньги, в ином случае ушли бы в Аль-Каиду. Возможно, противник нарушил бы свои сети если бы знал, что обманывают будущих джихадистов.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
В январе 2010 года по Гаити ударило разрушительное землетрясение, третье в списке самых смертоносных землетрясений за все времена, оставившее один миллион людей, 10% всего населения, без домов. Один, казалось бы, небольшой аспект общих усилий по оказанию помощи становился всё более важным по мере нарушения доставки еды и воды. Январь и Февраль на Гаити — это самые сухие месяцы, и в это время, во многих лагерях вода застоялась. Единственное учреждение, обладающее детальным знанием пойм Гаити, было разрушено в результате землетрясения вместе со своим руководством. Итак, вопрос был в том, какие лагеря в опасности, сколько людей в этих лагерях, каково время затопления, и как организовать переселение имея ограниченные ресурсы. Данные были невероятно разрозненные. Армия США обладала детальным знанием лишь небольшой части страны. В интернете были данные с конференции по экологическим рискам 2006 года и другие геопространственные данные. Но ничто из этого не было объединено. Задачей для человека здесь стало определение лагеря для перемещения на основе приоритета потребностей. Компьютеру же предстояло объединить огромное количество геопространственной информации, данных средств массовой информации и организаций по оказанию помощи для получения ответа на этот вопрос. Осуществление улучшенного процесса, который в ином случае потребовал бы трёх месяцев работы 40 человек, стало простым заданием для трёх человек и 40 часов
all victories for human-computer symbiosis.
и в итоге победой человеко-компьютерного симбиоза.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
Сейчас мы, находясь более 50 лет в концепции будушего Ликлайдера и данные предполагают, что мы должны быть очень рады тому, что можем решить труднейшие задачи этого века силами сотрудничества человека и машины. Спасибо. (Аплодисменты) (Аплодисменты)