This story begins in 1985, when at age 22, I became the World Chess Champion after beating Anatoly Karpov. Earlier that year, I played what is called simultaneous exhibition against 32 of the world's best chess-playing machines in Hamburg, Germany. I won all the games, and then it was not considered much of a surprise that I could beat 32 computers at the same time. To me, that was the golden age.
הסיפור מתחיל ב-1985, כשבגיל 22 הפכתי לאלוף העולם בשחמט אחרי שניצחתי את אנטולי קארפוב. מוקדם יותר באותה שנה שיחקתי מה שקרוי "משחק סימולטני" נגד 32 ממכונות השחמט הכי טובות בעולם בהמבורג שבגרמניה. ניצחתי בכל המשחקים, ובאותם ימים איש לא הופתע במיוחד שאני יכול להביס 32 מחשבים בו-זמנית. בשבילי זה היה תור הזהב.
(Laughter)
(צחוק)
Machines were weak, and my hair was strong.
המכונות היו חלשות, השיער שלי היה חזק.
(Laughter)
(צחוק)
Just 12 years later, I was fighting for my life against just one computer in a match called by the cover of "Newsweek" "The Brain's Last Stand." No pressure.
12 שנה בלבד לאחר מכן, נלחמתי על חיי נגד מחשב אחד בלבד במשחק שהוכתר על שער ה"ניוזוויק" כ"מאבקו האחרון של המוח". בלי לחץ.
(Laughter)
(צחוק)
From mythology to science fiction, human versus machine has been often portrayed as a matter of life and death. John Henry, called the steel-driving man in the 19th century African American folk legend, was pitted in a race against a steam-powered hammer bashing a tunnel through mountain rock. John Henry's legend is a part of a long historical narrative pitting humanity versus technology. And this competitive rhetoric is standard now. We are in a race against the machines, in a fight or even in a war. Jobs are being killed off. People are being replaced as if they had vanished from the Earth. It's enough to think that the movies like "The Terminator" or "The Matrix" are nonfiction.
מן המיתולוגיה ועד המדע הבדיוני, התמודדות המוח במכונה תוארה לעתים קרובות כמאבק לחיים ולמוות. ג'ון הנרי, "הפטיש האנושי", באגדת העם האפרו-אמריקנית מהמאה ה-19, הועמד בתחרות מול פטיש קיטור אוטומטי במשימה של הנחת פסי רכבת במנהרה שעברה בסלע הררי. האגדה על ג'ון הנרי היא חלק מנראטיב היסטורי ארוך המעמיד את האנושות מול הטכנולוגיה. והרטוריקה התחרותית הזאת היא כיום עניין רגיל. אנו נתונים במירוץ נגד המכונות, במאבק, ואף במלחמה. מקומות עבודה מתחסלים. אנשים מוחלפים, כאילו נעלמו מעל פני האדמה. חישבו רק על כך שסרטים כמו "שליחות קטלנית" ו"מטריקס" אינם בדיוניים.
There are very few instances of an arena where the human body and mind can compete on equal terms with a computer or a robot. Actually, I wish there were a few more. Instead, it was my blessing and my curse to literally become the proverbial man in the man versus machine competition that everybody is still talking about. In the most famous human-machine competition since John Henry, I played two matches against the IBM supercomputer, Deep Blue. Nobody remembers that I won the first match --
יש רק דוגמאות בודדות לזירה שבה הגוף והמוח האנושיים יכולים להתחרות בתנאים שווים מול מחשב או רובוט. למען האמת, הלוואי והיו דוגמאות נוספות. אלא שהיתה זו מבחינתי ברכה וגם קללה לגלם את דמות האדם בתחרות המיתולוגית של האדם נגד המכונה שכולם עדיין מדברים עליה. בתחרות אדם-מכונה הכי ידועה מאז ג'ון הנרי, שיחקתי בשני משחקים נגד מחשב-העל של איי-בי-אם, "כחול עמוק". איש לא זוכר שניצחתי במשחק הראשון --
(Laughter)
(צחוק)
(Applause)
(מחיאות כפיים ותרועות)
In Philadelphia, before losing the rematch the following year in New York. But I guess that's fair. There is no day in history, special calendar entry for all the people who failed to climb Mt. Everest before Sir Edmund Hillary and Tenzing Norgay made it to the top. And in 1997, I was still the world champion when chess computers finally came of age. I was Mt. Everest, and Deep Blue reached the summit. I should say of course, not that Deep Blue did it, but its human creators -- Anantharaman, Campbell, Hoane, Hsu. Hats off to them. As always, machine's triumph was a human triumph, something we tend to forget when humans are surpassed by our own creations.
בפילדלפיה, לפני שהובסתי במשחק החוזר כעבור שנה, בניו-יורק. אבל כנראה שזה הוגן. לא קיים יום היסטורי, ציון מיוחד בלוח השנה, לכבוד כל אותם אנשים שלא הצליחו לטפס על האוורסט לפני שסר אדמונד הילרי וטנזינג נורגיי הגיעו אל הפסגה. וב-1997 עדיין הייתי אלוף העולם כשהשחמט הממוחשב הגיע סוף-סוף לבשלות, אני הייתי הר האוורסט, ו"כחול עמוק" הגיע לפסגה. עלי לומר, כמובן, שלא "כחול עמוק" הוא שעשה זאת, אלא יוצריו האנושיים -- אננתראמאן, קמפבל, הון, סו. להסיר בפניהם את הכובע. כתמיד, נצחון המכונה היה נצחונו של האדם, משהו שאנו נוטים לשכוח כשהיצירה מתעלה על יוצריה האנושיים.
Deep Blue was victorious, but was it intelligent? No, no it wasn't, at least not in the way Alan Turing and other founders of computer science had hoped. It turned out that chess could be crunched by brute force, once hardware got fast enough and algorithms got smart enough. Although by the definition of the output, grandmaster-level chess, Deep Blue was intelligent. But even at the incredible speed, 200 million positions per second, Deep Blue's method provided little of the dreamed-of insight into the mysteries of human intelligence.
"כחול עמוק" ניצח, אבל האם הוא היה נבון? לא, ממש לא. לפחות לא כמו שטיורינג ושאר מייסדי מדעי המחשב קיוו שיהיה. הסתבר שבשחמט, אפשר להכריע בכוח גס, מעת שהחומרה נעשתה מהירה מספיק והאלגוריתמים נעשו חכמים מספיק. אם כי, בהגדרה הצרה ולפי מבחן התוצאה, ברמת רב-אמן בשחמט, "כחול עמוק" אמנם היה נבון. אבל אפילו במהירות שלא תיאמן של חישוב 200 מיליון מצבים לשניה, שיטתו של "כחול עמוק" סיפקה רק קמצוץ מחלום הפענוח של מסתרי התבונה האנושית.
Soon, machines will be taxi drivers and doctors and professors, but will they be "intelligent?" I would rather leave these definitions to the philosophers and to the dictionary. What really matters is how we humans feel about living and working with these machines.
עוד מעט המכונות תהיינה נהגי מוניות, רופאים ומרצות, אך האם הן תהיינה "נבונות"? אני מעדיף להשאיר את עניין ההגדרות לפילוסופים ולמילונים. מה שבאמת חשוב הוא מה אנו, בני האדם, מרגישים ביחס לחיים ולעבודה לצד המכונות האלה.
When I first met Deep Blue in 1996 in February, I had been the world champion for more than 10 years, and I had played 182 world championship games and hundreds of games against other top players in other competitions. I knew what to expect from my opponents and what to expect from myself. I was used to measure their moves and to gauge their emotional state by watching their body language and looking into their eyes.
כשפגשתי לראשונה את "כחול עמוק" ב-1996, בפברואר, הייתי אלוף העולם כבר יותר מעשר שנים, וכבר השתתפתי ב-182 אליפויות עולם ובמאות משחקים נגד שחקני צמרת בתחרויות אחרות. ידעתי למה לצפות מהיריבים שלי ולמה לצפות מעצמי. התרגלתי להעריך את מהלכיהם ולאמוד את מצבם הרגשי לפי שפת הגוף שלהם, ומכך שהבטתי בעיניהם.
And then I sat across the chessboard from Deep Blue. I immediately sensed something new, something unsettling. You might experience a similar feeling the first time you ride in a driverless car or the first time your new computer manager issues an order at work. But when I sat at that first game, I couldn't be sure what is this thing capable of. Technology can advance in leaps, and IBM had invested heavily. I lost that game. And I couldn't help wondering, might it be invincible? Was my beloved game of chess over? These were human doubts, human fears, and the only thing I knew for sure was that my opponent Deep Blue had no such worries at all.
ואז התיישבתי ליד לוח השחמט, מול "כחול עמוק". זיהיתי מיד משהו שונה, משהו מטריד. אולי תהיה לכם הרגשה דומה בפעם הראשונה בה תסעו במכונית ללא נהג או בפעם הראשונה בה תוכנת המחשב החדשה שלכם תנפיק הזמנה. אבל כשהתיישבתי לאותו משחק ראשון, לא ידעתי לבטח מה הדבר הזה מסוגל לעשות. הטכנולוגיה יכולה להתקדם בקפיצות, ואיי-בי-אם השקיעה בה המון. הפסדתי באותו משחק. ולא יכולתי שלא לתהות, אם הוא בלתי-מנוצח. האם תמו ימיו של משחק השחמט האהוב שלי? היו אלה ספקות אנושיים, חששות אנושיים, והדבר היחיד שידעתי לבטח היה שליריבי, "כחול עמוק", אין שום דאגות כאלה.
(Laughter)
(צחוק)
I fought back after this devastating blow to win the first match, but the writing was on the wall. I eventually lost to the machine but I didn't suffer the fate of John Henry who won but died with his hammer in his hand. [John Henry Died with a Hammer in His Hand Palmer C. Hayden] [The Museum of African American Art, Los Angeles] It turned out that the world of chess still wanted to have a human chess champion. And even today, when a free chess app on the latest mobile phone is stronger than Deep Blue, people are still playing chess, even more than ever before. Doomsayers predicted that nobody would touch the game that could be conquered by the machine, and they were wrong, proven wrong, but doomsaying has always been a popular pastime when it comes to technology.
השבתי מלחמה אחרי אותה מכה ניצחת וניצחתי במשחק הראשון. אבל הכתובת כבר היתה על הקיר. בסופו של דבר הפסדתי למכונה אבל לא נגזר עלי לסבול כמו ג'ון הנרי שניצח, אך מת כשפטישו בידו. הסתבר שעולם השחמט עדיין רצה באלוף שחמט אנושי. ואף היום, כשיישומון שחמט חינמי בטלפון הנייד האחרון הוא חזק יותר מ"כחול עמוק", אנשים עדיין משחקים שחמט, אפילו יותר מאי-פעם. רואי-שחורות ניבאו שאיש לא ייגע במשחק שעלול להיכבש בידי המכונות, והם טעו, טעו בעליל, אבל חיזוי-שחורות היה תמיד בילוי פופולרי בכל הקשור לטכנולוגיה.
What I learned from my own experience is that we must face our fears if we want to get the most out of our technology, and we must conquer those fears if we want to get the best out of our humanity. While licking my wounds, I got a lot of inspiration from my battles against Deep Blue. As the old Russian saying goes, if you can't beat them, join them. Then I thought, what if I could play with a computer -- together with a computer at my side, combining our strengths, human intuition plus machine's calculation, human strategy, machine tactics, human experience, machine's memory. Could it be the perfect game ever played?
הלקח שלמדתי מהתנסותי האישית הוא שחובה עלינו להתייצב מול פחדינו אם ברצוננו להפיק את המירב מהטכנולוגיה שלנו, וחובה עלינו לכבוש פחדים אלה אם ברצוננו להפיק את המיטב מהאנושיות שלנו. ליקקתי את פצעי, אך זכיתי גם להשראה רבה מהקרבות שלי נגד "כחול עמוק". כדברי האימרה הרוסית הישנה, "אם אינך יכול להביסם, הצטרף אליהם." ואז תהיתי, מה אם אוכל לשחק עם מחשב -- ביחד עם מחשב, בכוחות מאוחדים: אינטואיציה אנושית יחד עם כוח-חישוב של מכונה, איסטרטגיה אנושית, טקטיקות מכונה, נסיון אנושי, זכרון מכונה. האם זה יהיה המשחק הטוב ביותר ששוחק אי-פעם?
My idea came to life in 1998 under the name of Advanced Chess when I played this human-plus-machine competition against another elite player. But in this first experiment, we both failed to combine human and machine skills effectively. Advanced Chess found its home on the internet, and in 2005, a so-called freestyle chess tournament produced a revelation. A team of grandmasters and top machines participated, but the winners were not grandmasters, not a supercomputer. The winners were a pair of amateur American chess players operating three ordinary PCs at the same time. Their skill of coaching their machines effectively counteracted the superior chess knowledge of their grandmaster opponents and much greater computational power of others. And I reached this formulation. A weak human player plus a machine plus a better process is superior to a very powerful machine alone, but more remarkably, is superior to a strong human player plus machine and an inferior process. This convinced me that we would need better interfaces to help us coach our machines towards more useful intelligence.
הרעיון שלי התגשם ב-1998, תחת השם "שחמט מתקדם", כשהתחריתי בגירסת האדם-ועוד-מכונה נגד שחקן צמרת נוסף. אבל באותו נסיון ראשון, שנינו לא הצלחנו לשלב ביעילות את כישורי האדם והמכונה. השחמט המתקדם מצא לו בית באינטרנט, וב-2005, טורניר שחמט "בסגנון חופשי", הביא לתגלית. השתתפו בו צוות של רבי-אמן ומחשבים מעולים, אבל המנצחים לא היו רבי-אמן ולא מחשב-על. המנצחים היו זוג שחקני שחמט חובבניים אמריקניים שהפעילו בו-זמנית שלושה מחשבים אישיים רגילים. המיומנות שלהם באימון מכונותיהם הצליחה לעמוד מול עדיפות הידע בשחמט של יריביהם, רבי האמן וכוח המיחשוב החזק בהרבה של אחרים. ואני הגעתי לנוסחה הזאת: שחקן אנושי חלש ועוד מכונה ועוד עיבוד משופר טובים יותר ממכונה רבת-עוצמה לבדה, אבל מה שראוי יותר לציון - טובים יותר משחקן אנושי חזק ועוד מכונה עם עיבוד נחות. זה שכנע אותנו בכך שנזדקק לממשקים טובים יותר שיעזרו לנו לאמן את מכונותינו כדי להגיע לתבונה שימושית יותר.
Human plus machine isn't the future, it's the present. Everybody that's used online translation to get the gist of a news article from a foreign newspaper, knowing its far from perfect. Then we use our human experience to make sense out of that, and then the machine learns from our corrections. This model is spreading and investing in medical diagnosis, security analysis. The machine crunches data, calculates probabilities, gets 80 percent of the way, 90 percent, making it easier for analysis and decision-making of the human party. But you are not going to send your kids to school in a self-driving car with 90 percent accuracy, even with 99 percent. So we need a leap forward to add a few more crucial decimal places.
אדם ועוד מכונה אינם העתיד, אלא ההווה. כל מי שנעזר בתרגום מקוון כדי לקבל את תמצית החדשות של כתב-עת זר, יודע שזה רחוק משלמות. לאחר מכן אנו נעזרים בנסיוננו האנושי כדי למצוא בזה הגיון, ואז המכונה לומדת מהתיקונים שלנו. המודל הזה מתפשט ומושקע באבחון רפואי, ניתוח בטחוני. המכונה גורסת נתונים, מחשבת הסתברויות, עושה 80% מהדרך, 90%, ומקלה על הניתוח וקבלת ההחלטות של הצד האנושי. אבל הרי אין סיכוי שתשלחו את הילד לביה"ס במכונית אוטונומית בעלת 90 אחוזי דיוק, ואפילו 99%. לכן נחוצה לנו קפיצה קדימה שתוסיף לנו עוד כמה ספרות קריטיות אחרי הנקודה העשרונית.
Twenty years after my match with Deep Blue, second match, this sensational "The Brain's Last Stand" headline has become commonplace as intelligent machines move in every sector, seemingly every day. But unlike in the past, when machines replaced farm animals, manual labor, now they are coming after people with college degrees and political influence. And as someone who fought machines and lost, I am here to tell you this is excellent, excellent news. Eventually, every profession will have to feel these pressures or else it will mean humanity has ceased to make progress. We don't get to choose when and where technological progress stops. We cannot slow down. In fact, we have to speed up. Our technology excels at removing difficulties and uncertainties from our lives, and so we must seek out ever more difficult, ever more uncertain challenges. Machines have calculations. We have understanding. Machines have instructions. We have purpose. Machines have objectivity. We have passion. We should not worry about what our machines can do today. Instead, we should worry about what they still cannot do today, because we will need the help of the new, intelligent machines to turn our grandest dreams into reality. And if we fail, if we fail, it's not because our machines are too intelligent, or not intelligent enough. If we fail, it's because we grew complacent and limited our ambitions. Our humanity is not defined by any skill, like swinging a hammer or even playing chess.
20 שנה אחרי המשחק שלי נגד "כחול עמוק", המשחק השני, אותה כותרת מרעישה "מאבקו האחרון של המוח" הפך לדבר רגיל. כשמכונות נבונות נכנסות לכל מגזר, לכאורה מידי יום. אבל שלא כמו בעבר, כשמכונות החליפו חיות משק או עבודת כפיים, היום המטרה שלהן היא אנשים עם תארים והשפעה פוליטית. וכמי שנאבק במכונה והפסיד, אני אומר לכם שאלה בשורות מצוינות, מעולות. בסופו של דבר, כל מקצוע ייאלץ לחוש את הלחצים האלה, אחרת, המשמעות היא שהקידמה האנושית נעצרה. לא בידינו הבחירה מתי ואיפה תיעצר ההתקדמות הטכנולוגית. אסור לנו להאט. למען האמת, עלינו להאיץ. הטכנולוגיה שלנו מצטיינת בסילוק קשיים ואי-וודאויות מחיינו. ולכן עלינו לשאוף לאתגרים עוד יותר קשים ועוד פחות ודאיים. למכונות יש כוח-חישוב; לנו יש הבנה. למכונות יש הוראות; לנו יש מטרה. למכונות יש אובייקטיביות; לנו יש להט. איננו צריכים לדאוג מה המכונות שלנו יכולות לעשות היום אלא לדאוג מה הן עדיין לא מסוגלות לעשות היום, כי אנו עתידים להזדקק לעזרת מכונות חדשות ונבונות שיהפכו למציאות את הנשגבים בחלומותינו. ואם ניכשל, אם ניכשל, יהיה זה לא בגלל שהמכונות שלנו נבונות מדי, או לא נבונות מספיק, אם ניכשל, זה יהיה בגלל שהפכנו שאננים ומוגבלים בשאיפותינו. האנושיות שלנו אינה מוגדרת על-ידי מיומנות כזו או אחרת, כמו הנפת פטיש או אף משחק שחמט.
There's one thing only a human can do. That's dream. So let us dream big.
יש דבר אחד שרק האדם מסוגל לעשות. לחלום. אז בואו נחלום בגדול.
Thank you.
תודה לכם.
(Applause)
(מחיאות כפיים)