Intelligenz -- Was ist das? Wenn wir uns ansehen, wie Intelligenz geschichtlich interpretiert wurde, dann war das berühmte Zitat von Edsger Dijkstra ein Durchbruch: "Die Frage, ob eine Maschine denken kann, ist ungefähr so interessant wie die Frage, ob ein U-Boot schwimmen kann." Als Edsger Dijkstra dies geschrieben hat, wollte er die frühen Pioniere der Informatik kritisieren, wie zum Beispiel Alan Turing. Wenn wir aber zurückschauen und darüber nachdenken, welche bahnbrechenden Erfindungen uns am meisten dazu befähigt haben, schwimmende Maschinen und denkende [fliegende] Maschinen zu bauen, sehen wir, dass uns nur das Verständnis des physikalischen Mechanismus des Schwimmens und Fliegens dazu befähigt hat, diese Maschinen zu bauen. Deshalb habe ich vor einigen Jahren den Versuch gestartet, den fundamentalen physikalischen Mechanismus der Intelligenz zu verstehen.
Intelligence -- what is it? If we take a look back at the history of how intelligence has been viewed, one seminal example has been Edsger Dijkstra's famous quote that "the question of whether a machine can think is about as interesting as the question of whether a submarine can swim." Now, Edsger Dijkstra, when he wrote this, intended it as a criticism of the early pioneers of computer science, like Alan Turing. However, if you take a look back and think about what have been the most empowering innovations that enabled us to build artificial machines that swim and artificial machines that [fly], you find that it was only through understanding the underlying physical mechanisms of swimming and flight that we were able to build these machines. And so, several years ago, I undertook a program to try to understand the fundamental physical mechanisms underlying intelligence.
Gehen wir einen Schritt zurück und beginnen mit einem Gedankenexperiment. Stellen wir uns vor, wir wären Außerirdische, die nichts über irdische Biologie, Neurowissenschaften oder Intelligenz wissen, aber fantastische Teleskope haben, mit denen wir die Erde beobachten können, und ein erstaunlich langes Leben haben, sodass wir die Erde über Millionen, sogar Milliarden von Jahren beobachten können. Da sehen wir einen sehr seltsamen Effekt, nämlich dass die Erde über die Jahrtausende hinweg, kontinuierlich von Asteroiden bombardiert wird bis zu einem Punkt, und dass an dem Punkt, ungefähr im Jahr 2000 n. Chr., Asteroiden, die sich auf Kollisionskurs mit der Erde befinden, die sonst kollidiert wären, mysteriöserweise abgelenkt werden oder explodieren, bevor sie die Erde treffen. Als Erdbewohner kennen wir natürlich den eigentlichen Grund dafür, nämlich dass wir uns selbst zu retten versuchen. Wir versuchen einen Einschlag zu vermeiden. Aber wenn man ein Außerirdischer wäre, der von all dem nichts weiß, der keine Ahnung von irdischer Intelligenz hat, wäre man gezwungen, eine physikalische Theorie aufzustellen, warum Asteroiden, die bis zu einem bestimmten Zeitpunkt die Oberfläche des Planeten zerstört haben, dies mysteriöserweise nicht mehr tun. Ich behaupte, dass das die gleiche Frage ist, wie die Frage nach der physikalischen Natur der Intelligenz.
Let's take a step back. Let's first begin with a thought experiment. Pretend that you're an alien race that doesn't know anything about Earth biology or Earth neuroscience or Earth intelligence, but you have amazing telescopes and you're able to watch the Earth, and you have amazingly long lives, so you're able to watch the Earth over millions, even billions of years. And you observe a really strange effect. You observe that, over the course of the millennia, Earth is continually bombarded with asteroids up until a point, and that at some point, corresponding roughly to our year, 2000 AD, asteroids that are on a collision course with the Earth that otherwise would have collided mysteriously get deflected or they detonate before they can hit the Earth. Now of course, as earthlings, we know the reason would be that we're trying to save ourselves. We're trying to prevent an impact. But if you're an alien race who doesn't know any of this, doesn't have any concept of Earth intelligence, you'd be forced to put together a physical theory that explains how, up until a certain point in time, asteroids that would demolish the surface of a planet mysteriously stop doing that. And so I claim that this is the same question as understanding the physical nature of intelligence.
Deshalb habe ich mir in dem Versuch, den ich vor einigen Jahren gestartet habe, viele unterschiedliche Themen angesehen, aus verschiedenen wissenschaftlichen Bereichen, die, denke ich, alle auf einen einzigen, der Intelligenz zugrundeliegenden Mechanismus hindeuten. In der Kosmologie, zum Beispiel, gab es mehrere verschiedene Beweisketten, dass unser Universum genau auf die Entwicklung von Intelligenz abgestimmt zu sein scheint, und, noch genauer, für die Entwicklung von universellen Zuständen, die die Vielfalt möglicher Zukünfte maximieren. Beim Spielen, zum Beispiel, bei Go -- alle erinnern sich noch an das Jahr 1997, als der Deep Blue von IBM Garry Kasparov im Schach schlug -- weniger Menschen sind sich bewusst, dass etwa in den letzten 10 Jahren das Spiel Go, mutmaßlich ein viel anspruchsvolleres Spiel, da es einen viel höheren Verzweigungsfaktor hat, immer öfter auch von Computern gewonnen wird, und zwar aus dem gleichen Grund: die momentan besten Techniken für Computer, Go zu spielen, sind Techniken, die zukünftige Optionen während des Spiels zu maximieren versuchen. Bei der Planung von Roboterbewegung gibt es eine Reihe neuer Techniken, die versuchen auszunutzen, dass Roboter zukünftige Handlungsfreiheit maximieren können, um komplexe Aufgaben zu erfüllen. Also mit dem gesammelten Wissen aus all diesen verschiedenen Bereichen habe ich mich vor einigen Jahren gefragt, ob es einen der Intelligenz zugrundeliegenden Mechanismus gibt, den wir aus all diesen Gedankensträngen herausfiltern können? Gibt es eine einzelne Gleichung für Intelligenz?
So in this program that I undertook several years ago, I looked at a variety of different threads across science, across a variety of disciplines, that were pointing, I think, towards a single, underlying mechanism for intelligence. In cosmology, for example, there have been a variety of different threads of evidence that our universe appears to be finely tuned for the development of intelligence, and, in particular, for the development of universal states that maximize the diversity of possible futures. In game play, for example, in Go -- everyone remembers in 1997 when IBM's Deep Blue beat Garry Kasparov at chess -- fewer people are aware that in the past 10 years or so, the game of Go, arguably a much more challenging game because it has a much higher branching factor, has also started to succumb to computer game players for the same reason: the best techniques right now for computers playing Go are techniques that try to maximize future options during game play. Finally, in robotic motion planning, there have been a variety of recent techniques that have tried to take advantage of abilities of robots to maximize future freedom of action in order to accomplish complex tasks. And so, taking all of these different threads and putting them together, I asked, starting several years ago, is there an underlying mechanism for intelligence that we can factor out of all of these different threads? Is there a single equation for intelligence?
Und die Antwort, glaube ich, ist ja. ["F = T ∇ Sτ"]. Was Sie gerade sehen, ist wahrscheinlich die beste Entsprechung zu E = mc² für Intelligenz, die ich gesehen habe. Was Sie hier sehen, ist eine Aussage der Übereinstimmung, dass Intelligenz eine Kraft ist (F), die so wirkt, dass die zukünftige Handlungsfreiheit maximiert wird. Sie wirkt so, dass die zukünftige Handlungsfreiheit maximiert wird, oder hält Optionen offen, mit einer Stärke (T), mit der Vielfältigkeit möglicher erreichbarer Zukünfte (S), bis zu einem zukünftigen Zeithorizont (tau). Kurz gesagt, Intelligenz mag es nicht, in eine Falle zu tappen. Intelligenz versucht, zukünftige Handlungsfreiheit zu maximieren, und Optionen offen zu halten. Nun, mit dieser einen Gleichung ist es ganz natürlich zu fragen, was können wir damit machen? Was kann sie vorhersagen? Prognostiziert sie menschliche Intelligenz? Prognostiziert sie künstliche Intelligenz? Jetzt werde ich Ihnen ein Video zeigen, das, glaube ich, einige der erstaunlichen Anwendungen dieser Gleichung demonstrieren wird.
And the answer, I believe, is yes. ["F = T ∇ Sτ"] What you're seeing is probably the closest equivalent to an E = mc² for intelligence that I've seen. So what you're seeing here is a statement of correspondence that intelligence is a force, F, that acts so as to maximize future freedom of action. It acts to maximize future freedom of action, or keep options open, with some strength T, with the diversity of possible accessible futures, S, up to some future time horizon, tau. In short, intelligence doesn't like to get trapped. Intelligence tries to maximize future freedom of action and keep options open. And so, given this one equation, it's natural to ask, so what can you do with this? How predictive is it? Does it predict human-level intelligence? Does it predict artificial intelligence? So I'm going to show you now a video that will, I think, demonstrate some of the amazing applications of just this single equation.
(Video) Erzähler: Neue Forschung in der Kosmologie deutet darauf hin, dass Universen, die mehr Unordnung, oder "Entropie", in ihrem Leben produzieren, dazu tendieren, vorteilhaftere Bedingungen für die Existenz intelligenten Lebens, so wie das unsere, zu besitzen. Aber was ist, wenn diese eventuelle kosmologische Verbindung zwischen Entropie und Intelligenz auf einen tieferen Zusammenhang hindeutet? Was, wenn intelligentes Verhalten nicht nur mit der Produktion langfristiger Entropie korreliert, sondern sich sogar direkt daraus entwickelt? Um das herauszufinden, haben wir eine Engine, [eigenständiger Teil eines Computerprogramms] "Entropica", entwickelt, um die Produktion von langfristiger Entropie jedes Systems zu maximieren, in dem sich die Engine befindet. Erstaunlicherweise hat Entropica viele Tierintelligenztests bestanden, Spiele erfolgreich gespielt und sogar Geld mit Aktien verdient, jeweils ohne jegliche Anleitung. Hier sind einige Beispiele von Entropica in Aktion.
(Video) Narrator: Recent research in cosmology has suggested that universes that produce more disorder, or "entropy," over their lifetimes should tend to have more favorable conditions for the existence of intelligent beings such as ourselves. But what if that tentative cosmological connection between entropy and intelligence hints at a deeper relationship? What if intelligent behavior doesn't just correlate with the production of long-term entropy, but actually emerges directly from it? To find out, we developed a software engine called Entropica, designed to maximize the production of long-term entropy of any system that it finds itself in. Amazingly, Entropica was able to pass multiple animal intelligence tests, play human games, and even earn money trading stocks, all without being instructed to do so. Here are some examples of Entropica in action.
Wie ein Mensch aufrecht stehend, ohne umzufallen, sehen wir hier Entropica, wie sie automatisch einen Stab auf einem Wagen balanciert. Dieses Verhalten ist bemerkenswert, weil wir Entropia nie ein Ziel gegeben haben. Sie hat einfach von selbst entschieden, den Stab zu balancieren. Diese Fähigkeit zu balancieren, wird Anwendung für humanoide Robotik und technische Hilfsmittel finden. So wie manche Tiere Objekte in ihrer Umwelt als Werkzeuge nutzen, um in enge Räume einzudringen, sehen wir hier, dass Entropica es geschafft hat, wieder aus eigener Initiative, eine große Scheibe, die ein Tier darstellt, so zu bewegen, dass eine kleine Scheibe, ein Werkzeug, in einen begrenzten Raum eindringt, der eine dritte Scheibe enthält, und befreit die dritte Scheibe aus ihrer Fixierung. Diese Fähigkeit wird Anwendung finden bei eleganten Produktionstechniken und Landwirtschaft. Außerdem, genau wie manche Tiere kooperieren, indem sie gleichzeitig an beiden Enden eines Seils ziehen, um an Essen zu gelangen, sehen wir hier, dass Entropia es schafft, dies im Modell umzusetzen. Diese Kooperationsfähigkeit hat interessante Auswirkungen für Wirtschaftsplanung und viele andere Bereiche.
Just like a human standing upright without falling over, here we see Entropica automatically balancing a pole using a cart. This behavior is remarkable in part because we never gave Entropica a goal. It simply decided on its own to balance the pole. This balancing ability will have appliactions for humanoid robotics and human assistive technologies. Just as some animals can use objects in their environments as tools to reach into narrow spaces, here we see that Entropica, again on its own initiative, was able to move a large disk representing an animal around so as to cause a small disk, representing a tool, to reach into a confined space holding a third disk and release the third disk from its initially fixed position. This tool use ability will have applications for smart manufacturing and agriculture. In addition, just as some other animals are able to cooperate by pulling opposite ends of a rope at the same time to release food, here we see that Entropica is able to accomplish a model version of that task. This cooperative ability has interesting implications for economic planning and a variety of other fields.
Entropica kann auf eine Vielzahl von Gebieten angewendet werden. Hier sehen wir sie erfolgreich ein Pong-Spiel gegen sich selbst spielen, was ihr Potential im Spielen zeigt. Hier sehen wir Entropica dabei, wie sie neue Verbindungen in sozialen Netzwerken arrangiert, wo Freunde immer wieder den Kontakt verlieren; sie erhält das Netzwerk erfolgreich aufrecht. Dieselbe Fähigkeit des Networkings hat auch Anwendung bei medizinischer Versorgung, Energie und Intelligenz. Hier sehen wir Entropica, wie sie eine Schiffsflotte lenkt, den Panamakanal erfolgreich entdeckt und benutzt, um ihre Reichweite global vom Atlantik in den Pazifik auszudehnen. Aus dem gleichen Grund ist Entropica weitreichend auf Probleme in autonomer Verteidigung, Logistik und Transport anwendbar.
Entropica is broadly applicable to a variety of domains. For example, here we see it successfully playing a game of pong against itself, illustrating its potential for gaming. Here we see Entropica orchestrating new connections on a social network where friends are constantly falling out of touch and successfully keeping the network well connected. This same network orchestration ability also has applications in health care, energy, and intelligence. Here we see Entropica directing the paths of a fleet of ships, successfully discovering and utilizing the Panama Canal to globally extend its reach from the Atlantic to the Pacific. By the same token, Entropica is broadly applicable to problems in autonomous defense, logistics and transportation.
Zum Schluss sehen wir hier, wie Entropica eine "billig kaufen, teuer verkaufen"-Strategie an einer simulierten Fernhandelsbörse spontan entdeckt und anwendet und dadurch das verwaltete Vermögen exponentiell vermehrt. Diese Fähigkeit zum Risikomanagement wird umfassende Anwendung in Finanzen und Versicherungen haben.
Finally, here we see Entropica spontaneously discovering and executing a buy-low, sell-high strategy on a simulated range traded stock, successfully growing assets under management exponentially. This risk management ability will have broad applications in finance and insurance.
Alex Wissner-Gross: Wir haben gerade gesehen, dass eine Vielzahl von eindeutig menschlich-intelligenten kognitiven Verhaltensweisen, so wie Werkzeuggebrauch, aufrechter Gang und soziale Kooperation, alle aus einer einzigen Gleichung folgen, die ein System dazu bringt, seine zukünftige Handlungsfreiheit zu maximieren.
Alex Wissner-Gross: So what you've just seen is that a variety of signature human intelligent cognitive behaviors such as tool use and walking upright and social cooperation all follow from a single equation, which drives a system to maximize its future freedom of action.
Dies führt zu einer tiefen Ironie. Wenn wir zurückgehen zum Anfang der Nutzung des Wortes "Roboter", dem Spiel "RUR", dann gab es immer das Konzept, dass, wenn wir maschinelle Intelligenz entwickelten, es eine kypernetische Revolte gäbe. Die Maschinen würden sich gegen uns wenden. Eine wichtige Folgerung aus dieser Arbeit ist, dass wir vielleicht seit Jahrzehnten das Konzept kybernetischer Revolten falsch herum gesehen haben. Maschinen werden nicht zuerst intelligent und dann größenwahnsinning, und versuchen, die Welt zu erobern. Das ziemliche Gegenteil stimmt, dass der Drang zur Kontrolle aller möglichen Zukünfte ein fundamentaleres Prinzip ist, als das der Intelligenz, dass allgemeine Intelligenz sogar direkt aus dieser Art Kontrolldrang hervortritt, statt umgekehrt.
Now, there's a profound irony here. Going back to the beginning of the usage of the term robot, the play "RUR," there was always a concept that if we developed machine intelligence, there would be a cybernetic revolt. The machines would rise up against us. One major consequence of this work is that maybe all of these decades, we've had the whole concept of cybernetic revolt in reverse. It's not that machines first become intelligent and then megalomaniacal and try to take over the world. It's quite the opposite, that the urge to take control of all possible futures is a more fundamental principle than that of intelligence, that general intelligence may in fact emerge directly from this sort of control-grabbing, rather than vice versa.
Eine weitere wichtige Folgerung ist die Zielsuche. Ich werde oft gefragt, wie resultiert die Fähigkeit, Ziele zu suchen, aus dieser Grundstruktur? Und die Antwort darauf: Die Fähigkeit zur Zielsuche folgt direkt daraus, und zwar im folgenden Sinn: Genau wie Sie durch einen Tunnel reisen würden, einem Flaschenhals der möglichen Zukünfte, sodass Sie später viele andere Ziele erreichen können, oder genauso wie Sie in finanzielle Sicherheit investieren, dadurch kurzfristig weniger liquide sind, aber langfristig Ihr Vermögen vergrößern, so folgt Zielsuche direkt aus einem langfristigen Drang, die zukünftige Handlungsfreiheit zu vergrößern.
Another important consequence is goal seeking. I'm often asked, how does the ability to seek goals follow from this sort of framework? And the answer is, the ability to seek goals will follow directly from this in the following sense: just like you would travel through a tunnel, a bottleneck in your future path space, in order to achieve many other diverse objectives later on, or just like you would invest in a financial security, reducing your short-term liquidity in order to increase your wealth over the long term, goal seeking emerges directly from a long-term drive to increase future freedom of action.
Zum Abschluss, Richard Feynman, berühmter Physiker, hat einmal geschrieben, dass, wenn die menschliche Zivilisation zerstört würde, und nur ein einziges Konzept an unsere Nachfahren weitergegeben werden könnte, um den Wiederaufbau zu unterstützen, sollte es dieses sein: dass alle Materie um uns herum aus winzigen Elementen besteht, die sich anziehen, wenn sie weit voneinander weg sind, aber sich abstoßen, wenn sie nah zusammen sind. Mein Äquivalent dieser Aussage, Nachfahren etwas zu hinterlassen, um den Aufbau künstlicher Intelligenz zu unterstützen, oder ihnen zu helfen, menschliche Intelligenz zu verstehen, ist das folgende: Intelligenz sollte gesehen werden als ein physikalischer Prozess, der zukünftige Handlungsfreiheit zu maximieren versucht, und Einschränkungen der Zukunft vermeidet.
Finally, Richard Feynman, famous physicist, once wrote that if human civilization were destroyed and you could pass only a single concept on to our descendants to help them rebuild civilization, that concept should be that all matter around us is made out of tiny elements that attract each other when they're far apart but repel each other when they're close together. My equivalent of that statement to pass on to descendants to help them build artificial intelligences or to help them understand human intelligence, is the following: Intelligence should be viewed as a physical process that tries to maximize future freedom of action and avoid constraints in its own future.
Vielen Dank.
Thank you very much.
(Applaus)
(Applause)