Днес искам да говоря за... помолиха ме да направя далечен обзор, и ще ви разкажа кои според мен са трите най-големи проблема за човечеството от тази далечна гледна точка. Някои от тях вече бяха зачекнати от други оратори, което е насърчително. Изглежда, няма само едно лице, което смята тези проблеми за важни.
I want to talk today about -- I've been asked to take the long view, and I'm going to tell you what I think are the three biggest problems for humanity from this long point of view. Some of these have already been touched upon by other speakers, which is encouraging. It seems that there's not just one person who thinks that these problems are important.
Първият е... смъртта е голям проблем. Ако се погледне статистиката, шансовете за нас не са много добри. Досега повечето хора, които са живели, също и са умрели. Приблизително 90 процента от всички, които са били живи, са умрели досега. Годишната смъртност е до 150 000... извинете, дневната смъртност... 150 000 души на ден, което е огромно число по всички стандарти. Тогава годишната смъртност става 56 милиона. Ако гледаме само най-голямата причина за смърт - стареенето - тя е отговорна за близо две трети от всички хора, които умират. Така се получава годишна смъртност, по-голяма от населението на Канада. Понякога не виждаме един проблем, защото или е твърде познат, или е твърде голям. Не го виждаме, защото е твърде голям. Според мен смъртта може да е както твърде позната, така и твърде голяма, за да я видят повечето хора като проблем.
The first is -- death is a big problem. If you look at the statistics, the odds are not very favorable to us. So far, most people who have lived have also died. Roughly 90 percent of everybody who has been alive has died by now. So the annual death rate adds up to 150,000 -- sorry, the daily death rate -- 150,000 people per day, which is a huge number by any standard. The annual death rate, then, becomes 56 million. If we just look at the single, biggest cause of death -- aging -- it accounts for roughly two-thirds of all human people who die. That adds up to an annual death toll of greater than the population of Canada. Sometimes, we don't see a problem because either it's too familiar or it's too big. Can't see it because it's too big. I think death might be both too familiar and too big for most people to see it as a problem.
Като се замислиш по въпроса, виждаш, че това не са статистически точки. Това са... да видим, колко дълго съм говорил? Говорил съм три минути. Така че, приблизителни, 324-ма души са починали, откакто съм започнал да говоря. Хора, колкото... приблизително колкото присъстващите в тази зала са починали. Човешката цена на това е очевидна. Като започнеш да мислиш за това... страданието, загубата... също така, икономически, е невероятна загуба. Просто гледам информацията, познанието и опита, изгубени поради естествени причини при смъртта като цяло, и особено остаряването.
Once you think about it, you see this is not statistical points; these are -- let's see, how far have I talked? I've talked for three minutes. So that would be, roughly, 324 people have died since I've begun speaking. People like -- it's roughly the population in this room has just died. Now, the human cost of that is obvious, once you start to think about it -- the suffering, the loss -- it's also, economically, enormously wasteful. I just look at the information, and knowledge, and experience that is lost due to natural causes of death in general, and aging, in particular.
Да предположим, че има приблизително по една книга на лице? Разбира се, това е подценяване. Цял живот учене и опит на едно лице е много повече, отколкото може да се сложи в една-единствена книга. Но да предположим, че направим това. 52 милиона души умират от естествена смърт всяка година, тогава това съответства на 52 унищожени тома. Библиотеката на Конгреса съдържа 18 милиона тома. Разстроени сме от изгарянето на Александрийската библиотека. Това е една от великите културни трагедии, които помним, дори днес. Но това е еквивалентът на три Библиотеки на конгреса... изгаряни, изубени завинаги... всяка година.
Suppose we approximated one person with one book? Now, of course, this is an underestimation. A person's lifetime of learning and experience is a lot more than you could put into a single book. But let's suppose we did this. 52 million people die of natural causes each year corresponds, then, to 52 million volumes destroyed. Library of Congress holds 18 million volumes. We are upset about the burning of the Library of Alexandria. It's one of the great cultural tragedies that we remember, even today. But this is the equivalent of three Libraries of Congress -- burnt down, forever lost -- each year.
Това е първият голям проблем. И желая на добър час на Одри де Грей и други хора като него, за да се опитат да направят нещо по въпроса колкото е възможно по-скоро. Екзистенциален риск - вторият голям проблем. Екзистенциалният риск е заплаха за човешкото оцеляване, или за дългосрочния потенциал на нашия вид. А защо казвам, че това е голям проблем? Да погледнем първо вероятността... и е много трудно да се направи приблизителна оценка... но е имало само четири проучвания за това през последните години, което е изненадващо. Човек би помислил, че ще представлява известен интерес да се опитаме да открием повече по въпроса, при положение че залозите са толкова високи, но това е много пренебрегвана област.
So that's the first big problem. And I wish Godspeed to Aubrey de Grey, and other people like him, to try to do something about this as soon as possible. Existential risk -- the second big problem. Existential risk is a threat to human survival, or to the long-term potential of our species. Now, why do I say that this is a big problem? Well, let's first look at the probability -- and this is very, very difficult to estimate -- but there have been only four studies on this in recent years, which is surprising. You would think that it would be of some interest to try to find out more about this given that the stakes are so big, but it's a very neglected area.
Има четири проучвания... едно от Джон Лесли, написал книга по въпроса. Според него вероятната опасност да не успеем да преживеем настоящия век е приблизително 50 процента. Подобно е и при Астрономър Роял, когото чухме да говори вчера, според него приблизителната вероятност е 50 процента. Друг автор не дава никаква приблизителна числена стойност, но казва, че има значителна вероятност да не успеем. Аз написах дълъг труд за това. Писах, че по-малко от 20 процента вероятност би било грешка в светлината на настоящите доказателства, които имаме. Точните цифри тук трябва да се разглеждат много внимателно, но, изглежда, има консенсус, че рискът е значителен. Всеки, който е разглеждал тези въпроси и ги е проучвал, е съгласен.
But there have been four studies -- one by John Lesley, wrote a book on this. He estimated a probability that we will fail to survive the current century: 50 percent. Similarly, the Astronomer Royal, whom we heard speak yesterday, also has a 50 percent probability estimate. Another author doesn't give any numerical estimate, but says the probability is significant that it will fail. I wrote a long paper on this. I said assigning a less than 20 percent probability would be a mistake in light of the current evidence we have. Now, the exact figures here, we should take with a big grain of salt, but there seems to be a consensus that the risk is substantial. Everybody who has looked at this and studied it agrees.
Ако мислим какво би означавало само намаляването на вероятността от изчезване на хората само с един процент... не много... това е равно на 60 милиона спасени животи, ако броим само понастоящем живите хора, настоящото поколение. Един процент от шест милиарда души е равен на 60 милиона. Това е голямо число. Ако вземем предвид бъдещите поколения, които никога няма да просъществуват, ако ние се самовзривим, тогава цифрата става астрономическа. Ако можехме сега, в крайна сметка, да колонизираме парче от вселената... суперклъстърът Дева... може би ще ни трябват 100 милиона години да стигнем дотам, но ако изчезнем, никога няма да го направим. Тогава, дори един процент намаление на риска от изчезване би могъл да е равен на това астрономическо число - 10 на степен 32.
Now, if we think about what just reducing the probability of human extinction by just one percentage point -- not very much -- so that's equivalent to 60 million lives saved, if we just count the currently living people, the current generation. Now one percent of six billion people is equivalent to 60 million. So that's a large number. If we were to take into account future generations that will never come into existence if we blow ourselves up, then the figure becomes astronomical. If we could eventually colonize a chunk of the universe -- the Virgo supercluster -- maybe it will take us 100 million years to get there, but if we go extinct we never will. Then, even a one percentage point reduction in the extinction risk could be equivalent to this astronomical number -- 10 to the power of 32.
Значи, ако се вземат предвид бъдещите поколения, колкото и нашето собствено, всеки друг морален императив за филантропична цена просто става неуместен. Единственото, върху което трябва да се съсредоточим, би било намаляването на екзистенциалния риск, защото дори най-мъничкото намаляване на екзистенциалния риск просто би съкрушило всяка друга полза, която можем да се надяваме да постигнем. И дори ако се разгледат само настоящите хора и се игнорира потенциалът, който би бил изгубен, ако изчезнем, това все пак би имало висок приоритет. А сега, да прекарам остатъка от времето си по третия голям проблем, защото той е по-неуловим и вероятно труден за схващане. Помислете за някакъв момент в живота си... някои хора може никога да не са преживявали... но някои хора, просто има такива моменти, които сте преживели, когато животът е бил фантастичен.
So if you take into account future generations as much as our own, every other moral imperative of philanthropic cost just becomes irrelevant. The only thing you should focus on would be to reduce existential risk because even the tiniest decrease in existential risk would just overwhelm any other benefit you could hope to achieve. And even if you just look at the current people, and ignore the potential that would be lost if we went extinct, it should still have a high priority. Now, let me spend the rest of my time on the third big problem, because it's more subtle and perhaps difficult to grasp. Think about some time in your life -- some people might never have experienced it -- but some people, there are just those moments that you have experienced where life was fantastic.
Може да е било в момент на някакво велико, творческо вдъхновение, може да сте го получили, точно като се качвате на тази сцена. Или когато сте разбрали нещо, което не сте правили никога преди. Или вероятно в екстаза на романтичната любов. Или естетическо преживяване... залез или велико произведение на изкуството. Понякога преживяваме тези моменти и осъзнаваме колко хубав може да е животът в най-добрите си моменти. И се чудиш, защо не може да е такъв постоянно? Просто искаш да се вкопчиш в това. И тогава, разбира се, се връща към обикновения живот и споменът избледнява. И е наистина трудно да се сетим, при нормална умствена настройка, колко хубав може да е животът в най-добрите си моменти. Или колко лош може да бъде в най-лошите.
It might have been at the moment of some great, creative inspiration you might have had when you just entered this flow stage. Or when you understood something you had never done before. Or perhaps in the ecstasy of romantic love. Or an aesthetic experience -- a sunset or a great piece of art. Every once in a while we have these moments, and we realize just how good life can be when it's at its best. And you wonder, why can't it be like that all the time? You just want to cling onto this. And then, of course, it drifts back into ordinary life and the memory fades. And it's really difficult to recall, in a normal frame of mind, just how good life can be at its best. Or how bad it can be at its worst.
Третият голям проблем е, че животът обикновено не е толкова чудесен, колкото би могъл да бъде. Мисля, че това е голям, голям проблем. Лесно е да кажем какво не искаме. Ето ред неща, които не искаме... болест, нежелана смърт, ненужно страдание, жестокост, спрян растеж, загуба на памет, невежество, отсъствие на творчество. Да предположим, че оправим тези неща... направим нещо за всички тях. Постигнали сме голям успех. Отървали сме се от всички тези неща. Накрая може да се окажем с нещо такова. А именно... искам да кажа, много по-добре е от това. Имам предвид, това наистина ли е най-доброто, ако... за което можем да мечтаем? Това ли е най-доброто, на което сме способни?
The third big problem is that life isn't usually as wonderful as it could be. I think that's a big, big problem. It's easy to say what we don't want. Here are a number of things that we don't want -- illness, involuntary death, unnecessary suffering, cruelty, stunted growth, memory loss, ignorance, absence of creativity. Suppose we fixed these things -- we did something about all of these. We were very successful. We got rid of all of these things. We might end up with something like this, which is -- I mean, it's a heck of a lot better than that. But is this really the best we can dream of? Is this the best we can do?
Или е възможно да се открие нещо малко по-вдъхновяващо, за което да се работи? Като се замислим за това, Според мен е много ясно, че има начини, по които бихме могли да променяме нещата, не само чрез елиминиране на негативи, а като добавяме позитиви. Поне в моя списък би имало... много по-дълъг, по-здравословен живот, далеч по-голямо субективно добруване, подобрени познавателни способности, повече познание и разбиране, неограничена възможност за личен растеж отвъд настоящите ни биологични граници, по-добри връзки, неограничен потенциал за духовно, морално и интелектуално развитие.
Or is it possible to find something a little bit more inspiring to work towards? And if we think about this, I think it's very clear that there are ways in which we could change things, not just by eliminating negatives, but adding positives. On my wish list, at least, would be: much longer, healthier lives, greater subjective well-being, enhanced cognitive capacities, more knowledge and understanding, unlimited opportunity for personal growth beyond our current biological limits, better relationships, an unbounded potential for spiritual, moral and intellectual development.
Ако искаме да постигнем това, какво, за бога, ще трябва да се промени? И това е отговорът... ние ще трябва да се променим. Не само светът около нас, но ние, самите ние. Не само начинът, по който мислим за света, но самата ни същност - самата ни биология. Човешката природа ще трябва да се промени. Като мислим за промяна на човешката природа, първото, което идва наум, са тези технологии за човешка модификация... терапия с хормони на растежа, козметична хирургия, стимуланти като риталин, адерал, антидепресанти, анаболни стероиди, изкуствени сърца. Доста жалък списък. Правят прекрасни неща за малко хора, които страдат от някакво специфично заболяване. Но за повечето хора те всъщност не преобразяват това какво е да бъдеш човек. И също така всички изглеждат малко... повечето хора имат този инстинкт, че, е сигурно е нужно да има антидепресанти за наистина депресираните хора. Но има една колебливост, че те са неестествени по някакъв начин.
If we want to achieve this, what, in the world, would have to change? And this is the answer -- we would have to change. Not just the world around us, but we, ourselves. Not just the way we think about the world, but the way we are -- our very biology. Human nature would have to change. Now, when we think about changing human nature, the first thing that comes to mind are these human modification technologies -- growth hormone therapy, cosmetic surgery, stimulants like Ritalin, Adderall, anti-depressants, anabolic steroids, artificial hearts. It's a pretty pathetic list. They do great things for a few people who suffer from some specific condition, but for most people, they don't really transform what it is to be human. And they also all seem a little bit -- most people have this instinct that, well, sure, there needs to be anti-depressants for the really depressed people. But there's a kind of queasiness that these are unnatural in some way.
Струва си да си спомним, че има много други технологии за модификация и технологии за подобрение, които използваме. Имаме подобрения на кожата, облекло. Доколкото виждам, всички вие в тази зала сте потребители на тази технология за подобрение, това е страхотно. Модификатори на настроението са били използвани от незапомнени времена... кофеин, алкохол, никотин, стимулиране на имунната система, подобрение на зрението, обезболяващи. Приемаме твърде много за даденост, но само помислете колко голям напредък е това... например, да претърпиш операция преди обезболяващите не е било забавно. Контрацептиви, козметика и техники за мозъчно препрограмиране... това звучи знаменателно.
It's worth recalling that there are a lot of other modification technologies and enhancement technologies that we use. We have skin enhancements, clothing. As far as I can see, all of you are users of this enhancement technology in this room, so that's a great thing. Mood modifiers have been used from time immemorial -- caffeine, alcohol, nicotine, immune system enhancement, vision enhancement, anesthetics -- we take that very much for granted, but just think about how great progress that is -- like, having an operation before anesthetics was not fun. Contraceptives, cosmetics and brain reprogramming techniques -- that sounds ominous,
Но разликата между това кое е технология... една джаджа би била архетипът - А други начини за промяна и пренаписване на човешката природа са доста недоловими. Затова, ако помислите какво значи да учиш аритметика или да се учиш да четеш, всъщност буквално пренаписваш собствения си мозък. Променяш микроструктурата на мозъка си по пътя. Затова в широк смисъл не е нужно да се мисли за технологията само като за малки джаджи, като тези неща тук. А дори институции и техники, психологически методи и така нататък. Форми на организация могат да окажат дълбоко влияние върху човешката природа.
but the distinction between what is a technology -- a gadget would be the archetype -- and other ways of changing and rewriting human nature is quite subtle. So if you think about what it means to learn arithmetic or to learn to read, you're actually, literally rewriting your own brain. You're changing the microstructure of your brain as you go along. So in a broad sense, we don't need to think about technology as only little gadgets, like these things here, but even institutions and techniques, psychological methods and so forth. Forms of organization can have a profound impact on human nature.
С поглед напред има спектър от технологии, които почти сигурно ще бъдат развити рано или късно. Много сме невежи за това каква е времевата рамка за тези неща, но всички те са съвместими с всичко, което знаем за физичните закони, законите на химията и така нататък. Възможно е да се приеме, оставяйки настрана възможността за катастрофа, рано или късно ще ги развием всички. А дори две от тях биха били достатъчни за преобразяване на човешкото състояние.
Looking ahead, there is a range of technologies that are almost certain to be developed sooner or later. We are very ignorant about what the time scale for these things are, but they all are consistent with everything we know about physical laws, laws of chemistry, etc. It's possible to assume, setting aside a possibility of catastrophe, that sooner or later we will develop all of these. And even just a couple of these would be enough to transform the human condition.
Да разгледаме някои от измеренията на човешката природа, които, изглежда, оставят място за подобрение. Здравният обсег е нещо голямо и спешно, защото ако не си жив, тогава всички други неща не биха били от особена полза. Интелектуални способности... да вземем тази графа, която спада към много различни подкатегории... памет, концентрация, умствена енергия, интелигентност, емпатия. Това са наистина прекрасни неща. Част от причината да ценим тези белези е, че те ни правят по-добри в конкуренцията с други хора... те са позициони блага. Но част от причината... и това е причината да имаме етично основание да се стремим към тях... е, че те са също и ценни сами по себе си.. Просто е по-добре да можеш да разбираш повече от света около себе си и хората, с които комуникираш, и да помниш какво си научил. Модалности и специални умения. Човешкият ум не е един неделим процесор за информация, а има много различни, специални, еволюирали модули, които правят специфични неща за нас. Ако се замислим за това, което обикновено приемаме като влагане в живота на много от смисъла му... музика, хумор, еротизъм, духовност, естетика, отглеждане и грижа, клюки, бъбрене с хора.
So let's look at some of the dimensions of human nature that seem to leave room for improvement. Health span is a big and urgent thing, because if you're not alive, then all the other things will be to little avail. Intellectual capacity -- let's take that box, which falls into a lot of different sub-categories: memory, concentration, mental energy, intelligence, empathy. These are really great things. Part of the reason why we value these traits is that they make us better at competing with other people -- they're positional goods. But part of the reason -- and that's the reason why we have ethical ground for pursuing these -- is that they're also intrinsically valuable. It's just better to be able to understand more of the world around you and the people that you are communicating with, and to remember what you have learned. Modalities and special faculties. Now, the human mind is not a single unitary information processor, but it has a lot of different, special, evolved modules that do specific things for us. If you think about what we normally take as giving life a lot of its meaning -- music, humor, eroticism, spirituality, aesthetics, nurturing and caring, gossip, chatting with people --
Много вероятно е всички те да са възможни чрез специална система, която имаме ние, хората, но че може да има друга интелигентна форма на живот, на която те липсват. Просто имаме късмет, че имаме нужната нервна машинерия, за да обработваме музика, да я ценим и да й се наслаждаваме. Всички те биха дали възможност, по принцип... да се поддават на подобрение. Някои хора са по-музикални и имат повече способности да ценят музиката, отколкото други. Интересно е също да се замислим за това какво са други неща... ако всички те дават възможност за велики ценности, защо да мислим, че еволюцията се е случила, за да ни осигури всички модалности, които би било нужно да ангажираме с други ценности, които може да съществуват?
all of these, very likely, are enabled by a special circuitry that we humans have, but that you could have another intelligent life form that lacks these. We're just lucky that we have the requisite neural machinery to process music and to appreciate it and enjoy it. All of these would enable, in principle -- be amenable to enhancement. Some people have a better musical ability and ability to appreciate music than others have. It's also interesting to think about what other things are -- so if these all enabled great values, why should we think that evolution has happened to provide us with all the modalities we would need to engage with other values that there might be?
Представете си един вид, който просто не е имал тази нервна машинерия за обработка на музика. Те просто биха се взирали в нас озадачено, когато прекарваме време, слушайки прекрасно изпълнение като това, което току-що чухме... заради хора, правещи глупави движения. Биха били наистина раздразнени и нямаше да разбират какво ни е прихванало. Но може би те имат друго умение, нещо друго, което би изглеждало еднакво ирационално за нас, но всъщност те да навлизат в някаква огромна възможна ценност при това. А ние просто сме буквално глухи за този вид ценност. Така че бихме могли да помислим за добавяне на различни, нови сензорни способности и ментални умения. Телесна функционалност, морфология и ефективен самоконтрол. Далеч по-голямо субективно добруване. Да сме в състояние да превключваме между отдих и дейност... да можем да се движим бавно, когато е нужно, и да ускоряваме. Да можеш да превключваш напред и назад по-лесно - би било прекрасно да си в състояние да го правиш... по-лесно да постигнеш състоянието на поток, при което си напълно потопен в нещо, което правиш. Съвестност и съчувствие. Способността да... това е друго интересно приложение, което би имало големи социални разклонения от проблеми. Ако наистина можеше да избираш да запазиш романтичната си привързаност към едно лице, ненамалена през времето, така че не би трябвало... любовта никога не би трябвало да избледнява, ако ти не искаш. Това вероятно изобщо не е чак толкова трудно. Би могло да е прост хормон или нещо, което би могло да го прави.
Imagine a species that just didn't have this neural machinery for processing music. And they would just stare at us with bafflement when we spend time listening to a beautiful performance, like the one we just heard -- because of people making stupid movements, and they would be really irritated and wouldn't see what we were up to. But maybe they have another faculty, something else that would seem equally irrational to us, but they actually tap into some great possible value there. But we are just literally deaf to that kind of value. So we could think of adding on different, new sensory capacities and mental faculties. Bodily functionality and morphology and affective self-control. Greater subjective well-being. Be able to switch between relaxation and activity -- being able to go slow when you need to do that, and to speed up. Able to switch back and forth more easily would be a neat thing to be able to do -- easier to achieve the flow state, when you're totally immersed in something you are doing. Conscientiousness and sympathy. The ability to -- it's another interesting application that would have large social ramification, perhaps. If you could actually choose to preserve your romantic attachments to one person, undiminished through time, so that wouldn't have to -- love would never have to fade if you didn't want it to. That's probably not all that difficult. It might just be a simple hormone or something that could do this.
Правено е при полевки. Може да се настрои една прерийна полевка така, че да стане моногамна, при положение, че е естествено полигамна. Само един ген. При хората може да е по-сложно, но вероятно не чак толкова. Това е последната снимка, която искам да... сега трябва да използваме лазерната показалка. Един възможен мотив, да бъдеш тук, би бил начин на живот... начин на съществуване, преживяване, мислене, виждане, взаимодействие със света. Тук долу, в това ъгълчe, тук имаме малкото суб-пространство от това по-голямо пространство, което е достъпно за човешките същества... същества с нашите биологични възможности. То е част от пространството, което е достъпно за животните - тъй като сме животни, сме подмножество на това.
It's been done in voles. You can engineer a prairie vole to become monogamous when it's naturally polygamous. It's just a single gene. Might be more complicated in humans, but perhaps not that much. This is the last picture that I want to -- now we've got to use the laser pointer. A possible mode of being here would be a way of life -- a way of being, experiencing, thinking, seeing, interacting with the world. Down here in this little corner, here, we have the little sub-space of this larger space that is accessible to human beings -- beings with our biological capacities. It's a part of the space that's accessible to animals; since we are animals, we are a subset of that.
И тогава може да си представите някои подобрения на човешките способности. Би имало различни начини на съществуване, които могат да се преживеят, ако си в състояние да останеш жив, да кажем, 200 години. тогава би могъл да живееш видове животи и да трупаш мъдрости, които просто не са възможни за човеците, каквито сме понастоящем. Тогава се придвижваш към тази по-голяма сфера на човешки плюс и можеш да продължиш този процес, и в крайна сметка да изследваш много от това по-голямо пространство от възможни мотивни съществувания.
And then you can imagine some enhancements of human capacities. There would be different modes of being you could experience if you were able to stay alive for, say, 200 years. Then you could live sorts of lives and accumulate wisdoms that are just not possible for humans as we currently are. So then, you move off to this larger sphere of "human +," and you could continue that process and eventually explore a lot of this larger space of possible modes of being.
А защо това е добро? Е, вече знаем, че в този малък човешки кръг тук има невероятно чудесни и достойни начини на съществуване... човешкият живот в най-добрата си светлина е чудесен. Нямаме причина да смятаме, че в това много по-голямо пространство няма да има и изключително достойни начини на съществуване. Вероятно такива, които биха били далеч отвъд най-невероятните ни способности, дори да си представим или да мечтаем. И така, за да се реши този трети проблем, смятам, че ни е нужно... бавно, внимателно, с етична мъдрост и сдържаност... да развием средствата, които ни дават възможност да излезем в това по-голямо пространство и да го изследваме. И да открием великите ценности, които може да се крият там. Благодаря.
Now, why is that a good thing to do? Well, we know already that in this little human circle there, there are these enormously wonderful and worthwhile modes of being -- human life at its best is wonderful. We have no reason to believe that within this much, much larger space there would not also be extremely worthwhile modes of being, perhaps ones that would be way beyond our wildest ability even to imagine or dream about. And so, to fix this third problem, I think we need -- slowly, carefully, with ethical wisdom and constraint -- develop the means that enable us to go out in this larger space and explore it and find the great values that might hide there. Thanks.