I want to talk today about -- I've been asked to take the long view, and I'm going to tell you what I think are the three biggest problems for humanity from this long point of view. Some of these have already been touched upon by other speakers, which is encouraging. It seems that there's not just one person who thinks that these problems are important.
Eu gostaria de falar hoje sobre... Me pediram que fizessem uma análise bem detalhada, então... Acho que há três grandes problemas na humanidade nessa análise detalhada. Outros palestrantes já falaram sobre alguns deles, e isso é encorajador. Parece que não são poucos os que pensam que esses problemas são importantes.
The first is -- death is a big problem. If you look at the statistics, the odds are not very favorable to us. So far, most people who have lived have also died. Roughly 90 percent of everybody who has been alive has died by now. So the annual death rate adds up to 150,000 -- sorry, the daily death rate -- 150,000 people per day, which is a huge number by any standard. The annual death rate, then, becomes 56 million. If we just look at the single, biggest cause of death -- aging -- it accounts for roughly two-thirds of all human people who die. That adds up to an annual death toll of greater than the population of Canada. Sometimes, we don't see a problem because either it's too familiar or it's too big. Can't see it because it's too big. I think death might be both too familiar and too big for most people to see it as a problem.
O primeiro é - a morte, grande problema. Se olharmos as estatísticas, veremos que não são muito favoráveis a nós. Até agora, todas as pessoas que viveram, também morreram. Aproximadamente 90% de todos que já viveram estão agora mortos. A taxa anual de mortalidade chega a 150.000... perdão, a taxa diária - 150.000 pessoas por dia, o que é um número estarrecedor. A taxa anual, então, é de 56 milhões. Se observarmos a maior causa das mortes - o envelhecimento - mais ou menos dois terços da população morre disso. Isso chega a uma taxa de mortalidade anual maior que toda a população do Canadá. Às vezes, não vemos um problema ou porque é muito corriqueiro, ou porque é muito grande. Não vemos porque é muito grande. A morte deveria ser muito corriqueira e muito grande para que as pessoas a vissem como um problema.
Once you think about it, you see this is not statistical points; these are -- let's see, how far have I talked? I've talked for three minutes. So that would be, roughly, 324 people have died since I've begun speaking. People like -- it's roughly the population in this room has just died. Now, the human cost of that is obvious, once you start to think about it -- the suffering, the loss -- it's also, economically, enormously wasteful. I just look at the information, and knowledge, and experience that is lost due to natural causes of death in general, and aging, in particular.
Quando se pensa sobre isso, percebe-se que não são só estatísticas. São... vamos ver, estou falando há quanto tempo? Já falei por três minutos. Então, mais ou menos 324 pessoas morreram desde que comecei a falar. Mais ou menos o número de pessoas que estão aqui nessa sala. O custo humano disso é óbvio. Quando começamos a pensar sobre isso - o sofrimento, a perda - a perda em termos econômicos também é imensa. Eu penso nas informações, no conhecimento, na experiência que se perdem por causa da morte em geral, e do envelhecimento em particular.
Suppose we approximated one person with one book? Now, of course, this is an underestimation. A person's lifetime of learning and experience is a lot more than you could put into a single book. But let's suppose we did this. 52 million people die of natural causes each year corresponds, then, to 52 million volumes destroyed. Library of Congress holds 18 million volumes. We are upset about the burning of the Library of Alexandria. It's one of the great cultural tragedies that we remember, even today. But this is the equivalent of three Libraries of Congress -- burnt down, forever lost -- each year.
Imagine comparar uma pessoa a um livro. Claro que estou subestimando um pouco. Toda uma vida de aprendizado e experiência não caberia em um único livro. Mas vamos imaginar a comparação. 52 milhões de pessoas morrem de causas naturais por ano, o que corresponde a 52 milhões de volumes destruídos. A Biblioteca do Congresso tem 18 milhões de livros. Nós ficamos transtornados com o incêndio da Biblioteca de Alexandria. É uma das maiores tragédias culturais que se tem notícia, até hoje. Só que isso equivale a três Bibliotecas do Congresso... destruídas e perdidas para sempre - a cada ano.
So that's the first big problem. And I wish Godspeed to Aubrey de Grey, and other people like him, to try to do something about this as soon as possible. Existential risk -- the second big problem. Existential risk is a threat to human survival, or to the long-term potential of our species. Now, why do I say that this is a big problem? Well, let's first look at the probability -- and this is very, very difficult to estimate -- but there have been only four studies on this in recent years, which is surprising. You would think that it would be of some interest to try to find out more about this given that the stakes are so big, but it's a very neglected area.
Esse é o primeiro grande problema. E desejo boa sorte a Aubrey de Grey, e outras pessoas como ele, que estão tentando fazer alguma coisa o mais rápido possível. Risco existencial - o segundo grande problema. O risco existencial ameaça a sobrevivência, o potencial de nossa espécie. Por que digo que isso é um grande problema? Primeiro, vamos estudar a probabilidade... e isso é muito difícil de estimar, pois só houve quatro estudos sobre isso recentemente, o que é surpreendente. Deveria haver mais interesse nisso, tentar saber mais, já que há tanta coisa em risco, mas é uma área negligenciada.
But there have been four studies -- one by John Lesley, wrote a book on this. He estimated a probability that we will fail to survive the current century: 50 percent. Similarly, the Astronomer Royal, whom we heard speak yesterday, also has a 50 percent probability estimate. Another author doesn't give any numerical estimate, but says the probability is significant that it will fail. I wrote a long paper on this. I said assigning a less than 20 percent probability would be a mistake in light of the current evidence we have. Now, the exact figures here, we should take with a big grain of salt, but there seems to be a consensus that the risk is substantial. Everybody who has looked at this and studied it agrees.
Mas há esses quatro estudos... um de John Lesley, que escreveu um livro. Ele estimou a probabilidade de falha em sobreviver ao século atual - 50%. Da mesma forma, o Astrônomo Real, que ouvimos ontem, também fez a mesma estimativa de 50%. Outro autor não dá uma estimativa numérica, mas diz que há uma significante probabilidade de falha. Eu escrevi um longo ensaio sobre isso. Afirmo que uma probabilidade menor que 20% seria um erro face às evidências que temos. Os números exatos aqui devem ser vistos com certa reserva, mas parece haver um consenso que o risco é substancial. Todos que já estudaram isso concordam.
Now, if we think about what just reducing the probability of human extinction by just one percentage point -- not very much -- so that's equivalent to 60 million lives saved, if we just count the currently living people, the current generation. Now one percent of six billion people is equivalent to 60 million. So that's a large number. If we were to take into account future generations that will never come into existence if we blow ourselves up, then the figure becomes astronomical. If we could eventually colonize a chunk of the universe -- the Virgo supercluster -- maybe it will take us 100 million years to get there, but if we go extinct we never will. Then, even a one percentage point reduction in the extinction risk could be equivalent to this astronomical number -- 10 to the power of 32.
Se pensarmos sobre a redução da probabilidade da extinção humana em apenas um ponto percentual - o que não é muito - seria equivalente a 60 milhões de vidas salvas. Se contarmos apenas as pessoas que vivem agora, a geração atual. Um por cento de seis bilhões de pessoas é 60 milhões. É um número significativo. Se levarmos em conta as gerações futuras, que não chegarão a existir se nos destruirmos, os números se tornam astronômicos. Se pudéssemos colonizar um pedaço do universo... O superaglomerado de Virgem... talvez demore 100 milhões de anos para chegarmos lá, mas se formos extintos, nunca chegaremos. Então, até uma redução de um ponto percentual no risco de extinção poderia equivaler a esse número astronômico - 10 à 32ª potência.
So if you take into account future generations as much as our own, every other moral imperative of philanthropic cost just becomes irrelevant. The only thing you should focus on would be to reduce existential risk because even the tiniest decrease in existential risk would just overwhelm any other benefit you could hope to achieve. And even if you just look at the current people, and ignore the potential that would be lost if we went extinct, it should still have a high priority. Now, let me spend the rest of my time on the third big problem, because it's more subtle and perhaps difficult to grasp. Think about some time in your life -- some people might never have experienced it -- but some people, there are just those moments that you have experienced where life was fantastic.
Se levarmos em consideração as gerações futuras e a nossa, qualquer imperativo moral de custo filantrópico se torna irrelevante. A única coisa que temos que enfocar seria a redução do risco existencial, porque até a mais ínfima diminuição desse risco seria muito mais benéfico que qualquer outra conquista. E se tomarmos apenas as pessoas vivas agora, e ignorar o potencial que seria perdido se formos extintos, ainda assim teríamos uma prioridade alta. Vou usar o resto do tempo para falar sobre o terceiro grande problema, porque ele é mais sutil e difícil de captar. Pensem em algum momento da sua vida... que algumas pessoas podem nunca ter experimentado - mas para outras, tem aqueles momentos únicos que você experimentou em que a vida foi fantástica.
It might have been at the moment of some great, creative inspiration you might have had when you just entered this flow stage. Or when you understood something you had never done before. Or perhaps in the ecstasy of romantic love. Or an aesthetic experience -- a sunset or a great piece of art. Every once in a while we have these moments, and we realize just how good life can be when it's at its best. And you wonder, why can't it be like that all the time? You just want to cling onto this. And then, of course, it drifts back into ordinary life and the memory fades. And it's really difficult to recall, in a normal frame of mind, just how good life can be at its best. Or how bad it can be at its worst.
Pode ter sido um momento de grande inspiração criativa que você teve quando entrou nesse estágio. Ou quando você finalmente compreendeu alguma coisa. Ou talvez o êxtase do amor romântico. Ou uma experiência estética - um por-do-sol ou uma obra de arte. De vez em quando temos esses momentos, e percebemos o quanto a vida pode ser boa. E você se pergunta por que não pode ser assim todo o tempo? Você quer que isto dure para sempre. E, claro, voltamos à vida normal e essa memória desaparece. E é muito difícil lembrar, numa disposição mental normal, como a vida pode ser boa. Ou como pode ser ruim em certos momentos.
The third big problem is that life isn't usually as wonderful as it could be. I think that's a big, big problem. It's easy to say what we don't want. Here are a number of things that we don't want -- illness, involuntary death, unnecessary suffering, cruelty, stunted growth, memory loss, ignorance, absence of creativity. Suppose we fixed these things -- we did something about all of these. We were very successful. We got rid of all of these things. We might end up with something like this, which is -- I mean, it's a heck of a lot better than that. But is this really the best we can dream of? Is this the best we can do?
O terceiro grande problema é que a vida não é tão maravilhosa como poderia ser. Eu acho que esse é um grande problema. É fácil falar o que não queremos. Eis aqui algumas coisas que não queremos... doença, morte involuntária, sofrimento desnecessário, crueldade, atrofia, perda de memória, ignorância, falta de criatividade. Imaginem que possamos consertar isso - fazer algo em relação a isso. Fomos bem sucedidos. Nos livramos de tudo isso. Podemos acabar assim. Quer dizer, é muito melhor que isso. Mas isso é tudo que conseguimos - que sonhamos? É o melhor que podemos fazer?
Or is it possible to find something a little bit more inspiring to work towards? And if we think about this, I think it's very clear that there are ways in which we could change things, not just by eliminating negatives, but adding positives. On my wish list, at least, would be: much longer, healthier lives, greater subjective well-being, enhanced cognitive capacities, more knowledge and understanding, unlimited opportunity for personal growth beyond our current biological limits, better relationships, an unbounded potential for spiritual, moral and intellectual development.
Ou seria possível aspirar a alguma coisa mais inspiradora? Se pensarmos sobre isso, acho que está bem claro que há maneiras de mudar as coisas, não só eliminando as negativas, mas adicionando positivas. Em minha lista de desejos, pelo menos, vidas mais longas e saudáveis, maior bem-estar, capacidades cognitivas ampliadas, mais conhecimento e compreensão, oportunidades ilimitadas de crescimento pessoal além de nossos limites biológicos, melhores relacionamentos, um potencial incrível para desenvolvimento espiritual, moral e intelectual.
If we want to achieve this, what, in the world, would have to change? And this is the answer -- we would have to change. Not just the world around us, but we, ourselves. Not just the way we think about the world, but the way we are -- our very biology. Human nature would have to change. Now, when we think about changing human nature, the first thing that comes to mind are these human modification technologies -- growth hormone therapy, cosmetic surgery, stimulants like Ritalin, Adderall, anti-depressants, anabolic steroids, artificial hearts. It's a pretty pathetic list. They do great things for a few people who suffer from some specific condition, but for most people, they don't really transform what it is to be human. And they also all seem a little bit -- most people have this instinct that, well, sure, there needs to be anti-depressants for the really depressed people. But there's a kind of queasiness that these are unnatural in some way.
Se quisermos alcançar isso, o que teríamos que mudar? E essa é a resposta - teríamos que mudar. Não só o mundo em nossa volta, mas nós mesmos. Não só a maneira de vermos o mundo, mas o que somos - nossa biologia. A natureza humana teria que mudar. Quando pensamos em mudar a natureza humana, a primeira coisa que vem à mente são as tecnologias de modificação humana... terapia hormonal, cirurgia cosmética, estimulantes como o Ritalina, o Adderall, anti-depressivos, esteróides anabolizantes, corações artificiais. É uma lista realmente patética. Podem trazer grandes mudanças para algumas pessoas que sofrem de alguma doença específica. Mas para a maioria das pessoas, elas não modificam o que realmente é ser humano. E elas também parecem ser um pouco... muitas pessoas acham que, bem, claro, há a necessidade de anti-depressivos para quem realmente tem depressão. Mas há um tipo de constrangimento de que isso não é natural.
It's worth recalling that there are a lot of other modification technologies and enhancement technologies that we use. We have skin enhancements, clothing. As far as I can see, all of you are users of this enhancement technology in this room, so that's a great thing. Mood modifiers have been used from time immemorial -- caffeine, alcohol, nicotine, immune system enhancement, vision enhancement, anesthetics -- we take that very much for granted, but just think about how great progress that is -- like, having an operation before anesthetics was not fun. Contraceptives, cosmetics and brain reprogramming techniques -- that sounds ominous,
É bom lembrar que há outras tecnologias de modificação e melhoria que usamos. Temos tecnologias para a pele, para roupas. Pelo que posso perceber, todos vocês são usuários de tecnologias de aprimoramento, então deve ser uma coisa boa. Modificadores de humor são usados desde tempos imemoriais... cafeína, álcool, nicotina, intensificadores do sistema imunológico, aprimoramento da visão, anestésicos. Nós não damos muito valor a tudo isso, mas parem para pensar a magnitude desse progresso. Uma cirurgia antes da anestesia não era nada agradável. Contraceptivos, cosméticos e técnicas de reprogramação cerebral... tudo isso parece muito nefasto.
but the distinction between what is a technology -- a gadget would be the archetype -- and other ways of changing and rewriting human nature is quite subtle. So if you think about what it means to learn arithmetic or to learn to read, you're actually, literally rewriting your own brain. You're changing the microstructure of your brain as you go along. So in a broad sense, we don't need to think about technology as only little gadgets, like these things here, but even institutions and techniques, psychological methods and so forth. Forms of organization can have a profound impact on human nature.
Mas a distinção entre o que é uma tecnologia... uma engenhoca seria o arquétipo. Outras maneiras de mudar e reescrever a natureza humana são muito sutis. Se você pensar o que significa aprender aritmética ou aprender a ler, você estará, literalmente, reescrevendo seu próprio cérebro. Você estará mudando a micro-estrutura de seu cérebro no processo. Então, em termos gerais, não precisamos pensar em tecnologia apenas como engenhocas, como essas aqui. Mas também instituições e técnicas, métodos psicológicos e assim por diante. Formas de organização podem ter grande impacto na natureza humana.
Looking ahead, there is a range of technologies that are almost certain to be developed sooner or later. We are very ignorant about what the time scale for these things are, but they all are consistent with everything we know about physical laws, laws of chemistry, etc. It's possible to assume, setting aside a possibility of catastrophe, that sooner or later we will develop all of these. And even just a couple of these would be enough to transform the human condition.
Pensando à frente, há uma série de tecnologias que certamente serão desenvolvidas mais cedo ou mais tarde. Nós desconhecemos a programação para essas coisas, mas são consistentes com tudo o que sabemos sobre leis da física, da química, etc. É certo presumir, deixando de lado a possibilidade de catástrofe, que cedo ou tarde desenvolveremos tudo isso. E apenas alguns deles seriam suficientes para transformar a condição humana.
So let's look at some of the dimensions of human nature that seem to leave room for improvement. Health span is a big and urgent thing, because if you're not alive, then all the other things will be to little avail. Intellectual capacity -- let's take that box, which falls into a lot of different sub-categories: memory, concentration, mental energy, intelligence, empathy. These are really great things. Part of the reason why we value these traits is that they make us better at competing with other people -- they're positional goods. But part of the reason -- and that's the reason why we have ethical ground for pursuing these -- is that they're also intrinsically valuable. It's just better to be able to understand more of the world around you and the people that you are communicating with, and to remember what you have learned. Modalities and special faculties. Now, the human mind is not a single unitary information processor, but it has a lot of different, special, evolved modules that do specific things for us. If you think about what we normally take as giving life a lot of its meaning -- music, humor, eroticism, spirituality, aesthetics, nurturing and caring, gossip, chatting with people --
Então vamos ver algumas dimensões da natureza humana que podem ser melhoradas. A saúde é uma melhoria grande e urgente, pois se não estamos vivos, então nada mais terá valia. A capacidade intelectual - vamos analisar essa vertente, que tem diferentes sub-categorias... memória, concentração, energia mental, inteligência, empatia. São coisas excelentes. A razão pela qual valorizamos essas características é porque elas nos tornam melhores competidores; são bens de posicionamento. Mas parte da razão... e essa é a razão pela qual essa busca é ética... é que elas também são intrinsecamente valiosas. É muito bom ser capaz de entender mais do mundo a sua volta e as pessoas com quem está se comunicando, e lembrar do que aprendeu. Modalidades e aptidões especiais. A mente humana não é um processador de informações unitário, mas sim um conjunto de módulos diferentes, especiais e evoluídos que fazem coisas específicas para nós. Se pensarmos no que normalmente dá sentido à vida... música, humor, erotismo, espiritualidade, estética, carinho e atenção, fofoca, bate-papos.
all of these, very likely, are enabled by a special circuitry that we humans have, but that you could have another intelligent life form that lacks these. We're just lucky that we have the requisite neural machinery to process music and to appreciate it and enjoy it. All of these would enable, in principle -- be amenable to enhancement. Some people have a better musical ability and ability to appreciate music than others have. It's also interesting to think about what other things are -- so if these all enabled great values, why should we think that evolution has happened to provide us with all the modalities we would need to engage with other values that there might be?
Tudo isso, provavelmente, faz parte de um circuito que nós humanos temos, mas outras formas de vida inteligente não possuem. Temos a sorte de ter o maquinário neural necessário para processar a música e apreciá-la. Tudo isso, em princípio, é favorável ao aperfeiçoamento. Algumas pessoas têm habilidade musicais mais apuradas e mais habilidade de apreciar música que outras. É interessante pensar sobre outras coisas... então se tudo isso possibilitou grandes valores, por que pensaríamos que a evolução aconteceu para nos dar todas as modalidades que precisamos para combinar com outros valores que possam vir a existir?
Imagine a species that just didn't have this neural machinery for processing music. And they would just stare at us with bafflement when we spend time listening to a beautiful performance, like the one we just heard -- because of people making stupid movements, and they would be really irritated and wouldn't see what we were up to. But maybe they have another faculty, something else that would seem equally irrational to us, but they actually tap into some great possible value there. But we are just literally deaf to that kind of value. So we could think of adding on different, new sensory capacities and mental faculties. Bodily functionality and morphology and affective self-control. Greater subjective well-being. Be able to switch between relaxation and activity -- being able to go slow when you need to do that, and to speed up. Able to switch back and forth more easily would be a neat thing to be able to do -- easier to achieve the flow state, when you're totally immersed in something you are doing. Conscientiousness and sympathy. The ability to -- it's another interesting application that would have large social ramification, perhaps. If you could actually choose to preserve your romantic attachments to one person, undiminished through time, so that wouldn't have to -- love would never have to fade if you didn't want it to. That's probably not all that difficult. It might just be a simple hormone or something that could do this.
Imaginem uma espécie que não tivesse o maquinário neural para processar música. Eles só ficariam nos observando, confusos, enquanto ouvimos uma linda apresentação, como a que acabamos de ouvir - porque as pessoas fizeram coisas estúpidas. E elas estariam irritadas e não veriam o que nós veríamos. Mas talvez elas tivessem outra capacidade, outra coisa que nos pareceria irracional, mas que poderia ter grande valor. Mas nós seríamos literalmente surdos a esse tipo de valor. Então poderíamos pensar em adicionar novas e diferentes capacidades e faculdades mentais. Funcionalidade e morfologia corporal e auto-controle efetivo. Maior bem-estar subjetivo. Ser capaz de passar do relaxamento à atividade... ser capaz de desacelerar quando preciso, e acelerar também. Ser capaz de avançar e recuar com mais facilidade seria muito interessante, mais fácil de alcançar um estágio fluido, onde você estará realmente imerso no que está fazendo. Conscientização e simpatia. A habilidade de... essa é outra aplicação interessante que acarretaria grandes problemas sociais. Se você pudesse escolher por preservar seus relacionamentos românticos com alguém, sem diminuir com o tempo, de forma que o amor não desaparecesse se você não quisesse. Isso provavelmente não é tão difícil. Pode ser apenas um hormônio ou alguma coisa parecida.
It's been done in voles. You can engineer a prairie vole to become monogamous when it's naturally polygamous. It's just a single gene. Might be more complicated in humans, but perhaps not that much. This is the last picture that I want to -- now we've got to use the laser pointer. A possible mode of being here would be a way of life -- a way of being, experiencing, thinking, seeing, interacting with the world. Down here in this little corner, here, we have the little sub-space of this larger space that is accessible to human beings -- beings with our biological capacities. It's a part of the space that's accessible to animals; since we are animals, we are a subset of that.
Já foi feito com arganazes. Você pode fazer com que um arganaz se torne monógamo, ainda que ele seja polígamo por natureza. É apenas um gene. Pode ser mais complicado para humanos, mas talvez nem tanto. Esse é o último quadro que quero... agora tenho que usar a caneta laser. Um motivo possível, estar aqui, seria um modo de vida... um modo de ser, experimentar, pensar, ver, interagir com o mundo. Aqui embaixo, nesse cantinho, há esse pequeno sub-espaço desse espaço maior que é acessível a seres humanos... seres com nossas capacidades biológicas. É parte do espaço acessível a animais... porque nós somos animais, somos um sub-grupo deles.
And then you can imagine some enhancements of human capacities. There would be different modes of being you could experience if you were able to stay alive for, say, 200 years. Then you could live sorts of lives and accumulate wisdoms that are just not possible for humans as we currently are. So then, you move off to this larger sphere of "human +," and you could continue that process and eventually explore a lot of this larger space of possible modes of being.
E podemos imaginar algumas melhorias nas capacidades humanas. Haveria diferentes tipos de ser que poderíamos experimentar se pudéssemos viver por 200 anos. Então poderíamos viver vidas diferentes e acumular sabedoria, o que não é possível para os humanos da maneira que são atualmente. Quando nos mudarmos para essa esfera maior de humanidade, poderemos continuar o processo e explorar mais esse grande espaço de seres possíveis.
Now, why is that a good thing to do? Well, we know already that in this little human circle there, there are these enormously wonderful and worthwhile modes of being -- human life at its best is wonderful. We have no reason to believe that within this much, much larger space there would not also be extremely worthwhile modes of being, perhaps ones that would be way beyond our wildest ability even to imagine or dream about. And so, to fix this third problem, I think we need -- slowly, carefully, with ethical wisdom and constraint -- develop the means that enable us to go out in this larger space and explore it and find the great values that might hide there. Thanks.
E por que isso seria uma coisa boa? Bem, já sabemos que nesse pequeno círculo humano há esses modos de ser maravilhosos que valem a pena... a vida humana em sua plenitude é maravilhosa. Não há razão para acreditarmos que dentro desse grande espaço não haja modos de ser extremamente valiosos. Talvez alguns que estejam além de nossas habilidades, que nem conseguimos imaginar ou sonhar. Então, para corrigir o terceiro problema, acho que precisamos - devagar, com cuidado e sabedoria ética - desenvolver meios que nos possibilitem explorar esse grande espaço. E encontrar os grandes valores que podem estar escondidos lá. Obrigado.