Today, we know and track virtually nothing that’s happening in our own brains. But in a future that is coming much faster than you realize, all of that is about to change.
Atualmente, não sabemos virtualmente o que se passa nos nossos cérebros. Mas num futuro que está a chegar mais depressa do que nos apercebemos, tudo isto está prestes a mudar.
We're now familiar with sensors in our smart watches to our rings, that track everything from our heartbeats to our footsteps, breaths, body temperature, even our sleep. Now, consumer neurotech devices are being sold worldwide to enable us to track our own brain activity. As companies from Meta to Microsoft, Snap and even Apple begin to embed brain sensors in our everyday devices like our earbuds, headphones, headbands, watches and even wearable tattoos, we're reaching an inflection point in brain transparency.
Sabemos que existem agora sensores nos nossos <i>smart watches</i> e nos nossos anéis, que vigiam tudo, desde os batimentos cardíacos, passos, respiração, temperatura cultural, até o sono. Agora, dispositivos de neurotecnologia são vendidos em todo o mundo permitindo-nos acompanhar a nossa própria atividade cerebral. À medida que companhias da Meta à Microsoft, Snap e mesmo a Apple começam a incorporar sensores cerebrais nos dispositivos do quotidiano como os auscultadores, bandeletes, relógios e mesmo tatuagens, estamos a chegar ao ponto de inflexão na transparência cerebral.
And those are just some of the company names we're familiar with. There are so many more. Consumer neurotech devices are moving from niche products with limited applications to becoming the way in which we'll learn about our own brain activity, our controller for virtual reality and augmented reality. And one of the primary ways we'll interact with all of the rest of our technology. Even conservative estimates of the neurotech industry put it at more than 38 billion dollars by 2032. This new category of technology presents unprecedented possibility, both good and bad.
E estes são apenas os nomes das companhias que reconhecemos. Há muitas mais. Dispositivos de consumo neurotecnológico passam de produtos especializados com aplicações limitadas para ser tornarem na forma como conhecemos a nossa atividade cerebral, o nosso controlador da realidade virtual e realidade aumentada. E uma das principais formas como iremos interagir com todo o resto da tecnologia. Mesmo as estimativas conservadoras calculam que a indústria neurotecnológica irá valer mais de 38 mil milhões de dólares até 2032. Esta nova categoria tecnológica apresenta possibilidades sem precedentes, boas e más.
Consider how our physical health and well-being are increasing while neurological disease and suffering continue to rise. 55 million people around the world are struggling with dementia, with more than 60 to 70 percent of them suffering from Alzheimer's disease. Nearly a billion people struggle with mental health and drug use disorders. Depression affects more than 300 million. Consumer neurotech devices could finally enable us to treat our brain health and wellness as seriously as we treat the rest of our physical well-being.
Pensem em como a nossa saúde física e bem-estar estão a aumentar enquanto doenças neurológicas e o sofrimento continuam a aumentar. 55 milhões de pessoas em todo o mundo enfrentam demência, em que mais de 60 e 70 por cento sofrem da doença de Alzheimer. Quase mil milhões tem dificuldades de saúde mental e perturbações de dependência de drogas. A depressão afeta mais de 300 milhões. Dispositivos de consumo tecneurológico podem permitir-nos tratar os nossos cérebros e bem-estar de forma tão séria como tratamos o resto do nosso bem-estar físico.
But making our brains transparent to others also introduces extraordinary risks. Which is why, before it's too late to do so, we must change the basic terms of service for neurotechnology in favour of individual rights. I say this not just as a law professor who believes in the power of law, nor just a philosopher trying to flesh out norms, but as a mother who's been personally and profoundly impacted by the use of neurotechnology in my own life.
Mas tornar os nossos cérebros transparentes aos outros também apresenta riscos extraordinários. É por isso que, antes que seja tarde demais para o fazer, temos de mudar os termos de serviço básicos da neurotecnologia favorecendo os direitos dos indivíduos. Digo isto não só como professora de direito, que acredita no poder legislativo, nem como filósofa a tentar dar mais detalhes às normas, mas enquanto mãe que tem sentido o impacto pessoal e profundo do uso da neurotecnologia na minha vida.
On Mother's Day in 2017, as my daughter Calista lay cradled in my arms, she took one last beautiful breath. After a prolonged hospitalization, complications following infections claimed her life. The harrowing trauma that she endured and we witnessed stretched into weeks. And I was left with lasting trauma that progressed into post-traumatic stress disorder. Sleep escaped me for years. As each time I closed my eyes, I relived everything, from the first moments that I was pushed out of the emergency room to her gut-wrenching cries. Ultimately, it was the help of a talented psychologist, using exposure therapy, and my use of neurofeedback that enabled me to sleep through the night. For others who are suffering from traumatic memories, an innovative new approach using decoded neurofeedback, or DecNef, may offer reprieve. This groundbreaking approach uses machine-learning algorithms to identify specific brain-activity patterns, including those associated with traumatic memories. Participants then play a game that enables them to retrain their brain activity on positive associations instead. If I had had DecNef available to me at the time, I might have overcome my PTSD more quickly without having to relive every sound, terror and smell in order to do so.
No Dia da Mãe em 2017, enquanto tinha a minha filha Calista nos meus braços, ela respirou pela última vez. Depois de uma longa hospitalização, ela morreu de complicações infecciosas. O trauma angustiante por que ela passou e que nós testemunhamos durou semanas. E eu fiquei com trauma prolongado que progrediu para uma perturbação de stress pós-traumático. Não dormi durante anos. Cada vez que fechava os olhos, revivia tudo, desde os primeiros momentos em que a tirei das urgências, até aos seus choros angustiantes. Por fim, foi a ajuda de uma psicóloga talentosa, usando a terapia de exposição, e o meu uso de <i>neurofeedback</i> que me permitiu dormir a noite toda. Para outros que sofrem com memórias traumáticas, uma nova abordagem inovadora usando <i>neurofeedback</i> descodificado, ou DecNef, poderá oferecer alivio. Esta extraordinária abordagem utiliza algoritmos gerados por computadores para identificar específicos padrões de atividade cerebral, incluindo aqueles associados às memórias traumáticas. Os participantes praticam então um jogo, que os permite retreinar a sua atividade cerebral para associações positivas. Se eu tivesse acesso à DecNef na altura, poderia ter recuperado mais rapidamente do PSPT sem ter de reviver todos os sons, terrores e cheiros para o conseguir fazer.
I'm not the only one. Sarah described herself as being at the end of her life, no longer in a life worth living, because of her severe and intractable depression. Then, using implanted brain sensors that reset her brain activity like a pacemaker for the brain, Sarah reclaimed her will to live.
Não sou a única. Sarah descreveu-se como estando no fim de vida, uma vida que não merecia ser vivida, por causa da sua depressão severa e intratável. Então, usando sensores cerebrais implantados que reiniciou a sua atividade cerebral como um <i>pacemaker</i> para o cérebro, a Sarah reconquistou a vontade de viver.
While implanted neurotechnology advances have been extraordinary, it's the everyday brain sensors that are embedded in our ordinary technology that I believe will impact the majority of our lives. Like the one third of adults and nearly one quarter of children who are living with epilepsy for whom conventional anti-seizure medications fail. Now, researchers from Israel to Spain have developed brain sensors using the power of AI in pattern recognition and consumer electroencephalography to enable the detection of epileptic seizures minutes to up to an hour before they occur, sending potentially life-saving alerts to a mobile device.
Enquanto os avanços da neurotecnologia têm sido extraordinários, penso que são os sensores cerebrais comuns, que estão incorporados na tecnologia comum que irão ter impacto na maioria das nossas vidas. Como no caso de um terço dos adultos e quase um quarto das crianças que vivem com epilepsia, para quem a medicação anticrise epilética não funcionam. Atualmente, investigadores de Israel a Espanha desenvolveram sensores cerebrais usando o poder da IA em reconhecer padrões e eletroencefalografia para consumidores, que permitem detetar crises epiléticas minutos ou uma hora antes de acontecerem, enviando alertas que potencialmente salvam vidas para um dispositivo móvel.
Regular use of brain sensors could even enable us to detect the earliest stages of the most aggressive forms of brain tumors, like glioblastoma, where early detection is crucial to saving lives. The same could hold true for Parkinson's disease, to Alzheimer's, traumatic brain injury, ADHD, and even depression.
O uso regular de sensores cerebrais pode até permitirmo-nos detetar as fases inicias dos mais agressivos temores cerebrais, como o glioblastoma, onde a deteção precoce é crucial para salvar vidas. O mesmo pode ser verdade para a doença de Parkinson, Alzheimer, traumatismos cranioencefálicos, PHDA, e até depressão.
We may even change our brains for the better. The brain training game industry, worth a staggering 6.5 billion dollars in 2021, was for years met with controversy because of unsupported scientific claims about their efficacy. But now some brain-training platforms like Cognizant have proven powerful in improving brain processing speeds, memory, reasoning and even executive functioning when played repeatedly over time. When paired with neurofeedback devices for learning reinforcement, this could revolutionize how we learn and adapt to change. Other breakthroughs could be transformational for the human experience. Today, most human brain studies are based on a very small number of participants engaged in very specific tasks in a controlled laboratory environment. With widespread use of brain sensors, the data we could have to learn about the human brain would exponentially increase. With sufficiently large datasets of long-term, real-world data from people engaged in everyday activity, we just might address everything from neurological disease and suffering to creating transformational possibilities for the human experience.
Podemos até mudar os nossos cérebros para melhor. A indústria de jogos de treino cerebral, avaliada nuns surpreendente 6,5 mil milhões de dólares em 2021, foi durante anos tida como controversa por causa de argumentos científicos não fundamentados sobre a sua eficácia. Mas agora algumas plataformas de treino cerebral, como a CogniFit têm mostrado ser poderosas a melhorar a velocidade de processamento, a memória do cérebro, o calculo cerebral e até no funcionamento executivo quando jogado regularmente. Quando emparelhado com dispositivos de neurofeedback para o reforço da aprendizagem, isto pode revolucionar como aprendemos e nos adaptamos a mudanças. Outros avanços podem ser transformativos para a experiência humana. Muitos dos estudos ao cérebro humano são baseados num número pequeno de participantes que desempenham tarefas específicas num ambiente de laboratório controlado. Com o uso generalizado de sensores cerebrais, os dados que teríamos para aprender sobre o cérebro iria aumentar exponencialmente. Com conjuntos de dados suficientemente grandes, sobre dados reais, de longo prazo de pessoas a desempenharem atividades do quotidiano, poderemos abordar tudo, desde doenças neurológicas e sofrimento até criar possibilidades transformacionais para a experiencia humana.
But all of this will only be possible if people can confidently share their brain data without fear that it will be misused against them. You see, the brain data that will be collected and generated by these devices won't be collected in traditional laboratory environments or in clinical research studies run by physicians and scientists. Instead, it will be the sellers of these new devices, the very companies who've been commodifying our personal data for years. Which is why we can't go into this new era naive about the risks or complacent about the challenges that the collection and sharing our brain data will pose. Scientific hurdles can and will be addressed in time, but the social hurdles will be the most challenging.
Mas tudo isto só será possível se as pessoas poderem partilhar os seus dados cerebrais com confiança sem medo de que serão usados contra elas. Os dados cerebrais que serão recolhidos e gerados por estes dispositivos não serão recolhidos em ambientes de laboratório tradicionais ou em clinicas de investigação conduzidas por médicos e cientistas. Em vez disso, serão os vendedores destes novos dispositivos, as companhias que têm comercializado os nossos dados pessoais há anos. É por isso que não podemos entrar nesta nova era ingénuos dos riscos ou complacentes dos desafios que a recolha e partilha dos nossos dados cerebrais representará. As barreiras cientificas podem e serão abordadas em tempo certo, mas as barreiras sociais serão as mais desafiantes.
Unlike the technologies of the past that track and hack the human brain, brain sensors provide direct access to the part of ourselves that we hold back, that we don't express through our words and our actions. Brain data in many instances will be more sensitive than the personal data of the past, because it reflects our feelings, our mental states, our emotions, our preferences, our desires, even our very thoughts. I would never have wanted the data that was collected as I worked through the trauma of my personal loss to have been commodified, shared and analyzed by others.
Ao contrário das tecnologias do passado que seguem e banalizam o cérebro humanos, os sensores cerebrais oferecem acesso direto àquela parte de nós que não mostramos, que não expressamos através das nossas palavras e ações. Os dados cerebrais serão muitas vezes mais sensíveis que os nossos dados pessoais do passado, porque refletem os nossos sentimentos, estados mentais, emoções, preferências, desejos, até os nossos pensamentos. Não quereria que os dados recolhidos enquanto processava o trauma da minha perda pessoal fossem comercializados, partilhados e analisados por outros.
These aren't just hypothetical risks. Take Entertek, a Hangzhou-based company, who has collected millions of instances of brain activity data as people have engaged in mind-controlled car racing, sleeping, working, even using neurofeedback with their devices. They've already entered into partnerships with other companies to share and analyze that data. Unless people have individual control over their brain data, it will be used for microtargeting or worse, instead of treating dementia. Like the employees worldwide who've already been subject to brain surveillance in the workplace to track their attention and fatigue, to governments, developing brain biometrics, to authenticate people at borders, to interrogate criminal suspects' brains and even weapons that are being crafted to disable and disorient the human brain. Brain wearables will have not only read but write capabilities, creating risks that our brains can be hacked, manipulated, and even subject to targeted attacks. We must act quickly to safeguard against the very real and terrifying risks to our innermost selves.
Estes não são apenas riscos hipotéticos. Pensem na Enterter, uma companhia sediada em Hancheu, que tem recolhido milhões de registos de dados de atividade cerebral, enquanto pessoas entram em corridas de carros controladas pela mente, dormem, trabalham, até quando usam o <i>neurofeedback</i> dos seus dispositivos. Já entraram em parceria com outras companhias para partilhar e analisar esses dados. Se as pessoas não tiverem controlo sobre os seus dados cerebrais, eles serão usados para microdirecionar ou pior, em vez de tratar a demência. Como os trabalhadores a nível mundial que já foram sujeitos a vigilância cerebral no local de trabalho para registar a sua atenção e fadiga, para governos a desenvolver biometria cerebral, para autenticação de pessoas nas fronteiras, para a avaliação dos cérebros de suspeitos de atividade criminal e até armas que estão a ser desenhadas para incapacitar e desorientar o cérebro humano. Dispositivos cerebrais não terão só a capacidade de ler mas também de escrever, criando riscos de os nossos cérebros poderem ser invadidos, manipulados, e mesmo alvos de ataques. Temos de agir rapidamente para nos salvaguardar contra os riscos tenebrosos muitíssimo reais de um ataque aos nossos seres interiores.
Recognizing a human right to cognitive liberty would offer those safeguards. Cognitive liberty is a right from interference by others, but it is also a right to self-determination over our brains and mental experiences to enable human flourishing. To achieve this, we need to recognize three interrelated human rights and update our understanding of them to secure to us a right to mental privacy, to safeguard us from interference with our automatic reactions, our emotions and our thoughts. Freedom of thought as an absolute human right to protect us from interception, manipulation and punishment of our thoughts. And self-determination to secure self-ownership over our brains and mental experiences, to access and change them if we want to do so. There are important efforts already underway from the UN to UNESCO, in nations worldwide, over rights and regulations around neurotechnologies. But those rights need to be better aligned with a broader set of digital rights. Cognitive liberty is an update to liberty in the digital age as an umbrella concept of human flourishing across digital technologies. Because the right way forward isn't through metaverse rights or AI rights or neurotech rights and the like. It's to recognize that these technologies don't exist in silos, but in combination, affecting our brains and mental experiences.
Reconhecer um direito humano à liberdade cognitiva iria oferecer essas salvaguardas. A liberdade cognitiva é um direito contra a interferência de outros, mas também é um direito à autodeterminação sobre os cérebros e experiências mentais que permitem a prosperidade humana. Para conseguir isto, temos de reconhecer três direitos humanos interligados e atualizar a nossa compreensão deles para nos garantir um direito à privacidade mental, para nos salvaguardar da interferência das nossas reações automáticas, emoções e pensamentos. A liberdade de pensamento é um direito humano absoluto que nos protege da interceção, manipulação e castigo dos nossos pensamentos. E autodeterminação para garantir a autopropriedade sob os nossos cérebros e experiências mentais, para acedermos e mudá-los se o quisermos fazer. Já há esforços importantes a serem feitos das Nações Unidas à UINESCO, em nações de todo o mundo, sobre os direitos e regulações ao redor de neurotecnologias. Mas esses direitos têm de estar melhor alinhados com uma série de direitos digitais mais amplos. A liberdade cognitiva é uma atualização da liberdade na era digital como um conceito abrangente da prosperidade humana nas tecnologias digitais. Porque o caminho a seguir não passa pelos direitos do metaverso ou da IA, ou dos direitos da neurotecnologia. É reconhecer que estas tecnologias não existem em compartimentos, mas em conjunto, afetando os nossos cérebros e experiências mentais.
We are literally at a moment before. And I mean a moment. Consumer brain wearables have already arrived, and the commodification of our brains has already begun. It's now just a question of scale. We haven't yet passed the inflection point where most of our brains can be directly accessed and changed by others. But it is about to happen, giving us a final moment to make a change so that we don't look back in a few years' time and lament the world we've left behind. We can and should be hopeful and deliberate about the choices we make now to secure a right to self-determination over our brains and mental experiences. The possibilities, if we do so, are limited only by our imagination.
Estamos literalmente a um momento de isto acontecer. A um momento mesmo. Dispositivos cerebrais para consumo já chegaram, e a comercialização dos nossos cérebros já começou. É agora apenas uma questão de dimensão. Ainda não passámos o ponto de inflexão onde a maior parte dos cérebros pode ser diretamente acedido e mudado por outros. Mas está prestes a acontecer, temos um último momento para mudar para que não olhemos para trás daqui a uns anos e lamentemos o mundo que deixámos para trás. Podemos e devemos estar esperançosos e deliberar sobre as escolhas que fazemos agora para garantir um direito à autodeterminação sob os nossos cérebros e experiências mentais. As possibilidades, se o fizermos, só estarão limitadas pela nossa imaginação.
Thank you.
Obrigada.
(Applause)
(Aplausos)