Today, we know and track virtually nothing that’s happening in our own brains. But in a future that is coming much faster than you realize, all of that is about to change.
Nous ne connaissons et ne traquons presque rien de ce qui se passe dans nos cerveaux. Mais dans un futur bien plus proche que ce que vous imaginez, tout ceci va changer.
We're now familiar with sensors in our smart watches to our rings, that track everything from our heartbeats to our footsteps, breaths, body temperature, even our sleep. Now, consumer neurotech devices are being sold worldwide to enable us to track our own brain activity. As companies from Meta to Microsoft, Snap and even Apple begin to embed brain sensors in our everyday devices like our earbuds, headphones, headbands, watches and even wearable tattoos, we're reaching an inflection point in brain transparency.
Nous sommes maintenant habitués aux capteurs dans nos montres et bagues qui suivent notre rythme cardiaque, le nombre de nos pas, notre respiration, notre température corporelle et même notre sommeil. Aujourd’hui, des appareils de neurotech grand public sont vendus partout pour nous permettre de suivre notre propre activité cérébrale. Les sociétés, de Meta à Microsoft, en passant par Snap et même Apple, commencent à intégrer des capteurs cérébraux dans nos appareils quotidiens, tels que nos écouteurs, casques, bandeaux, nos montres et même nos tatouages. Nous atteignons un tournant en termes de transparence cérébrale.
And those are just some of the company names we're familiar with. There are so many more. Consumer neurotech devices are moving from niche products with limited applications to becoming the way in which we'll learn about our own brain activity, our controller for virtual reality and augmented reality. And one of the primary ways we'll interact with all of the rest of our technology. Even conservative estimates of the neurotech industry put it at more than 38 billion dollars by 2032. This new category of technology presents unprecedented possibility, both good and bad.
Et ce ne sont que les sociétés dont les noms nous sont familiers, mais il y en a bien d’autres. Les appareils de neurotech grand public, de produits de niche aux applications limitées, sont en train de devenir le moyen de connaître notre activité cérébrale, nos manettes de réalité virtuelle et de réalité augmentée et un des principaux moyens pour interagir avec les autres technologies. Même les estimations prudentes de l’industrie neurotech prédisent qu’elle atteindra 38 milliards de dollars en 2023. Cette nouvelle catégorie de technologie offre des possibilités sans précédent, à la fois bonnes et mauvaises.
Consider how our physical health and well-being are increasing while neurological disease and suffering continue to rise. 55 million people around the world are struggling with dementia, with more than 60 to 70 percent of them suffering from Alzheimer's disease. Nearly a billion people struggle with mental health and drug use disorders. Depression affects more than 300 million. Consumer neurotech devices could finally enable us to treat our brain health and wellness as seriously as we treat the rest of our physical well-being.
Considérez la manière dont notre santé et notre bien-être physique progressent tandis que les maladies neurologiques et la souffrance ne cessent de s’étendre. 55 millions de personnes dans le monde souffrent d’une forme de démence, Alzheimer pour plus de 60 à 70 pour cent d’entre eux. Presque un milliard de personnes font face à des problèmes de santé mentale et d’abus de substance. La dépression touche plus de 300 millions de personnes. Grâce aux appareils de neurotech grand public, nous pourrions enfin traiter notre santé et bien-être mentaux aussi sérieusement que notre bien-être physique.
But making our brains transparent to others also introduces extraordinary risks. Which is why, before it's too late to do so, we must change the basic terms of service for neurotechnology in favour of individual rights. I say this not just as a law professor who believes in the power of law, nor just a philosopher trying to flesh out norms, but as a mother who's been personally and profoundly impacted by the use of neurotechnology in my own life.
Mais rendre nos cerveaux transparents pour les autres entraîne aussi de très grands risques. Et c’est pourquoi nous devons modifier avant qu’il ne soit trop tard les conditions d’utilisation de base des neurotechs en faveur des droits individuels. Je ne dis pas cela seulement en tant que professeur de droit qui croit en la puissance des lois, ni en tant que philosophe essayant d’étoffer les normes, mais en tant que mère, qui a été personnellement et profondément affectée par l’utilisation de la neurotechnologie dans ma propre vie.
On Mother's Day in 2017, as my daughter Calista lay cradled in my arms, she took one last beautiful breath. After a prolonged hospitalization, complications following infections claimed her life. The harrowing trauma that she endured and we witnessed stretched into weeks. And I was left with lasting trauma that progressed into post-traumatic stress disorder. Sleep escaped me for years. As each time I closed my eyes, I relived everything, from the first moments that I was pushed out of the emergency room to her gut-wrenching cries. Ultimately, it was the help of a talented psychologist, using exposure therapy, and my use of neurofeedback that enabled me to sleep through the night. For others who are suffering from traumatic memories, an innovative new approach using decoded neurofeedback, or DecNef, may offer reprieve. This groundbreaking approach uses machine-learning algorithms to identify specific brain-activity patterns, including those associated with traumatic memories. Participants then play a game that enables them to retrain their brain activity on positive associations instead. If I had had DecNef available to me at the time, I might have overcome my PTSD more quickly without having to relive every sound, terror and smell in order to do so.
Le jour de la fête des Mères, en 2017, ma fille Calista a rendu entre mes bras son dernier et plus beau souffle. Après une hospitalisation prolongée, des complications apparues à la suite d’infections lui ont coûté la vie. Nous avons été témoin de la souffrance qu’elle a endurée pendant des semaines. Et j’en ai gardé un traumatisme durable qui a évolué en stress post-traumatique. J’ai perdu le sommeil pendant des années. Chaque fois que je fermais les yeux, tout me revenait, des premiers instants où l’on m’a fait sortir des urgences à ses pleurs déchirants. Finalement, c’est l’aide d’un psychologue talentueux employant la thérapie d’exposition et mon utilisation de la technique du neurofeedback qui m’ont permis de dormir la nuit. Pour ceux qui souffrent de souvenirs traumatiques, une nouvelle approche innovante utilisant des neurofeedbacks décodés, ou DecNef, peut offrir un répit. Cette approche révolutionnaire utilise des algorithmes d’apprentissage pour identifier des schémas spécifiques d’activité cérébrale, incluant ceux associés aux souvenirs traumatiques. Les participants font ensuite un jeu qui leur permet de rééduquer leur activité cérébrale avec des associations positives. Si la technique du DecNef avait été disponible à l’époque, j’aurais peut-être vaincu mon SSPT plus rapidement et sans avoir à revivre ces sons, ces odeurs et cette terreur.
I'm not the only one. Sarah described herself as being at the end of her life, no longer in a life worth living, because of her severe and intractable depression. Then, using implanted brain sensors that reset her brain activity like a pacemaker for the brain, Sarah reclaimed her will to live.
Et je ne suis pas la seule. Sarah se décrivait comme étant à la fin d’une existence qui ne valait plus la peine d’être vécue à cause d’une dépression sévère qui résistait aux traitements. Mais, grâce à des capteurs implantés dans son cerveau qui ont réinitialisé son activité cérébrale, comme un pacemaker pour le cerveau, Sarah a retrouvé sa volonté de vivre.
While implanted neurotechnology advances have been extraordinary, it's the everyday brain sensors that are embedded in our ordinary technology that I believe will impact the majority of our lives. Like the one third of adults and nearly one quarter of children who are living with epilepsy for whom conventional anti-seizure medications fail. Now, researchers from Israel to Spain have developed brain sensors using the power of AI in pattern recognition and consumer electroencephalography to enable the detection of epileptic seizures minutes to up to an hour before they occur, sending potentially life-saving alerts to a mobile device.
Bien que les progrès des implants neurotechs soient énormes, ce sont les capteurs cérébraux intégrés dans la technologie de tous les jours qui, d’après moi, impacteront la majorité de nos vies. Comme celles des épileptiques pour qui les antiépileptiques ne marchent pas, soit un tiers des adultes et presque un quart des enfants. Des chercheurs, de l’Israël à l’Espagne, ont développé des capteurs cérébraux qui utilisent la reconnaissance de formes des IA et l’électroencéphalographie pour permettre la détection de crises d’épilepsie de quelques minutes à une heure avant leur déclenchement, envoyant une alerte à un appareil mobile, ce qui peut sauver des vies.
Regular use of brain sensors could even enable us to detect the earliest stages of the most aggressive forms of brain tumors, like glioblastoma, where early detection is crucial to saving lives. The same could hold true for Parkinson's disease, to Alzheimer's, traumatic brain injury, ADHD, and even depression.
L’utilisation fréquente de ces capteurs pourrait même permettre la détection au stade précoce de tumeurs cérébrales agressives, comme le glioblastome dont une détection précoce est cruciale pour sauver des vies. Et l’on pourrait dire la même chose pour Parkinson, Alzheimer, les lésions cérébrales traumatiques, le TDAH et même la dépression.
We may even change our brains for the better. The brain training game industry, worth a staggering 6.5 billion dollars in 2021, was for years met with controversy because of unsupported scientific claims about their efficacy. But now some brain-training platforms like Cognizant have proven powerful in improving brain processing speeds, memory, reasoning and even executive functioning when played repeatedly over time. When paired with neurofeedback devices for learning reinforcement, this could revolutionize how we learn and adapt to change. Other breakthroughs could be transformational for the human experience. Today, most human brain studies are based on a very small number of participants engaged in very specific tasks in a controlled laboratory environment. With widespread use of brain sensors, the data we could have to learn about the human brain would exponentially increase. With sufficiently large datasets of long-term, real-world data from people engaged in everyday activity, we just might address everything from neurological disease and suffering to creating transformational possibilities for the human experience.
On pourrait même améliorer notre cerveau. L’industrie des jeux d’entraînement cérébral, qui vaut la somme impressionnante de 6,5 milliards de dollars en 2021, a été controversée pendant des années à cause du manque de preuves scientifiques de son efficacité. Aujourd’hui, des plateformes d’entraînement cérébral, comme CogniFit, ont prouvé leur efficacité pour l’amélioration de la vitesse de traitement cognitif, de la mémoire, de la réflexion et même du fonctionnement exécutif si utilisées régulièrement à long terme. Couplé avec un équipement de neurofeedback pour la consolidation de l’apprentissage, ça pourrait révolutionner la manière dont nous apprenons et nous adaptons. D’autres avancées pourraient transformer l’expérience humaine. Les études actuelles sur le cerveau humain s’appuient sur un nombre très réduit de participants, exécutant des tâches spécifiques dans un environnement contrôlé en labo. Avec la généralisation des capteurs cérébraux, les données à notre disposition pour comprendre le cerveau pourraient augmenter exponentiellement. Des ensembles assez larges de données du monde réel, collectées sur le long terme chez des gens exécutant des activités quotidiennes, pourraient nous permettre de nous occuper des maladies neurologiques et de la souffrance, ainsi que de créer des occasions de transformer l’expérience humaine.
But all of this will only be possible if people can confidently share their brain data without fear that it will be misused against them. You see, the brain data that will be collected and generated by these devices won't be collected in traditional laboratory environments or in clinical research studies run by physicians and scientists. Instead, it will be the sellers of these new devices, the very companies who've been commodifying our personal data for years. Which is why we can't go into this new era naive about the risks or complacent about the challenges that the collection and sharing our brain data will pose. Scientific hurdles can and will be addressed in time, but the social hurdles will be the most challenging.
Mais tout ceci ne sera possible que si les gens peuvent partager leurs données cérébrales sans avoir à craindre qu’elles soient utilisées contre eux. Vous voyez, les données qui seront collectées et produites par ces appareils ne le seront pas dans le cadre traditionnel d’un laboratoire ou de recherches cliniques menées par des médecins et des scientifiques. À la place, ce seront les vendeurs de ces nouveaux appareils, ces compagnies qui marchandent nos données personnelles depuis des années. C’est pourquoi nous ne pouvons pas entrer dans cette nouvelle ère naïfs quant aux risques ou complaisants quant aux défis que la collecte et le partage de nos données cérébrales vont entraîner. Les obstacles scientifiques peuvent et seront résolus avec le temps, mais ce sont les obstacles sociaux qui constitueront le plus grand défi.
Unlike the technologies of the past that track and hack the human brain, brain sensors provide direct access to the part of ourselves that we hold back, that we don't express through our words and our actions. Brain data in many instances will be more sensitive than the personal data of the past, because it reflects our feelings, our mental states, our emotions, our preferences, our desires, even our very thoughts. I would never have wanted the data that was collected as I worked through the trauma of my personal loss to have been commodified, shared and analyzed by others.
Contrairement aux technologies d’autrefois qui pistaient et pirataient le cerveau, les capteurs cérébraux offrent un accès direct aux parts de nous-mêmes que l’on refoule, que nous n’exprimons pas par nos paroles et nos actions. Les données cérébrales seront dans bien des cas plus sensibles que les données personnelles du passé, parce qu’elles reflètent nos sentiments, notre état mental, nos émotions, nos préférences, nos désirs et même nos pensées. Je n’aurais jamais accepté que les données qui étaient collectées tandis que je luttais contre le trauma de la perte que j’ai vécue puissent être vendues, partagées et analysées.
These aren't just hypothetical risks. Take Entertek, a Hangzhou-based company, who has collected millions of instances of brain activity data as people have engaged in mind-controlled car racing, sleeping, working, even using neurofeedback with their devices. They've already entered into partnerships with other companies to share and analyze that data. Unless people have individual control over their brain data, it will be used for microtargeting or worse, instead of treating dementia. Like the employees worldwide who've already been subject to brain surveillance in the workplace to track their attention and fatigue, to governments, developing brain biometrics, to authenticate people at borders, to interrogate criminal suspects' brains and even weapons that are being crafted to disable and disorient the human brain. Brain wearables will have not only read but write capabilities, creating risks that our brains can be hacked, manipulated, and even subject to targeted attacks. We must act quickly to safeguard against the very real and terrifying risks to our innermost selves.
Ce ne sont pas juste des risques hypothétiques. Prenez Entertek, une compagnie basée à Hangzhou, qui a collecté des millions de données de l’activité cérébrale de personnes conduisant des voitures contrôlées par la pensée, dormant, travaillant et même utilisant le neurofeedback avec leurs appareils. Elle a déjà conclu des partenariats avec d’autres compagnies pour partager et analyser ces données. Sauf si les gens disposent du contrôle individuel de leurs données cérébrales, elles seront utilisées pour du microciblage ou pire, plutôt que pour le traitement de la démence. Comme les employés partout dans le monde qui ont déjà subi sur leur lieu de travail une surveillance cérébrale qui piste leur attention et fatigue, comme les gouvernements qui développent la biométrie cérébrale pour authentifier les gens aux frontières et interroger le cerveau de suspects, jusqu’aux armes qui sont fabriquées pour désactiver ou désorienter le cerveau humain. Les objets connectés pourront lire nos cerveaux, mais aussi les réécrire, créant un risque qu’ils puissent être piratés, manipulés ou même la cible d’attaques ciblées. Nous devons agir rapidement pour nous garder de ces risques, aussi réels que terrifiants, qui menacent notre part la plus intime.
Recognizing a human right to cognitive liberty would offer those safeguards. Cognitive liberty is a right from interference by others, but it is also a right to self-determination over our brains and mental experiences to enable human flourishing. To achieve this, we need to recognize three interrelated human rights and update our understanding of them to secure to us a right to mental privacy, to safeguard us from interference with our automatic reactions, our emotions and our thoughts. Freedom of thought as an absolute human right to protect us from interception, manipulation and punishment of our thoughts. And self-determination to secure self-ownership over our brains and mental experiences, to access and change them if we want to do so. There are important efforts already underway from the UN to UNESCO, in nations worldwide, over rights and regulations around neurotechnologies. But those rights need to be better aligned with a broader set of digital rights. Cognitive liberty is an update to liberty in the digital age as an umbrella concept of human flourishing across digital technologies. Because the right way forward isn't through metaverse rights or AI rights or neurotech rights and the like. It's to recognize that these technologies don't exist in silos, but in combination, affecting our brains and mental experiences.
Reconnaître qu’il y a un droit humain à la liberté cognitive offrirait cette sécurité. La liberté cognitive est le droit à être protégé contre les intrusions, mais aussi un droit à l’autodétermination sur nos cerveaux et expériences mentales pour permettre l’épanouissement humain. Pour atteindre cela, nous devons reconnaître trois droits de l’homme liés et repenser la compréhension que nous en avons pour nous assurer le droit à l’intimité mentale et pour nous protéger d’intrusions dans nos réactions instinctives, nos émotions et nos pensées. La liberté de pensée en tant que droit humain absolu pour protéger nos pensées de la manipulation, des interceptions et des mauvais traitements. Et l’autodétermination pour garantir que nos cerveaux et expériences mentales nous appartiennent, que nous pouvons y avoir accès et les changer si nous le voulons. L’ONU, l’UNESCO et tous les pays du monde, déploient déjà des efforts importants pour assurer des droits et des régulations dans le domaine de la neurotech. Mais ces droits doivent être mieux alignés et comporter davantage de droits numériques. La liberté cognitive est une mise à jour de la liberté à l’ère numérique comme concept général de l’épanouissement humain dans les technologies numériques. Parce que la route vers l’avant ne passe pas par les lois sur l’IA, les métavers ou les neurotech. Elle passe par la reconnaissance que ces technologies ne sont pas séparées, mais agissent en combinaison, affectant nos cerveaux et nos expériences mentales.
We are literally at a moment before. And I mean a moment. Consumer brain wearables have already arrived, and the commodification of our brains has already begun. It's now just a question of scale. We haven't yet passed the inflection point where most of our brains can be directly accessed and changed by others. But it is about to happen, giving us a final moment to make a change so that we don't look back in a few years' time and lament the world we've left behind. We can and should be hopeful and deliberate about the choices we make now to secure a right to self-determination over our brains and mental experiences. The possibilities, if we do so, are limited only by our imagination.
Nous sommes littéralement l’instant d’avant. Vraiment juste l’instant d’avant. Les objets connectés au cerveau sont déjà là et la marchandisation de nos cerveaux a déjà commencé. Ce n’est plus qu’une question d’échelle. Nous n’avons pas encore passé le point d’inflexion où il sera possible d’accéder et modifier directement la majorité de notre cerveau. Mais c’est sur le point d’arriver. Nous avons une ultime occasion de changer les choses, pour, en regardant en arrière dans quelques années, ne pas avoir à regretter le monde que nous avons laissé derrière. Nous pouvons et devons nous montrer optimistes et réfléchis quant aux choix que nous faisons actuellement pour nous assurer l’autodétermination sur nos cerveaux et expériences mentales. Les possibilités, si nous faisons cela, ne sont limitées que par notre imagination.
Thank you.
Merci.
(Applause)
(Applaudissements)