Today, we know and track virtually nothing that’s happening in our own brains. But in a future that is coming much faster than you realize, all of that is about to change.
Данас не знамо, нити пратимо готово ништа што се дешава у нашим мозговима. Међутим, у будућности која галопом долази, све ће се то променити. Сви смо упознати са сензорима у нашим паметним сатовима и прстеновима,
We're now familiar with sensors in our smart watches to our rings, that track everything from our heartbeats to our footsteps, breaths, body temperature, even our sleep. Now, consumer neurotech devices are being sold worldwide to enable us to track our own brain activity. As companies from Meta to Microsoft, Snap and even Apple begin to embed brain sensors in our everyday devices like our earbuds, headphones, headbands, watches and even wearable tattoos, we're reaching an inflection point in brain transparency.
који прате откуцаје срца, број корака, удисаја, телесну температуру, па чак и наш сан. Сад, комерцијална неуротехнологија се продаје широм света и омогућава нам да пратимо сопствену мождану активност. Компаније попут Мете и Мајкрософта, до Снепа, па чак и Епла, почињу да уграђују мождане сензоре у уређаје које свакодневно користимо, попут слушалица, сатова, трака за косу, па чак и паметних тетоважа. Приближавамо се преломној тачки наше мождане транспарентности. И ово су само неке компаније које су нам познате. Постоје још многе друге.
And those are just some of the company names we're familiar with. There are so many more. Consumer neurotech devices are moving from niche products with limited applications to becoming the way in which we'll learn about our own brain activity, our controller for virtual reality and augmented reality. And one of the primary ways we'll interact with all of the rest of our technology. Even conservative estimates of the neurotech industry put it at more than 38 billion dollars by 2032. This new category of technology presents unprecedented possibility, both good and bad.
Комерцијална неуротехнологија излази из уских ниша са ограниченом примењивошћу и постаје начин на који сазнајемо о нашим можданим активностима, то је наша командна табла виртуелне и проширене реалности, и један од главних начина интеракције са остатком наше технологије. Чак и конзервативне процене стављају индустрију неуротхенологије на преко 38 милијарди долара годишње до 2032. године. Ова нова категорија технологије пружа могућности без преседана, како добре тако и лоше.
Consider how our physical health and well-being are increasing while neurological disease and suffering continue to rise. 55 million people around the world are struggling with dementia, with more than 60 to 70 percent of them suffering from Alzheimer's disease. Nearly a billion people struggle with mental health and drug use disorders. Depression affects more than 300 million. Consumer neurotech devices could finally enable us to treat our brain health and wellness as seriously as we treat the rest of our physical well-being.
Размислите како се наше физичко здравље и благостање стално повећава, док су неуролошке болести и патња у сталном порасту. Широм света, 55 милиона људи се бори са деменцијом, а 60 до 70 процената њих болује од Алцхајмера. Скоро милијарду људи се бори са менталним здрављем и употребом наркотика. Депресија погађа преко 300 милиона људи. Комерцијална неуротехнологија би нам могла омогућити да се посветимо здрављу и благостању мозга једнако озбиљно као што то радимо са остатком нашег физичког благостања.
But making our brains transparent to others also introduces extraordinary risks. Which is why, before it's too late to do so, we must change the basic terms of service for neurotechnology in favour of individual rights. I say this not just as a law professor who believes in the power of law, nor just a philosopher trying to flesh out norms, but as a mother who's been personally and profoundly impacted by the use of neurotechnology in my own life.
Али дозвољавање другима да имају увид у наше мозгове носи изузетне ризике. Зато морамо да, пре него што буде прекасно, променимо основне услове коришћења ове технологије у корист права појединаца. Ово кажем, не само као професор права који верује у моћ права, нити као филозоф који покушава да разјасни те норме, него као мајка коју је дубоко и лично погододила употреба ове технологије у мом животу.
On Mother's Day in 2017, as my daughter Calista lay cradled in my arms, she took one last beautiful breath. After a prolonged hospitalization, complications following infections claimed her life. The harrowing trauma that she endured and we witnessed stretched into weeks. And I was left with lasting trauma that progressed into post-traumatic stress disorder. Sleep escaped me for years. As each time I closed my eyes, I relived everything, from the first moments that I was pushed out of the emergency room to her gut-wrenching cries. Ultimately, it was the help of a talented psychologist, using exposure therapy, and my use of neurofeedback that enabled me to sleep through the night. For others who are suffering from traumatic memories, an innovative new approach using decoded neurofeedback, or DecNef, may offer reprieve. This groundbreaking approach uses machine-learning algorithms to identify specific brain-activity patterns, including those associated with traumatic memories. Participants then play a game that enables them to retrain their brain activity on positive associations instead. If I had had DecNef available to me at the time, I might have overcome my PTSD more quickly without having to relive every sound, terror and smell in order to do so.
На Дан мајки 2017. године, љуљала сам моју ћерку Калисту у рукама када је последњи пут удахнула ваздух. Након дуге хоспитализације, компликације и пратеће инфекције су јој узеле живот. Мучна траума коју је проживела, а ми јој сведочили се развукла у седмице. А ја сам остала са трајном траумом која је узнапредовала у пострауматски стресни поремећај. Годинама нисам спавала. Сваки пут када бих затворила очи, све бих опет проживљавала, од првих тренутака када су ме изгурали из собе за хитне случајеве, па до њеног плача од којег се превће стомак. На крају, кроз све то сам прошла захваљујући талентованом психологу који је користио терапију десензитизације и моју личну употребу можданих повратних информација што ми је омогућило да поново спавам ноћу. За све који болују од трауматских успомена овај нови иновативни приступ који користи декодиране мождане повратне информације, скраћено ДМПИ, може пружити олакшање. Овај револуционарни приступ користи алгоритме за машинско учење да препозна специфичне обрасце можданих активности, укључујући и оне повезане са труматичним успоменама. Учесници онда играју игру која им тренира мозак да задрже мождане активности на позитивним асоцијацијама уместо на негативним. Да ми је тада био доступан ДМПИ, можда бих се раније изборила са ПТСП-ом, и не бих морала поново да проживљавам сваки звук, мирис и сваки страх.
I'm not the only one. Sarah described herself as being at the end of her life, no longer in a life worth living, because of her severe and intractable depression. Then, using implanted brain sensors that reset her brain activity like a pacemaker for the brain, Sarah reclaimed her will to live.
Нисам једина. Сара је описала да је на крају свог живота, да га више не вреди живети, све због тешке и неумољиве депресије. Онда, након уградње можданих сензора, који су јој ресетовали мождану активност, попут пејсмејкера за мозак, Сари се вратила воља за животом.
While implanted neurotechnology advances have been extraordinary, it's the everyday brain sensors that are embedded in our ordinary technology that I believe will impact the majority of our lives. Like the one third of adults and nearly one quarter of children who are living with epilepsy for whom conventional anti-seizure medications fail. Now, researchers from Israel to Spain have developed brain sensors using the power of AI in pattern recognition and consumer electroencephalography to enable the detection of epileptic seizures minutes to up to an hour before they occur, sending potentially life-saving alerts to a mobile device.
Иако су помаци у неуротехнолошким имплантима невереоватни, верујем да ће свакодневни мождани сензори, уграђени у обичну технологију, бити оно што ће највише утицати на наше животе. На пример, за трећину одраслих и четвртину деце, који живе са епилепсијом, и којима конвенционални лекови против напада не помажу. Истраживачи од Израела до Шпаније развијају мождане сензоре користећи моћ ВИ за препознавање образаца и комерцијалне електроенцефалографије који омогућавају откривање епилептичних напада од неколико минута до сат времена пре него се десе, и шаљу обавештења на мобилне уређаје која могу спасити живот.
Regular use of brain sensors could even enable us to detect the earliest stages of the most aggressive forms of brain tumors, like glioblastoma, where early detection is crucial to saving lives. The same could hold true for Parkinson's disease, to Alzheimer's, traumatic brain injury, ADHD, and even depression.
Редовна употреба можданих сензора нам може омогућити да откријемо најраније фазе чак и најагресивнијих можданих тумора, попут мултиформног глиобластома, где рано откривање значи разлику између живота и смрти. Исто важи и за Паркиносона, Алцхајмера, трауматске повреде мозга, поремећај хиперактивности и дефицита пажње, па чак и депресије.
We may even change our brains for the better. The brain training game industry, worth a staggering 6.5 billion dollars in 2021, was for years met with controversy because of unsupported scientific claims about their efficacy. But now some brain-training platforms like Cognizant have proven powerful in improving brain processing speeds, memory, reasoning and even executive functioning when played repeatedly over time. When paired with neurofeedback devices for learning reinforcement, this could revolutionize how we learn and adapt to change. Other breakthroughs could be transformational for the human experience. Today, most human brain studies are based on a very small number of participants engaged in very specific tasks in a controlled laboratory environment. With widespread use of brain sensors, the data we could have to learn about the human brain would exponentially increase. With sufficiently large datasets of long-term, real-world data from people engaged in everyday activity, we just might address everything from neurological disease and suffering to creating transformational possibilities for the human experience.
Можда чак променимо и своје мозгове набоље. Индустрија игара за тренинг мозга, процењена на запањујућих 6,5 милијарди долара у 2021. години, годинама је била контроверзна јер тврдње о њеној ефикасности нису биле научно поткрепљене. Али сада су се неке платформе за тренинг мозга попут Когнизанта доказале у побољшавању брзине обрађивања, памћења, расуђивања, па чак и извршних функција када се играју дуже времена. Када се упаре са МПИ уређајима за поткрепљивање учења, ово може да преокрене то како учимо и како се прилагођавамо променама. Друга открића би могла да буду преображајна за људско искуство. Већина данашњих истраживања мозга се раде на веома малом броју учесника који раде веома специфичне задатке у контролисаним лабораторијским условима. Распострањеном употребом можданих сензора експоненцијално би се повећали подаци који би нам помогли да учимо о људском уму. Ако добијемо довољно велик скуп података, сакупљен у дужем временском периоду, од људи из стварног света како раде свакодневне активности, могли бисмо да откључамо сваку мистерију, од неуролошких болести и патње, па до стварања могућности да се цело људско искуство преобрази.
But all of this will only be possible if people can confidently share their brain data without fear that it will be misused against them. You see, the brain data that will be collected and generated by these devices won't be collected in traditional laboratory environments or in clinical research studies run by physicians and scientists. Instead, it will be the sellers of these new devices, the very companies who've been commodifying our personal data for years. Which is why we can't go into this new era naive about the risks or complacent about the challenges that the collection and sharing our brain data will pose. Scientific hurdles can and will be addressed in time, but the social hurdles will be the most challenging.
Међутим, ово неће бити могуће без поверљивости можданих података и без отклањања страха да ће ови подаци бити употребљени против нас. Видите, мождани подаци које ће ови уређаји производити и који ће се сакупљати неће бити сакуљени у традиционалним, лабораторијским условима или клиничким истраживањима које спроводе доктори и научници. Не, то ће радити продавци ових уређаја, исте оне компаније које годинама претварају наше личне податке у робу којом се тргује. Зато не можемо ући у ово ново доба неупућени у ризике и бити несвесни изазова које сакупљање и дељење ових података носи. Научне препреке се могу, и хоће, решити временом, али друштвене препреке ће бити много изазовније.
Unlike the technologies of the past that track and hack the human brain, brain sensors provide direct access to the part of ourselves that we hold back, that we don't express through our words and our actions. Brain data in many instances will be more sensitive than the personal data of the past, because it reflects our feelings, our mental states, our emotions, our preferences, our desires, even our very thoughts. I would never have wanted the data that was collected as I worked through the trauma of my personal loss to have been commodified, shared and analyzed by others.
За разлику од прошлих технологија које прате и хакују људски мозак, мождани сензори имају директан приступ делу нас који свесно заузадавамо, који не изражавамо кроз речи и дела. Ови подаци ће у већини случајева бити много осетљивији од личних података, јер одражавају наша осећања, како свесна тако и несвесна, наше стање ума, наше склоности, жеље, па чак и наше мисли. Никада не бих пожелела да се ти подаци сакупљају док сам пролазила кроз трауму и превазилазила лични губитак, да их после неко претвори у робу и њима тргује, да их дели и анализира.
These aren't just hypothetical risks. Take Entertek, a Hangzhou-based company, who has collected millions of instances of brain activity data as people have engaged in mind-controlled car racing, sleeping, working, even using neurofeedback with their devices. They've already entered into partnerships with other companies to share and analyze that data. Unless people have individual control over their brain data, it will be used for microtargeting or worse, instead of treating dementia. Like the employees worldwide who've already been subject to brain surveillance in the workplace to track their attention and fatigue, to governments, developing brain biometrics, to authenticate people at borders, to interrogate criminal suspects' brains and even weapons that are being crafted to disable and disorient the human brain. Brain wearables will have not only read but write capabilities, creating risks that our brains can be hacked, manipulated, and even subject to targeted attacks. We must act quickly to safeguard against the very real and terrifying risks to our innermost selves.
Ово нису само хипотетички ризици. Узмимо на пример Ентертек, компанију са седиштем у Хангџоу, који је сакупио милионе случајева можданих активности док су људи управљали умом аутима за тркање, док су спавали, радили, чак и док су употребљавали њихове уређаје кроз мождане повратне информације. Већ су формирали партнерства са другим фирмама о дељењу и анализи тих података. Ако појединци не буду имали контролу над својим можданим подацима, користиће их за миркотаргетирање и много горе ствари, а не за лечење деменције. Почевши од запослених широм света који већ подлежу можданом надзору на радном месту где им се прати пажња и умор, преко влада које развијају биометрију мозга за потврђивања идентитета на граници и испитивања мозгова осумњичених за злочине, до прављења оружја које може да дезоријентише и онеспособи људски мозак. Носива неуротехнологија ће имати могућности да мења, а не само да очитава способности, што ствара опасност да ће неко моћи да хакује наш мозак, да манипулише нама, чак и да будемо мете циљаних напада. Морамо брзо деловати да се заштитимо од веома стварне и застрашујуће опасности по нас саме.
Recognizing a human right to cognitive liberty would offer those safeguards. Cognitive liberty is a right from interference by others, but it is also a right to self-determination over our brains and mental experiences to enable human flourishing. To achieve this, we need to recognize three interrelated human rights and update our understanding of them to secure to us a right to mental privacy, to safeguard us from interference with our automatic reactions, our emotions and our thoughts. Freedom of thought as an absolute human right to protect us from interception, manipulation and punishment of our thoughts. And self-determination to secure self-ownership over our brains and mental experiences, to access and change them if we want to do so. There are important efforts already underway from the UN to UNESCO, in nations worldwide, over rights and regulations around neurotechnologies. But those rights need to be better aligned with a broader set of digital rights. Cognitive liberty is an update to liberty in the digital age as an umbrella concept of human flourishing across digital technologies. Because the right way forward isn't through metaverse rights or AI rights or neurotech rights and the like. It's to recognize that these technologies don't exist in silos, but in combination, affecting our brains and mental experiences.
Препознавање когнитивне слободе као људског права би нудило такву заштиту. Когнитивна слобода би била наше право да се други не мешају, али исто тако и наше право да одлучујемо о нашем мозгу и томе како доживљавамо све оно што нам дозвољава индивидуални развој. Да бисмо ово постигли, треба да препознамо три повезана људска права и да осавременимо схватање истих да бисмо осигурали право на менталну приватност и успоставили брану од утицаја других на наше аутоматске реакције, осећања и мисли. Слобода мишљења је апсолутно људско право које гарантује да нам нико не може пресрести или управљати мислима, нити нас због њих кажњавати. Право на самоопредељење гарантује сигурну контролу над нашим умовима и духовним искуствима, те да им можемо приступити и мењати их само ако то желимо. Учињени су значајни напори од стране држава широм света, од УН-a па до Унескоа, да се правно уреди област неуротехнологије. Међутим, та права морају бити усклађенија са ширим скупом дигиталних права. Когнитивна слобода је само унапређење слободе у дигиталном добу као кровни концепт индивидуалног развоја широм дигиталних технологија. Јер прави пут није кроз права метаверзума, права ВИ или неуротехнологије, или слично. Него да препознамо да те технологије не постоје изоловано, него да заједно могу да утичу на наше мозгове и духовно искуство.
We are literally at a moment before. And I mean a moment. Consumer brain wearables have already arrived, and the commodification of our brains has already begun. It's now just a question of scale. We haven't yet passed the inflection point where most of our brains can be directly accessed and changed by others. But it is about to happen, giving us a final moment to make a change so that we don't look back in a few years' time and lament the world we've left behind. We can and should be hopeful and deliberate about the choices we make now to secure a right to self-determination over our brains and mental experiences. The possibilities, if we do so, are limited only by our imagination.
Дословно нас тренутак дели од тога. И заиста мислим на тренутак. Комерцијална носива неуротехнологија је већ ту а претварање наших мозгова у робу је већ почело. Само је питање размере. Нисмо још прошли тачку када ће други моћи да директно приступе и мењају већи део нашег мозга. Међутим, то само што се није десило. И последњи је тренутак да променимо нешто да се не бисмо после пар година сећали и јадиковали над светом који смо изгубили. Можемо и требамо имати наду и истрајност у изборима које сада правимо да осигурамо право на опредељење у вези с нашим мозговима и духовним искуствима. Ако то учинимо, могућности су ограничене само нашом маштом.
Thank you.
Хвала вам.
(Applause)
(Аплауз)