I'm an artist and an engineer. And lately, I've been thinking a lot about how technology mediates the way we perceive reality. And it's being done in a superinvisible and nuanced way. Technology is designed to shape our sense of reality by masking itself as the actual experience of the world. As a result, we are becoming unconscious and unaware that it is happening at all.
Ja sam umetnik i inženjer. I u poslednje vreme sam često mislila o tome kako tehnologija utiče na način na koji doživljavamo stvarnost. I to se dešava na skoro neprimetan i pažljiv način. Tehnologija je dizajnirana da oblikuje naš smisao za realnost tako što se predstavlja da je sam naš doživljaj pravog sveta. Kao rezultat toga, mi postajemo nesvesni toga da se to uopše dešava.
Take the glasses I usually wear, for example. These have become part of the way I ordinarily experience my surroundings. I barely notice them, even though they are constantly framing reality for me. The technology I am talking about is designed to do the same thing: change what we see and think but go unnoticed.
Uzmite kao primer naočare koje ja obično nosim. One su postale redovan deo mog doživljaja okruženja. Jedva i da ih primetim, čak iako one sve vreme uokviruju stvarnost oko mene. Tehnologija o kojoj govorim je dizajnirana da uradi upravo istu stvar - da promeni način na koji vidimo i mislimo, ali na neprimetan način.
Now, the only time I do notice my glasses is when something happens to draw my attention to it, like when it gets dirty or my prescription changes. So I asked myself, "As an artist, what can I create to draw the same kind of attention to the ways digital media -- like news organizations, social media platforms, advertising and search engines -- are shaping our reality?" So I created a series of perceptual machines to help us defamiliarize and question the ways we see the world.
Svoje naočare krećem da primećujem tek onda kada mi neka promena njima privuče pažnju, kao kada se uprljaju ili kada treba da menjam dioptriju. I tako sam se zapitala: „Šta ja, kao umetnik, mogu da stvorim a da privučem istu vrstu pažnje na načine na koje digitalni mediji - kao što su novine, društvene mreže, reklame i internet pretraživači - oblikuju našu stvarnost?“ I tako sam napravila niz perceptivnih uređaja koji bi nam pomogli da se otuđimo i zapitamo zašto vidimo svet na određeni način.
For example, nowadays, many of us have this kind of allergic reaction to ideas that are different from ours. We may not even realize that we've developed this kind of mental allergy. So I created a helmet that creates this artificial allergy to the color red. It simulates this hypersensitivity by making red things look bigger when you are wearing it. It has two modes: nocebo and placebo. In nocebo mode, it creates this sensorial experience of hyperallergy. Whenever I see red, the red expands. It's similar to social media's amplification effect, like when you look at something that bothers you, you tend to stick with like-minded people and exchange messages and memes, and you become even more angry. Sometimes, a trivial discussion gets amplified and blown way out of proportion. Maybe that's even why we are living in the politics of anger. In placebo mode, it's an artificial cure for this allergy. Whenever you see red, the red shrinks. It's a palliative, like in digital media. When you encounter people with different opinions, we will unfollow them, remove them completely out of our feeds. It cures this allergy by avoiding it. But this way of intentionally ignoring opposing ideas makes human community hyperfragmented and separated.
Na primer, ovih dana kao da se svima javi nekakva alergijska reakcija kao odgovor na mišljenja drugačija od svojih. Možda čak i nismo svesni da nam se javlja ovakva mentalna alergija. Zbog toga sam stvorila šlem koji pretvara ovu veštačku alergiju u crvenu boju. On stimuliše ovu preosetljivost tako što čini crvene stvari većim nego što jesu kada ga nosite. Postoje dva režima: nocebo i placebo. U nocebu se stvara senzorni doživljaj hiperalergije. Kad god se vidi crvena boja, ona se proširi. Slično je kao efekat pojačavanja koji se može videti na društvenim mrežama, kao kada vidite nešto što vam smeta, obično se držite osoba sa sličnim mišljenjem, razmenjujete poruke i mimove, i postajete još više ljuti. Ponekad se nebitna diskusija toliko preuveliča i izvuče do neprepoznatljivosti. Možda i zato živimo u dobu mržnje. Placebo nam pruža veštačko rešenje za ovu alergiju. Kad god vidite crvenu boju, ona se smanji. To je lek za ublažavanje bolova, kao na društvenim mrežama. Kada se susretnete sa ljudima drugačijih mišljenja, uklonićete ih sa liste prijatelja, skroz ćete ih se rešiti sa vaše naslovne strane. Pruža nam lek za alergiju tako što je izbegava. Ali ovo namerno ignorisanje suprotstavljenih mišljenja čini ljudsko društvo potpuno izdeljenim i razdvojenim.
The device inside the helmet reshapes reality and projects into our eyes through a set of lenses to create an augmented reality. I picked the color red, because it's intense and emotional, it has high visibility and it's political. So what if we take a look at the last American presidential election map through the helmet?
Sprava unutar šlema preoblikuje stvarnost i projektuje se na naše oči preko sočiva kako bi stvorila uvećanu stvarnost. Izabrala sam crvenu boju zato što je žestoka i emotivna, lako je vidljiva, i od političkog je značaja. Šta ako pogledamo poslednju mapu američkih predsedničkih izbora kroz ovaj šlem?
(Laughter)
(Smeh)
You can see that it doesn't matter if you're a Democrat or a Republican, because the mediation alters our perceptions. The allergy exists on both sides.
Vidite da nije važno da li ste demokrata ili republikanac, percepcija je svakako izmenjena. Alergija je prisutna na obe strane.
In digital media, what we see every day is often mediated, but it's also very nuanced. If we are not aware of this, we will keep being vulnerable to many kinds of mental allergies.
Na digitalnim medijima, ono u šta gledamo svaki dan je oblikovano, ali veoma suptilno. Ukoliko ovoga nismo svesni, bićemo podložni mnogim mentalnim alergijama.
Our perception is not only part of our identities, but in digital media, it's also a part of the value chain. Our visual field is packed with so much information that our perception has become a commodity with real estate value. Designs are used to exploit our unconscious biases, algorithms favor content that reaffirms our opinions, so that every little corner of our field of view is being colonized to sell ads. Like, when this little red dot comes out in your notifications, it grows and expands, and to your mind, it's huge.
Naša percepcija ne samo da je deo našeg identiteta, već je, unutar digitalnih medija, deo lanca vrednosti. Naše vidno polje je toliko prepuno informacija da je naša percepcija postala roba sa tržišnom vrednošću. Dizajnom se iskorišćavaju naše podsvesne predrasude, algoritmi daju prednost sadržajima koji potvrđuju naša mišljenja, te svaki ćošak našeg vidnog polja biva preplavljen radi prodaje reklama. Kao kada se ova crvena tačkica pojavi u vašim obaveštenjima, ona raste i širi se, i vašem mozgu deluje glomazno.
So I started to think of ways to put a little dirt, or change the lenses of my glasses, and came up with another project. Now, keep in mind this is conceptual. It's not a real product. It's a web browser plug-in that could help us to notice the things that we would usually ignore. Like the helmet, the plug-in reshapes reality, but this time, directly into the digital media itself. It shouts out the hidden filtered voices. What you should be noticing now will be bigger and vibrant, like here, this story about gender bias emerging from the sea of cats.
Tako sam počela da smišljam načine da uprljam ili promenim dioptriju svojih naočara, te sam smislila još jedan projekat. Imajte na umu da je ovo samo ideja. Nije pravi proizvod. To je priključak za internet pretraživače koji bi nam pomogao da primetimo stvari koje bismo obično ignorisali. Isto kao šlem, ovaj priključak menja stvarnost, ali ovaj put to radi direktno unutar digitalnih medija. Otkriva nam glasove skrivene probirivanjem. Ono što bi trebalo da primećujete biće sada veće i živahnije, kao ovde, priča o rodnim predrasudama koja izranja u moru članaka o mačkama.
(Laughter)
(Smeh)
The plug-in could dilute the things that are being amplified by an algorithm. Like, here in this comment section, there are lots of people shouting about the same opinions. The plug-in makes their comments super small.
Ovaj priključak može da ublaži stvari koje algoritam preuveličava. Na primer, u ovim komentarima, mnogo ljudi glasno izlažu svoja mišljenja. Priključak čini njihove komentare mnogo sitnijim.
(Laughter)
(Smeh)
So now the amount of pixel presence they have on the screen is proportional to the actual value they are contributing to the conversation.
Sada je broj piksela koje zauzimaju na ekranu jednak njihovom doprinosu razgovoru.
(Laughter)
(Smeh)
(Applause)
(Aplauz)
The plug-in also shows the real estate value of our visual field and how much of our perception is being commoditized. Different from ad blockers, for every ad you see on the web page, it shows the amount of money you should be earning.
Priključak takođe pokazuje tržišnu vrednost našeg vidnog polja i koliko se tačno naša percepcija iskorišćava kao roba. Nije isto što i AdBlock, jer vam za svaku reklamu koju vidite na nekoj stranici pokazuje koliko novca bi trebalo da zaradite na osnovu toga.
(Laughter)
(Smeh)
We are living in a battlefield between reality and commercial distributed reality, so the next version of the plug-in could strike away that commercial reality and show you things as they really are.
Mi živimo na bojnom polju između stvarnosti i komercijalno raspodeljene stvarnosti, pa bi nova verzija ovog priključka mogla da se reši te komercijalne stvarnosti i pokaže vam stvari onakve kakve jesu.
(Laughter)
(Smeh)
(Applause)
(Aplauz)
Well, you can imagine how many directions this could really go. Believe me, I know the risks are high if this were to become a real product. And I created this with good intentions to train our perception and eliminate biases. But the same approach could be used with bad intentions, like forcing citizens to install a plug-in like that to control the public narrative. It's challenging to make it fair and personal without it just becoming another layer of mediation.
Možete da zamislite u kojim bi sve pravcima ovo moglo da ode. Verujte mi, znam da bi bilo rizično kada bi ovo postalo pravi proizvod. Stvorila sam ovo sa najboljim namerama, kako bih osposobila našu percepciju i rešila se predrasuda. Međutim, isti pristup bi mogao da se iskoristi sa lošim namerama, kao na primer, teranje stanovništa da instalira dati priključak radi kontrole javnog mnjenja. Teško je napraviti ga pravednim i ličnim, a da se ne pretvori u samo još jedan sloj medijacije.
So what does all this mean for us? Even though technology is creating this isolation, we could use it to make the world connected again by breaking the existing model and going beyond it. By exploring how we interface with these technologies, we could step out of our habitual, almost machine-like behavior and finally find common ground between each other.
Dakle, šta sve ovo znači za nas? Čak iako je tehnologija ta koja stvara ovu izolaciju, možemo da je iskoristimo kako bismo ponovo povezali svet tako što ćemo da prevaziđemo postojeći model. Istražujući način na koji uzajamno delujemo na tehnologiju, možemo da se oslobodimo našeg redovnog, skoro mašinskog, ponašanja i da konačno nađemo zajednički jezik.
Technology is never neutral. It provides a context and frames reality. It's part of the problem and part of the solution. We could use it to uncover our blind spots and retrain our perception and consequently, choose how we see each other.
Tehnologija nije nikada nepristrasna. Ona nam obezbeđuje kontekst i oblikuje stvarnost. Ona je deo problema, i deo rešenja. Pomoću nje možemo otkriti slepe tačke, ponovo obučiti svoju percepciju, i stoga, izabrati način na koji vidimo jedni druge.
Thank you.
Hvala.
(Applause)
(Aplauz)