I'm an artist and an engineer. And lately, I've been thinking a lot about how technology mediates the way we perceive reality. And it's being done in a superinvisible and nuanced way. Technology is designed to shape our sense of reality by masking itself as the actual experience of the world. As a result, we are becoming unconscious and unaware that it is happening at all.
Umjetnica sam i inženjerka. U posljednje vrijeme često mislim o tome kako tehnologija utječe na našu percepciju stvarnosti. I to se odvija na super nevidljivi i precizan način. Tehnologija je dizajnirana za oblikovanje našeg osjećaja stvarnosti pod krinkom stvarnog iskustva svijeta. Kao rezultat, nismo niti svjesni i zanemarujemo da se to uopće događa.
Take the glasses I usually wear, for example. These have become part of the way I ordinarily experience my surroundings. I barely notice them, even though they are constantly framing reality for me. The technology I am talking about is designed to do the same thing: change what we see and think but go unnoticed.
Za primjer uzmimo naočale koje obično nosim. Postale su dio mog uobičajenog iskustva okoline. Jedva da ih i primijetim, bez obzira na to što stalno uokviruju moju stvarnost. Tehnologija o kojoj govorim dizajnirana je za isto to: promjenu onoga što vidimo i mislimo, no bez da to primijetimo.
Now, the only time I do notice my glasses is when something happens to draw my attention to it, like when it gets dirty or my prescription changes. So I asked myself, "As an artist, what can I create to draw the same kind of attention to the ways digital media -- like news organizations, social media platforms, advertising and search engines -- are shaping our reality?" So I created a series of perceptual machines to help us defamiliarize and question the ways we see the world.
Svoje naočale primjećujem jedino kada nešto na njih usmjeri moju pažnju, kada se zaprljaju ili se moj recept promijeni. Upitala sam se: "Kao umjetnica, što mogu stvoriti kako bih usmjerila istu vrstu pažnje na način na koji digitalni mediji -- kao novinske agencije, društveni mediji, mehanizmi za pretraživanje i oglašavanje -- oblikuju našu stvarnost?" Izradila sam seriju percepcijskih uređaja koji će nam pomoći odmaknuti se i preispitati načine na koje vidimo svijet.
For example, nowadays, many of us have this kind of allergic reaction to ideas that are different from ours. We may not even realize that we've developed this kind of mental allergy. So I created a helmet that creates this artificial allergy to the color red. It simulates this hypersensitivity by making red things look bigger when you are wearing it. It has two modes: nocebo and placebo. In nocebo mode, it creates this sensorial experience of hyperallergy. Whenever I see red, the red expands. It's similar to social media's amplification effect, like when you look at something that bothers you, you tend to stick with like-minded people and exchange messages and memes, and you become even more angry. Sometimes, a trivial discussion gets amplified and blown way out of proportion. Maybe that's even why we are living in the politics of anger. In placebo mode, it's an artificial cure for this allergy. Whenever you see red, the red shrinks. It's a palliative, like in digital media. When you encounter people with different opinions, we will unfollow them, remove them completely out of our feeds. It cures this allergy by avoiding it. But this way of intentionally ignoring opposing ideas makes human community hyperfragmented and separated.
Na primjer, mnogi od nas danas imaju vrstu alergijske reakcije na ideje koje se razlikuju od naših. Možda nismo ni primijetili da smo razvili ovu vrstu mentalne alergije. Izradila sam kacigu koja ovu umjetnu alergiju označava crvenom bojom. Simulira hiperosjetljivost tako da prividno čini crveno većim kada je nosite. Ima dva načina: nocebo i placebo. U načinu nocebo, stvara osjetilno iskustvo hiperalergije. Kad god vidim crveno, ono se proširi. Slično je efektu pojačavanja na društvenim medijima, kao kad vidite nešto što vam smeta, obično se priklanjate istomišljenicima i razmjenjujete poruke i memove, postajući sve ljući. Ponekad se beznačajna rasprava pojača i raširi preko svake mjere. Možda je to i razlog što živimo politiku bijesa. U načinu placebo, tu je umjetni lijek za ovu alergiju. Kada god vidite crveno, ono se smanjuje. Palijativno je, kao digitalni mediji. Kad susretnete ljude različitog mišljenja, prestat ćete ih pratiti, potpuno ih ukloniti iz svojih novosti. Liječi alergiju izbjegavajući je. Ovakvo namjerno ignoriranje suprotnih ideja ljudsku zajednicu čini hiperfragmentiranom i razdvojenom.
The device inside the helmet reshapes reality and projects into our eyes through a set of lenses to create an augmented reality. I picked the color red, because it's intense and emotional, it has high visibility and it's political. So what if we take a look at the last American presidential election map through the helmet?
Uređaj u kacigi mijenja oblik stvarnosti i projektira ga na naše oči putem kompleta leća te stvara proširenu stvarnost. Crvenu sam odabrala zbog njezinog intenziteta i emocije, vrlo je vidljiva i politička je. Što ako pogledamo mapu posljednjih američkih predsjedničkih izbora kroz kacigu?
(Laughter)
(Smijeh)
You can see that it doesn't matter if you're a Democrat or a Republican, because the mediation alters our perceptions. The allergy exists on both sides.
Vidjet ćete da nije važno jeste li demokrat ili republikanac jer medijacija mijenja naša shvaćanja. Alergija postoji s obje strane.
In digital media, what we see every day is often mediated, but it's also very nuanced. If we are not aware of this, we will keep being vulnerable to many kinds of mental allergies.
U digitalnim medijima, ono što vidimo svaki dan često je posredovano, ali i vrlo nijansirano. Ako toga nismo svjesni, i dalje ćemo biti osjetljivi na mnoge mentalne alergije.
Our perception is not only part of our identities, but in digital media, it's also a part of the value chain. Our visual field is packed with so much information that our perception has become a commodity with real estate value. Designs are used to exploit our unconscious biases, algorithms favor content that reaffirms our opinions, so that every little corner of our field of view is being colonized to sell ads. Like, when this little red dot comes out in your notifications, it grows and expands, and to your mind, it's huge.
Naša percepcija nije samo dio našeg identiteta, u digitalnim medijima ona je i dio lanca vrijednosti. Naše je vizualno polje prepunjeno tolikim informacijama i naša je percepcija postala proizvod s vrijednošću nekretnine. Dizajnima se iskorištavaju naše nesvjesne pristranosti, algoritmi favoriziraju sadržaj koji potvrđuje naše mišljenje, a svaki mali kutak našeg vidnog polja kolonizira se za prodaju oglasa. Kao kada se crvena točkica pojavi u vašim obavijestima, raste i širi se, što je za vaš um ogromno.
So I started to think of ways to put a little dirt, or change the lenses of my glasses, and came up with another project. Now, keep in mind this is conceptual. It's not a real product. It's a web browser plug-in that could help us to notice the things that we would usually ignore. Like the helmet, the plug-in reshapes reality, but this time, directly into the digital media itself. It shouts out the hidden filtered voices. What you should be noticing now will be bigger and vibrant, like here, this story about gender bias emerging from the sea of cats.
Tako sam počela razmišljati o načinima prljanja ili promjene leća na naočalama i dosjetila se novog projekta. Imajte na umu da je ovo samo koncept. Nije pravi proizvod. Radi se o programskom dodatku za pretraživač koji bi nam pomogao primijetiti stvari koje inače ignoriramo. Kao kaciga, i dodatak mijenja oblik stvarnosti, no ovaj put izravno, u samom digitalnom mediju. Izvikuje skrivene filtrirane glasove. Ono što bismo trebali primijetiti postajat će veće i jače, kao u ovoj priči o pristranosti na temelju spola koja se pojavljuje u moru mačaka.
(Laughter)
(Smijeh)
The plug-in could dilute the things that are being amplified by an algorithm. Like, here in this comment section, there are lots of people shouting about the same opinions. The plug-in makes their comments super small.
Programski dodatak može razrijediti sve što algoritam pojačava. U ovom odjeljku s komentarima, mnogo se ljudi nadvikuje o istim mišljenjima. Dodatak će njihove komentare učiniti super malima.
(Laughter)
(Smijeh)
So now the amount of pixel presence they have on the screen is proportional to the actual value they are contributing to the conversation.
Sada je količina piksela koje imaju na zaslonu proporcionalna stvarnoj vrijednosti kojom doprinose razgovoru.
(Laughter)
(Smijeh)
(Applause)
(Pljesak)
The plug-in also shows the real estate value of our visual field and how much of our perception is being commoditized. Different from ad blockers, for every ad you see on the web page, it shows the amount of money you should be earning.
Dodatak pokazuje i vrijednost nekretnine našeg vidnog polja i koliko se naše percepcije pojednostavljuju. Za razliku od blokatora oglasa, za svaki oglas koji vidite na web stranici prikazuje se iznos novca koji biste trebali zarađivati.
(Laughter)
(Smijeh)
We are living in a battlefield between reality and commercial distributed reality, so the next version of the plug-in could strike away that commercial reality and show you things as they really are.
Živimo na bojištu između stvarnosti i komercijalno raspoređene stvarnosti, a sljedeća verzija dodatka mogla bi ukloniti tu komercijalnu stvarnost i pokazati vam stvari kakvima zaista jesu.
(Laughter)
(Smijeh)
(Applause)
(Pljesak)
Well, you can imagine how many directions this could really go. Believe me, I know the risks are high if this were to become a real product. And I created this with good intentions to train our perception and eliminate biases. But the same approach could be used with bad intentions, like forcing citizens to install a plug-in like that to control the public narrative. It's challenging to make it fair and personal without it just becoming another layer of mediation.
Možete zamisliti u koliko bi smjerova ovo moglo ići. Vjerujte mi, znam da je rizik velik za pretvaranje ovoga u stvarni proizvod. I ovo sam stvorila s dobrim namjerama za treniranje naše svijesti i uklanjanje pristranosti. No isti pristup može se koristiti i s lošim namjerama, kao što je prisiljavanje građana da instaliraju takav dodatak kako bi se kontroliralo javno mnijenje. Izazov je napraviti ga poštenim i osobnim bez da postane samo još jedan sloj medijacije.
So what does all this mean for us? Even though technology is creating this isolation, we could use it to make the world connected again by breaking the existing model and going beyond it. By exploring how we interface with these technologies, we could step out of our habitual, almost machine-like behavior and finally find common ground between each other.
Što onda to sve znači za nas? Iako tehnologija stvara izolaciju, mogli bismo je koristiti za ponovno povezivanje svijeta rušenjem postojećeg modela i rastom iznad njega. Istražujući načine na koje se povezujemo ovim tehnologijama, možemo izaći iz našeg uobičajenog, skoro robotskog ponašanja i konačno pronaći zajedničko tlo jedni s drugima.
Technology is never neutral. It provides a context and frames reality. It's part of the problem and part of the solution. We could use it to uncover our blind spots and retrain our perception and consequently, choose how we see each other.
Tehnologija nikad nije neutralna. Daje kontekst i uokviruje stvarnost. Dio je problema, ali i dio rješenja. Mogla bi se koristiti za otkrivanje mrtvih točaka i treniranje svijesti te posljedično, za odabir načina na koji vidimo jedni druge.
Thank you.
Hvala vam.
(Applause)
(Pljesak)