I'm an artist and an engineer. And lately, I've been thinking a lot about how technology mediates the way we perceive reality. And it's being done in a superinvisible and nuanced way. Technology is designed to shape our sense of reality by masking itself as the actual experience of the world. As a result, we are becoming unconscious and unaware that it is happening at all.
Sou artista e engenheira. Tenho refletido muito sobre como a tecnologia interfere no modo de vermos a realidade. Isso tem sido feito de maneira sutil e superinvisível. A tecnologia é projetada para alterar nosso senso de realidade fingindo ser nossa vivência real do mundo. Dessa forma, nem sequer percebemos ou temos consciência de que isso ocorre.
Take the glasses I usually wear, for example. These have become part of the way I ordinarily experience my surroundings. I barely notice them, even though they are constantly framing reality for me. The technology I am talking about is designed to do the same thing: change what we see and think but go unnoticed.
Por exemplo, os óculos que uso todos os dias. Eles se tornaram parte de meu modo de vivenciar o que está em minha volta. Eu sequer noto meus óculos, apesar de, o tempo todo, eles modificarem o que vejo. A tecnologia da qual estou falando é feita para fazer a mesma coisa: mudar o que vemos e pensamos sem que notemos isso.
Now, the only time I do notice my glasses is when something happens to draw my attention to it, like when it gets dirty or my prescription changes. So I asked myself, "As an artist, what can I create to draw the same kind of attention to the ways digital media -- like news organizations, social media platforms, advertising and search engines -- are shaping our reality?" So I created a series of perceptual machines to help us defamiliarize and question the ways we see the world.
O único momento em que noto meus óculos é quando acontece algo que chama minha atenção para eles, como quando as lentes estão sujas ou o grau ficou defasado. Então, me perguntei: "Como artista, o que posso criar para chamar a atenção para o modo como as mídias digitais, a imprensa, as redes sociais, a publicidade e as ferramentas de busca, estão alterando a realidade?" Foi quando criei alguns instrumentos de percepção para nos ajudar a estranhar e questionar o modo como vemos o mundo.
For example, nowadays, many of us have this kind of allergic reaction to ideas that are different from ours. We may not even realize that we've developed this kind of mental allergy. So I created a helmet that creates this artificial allergy to the color red. It simulates this hypersensitivity by making red things look bigger when you are wearing it. It has two modes: nocebo and placebo. In nocebo mode, it creates this sensorial experience of hyperallergy. Whenever I see red, the red expands. It's similar to social media's amplification effect, like when you look at something that bothers you, you tend to stick with like-minded people and exchange messages and memes, and you become even more angry. Sometimes, a trivial discussion gets amplified and blown way out of proportion. Maybe that's even why we are living in the politics of anger. In placebo mode, it's an artificial cure for this allergy. Whenever you see red, the red shrinks. It's a palliative, like in digital media. When you encounter people with different opinions, we will unfollow them, remove them completely out of our feeds. It cures this allergy by avoiding it. But this way of intentionally ignoring opposing ideas makes human community hyperfragmented and separated.
Por exemplo, hoje em dia, muitos de nós têm uma espécie de alergia a ideias diferentes das suas. Às vezes sequer percebemos que temos esse tipo de alergia mental. Então criei um capacete que simula uma alergia artificial à cor vermelha. Ele simula uma hipersensibilidade que faz com que coisas vermelhas pareçam maiores ao usar o capacete. Foi feito em dois modelos: nocebo e placebo. O modo nocebo cria uma experiência sensorial de hiperalergia. Tudo que é vermelho aumenta. É como o efeito de amplificação que acontece nas mídias sociais, como quando vemos alguma coisa que nos desagrada, nos juntamos com quem pensa como nós e trocamos mensagens e memes, e isso amplifica o que sentimos. Às vezes, uma discussão trivial é amplificada até tomar proporções exageradas. Talvez seja essa a razão para estarmos vivendo a política do ódio. O modo placebo traz a cura artificial para essa alergia. Tudo o que é vermelho encolhe. É um paliativo, como nas mídias digitais. Quando encontramos pessoas com opiniões diferentes, paramos de segui-las, removemos essas pessoas de nosso histórico. Isso cura a alergia evitando o vetor. Mas ignorar ideias diferentes torna a comunidade humana superfragmentada e segregada.
The device inside the helmet reshapes reality and projects into our eyes through a set of lenses to create an augmented reality. I picked the color red, because it's intense and emotional, it has high visibility and it's political. So what if we take a look at the last American presidential election map through the helmet?
O equipamento do capacete remodela a realidade gerando uma projeção por meio de um conjunto de lentes que cria uma realidade aumentada. Escolhi a cor vermelha por ser intensa e emocional, por sua grande visibilidade e por seu viés político. Vamos dar uma olhada no mapa das últimas eleições presidenciais nos Estados Unidos usando o capacete?
(Laughter)
(Risos)
You can see that it doesn't matter if you're a Democrat or a Republican, because the mediation alters our perceptions. The allergy exists on both sides.
Pouco importa sua preferência por democratas ou republicanos, pois a mediação do capacete altera nossa percepção. A alergia existe nos dois lados.
In digital media, what we see every day is often mediated, but it's also very nuanced. If we are not aware of this, we will keep being vulnerable to many kinds of mental allergies.
Na mídia digital, o que vemos todos os dias é sempre alterado, mas de modo muito sutil. Se não estivermos atentos, estaremos vulneráveis a muitas alergias mentais.
Our perception is not only part of our identities, but in digital media, it's also a part of the value chain. Our visual field is packed with so much information that our perception has become a commodity with real estate value. Designs are used to exploit our unconscious biases, algorithms favor content that reaffirms our opinions, so that every little corner of our field of view is being colonized to sell ads. Like, when this little red dot comes out in your notifications, it grows and expands, and to your mind, it's huge.
Nossa percepção não é só parte de que somos, mas, na mídia digital, é também parte de uma cadeia de valor. Nosso campo de visão é lotado com tanta informação, que nossa percepção se tornou uma commodity com preço de mercado. Designs são usados para explorar nossos vieses inconscientes, algoritmos priorizam conteúdos que reafirmam nossas opiniões, assim, por todo lado, nosso campo de visão está sendo colonizado por anúncios. Como quando essa bolinha vermelha salta em nossa tela, ela cresce, expande e, em nossas mentes, ela fica enorme.
So I started to think of ways to put a little dirt, or change the lenses of my glasses, and came up with another project. Now, keep in mind this is conceptual. It's not a real product. It's a web browser plug-in that could help us to notice the things that we would usually ignore. Like the helmet, the plug-in reshapes reality, but this time, directly into the digital media itself. It shouts out the hidden filtered voices. What you should be noticing now will be bigger and vibrant, like here, this story about gender bias emerging from the sea of cats.
Comecei a pensar uma maneira de perturbar nossa visão, de alterar as lentes de nossos óculos, e tive a ideia de outro projeto. É um projeto conceitual. Não é um produto tangível. É um plug-in de busca na internet que poderia nos ajudar a ver coisas que normalmente nem notamos. Como o capacete, o plug-in altera a realidade, mas diretamente na mídia digital. Ele traz à tona o que está escondido. O que precisa ser notado fica grande e vibrante, como aqui, a questão de gênero colocada dentre várias figuras de gatos.
(Laughter)
(Risos)
The plug-in could dilute the things that are being amplified by an algorithm. Like, here in this comment section, there are lots of people shouting about the same opinions. The plug-in makes their comments super small.
O plug-in poderia diluir coisas que foram ampliadas por um algoritmo. Como nestes comentários, em que um monte de gente dá uma mesma opinião. O plug-in torna esses comentários superpequenos.
(Laughter)
(Risos)
So now the amount of pixel presence they have on the screen is proportional to the actual value they are contributing to the conversation.
Assim, a quantidade de pixels com que aparecem na tela fica proporcional à real contribuição que eles dão àquela conversa.
(Laughter)
(Risos)
(Applause)
(Aplausos)
The plug-in also shows the real estate value of our visual field and how much of our perception is being commoditized. Different from ad blockers, for every ad you see on the web page, it shows the amount of money you should be earning.
O plug-in também mostra o preço de nosso campo de visão e o quanto nossa percepção tem se transformado em uma commodity. Diferente dos bloqueios, o plug-in mostra o preço de cada anúncio na internet, ele mostra quanto você deveria ganhar por ver aquele anúncio.
(Laughter)
(Risos)
We are living in a battlefield between reality and commercial distributed reality, so the next version of the plug-in could strike away that commercial reality and show you things as they really are.
Estamos em um campo de batalha entre a realidade e uma realidade produzida comercialmente. Por isso, a próxima versão do plug-in vai atacar a realidade comercial e mostrar as coisas como elas são.
(Laughter)
(Risos)
(Applause)
(Aplausos)
Well, you can imagine how many directions this could really go. Believe me, I know the risks are high if this were to become a real product. And I created this with good intentions to train our perception and eliminate biases. But the same approach could be used with bad intentions, like forcing citizens to install a plug-in like that to control the public narrative. It's challenging to make it fair and personal without it just becoming another layer of mediation.
Pense até onde isso pode ir. Acreditem, sei dos riscos da aplicação desse produto. Eu criei isso com a melhor das intenções, buscando treinar nosso olhar e eliminar os vieses. Mas isso poderia ser usado de forma mal-intencionada como para forçar cidadãos a instalar um plug-in como esse para controlar narrativas públicas. É um desafio fazer isso de modo honesto e pessoal sem que isso se torne mais uma interferência na realidade.
So what does all this mean for us? Even though technology is creating this isolation, we could use it to make the world connected again by breaking the existing model and going beyond it. By exploring how we interface with these technologies, we could step out of our habitual, almost machine-like behavior and finally find common ground between each other.
Portanto, o que isso quer dizer? Ainda que a tecnologia esteja isolando as pessoas, podemos usá-la para unir o mundo de novo, para romper com o modelo atual e transcendê-lo. Ao explorar a forma como lidamos com essas tecnologias, poderíamos deixar de agir em modo automático para, enfim, nos conectarmos uns com os outros.
Technology is never neutral. It provides a context and frames reality. It's part of the problem and part of the solution. We could use it to uncover our blind spots and retrain our perception and consequently, choose how we see each other.
A tecnologia nunca é neutra. Ela molda o contexto e altera a realidade. Ela faz parte do problema e da solução. Podemos usá-la para revelar pontos cegos e treinar nossa percepção e, consequentemente, escolher como vemos uns aos outros.
Thank you.
Obrigada.
(Applause)
(Aplausos)