I'm an artist and an engineer. And lately, I've been thinking a lot about how technology mediates the way we perceive reality. And it's being done in a superinvisible and nuanced way. Technology is designed to shape our sense of reality by masking itself as the actual experience of the world. As a result, we are becoming unconscious and unaware that it is happening at all.
Soy artista e ingeniera. Y últimamente he estado pensando mucho en cómo la tecnología interviene en la manera en que percibimos la realidad. Y lo está haciendo de una manera muy invisible y sutil. La tecnología está diseñada para dar forma a nuestro sentido de la realidad enmascarándose como la experiencia real del mundo. Como resultado, nos estamos volviendo inconscientes e ignorantes de este fenómeno.
Take the glasses I usually wear, for example. These have become part of the way I ordinarily experience my surroundings. I barely notice them, even though they are constantly framing reality for me. The technology I am talking about is designed to do the same thing: change what we see and think but go unnoticed.
Por ejemplo, tomemos las gafas que llevo normalmente. Se han convertido en parte de la forma en que experimento mi entorno. Raramente las noto, a pesar de que constantemente enmarcan la realidad que veo. La tecnología de la que hablo está diseñada para hacer lo mismo: cambiar lo que vemos y pensamos, pero pasa desapercibido.
Now, the only time I do notice my glasses is when something happens to draw my attention to it, like when it gets dirty or my prescription changes. So I asked myself, "As an artist, what can I create to draw the same kind of attention to the ways digital media -- like news organizations, social media platforms, advertising and search engines -- are shaping our reality?" So I created a series of perceptual machines to help us defamiliarize and question the ways we see the world.
Ahora bien, la única vez que noto mis gafas es cuando sucede algo que me hace consciente de ellas, como cuando se ensucian o cambia mi graduación óptica. Así que me pregunté: "Como artista, ¿qué puedo crear para llamar el mismo tipo de atención en la forma en que los medios digitales --noticias, organizaciones, redes sociales, publicidad y motores de búsqueda-- están moldeando nuestra realidad?". Así que creé una serie de máquinas perceptivas para ayudarnos a desacostumbrarnos y a cuestionar la forma en que vemos el mundo.
For example, nowadays, many of us have this kind of allergic reaction to ideas that are different from ours. We may not even realize that we've developed this kind of mental allergy. So I created a helmet that creates this artificial allergy to the color red. It simulates this hypersensitivity by making red things look bigger when you are wearing it. It has two modes: nocebo and placebo. In nocebo mode, it creates this sensorial experience of hyperallergy. Whenever I see red, the red expands. It's similar to social media's amplification effect, like when you look at something that bothers you, you tend to stick with like-minded people and exchange messages and memes, and you become even more angry. Sometimes, a trivial discussion gets amplified and blown way out of proportion. Maybe that's even why we are living in the politics of anger. In placebo mode, it's an artificial cure for this allergy. Whenever you see red, the red shrinks. It's a palliative, like in digital media. When you encounter people with different opinions, we will unfollow them, remove them completely out of our feeds. It cures this allergy by avoiding it. But this way of intentionally ignoring opposing ideas makes human community hyperfragmented and separated.
Por ejemplo, hoy en día, muchos tenemos una especie de reacción alérgica a las ideas que son diferentes de las nuestras. Puede que ni siquiera sepamos que desarrollamos una "alergia mental". Ideé un casco que crea alergia artificial al color rojo. Simula esta hipersensibilidad haciendo que las cosas rojas parezcan más grandes al llevarlo puesto. Tiene dos modos: nocebo y placebo. En el modo nocebo, crea una experiencia sensorial de hiperalergia. Cada vez que veo rojo, el rojo se expande. Es similar al efecto amplificador de las redes sociales, como cuando uno mira algo que nos molesta, tiende a quedarse con las personas afines, a intercambiar mensajes y memes, y se enfada aún más. A veces, una conversación trivial se amplifica y estalla de forma desproporcionada. Quizás es por eso que vivimos en la política de la ira. En el modo placebo, es una cura artificial para esta alergia. Cada vez que uno ve rojo, el rojo se encoge. Es un paliativo, igual que los medios digitales. Cuando encontramos gente con opiniones diferentes, la dejamos de seguir, y la eliminamos para siempre de nuestros 'feeds'. Cura esta alergia evitándola. Pero esta manera de ignorar intencionalmente ideas opuestas hace que la comunidad humana se hiperfragmente y separe.
The device inside the helmet reshapes reality and projects into our eyes through a set of lenses to create an augmented reality. I picked the color red, because it's intense and emotional, it has high visibility and it's political. So what if we take a look at the last American presidential election map through the helmet?
Este dispositivo dentro del casco remodela la realidad y la proyecta dentro de nuestros ojos a través de lentes para crear una realidad aumentada. Escogí el color rojo porque es intenso y emocional, tiene alta visibilidad y es político. ¿Y si echamos un vistazo al último mapa de las elecciones presidenciales en EE. UU. usando el casco?
(Laughter)
(Risas)
You can see that it doesn't matter if you're a Democrat or a Republican, because the mediation alters our perceptions. The allergy exists on both sides.
Pueden ver que no importa si son demócratas o republicanos, porque nuestra percepción está intervenida. La alergia existe en ambos bandos.
In digital media, what we see every day is often mediated, but it's also very nuanced. If we are not aware of this, we will keep being vulnerable to many kinds of mental allergies.
En los medios digitales, lo que vemos cada día está a menudo intervenido, pero también está hecho de manera sutil. Si no somos conscientes de esto, continuaremos siendo vulnerables a muchos tipos de alergias mentales.
Our perception is not only part of our identities, but in digital media, it's also a part of the value chain. Our visual field is packed with so much information that our perception has become a commodity with real estate value. Designs are used to exploit our unconscious biases, algorithms favor content that reaffirms our opinions, so that every little corner of our field of view is being colonized to sell ads. Like, when this little red dot comes out in your notifications, it grows and expands, and to your mind, it's huge.
Nuestra percepción no es solo parte de nuestras identidades, sino que en los medios digitales, es también parte de la cadena de valor. Nuestro campo visual está lleno de tanta información que nuestra percepción se ha vuelto una mercancía con valor de mercado. Los diseños se usan para explotar nuestros prejuicios existentes, los algoritmos favorecen el contenido que reafirma nuestras opiniones, de modo que cada rinconcito de nuestro campo visual está colonizado para vender anuncios. Como cuando este puntito rojo aparece en nuestras notificaciones, que crece y se expande, y nos parece enorme.
So I started to think of ways to put a little dirt, or change the lenses of my glasses, and came up with another project. Now, keep in mind this is conceptual. It's not a real product. It's a web browser plug-in that could help us to notice the things that we would usually ignore. Like the helmet, the plug-in reshapes reality, but this time, directly into the digital media itself. It shouts out the hidden filtered voices. What you should be noticing now will be bigger and vibrant, like here, this story about gender bias emerging from the sea of cats.
Así que empecé a pensar formas de poner un poco de suciedad o cambiar las lentes de mis gafas, y elaboré otro proyecto. Tengan en mente que esto es conceptual y no un producto real. Es el complemento de un navegador web que podría ayudarnos a notar las cosas que normalmente ignoramos. Como el casco, el complemento remodela la realidad, pero esta vez, directamente en los medios digitales en sí. Deja al descubierto las voces ocultas que fueron filtradas. Lo que deberían notar ahora es que son más grandes y llamativas, como esta historia sobre sesgo de género que emerge de un mar de gatos.
(Laughter)
(Risas)
The plug-in could dilute the things that are being amplified by an algorithm. Like, here in this comment section, there are lots of people shouting about the same opinions. The plug-in makes their comments super small.
El complemento podría diluir las cosas que son amplificadas por un algoritmo, como en esta sección de comentarios, donde hay montones de personas vociferando las mismas opiniones. El complemento achica los comentarios a un tamaño mínimo.
(Laughter)
(Risas)
So now the amount of pixel presence they have on the screen is proportional to the actual value they are contributing to the conversation.
Ahora la cantidad de píxeles que tienen en la pantalla es proporcional al valor real que contribuyen a la conversación.
(Laughter)
(Risas)
(Applause)
(Aplausos)
The plug-in also shows the real estate value of our visual field and how much of our perception is being commoditized. Different from ad blockers, for every ad you see on the web page, it shows the amount of money you should be earning.
El complemento también muestra el valor de mercado de nuestro campo visual y cuánto de nuestra percepción está siendo mercantilizado. A diferencia de los bloqueadores de anuncios, por cada anuncio que ven en la página web, aparece la cantidad de dinero que deberían estar ganando.
(Laughter)
(Risas)
We are living in a battlefield between reality and commercial distributed reality, so the next version of the plug-in could strike away that commercial reality and show you things as they really are.
Vivimos en un campo de batalla entre el mundo real y la realidad comercial distribuida; la próxima versión del complemento podría eliminar esta realidad comercial y mostrarles las cosas como realmente son.
(Laughter)
(Risas)
(Applause)
(Aplausos)
Well, you can imagine how many directions this could really go. Believe me, I know the risks are high if this were to become a real product. And I created this with good intentions to train our perception and eliminate biases. But the same approach could be used with bad intentions, like forcing citizens to install a plug-in like that to control the public narrative. It's challenging to make it fair and personal without it just becoming another layer of mediation.
Imaginen en cuántas direcciones podría ir esto. Créanme, sé que los riesgos son altos si fuera un producto real. Y lo he creado con buenas intenciones para entrenar nuestra percepción y eliminar los sesgos. Pero el mismo enfoque podría ser usado con malas intenciones, como obligar a los ciudadanos a instalar un complemento como ese para controlar la narrativa oficial. Es difícil crear un complemento justo y personalizado sin que se convierta en otra instancia de intervención.
So what does all this mean for us? Even though technology is creating this isolation, we could use it to make the world connected again by breaking the existing model and going beyond it. By exploring how we interface with these technologies, we could step out of our habitual, almost machine-like behavior and finally find common ground between each other.
¿Qué significa todo esto para nosotros? A pesar de que la tecnología está creando este aislamiento, podríamos usarla para hacer que el mundo se conecte de nuevo rompiendo el modelo existente y yendo más allá. Al explorar cómo interactuamos con estas tecnologías podríamos salir de nuestro comportamiento habitual, casi automático, y encontrar finalmente un terreno común entre ellos.
Technology is never neutral. It provides a context and frames reality. It's part of the problem and part of the solution. We could use it to uncover our blind spots and retrain our perception and consequently, choose how we see each other.
La tecnología nunca es neutral. Proporciona un contexto y enmarca la realidad. Es parte del problema y parte de la solución. Podríamos usarla para descubrir puntos ciegos y reentrenar nuestra percepción y consecuentemente, elegir cómo nos vemos los unos a los otros.
Thank you.
Gracias.
(Applause)
(Aplausos)