Hi, I'm Refik. I'm a media artist. I use data as a pigment and paint with a thinking brush that is assisted by artificial intelligence. Using architectural spaces as canvases, I collaborate with machines to make buildings dream and hallucinate. You may be wondering, what does all this mean? So let me please take you into my work and my world.
Olá, sou Refik, um artista de mídia. Uso dados como pigmentos e pinto com um pincel pensante assistido por inteligência artificial. Usando espaços arquitetônicos como telas, colaboro com máquinas para fazer prédios sonharem e terem alucinações. Vocês podem estar imaginando o que tudo isso significa. Deixem-me levá-los pelo meu trabalho e meu mundo.
I witnessed the power of imagination when I was eight years old, as a child growing up in Istanbul. One day, my mom brought home a videocassette of the science-fiction movie "Blade Runner." I clearly remember being mesmerized by the stunning architectural vision of the future of Los Angeles, a place that I had never seen before. That vision became a kind of a staple of my daydreams.
Testemunhei o poder da imaginação ainda criança, com oito anos, quando morava em Istambul. Um dia, minha mãe trouxe para casa uma fita de videocassete do filme de ficção científica "Blade Runner". Lembro-me claramente de ter ficado hipnotizado pela visão arquitetônica deslumbrante da Los Angeles do futuro, um lugar que eu nunca tinha visto antes. Essa visão se tornou um elemento básico dos meus devaneios.
When I arrived in LA in 2012 for a graduate program in Design Media Arts, I rented a car and drove downtown to see that wonderful world of the near future. I remember a specific line that kept playing over and over in my head: the scene when the android Rachael realizes that her memories are actually not hers, and when Deckard tells her they are someone else's memories. Since that moment, one of my inspirations has been this question. What can a machine do with someone else's memories? Or, to say that in another way, what does it mean to be an AI in the 21st century?
Quando cheguei a Los Angeles em 2012 para um programa de pós-graduação em Design Media Arts, aluguei um carro e fui ao centro da cidade para ver aquele mundo maravilhoso do futuro próximo. Um trecho específico do filme passava repetidamente em meu cérebro: a cena em que a androide Rachel percebe que suas memórias, na realidade, não são dela, quando Deckard lhe conta que são memórias de outra pessoa. Desde aquele momento, uma das minhas inspirações tem sido esta pergunta: o que uma máquina pode fazer com as memórias de outra pessoa? Ou, colocando de outra forma, o que significa ser uma IA no século 21?
Any android or AI machine is only intelligent as long as we collaborate with it. It can construct things that human intelligence intends to produce but does not have the capacity to do so. Think about your activities and social networks, for example. They get smarter the more you interact with them. If machines can learn or process memories, can they also dream? Hallucinate? Involuntarily remember, or make connections between multiple people's dreams? Does being an AI in the 21st century simply mean not forgetting anything? And, if so, isn't it the most revolutionary thing that we have experienced in our centuries-long effort to capture history across media? In other words, how far have we come since Ridley Scott's "Blade Runner"?
Qualquer androide ou máquina com IA só é inteligente se colaborarmos com ela. Ela pode construir coisas que a inteligência humana pretende produzir, mas não tem a capacidade de fazê-lo. Pensem nas suas atividades nas redes sociais, por exemplo. Quanto mais interagimos com as redes, mais inteligentes elas ficam. Se as máquinas podem aprender ou processar memórias, elas também podem sonhar? Ter alucinações? Lembrar-se involuntariamente ou fazer conexões entre sonhos de múltiplas pessoas? Ser uma IA no século 21 significa simplesmente não esquecer nada? E, se for assim, não seria isso a coisa mais revolucionária que já experimentamos durante séculos de esforços para capturar a história através das mídias? Em outras palavras, até onde chegamos, desde o "Blade Runner" do Ridley Scott?
So I established my studio in 2014 and invited architects, computer and data scientists, neuroscientists, musicians and even storytellers to join me in realizing my dreams. Can data become a pigment? This was the very first question we asked when starting our journey to embed media arts into architecture, to collide virtual and physical worlds. So we began to imagine what I would call the poetics of data.
Estabeleci meu estúdio em 2014 e convidei arquitetos, cientistas de dados e de computação, neurocientistas, músicos e até contadores de histórias para se juntarem a mim na realização dos meus sonhos. Um dado pode ser um pigmento? Essa foi a primeira pergunta que fizemos ao começar nossa missão de incorporar arte de mídia na arquitetura para colidir o mundo virtual com o físico. Então começamos a imaginar o que eu chamaria de poética de dados.
One of our first projects, "Virtual Depictions," was a public data sculpture piece commissioned by the city of San Francisco. The work invites the audience to be part of a spectacular aesthetic experience in a living urban space by depicting a fluid network of connections of the city itself. It also stands as a reminder of how invisible data from our everyday lives, like the Twitter feeds that are represented here, can be made visible and transformed into sensory knowledge that can be experienced collectively.
Um de nossos primeiros projetos, "Virtual Depictions", foi uma escultura feita de dados públicos encomendada pela cidade de San Francisco. A obra convida a plateia a fazer parte de uma experiência estética espetacular em um espaço urbano vivo, que retrata uma rede fluida de conexões da própria cidade. Ela também serve como um lembrete de como os dados invisíveis do nosso dia a dia, como o feed do Twitter que está representado aqui, podem ser tornados visíveis e transformados em conhecimento sensorial que pode ser experienciado coletivamente.
In fact, data can only become knowledge when it's experienced, and what is knowledge and experience can take many forms. When exploring such connections through the vast potential of machine intelligence, we also pondered the connection between human senses and the machines' capacity for simulating nature.
De fato, dados só se tornam conhecimento quando são experienciados, e conhecimento e experiência podem assumir várias formas. Ao explorar essas conexões através do vasto potencial da inteligência de máquina, também consideramos a conexão entre os sentidos humanos e a capacidade das máquinas de simular a natureza.
These inquiries began while working on wind-data paintings. They took the shape of visualized poems based on hidden data sets that we collected from wind sensors. We then used generative algorithms to transform wind speed, gust and direction into an ethereal data pigment. The result was a meditative yet speculative experience. This kinetic data sculpture, titled "Bosphorus," was a similar attempt to question our capacity to reimagine natural occurrences. Using high-frequency radar collections of the Marmara Sea, we collected sea-surface data and projected its dynamic movement with machine intelligence. We create a sense of immersion in a calm yet constantly changing synthetic sea view.
Essas pesquisas iniciaram ao trabalharmos em pinturas com dados sobre o vento. As pinturas assumiram a forma de poemas visuais baseados em conjuntos de dados escondidos que coletamos de sensores de vento. Então usamos algoritmos generativos para transformar a velocidade, as rajadas e a direção do vento em um pigmento de dados etéreo. O resultado foi uma experiência meditativa, ainda que especulativa. Esta escultura cinética de dados, chamada "Bosphorus", foi uma tentativa similar de questionar nossa capacidade de reimaginar ocorrências naturais. Usando radares de alta frequência no Mar de Mármara, coletamos dados da superfície marítima e projetamos seu movimento dinâmico com inteligência de máquina. Criamos um senso de imersão em uma vista sintética do mar, calma, mas em constante mudança.
Seeing with the brain is often called imagination, and, for me, imagining architecture goes beyond just glass, metal or concrete, instead experimenting with the furthermost possibilities of immersion and ways of augmenting our perception in built environments.
Ver com o cérebro é chamado de imaginação, e, para mim, imaginar arquitetura vai além de vidro, metal ou concreto, é experimentar as mais remotas possibilidades de imersão e formas de aumentar nossa percepção em ambientes construídos.
Research in artificial intelligence is growing every day, leaving us with the feeling of being plugged into a system that is bigger and more knowledgeable than ourselves.
A cada dia cresce a pesquisa em inteligência artificial, nos deixando com o sentimento de estar plugado em um sistema maior e com mais conhecimento do que nós.
In 2017, we discovered an open-source library of cultural documents in Istanbul and began working on "Archive Dreaming," one of the first AI-driven public installations in the world, an AI exploring approximately 1.7 million documents that span 270 years. One of our inspirations during this process was a short story called "The Library of Babel" by the Argentine writer Jorge Luis Borges. In the story, the author conceives a universe in the form of a vast library containing all possible 410-page books of a certain format and character set. Through this inspiring image, we imagine a way to physically explore the vast archives of knowledge in the age of machine intelligence. The resulting work, as you can see, was a user-driven immersive space. "Archive Dreaming" profoundly transformed the experience of a library in the age of machine intelligence.
Em 2017, descobrimos uma biblioteca de dados abertos com documentos culturais em Istambul e começamos a trabalhar em "Archive Dreaming", uma das primeiras instalações públicas conduzidas por IA do mundo; uma IA explorando cerca de 1,7 milhão de documentos que englobam 270 anos. Uma de nossas inspirações nesse processo foi o conto "A Biblioteca de Babel" do escritor argentino Jorge Luis Borges. No conto, o autor concebe um universo na forma de uma imensa biblioteca com todos os possíveis livros de 410 páginas em determinado formato e conjunto de caracteres. A partir dessa imagem inspiradora, imaginamos uma forma de explorar fisicamente os vastos arquivos de conhecimento na era da inteligência de máquina. O resultado desse trabalho, como podem ver, foi um espaço imersivo direcionado ao usuário. "Archive Dreaming" transformou profundamente a experiência de uma biblioteca na era da inteligência de máquina.
"Machine Hallucination" is an exploration of time and space experienced through New York City's public photographic archives. For this one-of-a-kind immersive project, we deployed machine-learning algorithms to find and process over 100 million photographs of the city. We designed an innovative narrative system to use artificial intelligence to predict or to hallucinate new images, allowing the viewer to step into a dreamlike fusion of past and future New York.
"Machine Hallucination" explora o tempo e o espaço através dos arquivos fotográficos públicos de Nova York. Para esse projeto imersivo único, utilizamos algoritmos de aprendizagem de máquina para encontrar e processar mais de 100 milhões de fotos da cidade. Projetamos um sistema narrativo inovador que usa inteligência artificial para prever ou alucinar novas imagens, permitindo ao espectador entrar em uma fusão similar a um sonho da Nova York do passado e do futuro.
As our projects delve deeper into remembering and transmitting knowledge, we thought more about how memories were not static recollections but ever-changing interpretations of past events. We pondered how machines could simulate unconscious and subconscious events, such as dreaming, remembering and hallucinating. Thus, we created "Melting Memories" to visualize the moment of remembering.
À medida que nosso projeto vai mais fundo em recordar e transmitir conhecimento, pensamos cada vez mais em como as memórias não são recordações estáticas, mas interpretações de eventos passados em constante mutação. Consideramos como as máquinas podem simular eventos inconscientes e subconscientes, como sonhar, recordar-se e alucinar. Assim, criamos "Melting Memories" para visualizar o momento de recordar-se.
The inspiration came from a tragic event, when I found out that my uncle was diagnosed with Alzheimer's. At that time, all I could think about was to find a way to celebrate how and what we remember when we are still able to do so. I began to think of memories not as disappearing but as melting or changing shape. With the help of machine intelligence, we worked with the scientists at the Neuroscape Laboratory at the University of California, who showed us how to understand brain signals as memories are made. Although my own uncle was losing the ability to process memories, the artwork generated by EEG data explored the materiality of remembering and stood as a tribute to what my uncle had lost.
A inspiração veio de um evento trágico, quando eu soube que meu tio foi diagnosticado com Alzheimer. Na época, eu só conseguia pensar em encontrar uma forma de celebrar como e do que nos lembramos quando ainda temos essa capacidade. Comecei a pensar nas memórias não como algo que desaparece, mas como algo que derrete ou muda de forma. Com a ajuda da inteligência de máquina, trabalhamos com os cientistas do Neuroscape Laboratory na Universidade da Califórnia, que nos mostraram como entender sinais cerebrais enquanto as memórias são construídas. Apesar de meu tio estar perdendo a habilidade de processar memórias, a arte gerada pelos dados do EEG explorava a materialidade da lembrança e serviu como um tributo àquilo que meu tio havia perdido.
Almost nothing about contemporary LA matched my childhood expectation of the city, with the exception of one amazing building: the Walt Disney Concert Hall, designed by Frank Gehry, one of my all-time heroes. In 2018, I had a call from the LA Philharmonic who was looking for an installation to help mark the celebrated symphony's hundred-year anniversary. For this, we decided to ask the question, "Can a building learn? Can it dream?" To answer this question, we decided to collect everything recorded in the archives of the LA Phil and WDCH. To be precise, 77 terabytes of digitally archived memories. By using machine intelligence, the entire archive, going back 100 years, became projections on the building's skin, 42 projectors to achieve this futuristic public experience in the heart of Los Angeles, getting one step closer to the LA of "Blade Runner." If ever a building could dream, it was in this moment.
Quase nada da Los Angeles contemporânea coincidiu com as expectativas que eu tinha sobre a cidade na infância, exceto um prédio incrível: o Walt Disney Concert Hall, projetado por Frank Gehry, um de meus maiores heróis de todos os tempos. Em 2018, recebi um telefonema da Filarmônica de Los Angeles, que buscava uma instalação que ajudasse a marcar a celebração do centésimo aniversário da orquestra. Para fazer isso, decidimos perguntar: "Um prédio pode aprender? Pode sonhar?" Para responder essas perguntas, decidimos coletar todos os registros sobre a Filarmônica de LA e do WDCH. Para ser exato, 77 terabytes de memórias digitalmente arquivadas. Usando inteligência de máquina, o arquivo inteiro, que continha 100 anos de história, foi convertido em projeções na superfície do prédio: 42 projetores para conseguir a experiência futurista no coração de Los Angeles, nos aproximando um pouco da Los Angeles de "Blade Runner". Se algum dia um prédio pôde sonhar, foi nesse momento.
Now, I am inviting you to one last journey into the mind of a machine. Right now, we are fully immersed in the data universe of every single curated TED Talk from the past 30 years. That means this data set includes 7,705 talks from the TED stage. Those talks have been translated into 7.4 million seconds, and each second is represented here in this data universe. Every image that you are seeing in here represents unique moments from those talks. By using machine intelligence, we processed a total of 487,000 sentences into 330 unique clusters of topics like nature, global emissions, extinction, race issues, computation, trust, emotions, water and refugees. These clusters are then connected to each other by an algorithm, [that] generated 113 million line segments, which reveal new conceptual relationships. Wouldn't it be amazing to be able to remember all the questions that have ever been asked on the stage?
Agora, convido vocês a uma última jornada dentro da mente de uma máquina. Neste momento, estamos imersos no universo de dados de cada palestra TED selecionada nos últimos 30 anos. Esse conjunto de dados inclui 7.705 palestras dadas no palco do TED. Essas palestras totalizam 7,4 milhões de segundos, e cada segundo está representado neste universo de dados. Cada imagem que vocês veem aqui representa momentos únicos dessas palestras. Usando inteligência de máquina, processamos 487 mil frases em 330 agrupamentos únicos de tópicos como natureza, emissões globais, extinção, questões raciais, computação, confiança, emoções, água e refugiados. Esses agrupamentos estão conectados uns aos outros por um algoritmo e geraram 113 milhões de segmentos de linha, que revelam novas relações conceituais. Não seria incrível poder recordar todas as perguntas que já foram feitas no palco?
Here I am, inside the mind of countless great thinkers, as well as a machine, interacting with various feelings attributed to learning, remembering, questioning and imagining all at the same time, expanding the power of the mind.
Aqui estou eu, dentro da mente de inúmeros pensadores, e da mente de uma máquina, interagindo com diversos sentimentos atribuídos a aprender, recordar, questionar e imaginar, todos ao mesmo tempo, expandindo o poder da mente.
For me, being right here is indeed what it means to be an AI in the 21st century. It is in our hands, humans, to train this mind to learn and remember what we can only dream of.
Para mim, estar exatamente aqui é, sem dúvida, o que significa ser uma IA no século 21. Está em nossas mãos, dos humanos, treinar essa mente para aprender e recordar aquilo que podemos apenas sonhar.
Thank you.
Obrigado.