Many of us here use technology in our day-to-day. And some of us rely on technology to do our jobs. For a while, I thought of machines and the technologies that drive them as perfect tools that could make my work more efficient and more productive.
Muitos de nós usamos a tecnologia no dia a dia. E alguns de nós dependem da tecnologia para trabalhar. Por um tempo, acreditei que as máquinas e a tecnologia por trás delas eram ferramentas perfeitas que tornavam meu trabalho mais eficiente e produtivo.
But with the rise of automation across so many different industries, it led me to wonder: If machines are starting to be able to do the work traditionally done by humans, what will become of the human hand? How does our desire for perfection, precision and automation affect our ability to be creative?
Mas com o surgimento da automação em tantos ramos industriais diferentes, comecei a pensar: "Se as máquinas estão começando a fazer o trabalho tradicionalmente feito pelo homem, qual será a parte humana na produção?" Como nossa busca pela perfeição, precisão e automação afeta nossa capacidade de sermos criativos?
In my work as an artist and researcher, I explore AI and robotics to develop new processes for human creativity. For the past few years, I've made work alongside machines, data and emerging technologies. It's part of a lifelong fascination about the dynamics of individuals and systems and all the messiness that that entails. It's how I'm exploring questions about where AI ends and we begin and where I'm developing processes that investigate potential sensory mixes of the future. I think it's where philosophy and technology intersect.
Em meu trabalho como artista e pesquisadora, exploro IA e robótica para desenvolver novos processos da criatividade humana. Durante os últimos anos, tenho trabalhado com máquinas, dados e tecnologias emergentes. É parte da minha fascinação sobre a dinâmica de indivíduos e máquinas e toda a bagunça envolvida. É assim que estou explorando onde a IA termina e nós entramos e onde estou desenvolvendo processos que investigam potenciais combinações sensoriais do futuro. Acho que é onde a filosofia e a tecnologia se encontram.
Doing this work has taught me a few things. It's taught me how embracing imperfection can actually teach us something about ourselves. It's taught me that exploring art can actually help shape the technology that shapes us. And it's taught me that combining AI and robotics with traditional forms of creativity -- visual arts in my case -- can help us think a little bit more deeply about what is human and what is the machine. And it's led me to the realization that collaboration is the key to creating the space for both as we move forward.
Ao realizar esse trabalho, tenho aprendido algumas coisas: que aceitar a imperfeição pode nos ensinar algumas coisas sobre nós mesmos; que explorar a arte pode ajudar a aperfeiçoar a tecnologia que nos aperfeiçoa; e que combinar IA e robótica com meios criativos tradicionais, artes visuais no meu caso, pode nos ajudar a pensar mais profundamente sobre o que é humano e o que é máquina. E tenho aprendido que a colaboração é a chave para criar espaço para ambos conforme progredimos.
It all started with a simple experiment with machines, called "Drawing Operations Unit: Generation 1." I call the machine "D.O.U.G." for short. Before I built D.O.U.G, I didn't know anything about building robots. I took some open-source robotic arm designs, I hacked together a system where the robot would match my gestures and follow [them] in real time. The premise was simple: I would lead, and it would follow. I would draw a line, and it would mimic my line.
Tudo começou com uma simples experiência com máquinas, a "Drawing Operations Unit: Generation 1". Eu a apelidei de "D.O.U.G.". Antes de construir o D.O.U.G., eu não sabia nada sobre criação de robôs. Peguei designs de braços robóticos de código aberto e os juntei a um sistema no qual o robô copiava meus gestos e os seguia em tempo real. A premissa era simples: eu guiaria, e ele seguiria; eu desenharia uma linha, e ele a imitaria.
So back in 2015, there we were, drawing for the first time, in front of a small audience in New York City. The process was pretty sparse -- no lights, no sounds, nothing to hide behind. Just my palms sweating and the robot's new servos heating up. (Laughs) Clearly, we were not built for this. But something interesting happened, something I didn't anticipate.
Em 2015, estávamos desenhando pela primeira vez para um pequeno público em Nova York. O processo era bem simples, sem luzes, sons, nada escondido. Somente minhas mãos suando e meu robô esquentando. Obviamente, não fomos feitos para isso. Mas algo interessante aconteceu, algo que eu não tinha previsto.
See, D.O.U.G., in its primitive form, wasn't tracking my line perfectly. While in the simulation that happened onscreen it was pixel-perfect, in physical reality, it was a different story. It would slip and slide and punctuate and falter, and I would be forced to respond. There was nothing pristine about it. And yet, somehow, the mistakes made the work more interesting. The machine was interpreting my line but not perfectly. And I was forced to respond. We were adapting to each other in real time.
O D.O.U.G., em sua forma original, não copiava minhas linhas perfeitamente. Apesar de na simulação exibida na tela ele parecer perfeito, na prática era outra história. Ele escorregava, deslizava, pontuava e vacilava, e eu era forçada a reagir. Não era perfeito, mesmo assim, de certa forma, os erros tornaram o trabalho mais interessante. A máquina interpretava minhas linhas, mas não perfeitamente e eu era forçada a reagir. Nos adaptávamos um ao outro simultaneamente
And seeing this taught me a few things. It showed me that our mistakes actually made the work more interesting. And I realized that, you know, through the imperfection of the machine, our imperfections became what was beautiful about the interaction. And I was excited, because it led me to the realization that maybe part of the beauty of human and machine systems is their shared inherent fallibility. For the second generation of D.O.U.G., I knew I wanted to explore this idea. But instead of an accident produced by pushing a robotic arm to its limits, I wanted to design a system that would respond to my drawings in ways that I didn't expect.
e isso me ensinou algumas coisas. Nossos erros tornaram o trabalho mais interessante e descobri que, por meio da imperfeição da máquina, nossas imperfeições tornaram-se a beleza da interação. Fiquei muito animada porque me fez perceber que talvez, parte da beleza de sistemas homem-máquina, seja o compartilhamento de suas falhas inerentes. Para a segunda geração do D.O.U.G., eu sabia que queria explorar essa ideia. Mas em vez de ser algo acidental produzido por levar um braço robótico ao seu limite, queria um sistema que reagisse aos meus desenhos de forma imprevista.
So, I used a visual algorithm to extract visual information from decades of my digital and analog drawings. I trained a neural net on these drawings in order to generate recurring patterns in the work that were then fed through custom software back into the machine. I painstakingly collected as many of my drawings as I could find -- finished works, unfinished experiments and random sketches -- and tagged them for the AI system. And since I'm an artist, I've been making work for over 20 years. Collecting that many drawings took months, it was a whole thing.
Então usei um algoritmo de visão para coletar informações de meus desenhos digitais e analógicos produzidos em décadas. Treinei uma rede neural com esses desenhos para gerar padrões recorrentes no trabalho que, então, alimentaram a máquina através de um software. Coletei meticulosamente todos os desenhos que encontrei, trabalhos concluídos e incompletos, rascunhos aleatórios e os identifiquei no sistema de IA. Como artista, venho desenhando há mais de 20 anos. Juntar tantos desenhos levou meses; foi muito complicado.
And here's the thing about training AI systems: it's actually a lot of hard work. A lot of work goes on behind the scenes. But in doing the work, I realized a little bit more about how the architecture of an AI is constructed. And I realized it's not just made of models and classifiers for the neural network. But it's a fundamentally malleable and shapable system, one in which the human hand is always present. It's far from the omnipotent AI we've been told to believe in.
E o problema de treinar sistemas de IA é que, na verdade, é um trabalho árduo. Muito trabalho acontece nos bastidores. Mas trabalhando com isso, aprendi mais sobre a estrutura da arquitetura de uma IA, e percebi que não é feita somente de modelos e classificadores para a rede neural. É basicamente um sistema maleável e moldável, no qual o toque humano está sempre presente. Está longe da onipotente IA na qual nos fizeram acreditar.
So I collected these drawings for the neural net. And we realized something that wasn't previously possible. My robot D.O.U.G. became a real-time interactive reflection of the work I'd done through the course of my life. The data was personal, but the results were powerful. And I got really excited, because I started thinking maybe machines don't need to be just tools, but they can function as nonhuman collaborators. And even more than that, I thought maybe the future of human creativity isn't in what it makes but how it comes together to explore new ways of making.
Depois de coletar os desenhos para a rede neural, descobrimos algo que antes era impossível. Meu robô D.O.U.G. tornou-se um reflexo interativo em tempo real do trabalho que fiz durante minha vida. Os dados eram pessoais, mas os resultados, poderosos. Fiquei bem animada, pois comecei a pensar que talvez as máquinas não precisassem ser somente ferramentas; elas podiam funcionar como colaboradores não humanos. Mais do que isso, pensei que talvez o futuro da criatividade humana não estivesse na criação, mas na exploração de novos métodos da criação.
So if D.O.U.G._1 was the muscle, and D.O.U.G._2 was the brain, then I like to think of D.O.U.G._3 as the family. I knew I wanted to explore this idea of human-nonhuman collaboration at scale. So over the past few months, I worked with my team to develop 20 custom robots that could work with me as a collective. They would work as a group, and together, we would collaborate with all of New York City.
Então se D.O.U.G._1 era o braço, e D.O.U.G._2 o cérebro, então gosto de pensar no D.O.U.G._3 como a família. Queria explorar a ideia de colaboração entre humano e máquina em escala, então, durante os últimos meses, tenho trabalhado com minha equipe para desenvolver 20 robôs que trabalhariam comigo coletivamente. Trabalhariam como um grupo, e juntos, colaboraríamos com toda a cidade de Nova York.
I was really inspired by Stanford researcher Fei-Fei Li, who said, "if we want to teach machines how to think, we need to first teach them how to see." It made me think of the past decade of my life in New York, and how I'd been all watched over by these surveillance cameras around the city. And I thought it would be really interesting if I could use them to teach my robots to see. So with this project, I thought about the gaze of the machine, and I began to think about vision as multidimensional, as views from somewhere. We collected video from publicly available camera feeds on the internet of people walking on the sidewalks, cars and taxis on the road, all kinds of urban movement. We trained a vision algorithm on those feeds based on a technique called "optical flow," to analyze the collective density, direction, dwell and velocity states of urban movement. Our system extracted those states from the feeds as positional data and became pads for my robotic units to draw on. Instead of a collaboration of one-to-one, we made a collaboration of many-to-many. By combining the vision of human and machine in the city, we reimagined what a landscape painting could be.
Fui inspirada pela pesquisadora Fei-Fei Li da Stanford, que disse: "Se queremos ensinar as máquinas a pensar, precisamos primeiro ensiná-las a enxergar". Isso me fez pensar na última década que passei em Nova York, e em como fui observada pelas câmeras de segurança espalhadas pela cidade. E pensei que seria interessante se pudesse usá-las para ensinar meus robôs a enxergar. Então, com esse projeto, pensei sobre a perspectiva da máquina e comecei a considerar a visão como multidimensional, como pontos de vista. Coletamos vídeos transmitidos publicamente na internet de pessoas andando nas calçadas, carros e táxis nas ruas, todo tipo de movimento urbano. Com esses dados, treinamos um algoritmo de visão baseado em uma técnica chamada "fluxo ótico" para analisar a densidade coletiva, direção, repouso e velocidade dos movimentos urbanos. Nosso sistema extraiu esses estados das fontes como dados de posicionamento e se tornou a base para meus robôs desenharem. Em vez de uma colaboração um para um, criamos uma colaboração de muitos para muitos. Combinando a visão do ser humano e da máquina na cidade, repensamos o que a pintura de uma paisagem poderia ser.
Throughout all of my experiments with D.O.U.G., no two performances have ever been the same. And through collaboration, we create something that neither of us could have done alone: we explore the boundaries of our creativity, human and nonhuman working in parallel.
Em todos os meus experimentos com o D.O.U.G., nunca tivemos performances idênticas, e através da colaboração criamos algo que nenhum de nós poderia ter feito sozinho: exploramos os limites de nossa criatividade, com humano e não humano trabalhando paralelamente.
I think this is just the beginning. This year, I've launched Scilicet, my new lab exploring human and interhuman collaboration. We're really interested in the feedback loop between individual, artificial and ecological systems. We're connecting human and machine output to biometrics and other kinds of environmental data. We're inviting anyone who's interested in the future of work, systems and interhuman collaboration to explore with us. We know it's not just technologists that have to do this work and that we all have a role to play.
Acho que estamos só começando. Este ano inaugurei o Scilicet, meu novo laboratório, onde exploro a colaboração humana e inter-humana. Estamos muito interessados no ciclo de feedback entre sistemas individuais, artificiais e ecológicos, Estamos conectando a produção de humanos e máquinas à biometria e a outros tipos de dados ambientais. Convidamos todos que têm interesse no futuro do trabalho, dos sistemas e na colaboração inter-humana a explorarem conosco. Sabemos que não são só tecnólogos que devem fazer esse trabalho e que todos nós temos um papel a cumprir.
We believe that by teaching machines how to do the work traditionally done by humans, we can explore and evolve our criteria of what's made possible by the human hand. And part of that journey is embracing the imperfections and recognizing the fallibility of both human and machine, in order to expand the potential of both.
Acreditamos que ao ensinar máquinas a como fazer o trabalho tradicionalmente feito por humanos, podemos explorar e expandir nosso critério do que é possível para a humanidade. Parte dessa jornada é aceitar as imperfeições e reconhecer a falibilidade tanto de humanos como de máquinas para expandir o potencial de ambos.
Today, I'm still in pursuit of finding the beauty in human and nonhuman creativity. In the future, I have no idea what that will look like, but I'm pretty curious to find out.
Atualmente ainda estou buscando a beleza na criatividade humana e não humana. Não sei como ela será no futuro mas estou muito curiosa em descobrir.
Thank you.
Obrigada.
(Applause)
(Aplausos)