Let me tell you a story about artificial intelligence. There's a building in Sydney at 1 Bligh Street. It houses lots of government apartments and busy people. From the outside, it looks like something out of American science fiction: all gleaming glass and curved lines, and a piece of orange sculpture. On the inside, it has excellent coffee on the ground floor and my favorite lifts in Sydney. They're beautiful; they look almost alive. And it turns out I'm fascinated with lifts. For lots of reasons. But because lifts are one of the places you can see the future.
Deixe-me contar uma história sobre inteligência artificial. Há um prédio em Sydney, na rua 1 Bligh. Ele detém vários apartamentos do governo e pessoas ocupadas. Do lado de fora, ele parece algo saído de uma ficção científica americana: com todos os vidros brilhantes e linhas curvas, e uma escultura laranja. Do lado de dentro, há um ótimo café no andar do térreo e meus elevadores favoritos em Sydney. Eles são lindos, parecem estar quase vivos. E na verdade eu sou fascinada por elevadores. Por vários motivos. Mas porque elevadores são um dos lugares em que você vê o futuro.
In the 21st century, lifts are interesting because they're one of the first places that AI will touch you without you even knowing it happened. In many buildings all around the world, the lifts are running a set of algorithms. A form of protoartificial intelligence. That means before you even walk up to the lift to press the button, it's anticipated you being there. It's already rearranging all the carriages. Always going down, to save energy, and to know where the traffic is going to be. By the time you've actually pressed the button, you're already part of an entire system that's making sense of people and the environment and the building and the built world.
No século 21, elevadores são interessantes pois são um dos primeiros lugares onde a Inteligência Artifical te alcança sem você nem perceber. Em diversos prédios ao redor do mundo, os elevadores executam um conjunto de algoritmos. Uma forma de inteligência protoartificial. Isso significa que antes mesmo de você ir até o elevador apertar o botão, ele antecipa que você estará lá. Já está reorganizando todas as carruagens. Sempre descendo, para poupar energia, e para saber onde o tráfego estará. No momento em que você realmente aperta o botão, você já faz parte de todo um sistema que dá sentido às pessoas e ao ambiente, e ao prédio e ao mundo construído.
I know when we talk about AI, we often talk about a world of robots. It's easy for our imaginations to be occupied with science fiction, well, over the last 100 years. I say AI and you think "The Terminator." Somewhere, for us, making the connection between AI and the built world, that's a harder story to tell. But the reality is AI is already everywhere around us. And in many places. It's in buildings and in systems. More than 200 years of industrialization suggest that AI will find its way to systems-level scale relatively easily. After all, one telling of that history suggests that all you have to do is find a technology, achieve scale and revolution will follow.
Eu sei que ao falar sobre IA, geralmente falamos de um mundo de robôs. É fácil para nossa imaginação se ocupar com ficção científica, ao longo dos últimos 100 anos. Eu digo IA, você pensa em “O Exterminador do Futuro”. De alguma forma, para nós, fazer conexões entre IA e o mundo real já é um assunto mais complicado. Mas a realidade é que a IA já está em tudo ao nosso redor. E em vários lugares. Está em prédios e em sistemas. Mais de 200 anos de industrialização sugerem que a IA encontrará sua expansão a nível de sistemas relativamente fácil. Afinal, uma parte dessa história sugere que tudo que você precisa é encontrar uma tecnologia, alcançar grande escala e a revolução virá.
The story of mechanization, automation and digitization all point to the role of technology and its importance. Those stories of technological transformation make scale seem, well, normal. Or expected. And stable. And sometimes even predictable. But it also puts the focus squarely on technology and technology change. But I believe that scaling a technology and building a system requires something more.
As histórias da mecanização, automação e digitalização apontam para o papel da tecnologia e sua importância. Essas histórias de transformação tecnológica fazem a expansão parecer normal. Ou esperada. E estável. E às vezes até previsível. Mas também foca diretamente na tecnologia e na mudança tecnológica. Mas eu acredito que exandir uma tecnologia e construir um sistema requer algo a mais.
We founded the 3Ai Institute at the Australian National University in September 2017. It has one deceptively simple mission: to establish a new branch of engineering to take AI safely, sustainably and responsibly to scale. But how do you build a new branch of engineering in the 21st century? Well, we're teaching it into existence through an experimental education program. We're researching it into existence with locations as diverse as Shakespeare's birthplace, the Great Barrier Reef, not to mention one of Australia's largest autonomous mines. And we're theorizing it into existence, paying attention to the complexities of cybernetic systems. We're working to build something new and something useful. Something to create the next generation of critical thinkers and critical doers. And we're doing all of that through a richer understanding of AI's many pasts and many stories. And by working collaboratively and collectively through teaching and research and engagement, and by focusing as much on the framing of the questions as the solving of the problems.
Nós fundamos o Instituto 3Ai na Universidade Nacional da Australia em setembro de 2017. Com uma missão aparentemente simples: estabelecer um novo ramo da engenharia para expandir a IA com segurança, sustentabilidade e responsabilidade. Mas como você constrói um novo ramo da engenharia no século 21? Bem, estamos ensinando isso a existir através de um programa educacional experimental. Estamos pesquisando sua existência em locais tão diversos quanto o de nascimento de Shakespeare, a Grande Barreira de Corais, além de uma das maiores minas autônomas da Austrália. E estamos teorizando sua existência, prestando atenção em complexidades de sistemas cibernéticos. Estamos trabalhando em algo novo e em algo útil. Algo para criar uma futura geração de pensadores e executores críticos. E estamos fazendo tudo isso através de um rico entendimento das diversas partes e histórias da IA. E trabalhando de forma colaborativa e coletiva, através de ensino e pesquisa, engajamento, e focando tanto na identificação das questões quanto na resolução dos problemas.
We're not making a single AI, we're making the possibilities for many. And we're actively working to decolonize our imaginations and to build a curriculum and a pedagogy that leaves room for a range of different conversations and possibilities. We are making and remaking. And I know we're always a work in progress. But here's a little glimpse into how we're approaching that problem of scaling a future.
Não estamos fazendo uma única IA, estamos gerando a possibilidade de várias. E trabalhando ativamente para decolonizar nossa imaginação e construir um currículo e pedagogia que abram espaço para uma gama de conversas e possibilidades diferentes. Nós estamos fazendo e refazendo. E eu sei que seremos sempre um trabalho em progresso. Aqui está um pequeno vislumbre de como estamos abordando o problema de dimensionar um futuro.
We start by making sure we're grounded in our own history. In December of 2018, I took myself up to the town of Brewarrina on the New South Wales-Queensland border. This place was a meeting place for Aboriginal people, for different groups, to gather, have ceremonies, meet, to be together. There, on the Barwon River, there's a set of fish weirs that are one of the oldest and largest systems of Aboriginal fish traps in Australia. This system is comprised of 1.8 kilometers of stone walls shaped like a series of fishnets with the "Us" pointing down the river, allowing fish to be trapped at different heights of the water. They're also fish holding pens with different-height walls for storage, designed to change the way the water moves and to be able to store big fish and little fish and to keep those fish in cool, clear running water. This fish-trap system was a way to ensure that you could feed people as they gathered there in a place that was both a meeting of rivers and a meeting of cultures.
Começamos tendo certeza de que estamos fundamentados em nossa própria história. Em dezembro de 2018, eu fui para a cidade de Brewarrina a fronteira de Nova Gales do Sul e Queensland. O lugar foi ponto de encontro para povos Aborígenes, de diferentes grupos, reunir, fazer cerimônias, se encontrar, estar juntos. Lá, no rio Barwon, tem uma armadilha para peixes que é um dos maiores e mais antigos sistemas de armadilhas para peixes dos Aborígenes na Austrália. O sistema é feito de 1,8 km de barreiras de pedras em forma de redes para peixes com “Us” apontando rio abaixo permitindo que os peixes fiquem presos em diferentes níveis da água. Há também gaiolas com grades de alturas diferentes para armazenamento desenvolvidaa para mudar a maneira que a água se move e para pescar peixes grandes e pequenos e mantê-los em água limpa e corrente. O sistema de armadilhas para peixes foi uma maneira de alimentar as pessoas enquanto elas se juntam em um lugar que é um encontro de rios e de culturas.
It isn't about the rocks or even the traps per se. It is about the system that those traps created. One that involves technical knowledge, cultural knowledge and ecological knowledge. This system is old. Some archaeologists think it's as old as 40,000 years. The last time we have its recorded uses is in the nineteen teens. It's had remarkable longevity and incredible scale. And it's an inspiration to me. And a photo of the weir is on our walls here at the Institute, to remind us of the promise and the challenge of building something meaningful. And to remind us that we're building systems in a place where people have built systems and sustained those same systems for generations.
Não é sobre as pedras, ou mesmo sobre as armadilhas em si. É sobre o sistema que as armadilhas criaram. Um que envolve conhecimento técnico, conhecimento cultural e conhecimento ecológico. Esse sistema é antigo. Alguns arqueólogos acreditam que tenha 40 mil anos de idade. A última vez que nós tivemos o uso registrado foi na década de dezenove. Ele teve uma longevidade maarcante e uma escala incrível. E é uma inspiração para mim. E uma foto da represa está nas paredes aqui no Instituto, para lembrar-nos da promessa e nos desafiando a construir algo significativo. E para nos lembrar que estamos construindo sistemas em um lugar onde pessoas construiram sistemas e sustentaram esses mesmos sistemas por gerações.
It isn't just our history, it's our legacy as we seek to establish a new branch of engineering. To build on that legacy and our sense of purpose, I think we need a clear framework for asking questions about the future. Questions for which there aren't ready or easy answers. Here, the point is the asking of the questions. We believe you need to go beyond the traditional approach of problem-solving, to the more complicated one of question asking and question framing. Because in so doing, you open up all kinds of new possibilities and new challenges.
Não só nossa história, é nosso legado enquanto tentamos estabelecer um novo ramo da engenharia. Para construir esse legado e nosso senso de propósito, eu acredito que precisamos de uma visão clara para nos questionar sobre o futuro. Perguntas para as quais não existem respostas prontas e rápidas. Aqui, o ponto é fazer as perguntas. Nós acreditamos que precisamos ir além da abordagem tradicional de resolver problemas, para a mais complicada de fazer perguntas e construir perguntas. Porque fazendo isso, você abre a todos os tipos de novas possibilidades e novos desafios.
For me, right now, there are six big questions that frame our approach for taking AI safely, sustainably and responsibly to scale. Questions about autonomy, agency, assurance, indicators, interfaces and intentionality.
Para mim, agora, existem seis grandes perguntas que enquadram nossa abordagem para levar a IA segura, sustentável e responsavelmente a escala. Perguntas sobre autonomia, agentes, garantias, indicadores, interfaces e intencionalidade
The first question we ask is a simple one. Is the system autonomous? Think back to that lift on Bligh Street. The reality is, one day, that lift may be autonomous. Which is to say it will be able to act without being told to act. But it isn't fully autonomous, right? It can't leave that Bligh Street building and wonder down to Circular Quay for a beer. It goes up and down, that's all. But it does it by itself. It's autonomous in that sense.
A primeira pergunta que nós fazemos é simples. O sistema é autônomo? Voltemos àquele elevador na Bligh Street. A realidade é, um dia, aquele elevador pode ser autônomo. Quer dizer que ele vai poder agir sem ter recebidos ordens para agir. Mas não é totalmente autônomo, certo? Ele não pode deixar aquele prédio na Bligh Street e não pode descer para o Circular Quay para tomar uma cerveja. Ele vai para cima e para baixo, isso é tudo. Mas faz isso sozinho. É autônomo nesse sentido.
The second question we ask: does this system have agency? Does this system have controls and limits that live somewhere that prevent it from doing certain kinds of things under certain conditions. The reality with lifts, that's absolutely the case. Think of any lift you've been in. There's a red keyslot in the elevator carriage that an emergency services person can stick a key into and override the whole system. But what happens when that system is AI-driven? Where does the key live? Is it a physical key, is it a digital key? Who gets to use it? Is that the emergency services people? And how would you know if that was happening? How would all of that be manifested to you in the lift?
A segunda pergunta que fazemos é: esse sistema tem um agente? Esse sistema tem controles e limites que moram em algum lugar que previne que ele faça certas coisa sob certas condições. O exemplo com elevadores, é absolutamente o caso. Pense em qualquer elevador que você tenha estado. Tem uma fechadura vermelha na cabine do elevador que o serviço de emergência pode colocar uma chave e reiniciar todo o sistema. Mas o que acontece com um sistema comandado por uma IA? Onde a chave fica? É uma chave física, é uma chave digital? Quem pode usá-la? O serviço de emergência? E como você saberia o que estava acontecendo? Como tudo isso se manifestaria em seu elevador?
The third question we ask is how do we think about assurance. How do we think about all of its pieces: safety, security, trust, risk, liability, manageability, explicability, ethics, public policy, law, regulation? And how would we tell you that the system was safe and functioning?
A terceira questão que fazemos é como pensamos em garantias. Como pensamos em todas essas peças: confiabilidade, segurança, confiança, risco, responsabilidade, manuseio, explicabilidade, ética políticas públicas, leis, regulação? E como falariamos a você que o sistema é seguro e funcional?
The fourth question we ask is what would be our interfaces with these AI-driven systems. Will we talk to them? Will they talk to us, will they talk to each other? And what will it mean to have a series of technologies we've known, for some of us, all our lives, now suddenly behave in entirely different ways? Lifts, cars, the electrical grid, traffic lights, things in your home.
A quarta pergunta que fazemos é quais seriam nossas interfaces com todos esses sistemas de IA. Nós falaríamos com eles? Eles falariam conosco, ou uns com os outros? E o que significaria uma série de tecnologias que nós conhecemos, para alguns, toda uma vida, de repente se comporta em maneiras completamente diferentes? Elevadores, carros, rede de energia, sinais de trânsito, coisas na sua casa.
The fifth question for these AI-driven systems: What will the indicators be to show that they're working well? Two hundred years of the industrial revolution tells us that the two most important ways to think about a good system are productivity and efficiency. In the 21st century, you might want to expand that just a little bit. Is the system sustainable, is it safe, is it responsible? Who gets to judge those things for us? Users of the systems would want to understand how these things are regulated, managed and built.
A quinta questão esses sistemas de IA: Quais seriam os indicadores para mostrar que eles estariam funcionando bem 200 anos da revolução industrial nos dizem que as duas formas mais importantes para pensar sobre um sistema são produtividade e eficiência. No século 21, você pode quere expandir isso só mais um pouco. O sistema é sustentável, é seguro, é responsável? Quem vai julgar essas coisas por nós? Usuários do sistema gostariam de entender como essas coisas são reguladas, gerenciadas e construidas.
And then there's the final, perhaps most critical question that you need to ask of these new AI systems. What's its intent? What's the system designed to do and who said that was a good idea? Or put another way, what is the world that this system is building, how is that world imagined, and what is its relationship to the world we live in today? Who gets to be part of that conversation? Who gets to articulate it? How does it get framed and imagined?
E depois o final, talvez a pergunta mais crítica que você precisa fazer sobre todos esses sistemas de IA. Qual é o objetivo? O que o sistema é desenhado para fazer? e quem disse que é uma boa ideia? Em outras palavras, qual é o mundo que esse sistema está construindo, como imagina esse mundo, e qual é a relação com o mundo em que vivemos hoje? Quem tem lugar nesse debate? Quem vai articular isso? Como isso é pensado?
There are no simple answers to these questions. Instead, they frame what's possible and what we need to imagine, design, build, regulate and even decommission. They point us in the right directions and help us on a path to establish a new branch of engineering. But critical questions aren't enough. You also need a way of holding all those questions together.
Não existem respostas simples para essas perguntas. Em vez disso, eles imaginam o que é possível e o que precisamos imaginar, desenhar, construir, regular e até remover. Eles nos apontam a direção certa e nos ajudam no caminho de estabelecer um novo ramo na engenharia. Mas perguntas críticas não bastam. Você também precisa de uma forma de unir essas questões.
For us at the Institute, we're also really interested in how to think about AI as a system, and where and how to draw the boundaries of that system. And those feel like especially important things right now. Here, we're influenced by the work that was started way back in the 1940s. In 1944, along with anthropologists Gregory Bateson and Margaret Mead, mathematician Norbert Wiener convened a series of conversations that would become known as the Macy Conferences on Cybernetics. Ultimately, between 1946 and 1953, ten conferences were held under the banner of cybernetics. As defined by Norbert Wiener, cybernetics sought to "develop a language and techniques that will enable us to indeed attack the problem of control and communication in advanced computing technologies." Cybernetics argued persuasively that one had to think about the relationship between humans, computers and the broader ecological world. You had to think about them as a holistic system. Participants in the Macy Conferences were concerned with how the mind worked, with ideas about intelligence and learning, and about the role of technology in our future.
Para nós no Instituto, também estamos interessados em como pensaremos sobre a IA como sistema e onde e como delimitar esse sistema. E essas parecem especialmente importantes agora. Aqui, somos influenciados pelo trabalho que foi iniciado na década de 40. Em 1944, junto com os antropologistas Gregory Bateson e Margaret Mead, o matemático Norbert Wiener convocou uma série de discussões que se ficariam conhecidas como a Conferência Macy sobre Cibernética. Ultimamente, entre 1946 e 1953, dez conferências foram conduzidas sob o tema da cibernética. E definida por Norbert Wiener, que perseguia a ideia na cibernética de “desenvolver uma linguagem e técnicas que nos permitirão atacar o problema do controle e da comunicação em tecnologias da computação avançadas.” A cibernética argumentou persuasivamente que era preciso pensar sobre a relação entre humanos, computadores e o mundo ecológico em crescimento. Você tem que pensar neles como um sistema holístico. Participantes da conferência Macy estavam preocupados com o funcionamento da mente, com ideias sobre inteligência e aprendizado, e sobre o papel da tecnologia no futuro.
Sadly, the conversations that started with the Macy Conference are often forgotten when the talk is about AI. But for me, there's something really important to reclaim here about the idea of a system that has to accommodate culture, technology and the environment. At the Institute, that sort of systems thinking is core to our work.
Infelizmente, as discussões que começaram com a Conferência Macy são frequentemente esquecidas quando a conversa é sobre IA. Mas para mim, existem coisas importantes a serem recuperadas aqui sobre a ideia de um sistema que tem que acomodar cultura, tecnologia e meio ambiente. No Instituto, que alguns dos sistemas pensam é central do nosso trabalho.
Over the last three years, a whole collection of amazing people have joined me here on this crazy journey to do this work. Our staff includes anthropologists, systems and environmental engineers, and computer scientists as well as a nuclear physicist, an award-winning photo journalist, and at least one policy and standards expert. It's a heady mix. And the range of experience and expertise is powerful, as are the conflicts and the challenges. Being diverse requires a constant willingness to find ways to hold people in conversation. And to dwell just a little bit with the conflict.
Nos últimos anos, toda uma coleção de pessoas maravilhosas se juntaram a mim aqui nessa louca jornada para fazer isso funcionar. Nossa equipe inclui antropólogos, engenheros ambientais e de sistema, e cientistas da computação assim como um físico nuclear, e um fotógrafo jornalista premiado, e pelo menos um especialista em estatística e política. É um mix estimulante. E a variedade de experiências e expertise é poderosa, assim como os conflitos e desafios. Ser diversificado requer força de vontade constante para achar maneiras de manter as pessoas em diálogo. E para lidar com um pouco de conflito.
We also worked out early that the way to build a new way of doing things would require a commitment to bringing others along on that same journey with us. So we opened our doors to an education program very quickly, and we launched our first master's program in 2018. Since then, we've had two cohorts of master's students and one cohort of PhD students. Our students come from all over the world and all over life. Australia, New Zealand, Nigeria, Nepal, Mexico, India, the United States. And they range in age from 23 to 60. They variously had backgrounds in maths and music, policy and performance, systems and standards, architecture and arts. Before they joined us at the Institute, they ran companies, they worked for government, served in the army, taught high school, and managed arts organizations. They were adventurers and committed to each other, and to building something new. And really, what more could you ask for?
Nós também descobrimos logo que a forma de construir uma nova maneira de fazer as coisas precisaria de comprometimento para trazer outros para a mesma jornada que nós. Então abrimos as portas para um programa educacional muito rápido, e lançamos nosso primeiro programa de mestrado em 2018. Desde então, tivemos duas turmas de mestrado e uma turma de PhD. Nossos alunos vêm de todos os lugares do mundo e da vida. Australia, Nova Zelândia, Nigéria, Nepal, México, Índia e Estados Unidos. E ele têm entre 23 e 60 anos. Eles têm experiência desde matemática a música, política e performance, sistemas e estatística, arquitetura e artes. Antes de se juntarem a nós no Instituto, eles dirigem companhias, trabalham para o governo, servem ao exército, ensinam em escolas, e gerenciam organizações artísticas. Eles eram aventureiros e se comprometeram uns com os outros, a contruir algo novo. E sério, o que mais você poderia pedir?
Because although I've spent 20 years in Silicon Valley and I know the stories about the lone inventor and the hero's journey, I also know the reality. That it's never just a hero's journey. It's always a collection of people who have a shared sense of purpose who can change the world. So where do you start?
Embora eu tenha passado 20 anos no Vale do Silício e sei as histórias sobre inventores solitários e a jornada de herói. Eu também conheço a realidade. Que nunca é apenas uma jornada de herói. É sempre um conjunto de pessoas que compartilharam senso de propósito de quem pode mudar o mundo. Então por onde você começa?
Well, I think you start where you stand. And for me, that means I want to acknowledge the traditional owners of the land upon which I'm standing. The Ngunnawal and Ngambri people, this is their land, never ceded, always sacred. And I pay my respects to the elders, past and present, of this place. I also acknowledge that we're gathering today in many other places, and I pay my respects to the traditional owners and elders of all those places too.
Bem, eu acho que você começa de onde está. E para mim, isso significa que quero reconhecer os tradicionais donos da terra onde estou. Os Ngunnawal e os Ngambri essa é a terra deles, nunca cedida, sempre sagrada. E eu presto meu respeito aos anciãos, passado e presente, desse lugar. Eu também reconheço hoje nos reunimos em vários outros lugares, e presto meu respeito aos tradicionais donos e anciãos de todos esses lugares também.
It means a lot to me to get to say those words and to dwell on what they mean and signal. And to remember that we live in a country that has been continuously occupied for at least 60,000 years. Aboriginal people built worlds here, they built social systems, they built technologies. They built ways to manage this place and to manage it remarkably over a protracted period of time. And every moment any one of us stands on a stage as Australians, here or abroad, we carry with us a privilege and a responsibility because of that history. And it's not just a history. It's also an incredibly rich set of resources, worldviews and knowledge. And it should run through all of our bones and it should be the story we always tell.
Isso significa muito para mim, dizer essas palavras e refletir no que elas significam e sinalizam. E lembrar que vivemos em um país que têm sido constantemente ocupado pelo menos nos últimos 60 mil anos. Os aborígenes construiram mundos aqui, eles construiram sistemas sociais, tecnologias. Eles construiram maneiras de gerenciar esse lugar e de gerenciar notalvemente durante um prolongado período de tempo. E todos os momentos que algum de nós sobe no palco como um australiano, aqui ou lá fora, nós carregamos conosco um privilégio e uma responsabilidade por causa dessa história. E não é apenas história. É também um incrivelmente rico conjunto de recursos, visões de mundo e conhecimento. E isso deve correr nas nossas veias e deve ser a história que todos nós contamos.
Ultimately, it's about thinking differently, asking different kinds of questions, looking holistically at the world and the systems, and finding other people who want to be on that journey with you. Because for me, the only way to actually think about the future and scale is to always be doing it collectively. And because for me, the notion of humans in it together is one of the ways we get to think about things that are responsible, safe and ultimately, sustainable.
Ultimamente, é sobre pensar diferente, fazer perguntas diferentes, olhar holisticamente para o mundo e os sistemas, e descobrir outras pessoas que querem percorrer essa jornada com você. Porque para mim, a única maneira de realmente pensar sobre o futuro e escalar e sempre fazer isso coletivamente. E porque para mim, a noção de humanos juntos nessa é uma das formas de pensar sobre coisas que são responsáveis, seguras e finalmente, sustentáveis.
Thank you.
Obrigada.