Let me tell you a story about artificial intelligence. There's a building in Sydney at 1 Bligh Street. It houses lots of government apartments and busy people. From the outside, it looks like something out of American science fiction: all gleaming glass and curved lines, and a piece of orange sculpture. On the inside, it has excellent coffee on the ground floor and my favorite lifts in Sydney. They're beautiful; they look almost alive. And it turns out I'm fascinated with lifts. For lots of reasons. But because lifts are one of the places you can see the future.
Voici une histoire sur l’intelligence artificielle. Un bâtiment à Sydney, le numéro 1 à Bligh street, abrite des appartements de fonctionnaires et de personnes importantes. De l’extérieur, on dirait un building sorti d’un roman de science-fiction : du verre chatoyant, des lignes courbes et une sculpture orange. Il y a un café au rez-de-chaussée, et mes ascenseurs préférés à Sydney. Ils sont magnifiques. On dirait qu’ils sont vivants. Je suis fascinée par les ascenseurs. Pour beaucoup de raisons. Mais surtout parce que c’est un lieu qui nous dévoile l’avenir.
In the 21st century, lifts are interesting because they're one of the first places that AI will touch you without you even knowing it happened. In many buildings all around the world, the lifts are running a set of algorithms. A form of protoartificial intelligence. That means before you even walk up to the lift to press the button, it's anticipated you being there. It's already rearranging all the carriages. Always going down, to save energy, and to know where the traffic is going to be. By the time you've actually pressed the button, you're already part of an entire system that's making sense of people and the environment and the building and the built world.
Au 21e siècle, les ascenseurs sont passionnants parce que c’est l’un des premiers lieux où l’IA va nous toucher sans même qu’on s’en aperçoive. Dans de nombreux bâtiments dans le monde, les ascenseurs fonctionnent avec des algorithmes. Une forme primitive d’intelligence artificielle. Cela signifie qu’avant même de marcher vers l’ascenseur et de l’appeler, il a anticipé votre venue. Il a déjà réorganisé les cabines, vers la descente, car moins énergivore, et sachant où le trafic va se concentrer. Quand on appuie sur le bouton, on fait partie d’un système global qui crée un lien logique entre les gens et l’environnement, le bâtiment et le monde urbanisé.
I know when we talk about AI, we often talk about a world of robots. It's easy for our imaginations to be occupied with science fiction, well, over the last 100 years. I say AI and you think "The Terminator." Somewhere, for us, making the connection between AI and the built world, that's a harder story to tell. But the reality is AI is already everywhere around us. And in many places. It's in buildings and in systems. More than 200 years of industrialization suggest that AI will find its way to systems-level scale relatively easily. After all, one telling of that history suggests that all you have to do is find a technology, achieve scale and revolution will follow.
Je n’ignore pas que les discussions autour de l’IA évoquent les robots. Notre imagination est aisément influencée par la science-fiction, enfin, ces 100 dernières années. Si je dis « IA », vous pensez « Terminator ». Mais faire le lien entre l’IA et notre monde urbain est un récit moins évident. Or l’intelligence artificielle est déjà omniprésente, c’est un fait. Dans de nombreux endroits. Dans nos constructions et leurs infrastructures. Plus de 200 ans d’industrialisation suggèrent que l’IA s’introduira facilement à l’échelle des systèmes. Un fil conducteur de ce récit n’est-il pas qu’il suffit de trouver une technologie et de la passer à l’échelle pour que s’ensuive une révolution ?
The story of mechanization, automation and digitization all point to the role of technology and its importance. Those stories of technological transformation make scale seem, well, normal. Or expected. And stable. And sometimes even predictable. But it also puts the focus squarely on technology and technology change. But I believe that scaling a technology and building a system requires something more.
L’histoire de la mécanisation, de l’automatisation et de la numérisation met en relief le rôle de la technologie et son importance. Ces récits de transformation technologique fait que l’échelle nous paraît humaine. Semblable à ce à quoi on s’attendait. Et stable aussi. Parfois même prévisible. Mais cela met l’accent sur la technologie et sur son changement. Je suis convaincue que passer à l’échelle une technologie et développer un système requiert un élément supplémentaire.
We founded the 3Ai Institute at the Australian National University in September 2017. It has one deceptively simple mission: to establish a new branch of engineering to take AI safely, sustainably and responsibly to scale. But how do you build a new branch of engineering in the 21st century? Well, we're teaching it into existence through an experimental education program. We're researching it into existence with locations as diverse as Shakespeare's birthplace, the Great Barrier Reef, not to mention one of Australia's largest autonomous mines. And we're theorizing it into existence, paying attention to the complexities of cybernetic systems. We're working to build something new and something useful. Something to create the next generation of critical thinkers and critical doers. And we're doing all of that through a richer understanding of AI's many pasts and many stories. And by working collaboratively and collectively through teaching and research and engagement, and by focusing as much on the framing of the questions as the solving of the problems.
Nous avons fondé l’Institut 3AI à l’Université nationale d’Australie en septembre 2017. La mission est faussement simple : établir une nouvelle branche dans les sciences de l’ingénieur pour monter en échelle une IA sûre, durable et responsable. Mais comment fait-on cela au 21e siècle ? Nous la créons en l’enseignant dans un programme éducatif expérimental. On la crée à travers notre recherche dans des lieux aussi divers que la ville natale de Shakespeare, la grande barrière de corail, ou encore les plus grandes mines autonomes d’Australie. On la crée en généralisant des théories, en veillant aux complexités des systèmes cybernétiques. On veut développer quelque chose de nouveau et d’utile. Quelque chose pour éduquer la nouvelle génération en pensée et action critiques. Nous faisons tout cela à travers une compréhension plus riche des différents passés et récits de l’IA. Et en travaillant de concert et collectivement dans les cénacles de l’enseignement, de la recherche et de la citoyenneté, en se concentrant autant sur comment poser les problèmes que sur leur résolution.
We're not making a single AI, we're making the possibilities for many. And we're actively working to decolonize our imaginations and to build a curriculum and a pedagogy that leaves room for a range of different conversations and possibilities. We are making and remaking. And I know we're always a work in progress. But here's a little glimpse into how we're approaching that problem of scaling a future.
Nous ne fabriquons pas une seule IA, nous créons la possibilité pour beaucoup d’IA. Nous travaillons activement à la décolonisation de nos imaginaires pour développer un curriculum et une pédagogie qui laissent la place à divers débats et opportunités. On remet constamment notre ouvrage sur le métier. Ce n’est jamais fini. Voici un aperçu comment nous abordons ce problème de passage à l’échelle.
We start by making sure we're grounded in our own history. In December of 2018, I took myself up to the town of Brewarrina on the New South Wales-Queensland border. This place was a meeting place for Aboriginal people, for different groups, to gather, have ceremonies, meet, to be together. There, on the Barwon River, there's a set of fish weirs that are one of the oldest and largest systems of Aboriginal fish traps in Australia. This system is comprised of 1.8 kilometers of stone walls shaped like a series of fishnets with the "Us" pointing down the river, allowing fish to be trapped at different heights of the water. They're also fish holding pens with different-height walls for storage, designed to change the way the water moves and to be able to store big fish and little fish and to keep those fish in cool, clear running water. This fish-trap system was a way to ensure that you could feed people as they gathered there in a place that was both a meeting of rivers and a meeting of cultures.
On commence par s’assurer que nous sommes enracinés dans notre histoire. En décembre 2018, je me suis rendue à Brewarrina, une petite ville entre la Nouvelle-Galles du Sud et le Queensland. C’était un lieu de rencontre des peuples aborigènes, où les différents clans se réunissaient pour des cérémonies. Sur le fleuve Barwon, on trouve un des plus anciens barrages pour la pêche, un des pièges aborigènes les plus anciens en Australie. Il y a des murs de pierres de 1,8 kilomètre de long, qui ont une forme de filets de pêche dont la pointe est orientée vers l’aval. Ainsi, les poissons sont emprisonnés à différents niveaux. Il y a des nasses à plusieurs hauteurs des murs pour retenir les poissons, conçus pour modifier les flots, stocker les gros et les petits poissons et pour les conserver dans l’eau fraîche et naturelle. Ce barrage à poissons garantissait l’alimentation des peuples quand ils se rencontraient sur ce lieu de croisement entre les fleuves et entre les cultures.
It isn't about the rocks or even the traps per se. It is about the system that those traps created. One that involves technical knowledge, cultural knowledge and ecological knowledge. This system is old. Some archaeologists think it's as old as 40,000 years. The last time we have its recorded uses is in the nineteen teens. It's had remarkable longevity and incredible scale. And it's an inspiration to me. And a photo of the weir is on our walls here at the Institute, to remind us of the promise and the challenge of building something meaningful. And to remind us that we're building systems in a place where people have built systems and sustained those same systems for generations.
Il ne s’agit pas des murs ou des pièges en tant que tels. C’est le système créé par ces pièges qui est crucial. Cela associe des connaissances technologique, culturelle et écologique. Ce système est ancien. Certains archéologues pensent qu’il a 40 000 ans. Ses dernières utilisations connues datent des années 1910. Sa longévité et sa taille sont remarquables. C’est une source d’inspiration pour moi. On a décoré un mur de l’institut avec une photo d’un des barrages, pour nous rappeler la promesse et le défi de construire quelque chose qui ait du sens. Et pour nous rappeler que l’on développe des systèmes là où nos ancêtres l’ont fait avant nous pendant des générations.
It isn't just our history, it's our legacy as we seek to establish a new branch of engineering. To build on that legacy and our sense of purpose, I think we need a clear framework for asking questions about the future. Questions for which there aren't ready or easy answers. Here, the point is the asking of the questions. We believe you need to go beyond the traditional approach of problem-solving, to the more complicated one of question asking and question framing. Because in so doing, you open up all kinds of new possibilities and new challenges.
Il n’y pas que l’histoire, un nouveau domaine de l’ingénierie est aussi notre héritage. Pour construire sur cet héritage et notre raison d’être, nous avons besoin d’un cadre clair pour poser les questions sur l’avenir. Des questions pour lesquelles il n’existe pas de réponses toutes prêtes. C’est d’ailleurs pour cela que l’on pose ces questions. Nous sommes convaincus de la nécessité de dépasser l’approche traditionnelle et adopter une approche plus complexe qui pose des questions et qui les cadre aussi. Ainsi, on ouvre toutes sortes de nouvelles possibilités et de nouveaux défis.
For me, right now, there are six big questions that frame our approach for taking AI safely, sustainably and responsibly to scale. Questions about autonomy, agency, assurance, indicators, interfaces and intentionality.
Selon moi, maintenant, il y a six grandes questions pour cadrer notre approche et développer une IA sûre, durable et responsable. Des questions sur l’autonomie, l’agence, l’assurance, les indicateurs, les interfaces et l'intentionnalité.
The first question we ask is a simple one. Is the system autonomous? Think back to that lift on Bligh Street. The reality is, one day, that lift may be autonomous. Which is to say it will be able to act without being told to act. But it isn't fully autonomous, right? It can't leave that Bligh Street building and wonder down to Circular Quay for a beer. It goes up and down, that's all. But it does it by itself. It's autonomous in that sense.
La première question à poser est facile. Notre système est-il autonome ? Repensez à l’ascenseur de Bligh Street. Certes, un jour, cet ascenseur sera sans doute autonome. C’est-à-dire qu’il pourra agir sans qu’on lui en donne l’instruction. Mais il n’est pas totalement autonome. Il ne peut pas quitter le bâtiment de Bligh Street et aller boire une chope à Circular Quay. Il monte et descend, c’est tout. Mais il le fait seul. Dans ce sens, il est autonome.
The second question we ask: does this system have agency? Does this system have controls and limits that live somewhere that prevent it from doing certain kinds of things under certain conditions. The reality with lifts, that's absolutely the case. Think of any lift you've been in. There's a red keyslot in the elevator carriage that an emergency services person can stick a key into and override the whole system. But what happens when that system is AI-driven? Where does the key live? Is it a physical key, is it a digital key? Who gets to use it? Is that the emergency services people? And how would you know if that was happening? How would all of that be manifested to you in the lift?
La question est donc la suivante : Ce système a-t-il une agence ? A-t-il des contrôles et des limites qui existent quelque part pour l’empêcher de faire certaines choses dans certaines conditions ? Dans le cas des ascenseurs, c’est exactement le cas. Qu’est-ce qu’une cabine d’ascenseur ? Il y a une serrure rouge que le service d’urgence peut utiliser pour neutraliser tout le système. Mais si le système est géré par une IA ? Où se trouve la clé ? Est-ce une clé physique, numérique ? Qui peut l’utiliser ? Le service des urgences ? Et comment sait-on qu’il y a une urgence ? Comment cela se manifesterait-il dans votre ascenseur ?
The third question we ask is how do we think about assurance. How do we think about all of its pieces: safety, security, trust, risk, liability, manageability, explicability, ethics, public policy, law, regulation? And how would we tell you that the system was safe and functioning?
La troisième question, c’est : comment envisager son assurance ? Comment envisager tous ses composants : sûreté, sécurité, confiance, risque, responsabilité, gestion, explication, éthique, politiques publiques, loi, réglementation ? Et comment déterminer que le système est sûr et en état de fonctionner ?
The fourth question we ask is what would be our interfaces with these AI-driven systems. Will we talk to them? Will they talk to us, will they talk to each other? And what will it mean to have a series of technologies we've known, for some of us, all our lives, now suddenly behave in entirely different ways? Lifts, cars, the electrical grid, traffic lights, things in your home.
Quatrième question : quelles seront nos interfaces avec ces IA ? Va-t-on parler, vont-elles nous parler, vont-elles communiquer entre elles ? Qu’est-ce que ça signifie d’avoir des technologies que nous connaissons, depuis toujours pour certains, et qui vont dorénavant se comporter très différemment ? Ascenseurs, voitures, réseau électrique, feux routiers, nos objets domestiques.
The fifth question for these AI-driven systems: What will the indicators be to show that they're working well? Two hundred years of the industrial revolution tells us that the two most important ways to think about a good system are productivity and efficiency. In the 21st century, you might want to expand that just a little bit. Is the system sustainable, is it safe, is it responsible? Who gets to judge those things for us? Users of the systems would want to understand how these things are regulated, managed and built.
Cinquième question au sujet de ces systèmes gérés par une IA : quels seront les indicateurs de leur bon fonctionnement ? Deux siècles de révolution industrielle nous ont appris que deux des façons importantes de concevoir un système est sa productivité et son efficience. Au 21e siècle, il faudra sans doute élargir cela. Le système est-il durable, sûr, responsable ? Qui évalue cela pour nous ? Les usagers de ces systèmes voudront comprendre quelles sont les réglementations, comment c’est géré et construit.
And then there's the final, perhaps most critical question that you need to ask of these new AI systems. What's its intent? What's the system designed to do and who said that was a good idea? Or put another way, what is the world that this system is building, how is that world imagined, and what is its relationship to the world we live in today? Who gets to be part of that conversation? Who gets to articulate it? How does it get framed and imagined?
Et enfin, la dernière question, la plus critique aussi qu’il convient de se poser au sujet de ces IA. Quelle est son intention ? Pour quoi ce système fut-il conçu ? Qui a dit que c’était une bonne idée ? Autrement dit, quel monde ce système développe-t-il, comment ce monde est-il imaginé, et quelle est sa relation avec notre monde d’aujourd’hui ? Qui prend part à cette réflexion ? Qui l’articule ? Comment est-elle cadrée et imaginée ?
There are no simple answers to these questions. Instead, they frame what's possible and what we need to imagine, design, build, regulate and even decommission. They point us in the right directions and help us on a path to establish a new branch of engineering. But critical questions aren't enough. You also need a way of holding all those questions together.
Il n’existe pas de réponses faciles à ces questions. À la place, elles cadrent les possibles, ce que nous devons imaginer, concevoir, développer, réguler et même décommissionner. Elles indiquent les bonnes directions et nous aident dans notre cheminement pour établir ce nouveau domaine. Mais des questions critiques ne suffiront pas. Il faut aussi trouver un fil conducteur entre toutes ces questions.
For us at the Institute, we're also really interested in how to think about AI as a system, and where and how to draw the boundaries of that system. And those feel like especially important things right now. Here, we're influenced by the work that was started way back in the 1940s. In 1944, along with anthropologists Gregory Bateson and Margaret Mead, mathematician Norbert Wiener convened a series of conversations that would become known as the Macy Conferences on Cybernetics. Ultimately, between 1946 and 1953, ten conferences were held under the banner of cybernetics. As defined by Norbert Wiener, cybernetics sought to "develop a language and techniques that will enable us to indeed attack the problem of control and communication in advanced computing technologies." Cybernetics argued persuasively that one had to think about the relationship between humans, computers and the broader ecological world. You had to think about them as a holistic system. Participants in the Macy Conferences were concerned with how the mind worked, with ideas about intelligence and learning, and about the role of technology in our future.
Dans notre institut, nous nous intéressons aussi à la façon d’aborder ces systèmes d’IA et où et comment tracer les limites de ces systèmes. Cela nous paraît particulièrement crucial aujourd’hui. Nous sommes influencés par le travail qui a démarré dans les années 1940 déjà. En 1944, avec les anthropologues Gregory Bateson et Margaret Mead, le mathématicien Norbert Wiener a organisé une série de discussions qui deviendront célèbres en tant que Conférences Macy sur la cybernétique. Entre 1946 et 1953, dix conférences au total auront lieu sous la bannière de la cybernétique. Selon Norbert Wiener, la cybernétique cherche « à développer un langage et des techniques qui nous permettent d’aborder le problème de contrôle et de communication dans les technologies informatiques avancées ». La cybernétique est convaincante car elle nous pousse à réfléchir à la relation entre les humains, les ordinateurs, et le monde écologique au sens large. Il faut les envisager comme un système holistique. Les conférences Macy s’intéressaient au fonctionnement de l’esprit, aux idées sur l’intelligence et l’apprentissage, et sur le rôle de la technologie dans notre avenir.
Sadly, the conversations that started with the Macy Conference are often forgotten when the talk is about AI. But for me, there's something really important to reclaim here about the idea of a system that has to accommodate culture, technology and the environment. At the Institute, that sort of systems thinking is core to our work.
Hélas, les débats entamés par les conférences Macy sont souvent oubliés des discussions sur l’IA. Mais il me semble qu’il y a quelque chose d’important à reprendre quant à l’idée d’un système qui doit s’adapter à la culture, à la technologie et à l’environnement. À l’institut, de tels modes de pensée des systèmes sont centraux.
Over the last three years, a whole collection of amazing people have joined me here on this crazy journey to do this work. Our staff includes anthropologists, systems and environmental engineers, and computer scientists as well as a nuclear physicist, an award-winning photo journalist, and at least one policy and standards expert. It's a heady mix. And the range of experience and expertise is powerful, as are the conflicts and the challenges. Being diverse requires a constant willingness to find ways to hold people in conversation. And to dwell just a little bit with the conflict.
Ces trois dernières années, de nombreuses personnes extraordinaires m’ont rejointe pour ce cheminement professionnel. Nous avons des anthropologues, des ingénieurs systèmes et environnementaux, des informaticiens, des physiciens nucléaires, un photojournaliste reconnu, et au moins un spécialiste en politique et standardisation. C’est un mélange de cerveaux ! Cette palette d’expérience et d’expertise est très puissante alors que nous sommes au-devant de conflits et de défis. La diversité exige une volonté constante de trouver des façons de garder tout le monde dans la discussion. Et de plonger un tout petit peu dans le conflit.
We also worked out early that the way to build a new way of doing things would require a commitment to bringing others along on that same journey with us. So we opened our doors to an education program very quickly, and we launched our first master's program in 2018. Since then, we've had two cohorts of master's students and one cohort of PhD students. Our students come from all over the world and all over life. Australia, New Zealand, Nigeria, Nepal, Mexico, India, the United States. And they range in age from 23 to 60. They variously had backgrounds in maths and music, policy and performance, systems and standards, architecture and arts. Before they joined us at the Institute, they ran companies, they worked for government, served in the army, taught high school, and managed arts organizations. They were adventurers and committed to each other, and to building something new. And really, what more could you ask for?
On a aussi vite compris qu’une nouvelle façon de faire les choses exigerait un engagement à attirer d’autres dans notre cheminement. Nous avons créé rapidement des programmes de formation et nous avons lancé note premier programme de master en 2018. Depuis, nous avons deux promotions de master et une cohorte de doctorants. Nos étudiants proviennent du monde entier et de toutes les vies. Australie, Nouvelle Zélande, Nigéria, Népal, Mexique, Inde, États-Unis. Ils ont entre 23 et 60 ans. Ils ont un passé en mathématiques, en musique, en politique ou en arts vivants, en systèmes et standardisation, en architecture, en art. Avant de nous rejoindre, ils dirigeaient des entreprises, ils travaillaient dans le service public ou l’armée. C’était des enseignants ou des managers d’organisations artistiques. Ce sont des aventuriers, engagés l’un envers l’autre, engagés pour construire quelque chose de nouveau. Que demander de plus ?
Because although I've spent 20 years in Silicon Valley and I know the stories about the lone inventor and the hero's journey, I also know the reality. That it's never just a hero's journey. It's always a collection of people who have a shared sense of purpose who can change the world. So where do you start?
J’ai certes passé 20 ans dans la Silicon Valley, je connais les récits des inventeurs solitaires, et du voyage du héros. Je connais aussi la réalité. Ce n’est jamais seulement l’histoire du héros. C’est toujours un ensemble de personnes qui partagent une raison d’être et qui peuvent changer le monde. Alors, par où commencer ?
Well, I think you start where you stand. And for me, that means I want to acknowledge the traditional owners of the land upon which I'm standing. The Ngunnawal and Ngambri people, this is their land, never ceded, always sacred. And I pay my respects to the elders, past and present, of this place. I also acknowledge that we're gathering today in many other places, and I pay my respects to the traditional owners and elders of all those places too.
Eh bien, on commence là où on est. Dans mon cas, il s’agit de reconnaître les propriétaires traditionnels de la terre où je vis. Les peuples Ngunnawal et Ngambri, c’est leur terre, jamais cédée, toujours sacrée. Je célèbre leurs sages, du passé et du présent. Je reconnais que nous nous réunissions dans d’autres endroits aussi, et je célèbre aussi les propriétaires traditionnels et les sages de ces endroits-là.
It means a lot to me to get to say those words and to dwell on what they mean and signal. And to remember that we live in a country that has been continuously occupied for at least 60,000 years. Aboriginal people built worlds here, they built social systems, they built technologies. They built ways to manage this place and to manage it remarkably over a protracted period of time. And every moment any one of us stands on a stage as Australians, here or abroad, we carry with us a privilege and a responsibility because of that history. And it's not just a history. It's also an incredibly rich set of resources, worldviews and knowledge. And it should run through all of our bones and it should be the story we always tell.
C’est important pour moi d’affirmer ça et de réfléchir à ce que cela signifie et signale. Et de me souvenir que nous vivons dans un pays qui fut habité sans interruption pendant au moins 60 000 ans. Les Aborigènes ont construit des mondes ici, des systèmes sociaux, des technologies. Ils ont développé des façons de gérer cette terre, et remarquablement bien, pendant une très longue période. Chaque fois que nous nous présentons comme étant australien, ici ou à l’étranger, nous acception privilège et responsabilité de cette histoire. Ce n’est pas qu’une simple histoire. C’est aussi un panel de ressources, de vision du monde et de savoir, incroyablement riches, Cela devrait imprégner notre âme et devenir l’histoire que nous relatons.
Ultimately, it's about thinking differently, asking different kinds of questions, looking holistically at the world and the systems, and finding other people who want to be on that journey with you. Because for me, the only way to actually think about the future and scale is to always be doing it collectively. And because for me, the notion of humans in it together is one of the ways we get to think about things that are responsible, safe and ultimately, sustainable.
Finalement, il s’agit de penser autrement, de poser d’autres types de questions, d’observer le monde et les systèmes de façon holistique, et de trouver ceux qui veulent parcourir ce voyage ensemble. Car pour moi, la seule façon de penser à l’avenir et à l’échelle est de faire cela collectivement. Car pour moi, la notion de l’engagement de toute l’humanité est une des façons de pouvoir réfléchir à des choses qui sont responsables, sûres, et durables.
Thank you.
Merci.