I work on helping computers communicate about the world around us. There are a lot of ways to do this, and I like to focus on helping computers to talk about what they see and understand. Given a scene like this, a modern computer-vision algorithm can tell you that there's a woman and there's a dog. It can tell you that the woman is smiling. It might even be able to tell you that the dog is incredibly cute. I work on this problem thinking about how humans understand and process the world. The thoughts, memories and stories that a scene like this might evoke for humans. All the interconnections of related situations. Maybe you've seen a dog like this one before, or you've spent time running on a beach like this one, and that further evokes thoughts and memories of a past vacation, past times to the beach, times spent running around with other dogs. One of my guiding principles is that by helping computers to understand what it's like to have these experiences, to understand what we share and believe and feel, then we're in a great position to start evolving computer technology in a way that's complementary with our own experiences.
Il mio lavoro è aiutare i computer a descrivere il mondo intorno a noi Ci sono diversi modi per farlo, mi concentro sull'aiutare i computer a parlare di quello che vedono e capiscono. Prendendo una scena come questa, un moderno algoritmo di visione artificiale può dirvi che c'è una donna e c'è un cane. Può dirvi che la donna sta sorridendo. Potrebbe anche dirvi che il cane è molto carino. Lavoro su questo problema pensando al modo in cui gli umani capiscono e processano il mondo. I pensieri, ricordi e storie che una scena come questa può suscitare negli umani. Tutte le interconnessioni di situazioni correlate. Forse avete visto un cane come questo, o avete passato del tempo a correre su una spiaggia come questa e quindi evoca pensieri e ricordi di una vacanza passata, tempi passati in spiaggia, tempi passati a correre con altri cani. Uno dei miei principi guida è che aiutando i computer a capire com'è avere queste esperienze, a capire cosa condividiamo e crediamo e sentiamo, allora siamo in un'ottima posizione per far evolvere la tecnologia informatica in modo complementare con le nostre esperienze.
So, digging more deeply into this, a few years ago I began working on helping computers to generate human-like stories from sequences of images. So, one day, I was working with my computer to ask it what it thought about a trip to Australia. It took a look at the pictures, and it saw a koala. It didn't know what the koala was, but it said it thought it was an interesting-looking creature. Then I shared with it a sequence of images about a house burning down. It took a look at the images and it said, "This is an amazing view! This is spectacular!" It sent chills down my spine. It saw a horrible, life-changing and life-destroying event and thought it was something positive. I realized that it recognized the contrast, the reds, the yellows, and thought it was something worth remarking on positively. And part of why it was doing this was because most of the images I had given it were positive images. That's because people tend to share positive images when they talk about their experiences. When was the last time you saw a selfie at a funeral?
Quindi, andando più in profondità, alcuni anni fa mi occupavo di far generare ai computer storie verosimili partendo da sequenze di immagini. Così un giorno, lavoravo al computer chiedendogli cosa pensasse di un viaggio in Australia. Diede un'occhiata alle fotografie e vide un koala. Non sapeva cosa fosse un koala, ma disse che era una creatura dall'aspetto interessante. Poi condivisi una serie di immagini di una casa che stava bruciando. Diede un'occhiata alle immagini e disse: "È una vista fantastica! È spettacolare!" Mi sono venuti i brividi. Ha visto un evento orribile, che cambia la vita, che la distrugge e pensava che fosse qualcosa di positivo. Capii che riconosceva il contrasto, i rossi, i gialli, e pensava che fosse qualcosa da commentare positivamente. Un motivo per cui faceva così era perché la maggior parte delle immagini che gli avevo dato erano positive. Perché le persone tendono a condividere immagini positive quando parlano delle loro esperienze. Quando mai avete visto un selfie a un funerale?
I realized that, as I worked on improving AI task by task, dataset by dataset, that I was creating massive gaps, holes and blind spots in what it could understand. And while doing so, I was encoding all kinds of biases. Biases that reflect a limited viewpoint, limited to a single dataset -- biases that can reflect human biases found in the data, such as prejudice and stereotyping. I thought back to the evolution of the technology that brought me to where I was that day -- how the first color images were calibrated against a white woman's skin, meaning that color photography was biased against black faces. And that same bias, that same blind spot continued well into the '90s. And the same blind spot continues even today in how well we can recognize different people's faces in facial recognition technology. I though about the state of the art in research today, where we tend to limit our thinking to one dataset and one problem. And that in doing so, we were creating more blind spots and biases that the AI could further amplify.
Capii che lavorando al miglioramento dell'IA compito dopo compito, dataset dopo dataset, stavo creando enormi lacune, buchi e punti ciechi in ciò che poteva capire. E nel fare ciò, stavo codificando tutti i tipi di preconcetti. Preconcetti che riflettono un punto di vista limitato, limitato a un singolo dataset. Preconcetti che riflettono quelli umani trovati nei dati, come pregiudizi e stereotipi. Ho ripensato all'evoluzione della tecnologia che mi ha portata dove ero quel giorno, come le prime immagini a colori fossero state calibrate sulla pelle di una donna bianca, quindi la fotografia a colori penalizzava i volti neri. E quello stesso pregiudizio, quello stesso punto cieco persisteva negli anni '90. E lo stesso punto cieco persiste anche oggi nel modo in cui riconosciamo volti di persone diverse nella tecnologia del riconoscimento facciale. Ho pensato allo stato dell'arte nella ricerca di oggi, tendiamo a limitare il nostro pensiero a un dataset e un problema. E facendo ciò, creiamo più punti ciechi e preconcetti che l'IA potrebbe amplificare.
I realized then that we had to think deeply about how the technology we work on today looks in five years, in 10 years. Humans evolve slowly, with time to correct for issues in the interaction of humans and their environment. In contrast, artificial intelligence is evolving at an incredibly fast rate. And that means that it really matters that we think about this carefully right now -- that we reflect on our own blind spots, our own biases, and think about how that's informing the technology we're creating and discuss what the technology of today will mean for tomorrow.
Ho capito quindi che dovremmo pensare di più a come la tecnologia a cui lavoriamo oggi sarà tra 5, 10 anni. Gli umani si evolvono lentamente nel tempo, per correggere errori nell'interazione tra loro e il loro ambiente. Mentre l'intelligenza artificiale si evolve a ritmi velocissimi, quindi è molto importante che ci ragioniamo attentamente adesso, che riflettiamo sui nostri punti ciechi, sui nostri preconcetti, e pensiamo a come ciò modella la tecnologia che stiamo creando e parliamo di cosa la tecnologia di oggi rappresenterà un domani.
CEOs and scientists have weighed in on what they think the artificial intelligence technology of the future will be. Stephen Hawking warns that "Artificial intelligence could end mankind." Elon Musk warns that it's an existential risk and one of the greatest risks that we face as a civilization. Bill Gates has made the point, "I don't understand why people aren't more concerned." But these views -- they're part of the story. The math, the models, the basic building blocks of artificial intelligence are something that we call access and all work with. We have open-source tools for machine learning and intelligence that we can contribute to. And beyond that, we can share our experience. We can share our experiences with technology and how it concerns us and how it excites us. We can discuss what we love. We can communicate with foresight about the aspects of technology that could be more beneficial or could be more problematic over time.
Amministratori delegati e scienziati hanno detto la loro su ciò che sarà la tecnologia dell'IA del futuro. Stephen Hawking avverte che "l'intelligenza artificiale potrebbe porre fine all'umanità". Elon Musk dice che è un rischio esistenziale e uno dei maggiori rischi che affrontiamo in quanto civiltà. Bill Gates ha affermato: "Non capisco perché le persone non siano più preoccupate di così". Ma questi punti di vista fanno parte della storia. La matematica, i modelli, le fondamenta su cui si basa l'intelligenza artificiale sono cose a cui possiamo accedere e con cui possiamo lavorare. Abbiamo strumenti open-source per il machine learning e IA ai quali possiamo contribuire. Inoltre possiamo condividere la nostra esperienza. Possiamo condividere la nostra esperienza con la tecnologia, come ci riguarda e come ci affascina. Possiamo discutere su ciò che amiamo. Possiamo prevedere quali aspetti possono essere più benefici o più problematici col tempo.
If we all focus on opening up the discussion on AI with foresight towards the future, this will help create a general conversation and awareness about what AI is now, what it can become and all the things that we need to do in order to enable that outcome that best suits us. We already see and know this in the technology that we use today. We use smart phones and digital assistants and Roombas. Are they evil? Maybe sometimes. Are they beneficial? Yes, they're that, too. And they're not all the same. And there you already see a light shining on what the future holds. The future continues on from what we build and create right now. We set into motion that domino effect that carves out AI's evolutionary path.
Se ci concentriamo nell'apertura della discussione sull'IA con lungimiranza verso il futuro, ci aiuterà a creare una conversazione e consapevolezza generali su ciò che è ora l'IA, su ciò che può diventare e su ciò che dobbiamo ancora fare per avere i migliori risultati possibili. Vediamo e conosciamo già la tecnologia che usiamo oggi. Usiamo smartphone e assistenti digitali e robot aspirapolvere. Sono malvagi? Forse a volte. Sono benefici? Sì, sono anche questo. E non sono tutti uguali. E potete già vedere un futuro brillante davanti a noi. Il futuro prosegue da ciò che costruiamo e creiamo adesso. Mettiamo in moto quell'effetto domino che costituisce il percorso evolutivo dell'IA.
In our time right now, we shape the AI of tomorrow. Technology that immerses us in augmented realities bringing to life past worlds. Technology that helps people to share their experiences when they have difficulty communicating. Technology built on understanding the streaming visual worlds used as technology for self-driving cars. Technology built on understanding images and generating language, evolving into technology that helps people who are visually impaired be better able to access the visual world. And we also see how technology can lead to problems. We have technology today that analyzes physical characteristics we're born with -- such as the color of our skin or the look of our face -- in order to determine whether or not we might be criminals or terrorists. We have technology that crunches through our data, even data relating to our gender or our race, in order to determine whether or not we might get a loan. All that we see now is a snapshot in the evolution of artificial intelligence. Because where we are right now, is within a moment of that evolution. That means that what we do now will affect what happens down the line and in the future.
Nel nostro tempo, ora, plasmiamo l'IA di domani. La tecnologia che ci immerge nelle realtà aumentate e porta in vita mondi remoti. La tecnologia che aiuta la gente a condividere le esperienze quando hanno difficoltà a comunicare. La tecnologia costruita per capire i flussi di immagini usata per le vetture autonome. La tecnologia costruita per capire le immagini e generare linguaggio, si trasforma in tecnologia che aiuta coloro che hanno la vista compromessa ad avere accesso al mondo visivo. E sappiamo anche come la tecnologia possa portare problemi. Esiste la tecnologia che analizza le caratteristiche fisiche con cui siamo nati, come il colore della pelle o la nostra espressione, per determinare se possiamo essere o no criminali o terroristi. Esiste la tecnologia che usa i nostri dati, anche dati riguardanti il nostro genere o la nostra etnia, per determinare se possiamo ottenere o meno un prestito. Quello che vediamo ora è uno spaccato dell'evoluzione dell'intelligenza artificiale. Perché noi ci troviamo ora a un passo da quell'evoluzione. Quello che facciamo ora influenzerà ciò che accade lungo il cammino e nel futuro.
If we want AI to evolve in a way that helps humans, then we need to define the goals and strategies that enable that path now. What I'd like to see is something that fits well with humans, with our culture and with the environment. Technology that aids and assists those of us with neurological conditions or other disabilities in order to make life equally challenging for everyone. Technology that works regardless of your demographics or the color of your skin. And so today, what I focus on is the technology for tomorrow and for 10 years from now.
Se vogliamo che l'IA si evolva per aiutare gli umani, allora dobbiamo definire gli obiettivi e le strategie che abilitano quel percorso adesso. Ciò che vorrei vedere è qualcosa che si adatti agli umani, alla nostra cultura e all'ambiente. Tecnologia che assista la gente con problemi neurologici o altre disabilità per rendere le sfide della vita uguali per tutti. La tecnologia che lavori a prescindere dai vostri dati demografici o dal colore della pelle. Oggi, quello su cui mi concentro è la tecnologia per domani e per i prossimi 10 anni.
AI can turn out in many different ways. But in this case, it isn't a self-driving car without any destination. This is the car that we are driving. We choose when to speed up and when to slow down. We choose if we need to make a turn. We choose what the AI of the future will be. There's a vast playing field of all the things that artificial intelligence can become. It will become many things. And it's up to us now, in order to figure out what we need to put in place to make sure the outcomes of artificial intelligence are the ones that will be better for all of us.
L'IA può diventare molte cose. Ma in questo caso non è una vettura automatica senza destinazione. Questa è una vettura che guidiamo noi. Scegliamo noi quando accelerare e quando rallentare. Scegliamo noi se svoltare. Scegliamo noi quale sarà l'IA del futuro. C'è una vasta scelta di tutto ciò che l'IA può diventare. Diventerà molte cose. E dipende da noi adesso, al fine di capire cosa dobbiamo mettere in atto per assicurarci che gli esiti dell'intelligenza artificiale saranno i migliori per tutti noi.
Thank you.
Grazie
(Applause)
(Applausi)