I work on helping computers communicate about the world around us. There are a lot of ways to do this, and I like to focus on helping computers to talk about what they see and understand. Given a scene like this, a modern computer-vision algorithm can tell you that there's a woman and there's a dog. It can tell you that the woman is smiling. It might even be able to tell you that the dog is incredibly cute. I work on this problem thinking about how humans understand and process the world. The thoughts, memories and stories that a scene like this might evoke for humans. All the interconnections of related situations. Maybe you've seen a dog like this one before, or you've spent time running on a beach like this one, and that further evokes thoughts and memories of a past vacation, past times to the beach, times spent running around with other dogs. One of my guiding principles is that by helping computers to understand what it's like to have these experiences, to understand what we share and believe and feel, then we're in a great position to start evolving computer technology in a way that's complementary with our own experiences.
コンピュータが 私たちの周りの世界について 情報交換する研究をしています やり方はたくさんありますが 中でも私が力を入れているのは コンピュータが見て 理解したものを 語らせることです こんなシーンがあると 最近のコンピュータビジョンの アルゴリズムは 女性と犬が映っていて 女性が笑顔だ と教えてくれます またその犬がとてもかわいいとも 教えてくれるかもしれません 私はこの研究にあたって 人間がどのように世界を理解し 処理するのか考えます このようなシーンを見た時に 人間が引き起こす 思考や記憶、物語などです 関係するシチュエーションのすべてを お互いにつなぎ合わせることです みなさんもこれまでに こんな犬を見たことがあるでしょう こんなビーチで 走ったことがあるかもしれません 休暇のときに考えたことや記憶 ビーチで過ごした時間 別の犬と走り回った思い出なども 思い起こしたかもしれません 私の基本理念の一つは このような経験の意味を コンピュータに理解させたり 私たちが共有し 信じ 感じたものを 理解させたりすることで 私たち自身の経験を補完する方向に コンピュータ技術を進化させるという 重要な役割を担うということです
So, digging more deeply into this, a few years ago I began working on helping computers to generate human-like stories from sequences of images. So, one day, I was working with my computer to ask it what it thought about a trip to Australia. It took a look at the pictures, and it saw a koala. It didn't know what the koala was, but it said it thought it was an interesting-looking creature. Then I shared with it a sequence of images about a house burning down. It took a look at the images and it said, "This is an amazing view! This is spectacular!" It sent chills down my spine. It saw a horrible, life-changing and life-destroying event and thought it was something positive. I realized that it recognized the contrast, the reds, the yellows, and thought it was something worth remarking on positively. And part of why it was doing this was because most of the images I had given it were positive images. That's because people tend to share positive images when they talk about their experiences. When was the last time you saw a selfie at a funeral?
さらに深堀りしていきましょう 数年前 私はある研究を始めました 一連の画像からコンピュータに 人間らしい物語を作らせる試みです ある日のこと オーストラリア旅行のことを考えるよう コンピュータに尋ねました 画像の中から コアラを見つけました コアラが何なのか コンピュータは知りません でも「コアラが 面白い外見の動物だ」 と言ったのです また 家が焼け落ちる一連の画像を 見せたこともありました それを見てコンピュータはこう言いました 「これはすごい光景だ!壮観だ!」 私の背筋が凍りました コンピュータが見たものは 命の危険を 伴うような恐ろしい出来事ですが 何か良いことのように 解釈しているのです 画像からコントラストや 赤や黄色を認識し なにか良いことと解釈するに値すると 思ったのです そしてコンピュータがそう思ったのは 与えた画像のほとんどが 肯定的なものだったせいもあるでしょう 実際 私たちが自分の経験を 人に話すときは 肯定的な画像を共有しようとしますよね お葬式での自撮り写真なんか 見たことがありますか?
I realized that, as I worked on improving AI task by task, dataset by dataset, that I was creating massive gaps, holes and blind spots in what it could understand. And while doing so, I was encoding all kinds of biases. Biases that reflect a limited viewpoint, limited to a single dataset -- biases that can reflect human biases found in the data, such as prejudice and stereotyping. I thought back to the evolution of the technology that brought me to where I was that day -- how the first color images were calibrated against a white woman's skin, meaning that color photography was biased against black faces. And that same bias, that same blind spot continued well into the '90s. And the same blind spot continues even today in how well we can recognize different people's faces in facial recognition technology. I though about the state of the art in research today, where we tend to limit our thinking to one dataset and one problem. And that in doing so, we were creating more blind spots and biases that the AI could further amplify.
AIの研究をしていて 気づいたことがあります 数々の課題やデータセットを扱う中で コンピュータが理解できるものの中に 大きな飛躍 欠落 盲点を 生み出していました またその過程で あらゆる種類の先入観を 埋め込んでいました 限定された観点による先入観 単一のデータセットによる先入観 データ中の 人間の先入観を 反映することもあります 偏見や固定観念などです 私をその日まで導いた テクノロジーの進化を振り返ってみました 初めての カラー画像の色合いは 白人女性の皮膚の色を基準に 調整されていました 黒人の顔は 基準から外れるという意味です また 同様の先入観や盲点が 90年代に入ってもずっと続きました 同じような盲点が今日までも 続いていて 異なる人間の顔を いかに区別して 認識するかを研究する 顔認識技術の分野に見られます 今日の研究の最先端について思うのは 1つのデータセット 1つの課題に 考えを限定しがちで そのせいで さらに盲点や 先入観を生み出し AIがさらにそれを 増幅する可能性があることです
I realized then that we had to think deeply about how the technology we work on today looks in five years, in 10 years. Humans evolve slowly, with time to correct for issues in the interaction of humans and their environment. In contrast, artificial intelligence is evolving at an incredibly fast rate. And that means that it really matters that we think about this carefully right now -- that we reflect on our own blind spots, our own biases, and think about how that's informing the technology we're creating and discuss what the technology of today will mean for tomorrow.
だから当時私たちは 今研究しているテクノロジーが 5年後 10年後にどう見えているかを 深く考えなければならないと思いました 人間はゆっくり進化し その間に 人間同士の関係や 周囲の環境について 問題を是正する時間があります 一方 人工知能は 信じられないほどの速さで 進化しています だから私たちは なおさら 今すぐ このことを慎重に検討し 私たち自身の盲点や先入観について よく考えなければなりません また それらが私たちのテクノロジーに どのように情報を供与するかを考え 今日のテクノロジーが 明日どのような 意味を持つのか議論しなければなりません
CEOs and scientists have weighed in on what they think the artificial intelligence technology of the future will be. Stephen Hawking warns that "Artificial intelligence could end mankind." Elon Musk warns that it's an existential risk and one of the greatest risks that we face as a civilization. Bill Gates has made the point, "I don't understand why people aren't more concerned." But these views -- they're part of the story. The math, the models, the basic building blocks of artificial intelligence are something that we call access and all work with. We have open-source tools for machine learning and intelligence that we can contribute to. And beyond that, we can share our experience. We can share our experiences with technology and how it concerns us and how it excites us. We can discuss what we love. We can communicate with foresight about the aspects of technology that could be more beneficial or could be more problematic over time.
企業のトップや科学者は 自分たちの考えた 来るべき未来の人工知能技術に 力を注いできました スティーブン・ホーキングは 「人工知能が人類を滅ぼす可能性がある」と 警鐘を鳴らしています イーロン・マスクは 人工知能を 私たちの文明が直面する 存亡に関わる 最大級の脅威だと警告します ビル・ゲイツも 「なぜ皆が心配しないのか 理解できない」と指摘しています しかしそれらの見方は ほんの一部の意見です 数学やモデルなど 人工知能の基本的な構成要素は 誰でもアクセスして 利用できるものです 機械学習・人工知能向けの オープンソース・ツールがあり 私たちが貢献することもできます さらに個人の経験も共有できます 技術についての経験や それがどのように自分たちに関係し 興奮させるかを共有できます 大好きなものについて 意見交換ができます 技術的な側面のうち 時間が経つにつれて 次第に有益になる面や 問題を生み出す面について 私たちは展望を持って 話し合うことができます
If we all focus on opening up the discussion on AI with foresight towards the future, this will help create a general conversation and awareness about what AI is now, what it can become and all the things that we need to do in order to enable that outcome that best suits us. We already see and know this in the technology that we use today. We use smart phones and digital assistants and Roombas. Are they evil? Maybe sometimes. Are they beneficial? Yes, they're that, too. And they're not all the same. And there you already see a light shining on what the future holds. The future continues on from what we build and create right now. We set into motion that domino effect that carves out AI's evolutionary path.
もし私たち皆が未来への展望をもって AIに関する議論の輪を 広げることに注目すれば 現在のAIはどのようなものか これからどのようになりえるのか そして自分たちに最適な 最終結果を得るために しなければならないことについて 一般的な議論や認識が高まるでしょう 私たちは このことを 現在のテクノロジーを見て知っています スマートフォン、デジタルアシスタント そして「ルンバ」などです それらは悪でしょうか? 時にはそうかもしれません では有益なものでしょうか? そうともいえます そして すべてが同じではありません また 未来に輝くものが すでに見えます 私たちが今作り上げているものが 未来へと続きます AIの進化の道すじを切り開く ドミノ効果を作動させます
In our time right now, we shape the AI of tomorrow. Technology that immerses us in augmented realities bringing to life past worlds. Technology that helps people to share their experiences when they have difficulty communicating. Technology built on understanding the streaming visual worlds used as technology for self-driving cars. Technology built on understanding images and generating language, evolving into technology that helps people who are visually impaired be better able to access the visual world. And we also see how technology can lead to problems. We have technology today that analyzes physical characteristics we're born with -- such as the color of our skin or the look of our face -- in order to determine whether or not we might be criminals or terrorists. We have technology that crunches through our data, even data relating to our gender or our race, in order to determine whether or not we might get a loan. All that we see now is a snapshot in the evolution of artificial intelligence. Because where we are right now, is within a moment of that evolution. That means that what we do now will affect what happens down the line and in the future.
今この時 私たちは明日のAIを 形作っているのです 過去の世界を 拡張現実として蘇らせ 人間を夢中にさせる技術 また コミュニケーションが難しい時でも 経験を共有するのに役立つ技術もあります 常に変化する「ストリーミング」の性質を持つ 視覚世界の理解を基礎にした技術は 自動運転車に使われます 画像を理解し 言葉を生み出す技術は 視覚障害者が 視覚世界にアクセスすることを 支援する技術へと進化しています 同時に そうした技術が引き起こす 問題もあります 現在 ヒト生来の身体的な特徴 たとえば 皮膚の色や 顔の外見などを 解析する技術があり それで 犯罪者やテロリストかどうかを 識別しようとします ローンの承認審査のために 性別や人種に関わるデータまで含めて 大量のデータを処理する技術があります 現在私たちが見ているものは 進化し続けるAIの 一瞬をとらえたものにすぎません なぜなら 私たちは 今まさに AI進化の途上にあるからです つまり 私たちが今やったことが 将来起こることに 影響するということです
If we want AI to evolve in a way that helps humans, then we need to define the goals and strategies that enable that path now. What I'd like to see is something that fits well with humans, with our culture and with the environment. Technology that aids and assists those of us with neurological conditions or other disabilities in order to make life equally challenging for everyone. Technology that works regardless of your demographics or the color of your skin. And so today, what I focus on is the technology for tomorrow and for 10 years from now.
もし人間に役立つよう AIを進化させたいなら 今 ゴールと戦略を明確にして 道筋をつけなければなりません 私が期待するのは 人間やその文化 そして環境に よくなじむAIです 神経疾患などの障害を抱えていても 誰もが同じように やりがいを感じて生きることを 補助してくれる技術です その人の属性や 皮膚の色によらず うまく機能する技術です そして今日 私がお話ししてきたのは 明日へ そして10年後へと つながる技術です
AI can turn out in many different ways. But in this case, it isn't a self-driving car without any destination. This is the car that we are driving. We choose when to speed up and when to slow down. We choose if we need to make a turn. We choose what the AI of the future will be. There's a vast playing field of all the things that artificial intelligence can become. It will become many things. And it's up to us now, in order to figure out what we need to put in place to make sure the outcomes of artificial intelligence are the ones that will be better for all of us.
AIは 様々な方向に進む可能性がありますが それらは 目的地のない 自動運転車ではありません まさに私たちが運転している車なのです いつ加速するか ブレーキを踏むか いつ曲がるか それを私たちが選ぶのです そして 未来のAIがどうなるかについても 私たちが選ぶのです AIがなれるものの可能性は広大です いろいろなものに発展するでしょう どうなるかは私たち次第です どうか考えてみてください AIのもたらすものが 私たちすべてにとって よりよいものになるよう 今何をすべきかを
Thank you.
ありがとうございました
(Applause)
(拍手)