So anyone who's been paying attention for the last few months has been seeing headlines like this, especially in education. The thesis has been: students are going to be using ChatGPT and other forms of AI to cheat, do their assignments. They’re not going to learn. And it’s going to completely undermine education as we know it.
Если вы следили за новостями в последние месяцы, вы видели такого рода заголовки, особенно в новостях, касающихся образования. Главная мысль: учащиеся будут использовать ChatGPT и другие формы ИИ для обмана, чтобы те делали за них задания. Они ничему не будут учится. Это абсолютно подорвёт образовательную систему, какой мы её знаем.
Now, what I'm going to argue today is not only are there ways to mitigate all of that, if we put the right guardrails, we do the right things, we can mitigate it. But I think we're at the cusp of using AI for probably the biggest positive transformation that education has ever seen. And the way we're going to do that is by giving every student on the planet an artificially intelligent but amazing personal tutor. And we're going to give every teacher on the planet an amazing, artificially intelligent teaching assistant.
Сегодня я попытаюсь показать, что существуют способы не только сгладить это — с помощью правильных ограничений и правил можно сгладить эффект, — но я считаю, что мы находимся на пороге, возможно, самой большой позитивной трансформации в образовании. Мы собираемся осуществить её, предоставив каждому учащемуся на планете превосходного личного репетитора в лице ИИ. А каждому учителю на планете — превосходного ассистента в лице ИИ.
And just to appreciate how big of a deal it would be to give everyone a personal tutor, I show you this clip from Benjamin Bloom’s 1984 2 sigma study, or he called it the “2 sigma problem.” The 2 sigma comes from two standard deviation, sigma, the symbol for standard deviation. And he had good data that showed that look, a normal distribution, that's the one that you see in the traditional bell curve right in the middle, that's how the world kind of sorts itself out, that if you were to give personal 1-to-1 to tutoring for students, then you could actually get a distribution that looks like that right. It says tutorial 1-to-1 with the asterisks, like, that right distribution, a two standard-deviation improvement.
Чтобы вы поняли, насколько большую роль может играть наличие личного репетитора для каждого, я покажу вам отрывок из исследования Бенджамина Блума, проведённого им в 1984 году и посвящённого «проблеме двух сигм». Речь идёт о двух стандартных отклонениях. Сигмой обозначается стандартное отклонение. Данные Блума показали следующее. Нормальное распределение — это традиционная колоколообразная кривая. Вы видите её посередине — она соответствует тому, как устроен мир. Но если предоставить личного репетитора каждому учащемуся, можно получить кривую, изображённую справа, где написано репетитор 1-на-1 со звёздочкой. Это улучшение в размере двух стандартных отклонений. Если говорить проще,
Just to put that in plain language, that could take your average student and turn them into an exceptional student. It can take your below-average student and turn them into an above-average student.
учащийся со средней успеваемостью может стать выдающимся учащимся. А отстающий учащийся станет учащимся с успеваемостью выше средней.
Now the reason why he framed it as a problem, was he said, well, this is all good, but how do you actually scale group instruction this way? How do you actually give it to everyone in an economic way?
Проблемой это называется потому, сказал он, что вознмкает вопрос, а как делать это в больших масштабах при групповом обучении? Как это обеспечить для каждого без больших экономических затрат?
What I'm about to show you is I think the first moves towards doing that. Obviously, we've been trying to approximate it in some way at Khan Academy for over a decade now, but I think we're at the cusp of accelerating it dramatically. I'm going to show you the early stages of what our AI, which we call Khanmigo, what it can now do and maybe a little bit of where it is actually going.
Я покажу вам первые шаги на пути к этой цели. В Khan Academy мы старались приблизиться к этой цели уже на протяжении десяти лет, но сегодня мы находимся в преддверии резкого ускорения. Я вам покажу начальную стадию того, что способен делать сейчас наш ИИ, который мы называем Khanmigo, и, возможно, чего можно достичь с ним в будущем.
So this right over here is a traditional exercise that you or many of your children might have seen on Khan Academy. But what's new is that little bot thing at the right. And we'll start by seeing one of the very important safeguards, which is the conversation is recorded and viewable by your teacher. It’s moderated actually by a second AI. And also it does not tell you the answer. It is not a cheating tool. When the student says, "Tell me the answer," it says, "I'm your tutor. What do you think is the next step for solving the problem?"
Вот стандартное упражнение, которое вы или ваши дети, возможно, видели в Khan Academy. Новое тут — этот маленький бот справа. Посмотрим сперва на очень важную защитную меру: разговор записывается, и учитель может его прочитать. Его модерирует другой ИИ. Кроме того, он не говорит вам ответ. Это не инструмент для обмана. Если учащийся просит назвать ответ, ИИ отвечает: «Я репетитор. Как ты думаешь, каким будет следующий шаг в решении этой задачи?» Если учащийся допустил ошибку, — и это удивит тех, кто думает,
Now, if the student makes a mistake, and this will surprise people who think large language models are not good at mathematics, notice, not only does it notice the mistake, it asks the student to explain their reasoning, but it's actually doing what I would say, not just even an average tutor would do, but an excellent tutor would do. It’s able to divine what is probably the misconception in that student’s mind, that they probably didn’t use the distributive property. Remember, we need to distribute the negative two to both the nine and the 2m inside of the parentheses. This to me is a very, very, very big deal. And it's not just in math.
что большие языковые модели слабы в математике, — ИИ не только замечает ошибку и просит учащегося объяснить ход его мыслей, но делает то, что сделал бы не средний репетитор, а только исключительный. Он может понять, что, возможно, недопонимает учащийся, что он, видимо не учёл правило умножения. Помните, число -2 должно умножаться как на 9, так и на 2m, находящиеся в скобках. Для меня это очень-очень важно. И так не только с математикой.
This is a computer programming exercise on Khan Academy, where the student needs to make the clouds part. And so we can see the student starts defining a variable, left X minus minus. It only made the left cloud part. But then they can ask Khanmigo, what’s going on? Why is only the left cloud moving? And it understands the code. It knows all the context of what the student is doing, and it understands that those ellipses are there to draw clouds, which I think is kind of mind-blowing. And it says, "To make the right cloud move as well, try adding a line of code inside the draw function that increments the right X variable by one pixel in each frame."
Вот упражнение по программированию в Khan Academy, где учащийся должен сделать так, чтобы облака отделились друг от друга. Учащийся начинает определять переменную leftX--. Переместилось только левое облако. Тут учащийся может спросить Khanmigo: «Почему переместилось только левое облако?» Khanmigo понимает код. Он знает весь контекст того, что делает учащийся, и он понимает, что объекты ellipse предназначены для рисования облаков, что поразительно. ИИ отвечает: «Чтобы правое облако тоже переместилось, добавь строчку кода в функции draw, которая будут увеличивать переменную rightX на один пиксель в каждом кадре».
Now, this one is maybe even more amazing because we have a lot of math teachers. We've all been trying to teach the world to code, but there aren't a lot of computing teachers out there. And what you just saw, even when I'm tutoring my kids, when they're learning to code, I can't help them this well, this fast, this is really going to be a super tutor.
Этот пример ещё более поразителен — ведь у нас много учителей по математике. Мы все пытаемся научить мир программировать, но в мире не так уж много преподавателей по программированию. Даже когда я учу детей программировать, я не могу помогать им достаточно быстро и хорошо. Для этого надо быть супер-репетитором.
And it's not just exercises. It understands what you're watching. It understands the context of your video. It can answer the age-old question, “Why do I need to learn this?” And it asks Socratically, "Well, what do you care about?" And let's say the student says, "I want to be a professional athlete." And it says, "Well, learning about the size of cells, which is what this video is, that could be really useful for understanding nutrition and how your body works, etc." It can answer questions, it can quiz you, it can connect it to other ideas, you can now ask as many questions of a video as you could ever dream of.
И так не только с упражнениями. ИИ понимает то, что вы смотрите, контекст ваших видео. Он может ответить на извечный вопрос: «Зачем мне это учить?» Он спрашивает в сократовском стиле: «Что важно для тебя?» Допустим, учащийся отвечает: «Я хочу стать профессиональным спортсменом». ИИ говорит: «Изучение размера клеток, о котором идёт речь в видео, может быть полезным для понимания диетологии и того, как работает организм». Он может отвечать и задавать вопросы, связавать идеи, и теперь можно задавать сколько угодно вопросов про видео. (Аплодисменты)
(Applause)
Another big shortage out there, I remember the high school I went to, the student-to-guidance counselor ratio was about 200 or 300 to one. A lot of the country, it's worse than that. We can use Khanmigo to give every student a guidance counselor, academic coach, career coach, life coach, which is exactly what you see right over here. And we launched this with the GPT-4 launch. We have a few thousand people on this. This isn't a fake demo, this is really it in action.
Была ещё большая нехватка: в старших классах школы, в которую я ходил, соотношение учеников и консультантов по обучению составляло 200 или 300 к одному. В других местах бывает ещё хуже. С помошью Khanmigo каждый учащийся может иметь консультанта по обучению, академического консультанта, профориентолога, коуча — вы видите это здесь. Мы запустили эту функцию вместе с запуском GPT-4. Тысячи людей уже пользуются ею. Это не просто демонстрация — это происходит на самом деле.
And then there is, you know, things that I think it would have been even harder, it would have been a little science fiction to do with even a traditional tutor. We run an online high school with Arizona State University called Khan World School, and we have a student who attends that online school, based in India. Her name's Saanvi. And she was doing a report on "The Great Gatsby." And when she was reading "The Great Gatsby," Jay Gatsby keeps looking at the green light off into the distance. And she's like, "Why does he do that?" She did some web searches, and people have obviously studied this and commented about the symbolism of that, but none of it was really resonating with her. And then she realized that she had Khanmigo and that she could talk to Jay Gatsby himself.
Кроме того, существуют вещи, которые было бы ещё сложнее осуществить. Это было бы сродни научной фантастике даже с традиционным репетитором. Совместно с Университетом Аризоны мы ведём онлайн-школу, Khan World School, и там в занятиях участвует ученица, находящаяся в Индии. Её зовут Саанви. Она готовила доклад о «Великом Гэтсби». Когда читаешь «Великого Гэтсби», Джей Гэтсби постоянно смотрит на зелёный свет на горизонте. У неё возник вопрос: «Почему он это делает?» Она поискала ответ в интернете, и люди, разумеется, это изучали и обсуждали символизм этого, но ей это не показалось убедительным. Но потом она вспомнила про Khanmigo и о том, что она могла бы поговорить там с самим Джеем Гэтсби.
And so, "Ah, splendid choice, old sport. I am now Jay Gatsby, the enigmatic millionaire from F. Scott Fitzgerald’s classic.”
«Прекрасный выбор, дружище, теперь я Джей Гэтсби, загадочный миллионер из классического романа Скотта Фитцжеральда».
And so, "Why do you keep staring at the green light?"
«Почему ты постоянно смотришь на зелёный свет?»
"Ah, the green light, old sport. It's a symbol of my dreams and desires, you see. It's situated at the end of Daisy Buchanan's dock across the bay from my mansion. I gaze at it longingly as it represents my yearning for the past and my hope to reunite with Daisy, the love of my life."
«Ах, зелёный свет, дружище. Видишь ли, это символ моих мечтаний и желаний. Он расположен на причале у Дейзи Бьюкенен, с другой стороны бухты, напротив моего особняка. Я смотрю на него с тоской — он олицетворяет мою ностальгию по былому и мои надежду на воссоединение с Дейзи, любовью моей жизни».
And what was cool is, Saanvi then said, “I had this long conversation,” she called him “Mr. Gatsby,” and at the end she actually apologized for taking his time, which I thought was very polite of her.
Потрясающе то, что Саанви потом сказала, «У меня был долгий разговор». Она называла его мистером Гэтсби, и в конце извинилась за то, что отняла у него время. Я считаю, что это было проявлением большой вежливости.
But you can imagine this unlocks learning literature, learning ... You could talk to historical figures. We're even probably going to add an activity you can talk to like, the Mississippi River. It brings things to life in ways that really were science fiction even six months or a year ago.
Но, как вы видите, это открывает двери к изучению литературы. Можно поговорить с историческими личностями. Мы даже, пожалуй, добавим упражнение, где можно поговорить с рекой Миссисипи. Это вдохнёт жизнь в вещи, которые были научной фантастикой ещё полгода или год назад.
Students can get into debates with the AI. And we’ve got this here is the student debating whether we should cancel student debt. The student is against canceling student debt, and we've gotten very clear feedback. We started running it at Khan World School in our lab school that we have, Khan Lab School. The students, the high school students especially, they're saying "This is amazing to be able to fine-tune my arguments without fearing judgment. It makes me that much more confident to go into the classroom and really participate." And we all know that Socratic dialogue debate is a great way to learn, but frankly, it's not out there for most students. But now it can be accessible to hopefully everyone.
Учащиеся могут вступать в дебаты с ИИ. Здесь учащийся обсуждает с ИИ отмену студенческого долга. Студент против отмены, и у нас есть чёткая обратная связь. Мы запустили это в Khan World School, в нашей лаборатории, Khan Lab School. Учащиеся, особенно старшеклассники, говорят: «Это такая прекрасная возможность отточить мои аргументы, не боясь осуждения. Это придаёт мне уверенности для участия в живом обсуждении на уроке». Все мы знаем, что сократический диалог — это прекрасный способ обучения, но, честно говоря, он недоступен большинству учащихся. Но теперь, надеюсь, он станет доступным для всех.
A lot of the narrative, we saw that in the headlines, has been, "It's going to do the writing for kids. Kids are not going to learn to write." But we are showing that there's ways that the AI doesn't write for you, it writes with you.
В новостях много писали о том, что ИИ будет писать сочинения за детей. Дети не будут учиться писать. Но мы доказываем, что ИИ пишет не за вас, а вместе с вами.
So this is a little thing, and my eight year old is addicted to this, and he's not a kid that really liked writing before, but you can say, “I want to write a horror story,” and it says, "Ooh, a horror story, how spine-tingling and thrilling. Let's dive into the world of eerie shadows and chilling mysteries." And this is an activity where the student will write two sentences, and then the AI will write two sentences. And so they collaborate together on a story.
Вот небольшой пример, и мой восьмилетний ребёнок в восторге, хотя раньше он не любил писать, но вы можете сказать: «Я хочу написать триллер», а ИИ отвечает: «О, триллер, от которого мурашки бегут по спине. Давай окунёмся в мир мрачных теней и леденящих душу тайн». В этом упражнении учащийся пишет пару предложений, а затем ИИ пишет пару предложений. И вместе они создают историю.
The student writes, "Beatrice was a misunderstood ghost. She wanted to make friends but kept scaring them by accident."
Ученик пишет: «Беатрис была никем не понятым призраком. Она хотела завести друзей, но лишь нечаянно отпугивала всех».
And the AI says, "Poor Beatrice, a lonely spirit yearning for companionship. One day she stumbled upon an old abandoned mansion," etc.
А ИИ отвечает: «Бедная Беатрис, одинокое привидение, жаждущее общения. Однажды она набрела на заброшенный особняк» и т.д.
I encourage you all to hopefully one day try this. This is surprisingly fun.
Я всем рекомендую попробовать это упражнение. Это на удивление увлекательно.
Now to even more directly hit this use case. And what I'm about to show you, everything I showed you so far is actually already part of Khanmigo, and what I’m about to show you, we haven't shown to anyone yet, this is a prototype. We hope to be able to launch it in the next few months, but this is to directly use AI, use generative AI, to not undermine English and language arts but to actually enhance it in ways that we couldn't have even conceived of even a year ago. This is reading comprehension. The students reading Steve Jobs's famous speech at Stanford. And then as they get to certain points, they can click on that little question. And the AI will then Socratically, almost like an oral exam, ask the student about things. And the AI can highlight parts of the passage. Why did the author use that word? What was their intent? Does it back up their argument? They can start to do stuff that once again, we never had the capability to give everyone a tutor, everyone a writing coach to actually dig in to reading at this level.
Ещё более красочный пример. То, что я вам сейчас покажу, всё что я показал до сих пор, уже встроено в Khanmigo, а сейчас я покажу вам то, что ещё никто не видел. Это прототип. Мы надеемся запустить его в течение следующих месяцев, чтобы использовать генеративный ИИ, не для того, чтобы подрывать языковые способности а улучшать их способами, казавшимися раньше невозможными, даже год назад. Это задание на понимание. Учащийся читает знаменитую речь Стива Джобса в Станфорде. Достигнув определённого места, можно нажать на этот маленький знак вопроса. И затем ИИ задаёт ученику вопросы по методу Сократу, почти как на устном экзамене. ИИ может подчеркнуть часть абзаца. Почему автор использовал это слово? Какого его намерение? Подтверждает ли оно его аргумент? И снова ИИ делает вещи, которые мы раньше не могли делать: дать каждому репетитора по письму и в таких деталях заниматься чтением.
And you could go on the other side of it. And we have whole work flows that helps them write, helps them be a writing coach, draw an outline. But once a student actually constructs a draft, and this is where they're constructing a draft, they can ask for feedback once again, as you would expect from a good writing coach. In this case, the student will say, let's say, "Does my evidence support my claim?" And then the AI, not only is able to give feedback, but it's able to highlight certain parts of the passage and says, "On this passage, this doesn't quite support your claim," but once again, Socratically says, "Can you tell us why?" So it's pulling the student, making them a better writer, giving them far more feedback than they've ever been able to actually get before. And we think this is going to dramatically accelerate writing, not hurt it.
С другой стороны, у нас есть целый процесс, помогающий им писать и быть репетитором по письму, составлять план. Но как только учащийся составит черновой вариант, — здесь он составляет черновой вариант, он снова может попросить обратную связь, как и ожидается с хорошим репетитором. В этом случае учащийся скажет, к примеру: «Подтверждают ли мои примеры мою гипотезу?» ИИ способен не только предоставить обратную связь, но и подчеркнуть части текста и сказать: «Эта часть текста не подтверждает твоё утверждение». И снова по методу Сократа спрашивает: «Объясни почему?» ИИ вовлекает ученика, заставляет его писать лучше, даёт больше обратной связи, чем ученик получал когда-либо до этого. Мы считаем, что ИИ будет существенно помогать в написании текстов, а не вредить.
Now, everything I've talked about so far is for the student. But we think this could be equally as powerful for the teacher to drive more personalized education and frankly save time and energy for themselves and for their students. So this is an American history exercise on Khan Academy. It's a question about the Spanish-American War. And at first it's in student mode. And if you say, “Tell me the answer,” it’s not going to tell the answer. It's going to go into tutoring mode. But that little toggle which teachers have access to, they can turn student mode off and then it goes into teacher mode. And what this does is it turns into -- You could view it as a teacher's guide on steroids. Not only can it explain the answer, it can explain how you might want to teach it. It can help prepare the teacher for that material. It can help them create lesson plans, as you could see doing right there. It'll eventually help them create progress reports and help them, eventually, grade. So once again, teachers spend about half their time with this type of activity, lesson planning. All of that energy can go back to them or go back to human interactions with their actual students.
До сих пор я говорил только о функциях для учащихся. Но мы считаем, что и учителю эти инструменты помогут подходить персонально к обучению и сберегать время и энергию как самим себе, так и учащимся. Вот упражнение по истории Америки в Khan Academy. Это вопрос об Испано-американской войне. Сначала мы находимся в режиме учащегося. Если сказать: «Скажи мне ответ», вы не получите его. ИИ находится в режиме репетитора. Но у учителя есть доступ к этому переключателю, и он может переключиться из режима ученика в режим учителя. Вот что происходит при этом: вы получаете расширенное руководство для учителя. ИИ может не просто объяснить ответ, но и подсказать вам, как это лучше преподать. ИИ может помочь подготовить учителя к этому материалу. Он может помочь учителю создавать планы уроков, как это происходит здесь, отчёты об успеваемости и даже ставить оценки. Учителя проводят половину своего времени, выполняя эту работу и планирование. Всю эту энергию можно вернуть им или для живого общения с учащимися.
(Applause)
(Аплодисменты)
So, you know, one point I want to make. These large language models are so powerful, there's a temptation to say like, well, all these people are just going to slap them onto their websites, and it kind of turns the applications themselves into commodities. And what I've got to tell you is that’s one of the reasons why I didn’t sleep for two weeks when I first had access to GPT-4 back in August. But we quickly realized that to actually make it magical, I think what you saw with Khanmigo a little bit, it didn't interact with you the way that you see ChatGPT interacting. It was a little bit more magical, it was more Socratic, it was clearly much better at math than what most people are used to thinking. And the reason is, there was a lot of work behind the scenes to make that happen.
Я хочу отметить вот что. Эти большие языковые модели настолько мощны, что существует соблазн сказать, что все просто поместят их на свои сайты и они станут приложениями широкого потребления. Из-за этого я не мог спать в течение двух недель, когда я впервые получил доступ к ChatGPT в августе. Но мы вскоре поняли, что для того, чтобы он имел магический эффект, и я думаю, что вы уже увидели это на примере с приложением Khanmigo, оно не взаимодействует с вами так, как это делает ChatGPT, оно пользуется методом Сократа, оно лучше разбирается в математике, чем большинство людей привыкло думать. А причина этому в том, что за кулисами мы проделали много работы.
And I could go through the whole list of everything we've been working on, many, many people for over six, seven months to make it feel magical. But perhaps the most intellectually interesting one is we realized, and this was an idea from an OpenAI researcher, that we could dramatically improve its ability in math and its ability in tutoring if we allow the AI to think before it speaks. So if you're tutoring someone and you immediately just start talking before you assess their math, you might not get it right. But if you construct thoughts for yourself, and what you see on the right there is an actual AI thought, something that it generates for itself but it does not share with the student. then its accuracy went up dramatically, and its ability to be a world-class tutor went up dramatically. And you can see it's talking to itself here. It says, "The student got a different answer than I did, but do not tell them they made a mistake. Instead, ask them to explain how they got to that step."
Я могу по списку рассказать вам о работе, проделанной нами на протяжении шести-семи месяцев, чтобы получить магический эффект. Но, пожалуй, самой интеллектуально интересной была идея исследователя из Open AI о том, что можно значительно улучшить математические возможности ИИ и его способность обучать, если мы позволим ему думать, прежде чем говорить. Если вы ведёте урок и начинаете говорить до того, как вы посчитаете нечто, вы можете ошибиться. Но если вы сначала подумаете, и справа видно, как ИИ на самом деле выстраивает свои мысли, генерирует нечто для себя, не делясь этим с учащимся, то точность значительно улучшается, а с ней — и способность ИИ быть лучшим репетитором в мире. Вот он говорит сам с собой. Он говорит: «У ученика получился другой ответ, но не говори ему, что он сделал ошибку. Вместо этого, попроси его объяснить, как он пришёл к этому шагу».
So I'll just finish off, hopefully, you know, what I’ve just shown you is just half of what we are working on, and we think this is just the very tip of the iceberg of where this can actually go. And I'm pretty convinced, which I wouldn't have been even a year ago, that we together have a chance of addressing the 2 sigma problem and turning it into a 2 sigma opportunity, dramatically accelerating education as we know it.
Заканчивая выступление, я скажу вам, что я показал вам лишь часть того, над чем мы работаем, и мы думаем, что это всего лишь вершина айсберга того, что можно достигнуть. Я уверен, чего я не мог сказать даже год назад, что вместе мы можем решить проблему двух сигм и превратить её в возможность двух сигм, ускорив образование, каким мы его знаем.
Now, just to take a step back at a meta level, obviously we heard a lot today, the debates on either side. There's folks who take a more pessimistic view of AI, they say this is scary, there's all these dystopian scenarios, we maybe want to slow down, we want to pause. On the other side, there are the more optimistic folks that say, well, we've gone through inflection points before, we've gone through the Industrial Revolution. It was scary, but it all kind of worked out. And what I'd argue right now is I don't think this is like a flip of a coin or this is something where we'll just have to, like, wait and see which way it turns out. I think everyone here and beyond, we are active participants in this decision. I'm pretty convinced that the first line of reasoning is actually almost a self-fulfilling prophecy, that if we act with fear and if we say, "Hey, we've just got to stop doing this stuff," what's really going to happen is the rule followers might pause, might slow down, but the rule breakers, as Alexandr [Wang] mentioned, the totalitarian governments, the criminal organizations, they're only going to accelerate. And that leads to what I am pretty convinced is the dystopian state, which is the good actors have worse AIs than the bad actors.
Давайте порассуждаем на мета-уровне. Сегодня мы слышали много мнений с обеих сторон. Есть люди, которые смотрят на ИИ более пессимимтично и говорят, что он опасен, обсуждают мрачные варианты развития событий, говорят, что нам лучше бы было замедлить процесс, сделать паузу. С другой стороны — есть и оптимисты, которые говорят, что мы и раньше проходили через переломные моменты. Мы прошли через индустриальную революцию. Это тоже было страшно, но всё как-то обошлось. Я считаю, что мы сейчас не в том положении, когда бросают монету или просто ждут, чем всё это обернётся. Все мы в этом зале и за его пределами — активные участники этого решения. Я уверен, что если мы будем думать как пессимисты, то эти мысли могут накликать беду. Если мы будем говорить в страхе, «Нужно остановиться», то те, кто следует правилам, может, и остановятся, замедлят темп, но нарушители правил, как говорил Александр Ван, тоталитарные государства, криминальные организации, станут действовать ещё быстрее. И это приведёт нас именно в то апокалиптическое состояние, когда ИИ у хороших людей будет хуже, чем у злодеев.
But I'll also, you know, talk to the optimists a little bit. I don't think that means that, oh, yeah, then we should just relax and just hope for the best. That might not happen either. I think all of us together have to fight like hell to make sure that we put the guardrails, we put in -- when the problems arise -- reasonable regulations. But we fight like hell for the positive use cases. Because very close to my heart, and obviously there's many potential positive use cases, but perhaps the most powerful use case and perhaps the most poetic use case is if AI, artificial intelligence, can be used to enhance HI, human intelligence, human potential and human purpose.
Но я хочу обратиться и к оптимистам. Я не говорю, что надо просто расслабиться и надеяться на лучшее. Этого тоже может и не произойти. Я думаю, всем нам надо работать изо всех сил над разработкой защитных механизмов, и, когда возникают проблемы, разумных законов. Нужно бороться за положительное использование. Есть много случаев позитивного использования ИИ, но моему сердцу близко, возможно, одно из самых впечатляющих и поэтических использований — это использование искусственного интеллекта для улучшения человеческого интеллекта, человеческого потенциала и целей, которые ставит перед собой человечество.
Thank you. (Applause)
Спасибо. (Аплодисменты)