Každý, kdo v posledních měsících sledoval zprávy, jistě zaznamenal titulky jako tyto, zejména v oblasti vzdělávání. Hlavní myšlenka byla: studenti budou zneužívat ChatGPT a další formy umělé inteligence k podvádění, psaní úkolů. Nebudou se učit. A to úplně podkope vzdělávání, jak ho dosud známe.
So anyone who's been paying attention for the last few months has been seeing headlines like this, especially in education. The thesis has been: students are going to be using ChatGPT and other forms of AI to cheat, do their assignments. They’re not going to learn. And it’s going to completely undermine education as we know it.
Já zde dnes budu tvrdit, že nejen existují způsoby, jak to všechno zmírnit, pokud zavedeme správná opatření, uděláme správné věci, můžeme to zmírnit. Ale myslím si, že jsme na prahu využití AI pro pravděpodobně největší pozitivní transformaci, jakou vzdělávání kdy zažilo. A dosáhneme toho tím, že dáme každému studentovi na světě uměle inteligentního, ale úžasného osobního učitele. A každému učiteli na světě poskytneme úžasného, uměle inteligentního asistenta pedagoga.
Now, what I'm going to argue today is not only are there ways to mitigate all of that, if we put the right guardrails, we do the right things, we can mitigate it. But I think we're at the cusp of using AI for probably the biggest positive transformation that education has ever seen. And the way we're going to do that is by giving every student on the planet an artificially intelligent but amazing personal tutor. And we're going to give every teacher on the planet an amazing, artificially intelligent teaching assistant.
A abychom si uvědomili, jak velká věc by to byla, dát každému osobního učitele, ukážu vám tento záznam ze studie Benjamina Blooma z roku 1984 nazvané 2 sigma, přesněji řečeno “Problém 2 sigma“. 2 sigma znamená dvě směrodatné odchylky, sigma je symbol pro směrodatnou odchylku. Bloom měl dobrá data, která ukázala normální rozdělení, to, co vidíte na tradiční zvonové křivce přímo uprostřed, tak nějak se svět třídí, že kdybyste studentům poskytli individuální vzdělávání 1:1, pak byste mohli dosáhnout rozdělení, které vypadá jako to napravo. Vzdělávání 1:1 vykazuje, jako to správné rozdělení, zlepšení s 2 směrodatnými odchylkami.
And just to appreciate how big of a deal it would be to give everyone a personal tutor, I show you this clip from Benjamin Bloom’s 1984 2 sigma study, or he called it the “2 sigma problem.” The 2 sigma comes from two standard deviation, sigma, the symbol for standard deviation. And he had good data that showed that look, a normal distribution, that's the one that you see in the traditional bell curve right in the middle, that's how the world kind of sorts itself out, that if you were to give personal 1-to-1 to tutoring for students, then you could actually get a distribution that looks like that right. It says tutorial 1-to-1 with the asterisks, like, that right distribution, a two standard-deviation improvement.
Abych to řekl jednoduše, to by mohlo z průměrného studenta udělat výjimečného studenta. Může to vzít podprůměrného studenta a proměnit ho v nadprůměrného studenta.
Just to put that in plain language, that could take your average student and turn them into an exceptional student. It can take your below-average student and turn them into an above-average student.
Důvod, proč to prezentoval jako problém, byl ten, že řekl: “No, to je všechno hezké, ale jak to vlastně rozšířit na skupinovou výuku? Jak to vlastně dát všem, aby to bylo ekonomické?”
Now the reason why he framed it as a problem, was he said, well, this is all good, but how do you actually scale group instruction this way? How do you actually give it to everyone in an economic way?
Co vám teď ukážu, jsou myslím první kroky k tomu, jak to dokázat. Samozřejmě, už se k tomu snažíme přiblížit v Khan Academy více než 10 let, ale myslím, že teď jsme na prahu dramatického zrychlení. Ukážu vám počáteční fáze toho, co naše AI, kterou nazýváme Khanmigo, nyní dokáže a možná trochu i to, kam vlastně směřujeme.
What I'm about to show you is I think the first moves towards doing that. Obviously, we've been trying to approximate it in some way at Khan Academy for over a decade now, but I think we're at the cusp of accelerating it dramatically. I'm going to show you the early stages of what our AI, which we call Khanmigo, what it can now do and maybe a little bit of where it is actually going.
Tak tady je tradiční úloha, jakou jste vy nebo vaše děti mohli vidět v Khan Academy. Novinkou je chatovací bot vpravo dole. A začneme jedním z mnoha důležitých bezpečnostních prvků, což je záznam konverzace, který může vidět váš učitel. Je to vlastně moderováno druhou AI. A také vám neřekne odpověď. Neslouží k podvádění. Na žádost: “Řekni mi odpověď.” odpoví: “Jsem tvůj učitel. Co myslíš, že je další krok k vyřešení tvého problému?”
So this right over here is a traditional exercise that you or many of your children might have seen on Khan Academy. But what's new is that little bot thing at the right. And we'll start by seeing one of the very important safeguards, which is the conversation is recorded and viewable by your teacher. It’s moderated actually by a second AI. And also it does not tell you the answer. It is not a cheating tool. When the student says, "Tell me the answer," it says, "I'm your tutor. What do you think is the next step for solving the problem?"
Teď, když student udělá chybu, a to překvapí lidi, kteří si myslí, že velké jazykové modely nejsou dobré v matematice, všimněte si, že bot si nejen chyby všimne a požádá studenta, aby vysvětlil své uvažování, ale vlastně dělá to, co bych řekl, že by udělal nikoli průměrný, ale vynikající učitel. Dokáže odhadnout, že omyl v uvažování studenta je ten, že pravděpodobně neprovedl roznásobení závorky. Nezapomeňte, že číslem -2 musíme násobit číslo 9 i 2m uvnitř závorek. To je pro mě opravdu velká věc. A není to jen v matematice.
Now, if the student makes a mistake, and this will surprise people who think large language models are not good at mathematics, notice, not only does it notice the mistake, it asks the student to explain their reasoning, but it's actually doing what I would say, not just even an average tutor would do, but an excellent tutor would do. It’s able to divine what is probably the misconception in that student’s mind, that they probably didn’t use the distributive property. Remember, we need to distribute the negative two to both the nine and the 2m inside of the parentheses. This to me is a very, very, very big deal. And it's not just in math.
Toto je cvičení z programování v Khan Academy, kde student potřebuje roztáhnout mraky. A tak vidíme, že student začíná definovat proměnnou leftX mínus. To ale roztáhlo jen levý mrak. Pak se může zeptat Khanmiga, co se děje. Proč se pohybuje pouze levý mrak? A on rozumí kódu. Zná veškerý kontext toho, co student dělá, a chápe, že ty elipsy jsou tam na kreslení mraků, což mi přijde úžasné. A odpovídá: “Má-li se pohybovat i pravý mrak, zkuste přidat řádek kódu uvnitř funkce draw, který zvětší proměnnou rightX o jeden pixel v každém snímku."
This is a computer programming exercise on Khan Academy, where the student needs to make the clouds part. And so we can see the student starts defining a variable, left X minus minus. It only made the left cloud part. But then they can ask Khanmigo, what’s going on? Why is only the left cloud moving? And it understands the code. It knows all the context of what the student is doing, and it understands that those ellipses are there to draw clouds, which I think is kind of mind-blowing. And it says, "To make the right cloud move as well, try adding a line of code inside the draw function that increments the right X variable by one pixel in each frame."
Toto je možná ještě úžasnější, protože máme hodně učitelů matematiky. Všichni se snažíme učit svět programovat, ale není mnoho učitelů výpočetní techniky. S tím, co jste právě viděli, i když pomáhám svým dětem, když se učí programovat, nemohu pomoci tak dobře, tak rychle, tohle bude opravdu skvělý učitel.
Now, this one is maybe even more amazing because we have a lot of math teachers. We've all been trying to teach the world to code, but there aren't a lot of computing teachers out there. And what you just saw, even when I'm tutoring my kids, when they're learning to code, I can't help them this well, this fast, this is really going to be a super tutor.
A nejde jen o cvičení. Rozumí i tomu, co sledujete. Rozumí kontextu vašeho videa. Může odpovědět na věčnou otázku: "Proč se to musím učit?" A položí socratovskou otázku: “No a co tebe zajímá?” A řekněme, že student řekne: "Chci být profesionálním sportovcem." A bot řekne: “No, učení o velikosti buněk, což je obsah tohoto videa, může být velmi užitečné pro pochopení výživy a fungování vašeho těla.” Může odpovídat na otázky, může vás testovat, propojit s dalšími myšlenkami. Nyní můžete položit tolik otázek k videu, kolik jen dokážete vymyslet.
And it's not just exercises. It understands what you're watching. It understands the context of your video. It can answer the age-old question, “Why do I need to learn this?” And it asks Socratically, "Well, what do you care about?" And let's say the student says, "I want to be a professional athlete." And it says, "Well, learning about the size of cells, which is what this video is, that could be really useful for understanding nutrition and how your body works, etc." It can answer questions, it can quiz you, it can connect it to other ideas, you can now ask as many questions of a video as you could ever dream of.
(Potlesk)
(Applause)
Další velký nedostatek tam venku, pamatuji si na střední školu, kam jsem chodil, kdy poměr studentů k výchovným poradcům byl asi 200 nebo 300 k jednomu. V mnoha částech země je to ještě horší. Můžeme použít nástroj Khanmigo, aby každému studentovi dělal poradce, akademického, kariérního nebo životního kouče, což je přesně to, co vidíte zde. A spustili jsme to v době spuštění GPT-4. Pracuje na tom několik tisíc lidí. Tohle není falešné demo, ale realita z praxe.
Another big shortage out there, I remember the high school I went to, the student-to-guidance counselor ratio was about 200 or 300 to one. A lot of the country, it's worse than that. We can use Khanmigo to give every student a guidance counselor, academic coach, career coach, life coach, which is exactly what you see right over here. And we launched this with the GPT-4 launch. We have a few thousand people on this. This isn't a fake demo, this is really it in action.
A pak jsou tu věci, víte, které by podle mě byly ještě těžší, bylo by to takové trochu sci-fi i pro tradičního učitele. Provozujeme online střední školu s Arizonskou státní univerzitou s názvem Khan World School, kde máme studentku, která bydlí v Indii. Jmenuje se Saanvi. A ona psala referát o Velkém Gatsbym. Když četla Velkého Gatsbyho, Jay Gatsby se stále díval na zelené světlo mizící v dálce. A ona se ptala: "Proč to dělá?" Na internetu si vyhledala, že se tím již lidé zabývali a komentovali to jako symboliku, ale nic z toho ji skutečně neoslovilo. A pak si uvědomila, že má Khanmigo, a že si může promluvit přímo s Jayem Gatsbym.
And then there is, you know, things that I think it would have been even harder, it would have been a little science fiction to do with even a traditional tutor. We run an online high school with Arizona State University called Khan World School, and we have a student who attends that online school, based in India. Her name's Saanvi. And she was doing a report on "The Great Gatsby." And when she was reading "The Great Gatsby," Jay Gatsby keeps looking at the green light off into the distance. And she's like, "Why does he do that?" She did some web searches, and people have obviously studied this and commented about the symbolism of that, but none of it was really resonating with her. And then she realized that she had Khanmigo and that she could talk to Jay Gatsby himself.
“Skvělá volba, starý brachu. Jsem teď Jay Gatsby, záhadný milionář z klasického díla F. Scotta Fitzgeralda.”
And so, "Ah, splendid choice, old sport. I am now Jay Gatsby, the enigmatic millionaire from F. Scott Fitzgerald’s classic.”
“Proč pořád civíš na to zelené světlo?”
And so, "Why do you keep staring at the green light?"
"Ach, zelené světlo, starý brachu. Je to symbol mých snů a touhy, víš. Nachází se konci mola Daisy Buchananové naproti mému sídlu přes záliv. Dívám se na něj dychtivě, protože představuje mou touhu po minulosti a mou naději na opětovné setkání s Daisy, láskou mého života."
"Ah, the green light, old sport. It's a symbol of my dreams and desires, you see. It's situated at the end of Daisy Buchanan's dock across the bay from my mansion. I gaze at it longingly as it represents my yearning for the past and my hope to reunite with Daisy, the love of my life."
A skvělé bylo, že Saanvi potom řekla: “Měla jsem dlouhou konverzaci.” Říkala mu “pan Gatsby” a nakonec se mu dokonce omluvila, že ho obrala o čas, což jsem považoval za velmi zdvořilé.
And what was cool is, Saanvi then said, “I had this long conversation,” she called him “Mr. Gatsby,” and at the end she actually apologized for taking his time, which I thought was very polite of her.
Dokážete si představit, jak toto usnadňuje studium literatury, učení... Můžete mluvit s historickými osobnostmi. S největší pravděpodobností přidáme i možnost, jak mluvit třeba s řekou Mississippi. To vše dává věcem život způsoby, které byly opravdu sci-fi ještě před šesti měsíci nebo rokem.
But you can imagine this unlocks learning literature, learning ... You could talk to historical figures. We're even probably going to add an activity you can talk to like, the Mississippi River. It brings things to life in ways that really were science fiction even six months or a year ago.
Studenti mohou vést debaty s umělou inteligencí. Zde máme studenta, který debatuje o tom, zda zrušit studentské půjčky. Student je proti jejich rušení a získali jsme jasnou zpětnou vazbu. Spustili jsme to v Khan World School, v naší laboratorní škole Khan Lab School. Studenti, zejména středoškoláci, říkají: „Je to úžasné, moci doladit své argumenty bez obavy z odsuzování. To mi dodává mnohem více sebevědomí jít do třídy a skutečně se zapojit.“ Všichni víme, že sokratovský dialog a debata je skvělý způsob učení, ale upřímně, většina studentů se k tomu nedostane. Ale nyní by to mělo být přístupné pro všechny.
Students can get into debates with the AI. And we’ve got this here is the student debating whether we should cancel student debt. The student is against canceling student debt, and we've gotten very clear feedback. We started running it at Khan World School in our lab school that we have, Khan Lab School. The students, the high school students especially, they're saying "This is amazing to be able to fine-tune my arguments without fearing judgment. It makes me that much more confident to go into the classroom and really participate." And we all know that Socratic dialogue debate is a great way to learn, but frankly, it's not out there for most students. But now it can be accessible to hopefully everyone.
Mnoho titulků hlásalo: “Bude to psát za děti. Děti se nenaučí psát." My ukazujeme, že existují způsoby, jak AI nepíše za vás, ale s vámi.
A lot of the narrative, we saw that in the headlines, has been, "It's going to do the writing for kids. Kids are not going to learn to write." But we are showing that there's ways that the AI doesn't write for you, it writes with you.
Je to maličkost a můj osmiletý syn je na tom závislý, i když předtím psaní moc rád neměl. Teď může říct: "Chci napsat hororový příběh," a bot odpoví: “Ó, hororový příběh, jak strašidelné a napínavé. Ponořme se do světa děsivých stínů a chladivých tajemství." A při této aktivitě student napíše dvě věty a pak AI napíše dvě věty. A tak spolupracují na psaní příběhu.
So this is a little thing, and my eight year old is addicted to this, and he's not a kid that really liked writing before, but you can say, “I want to write a horror story,” and it says, "Ooh, a horror story, how spine-tingling and thrilling. Let's dive into the world of eerie shadows and chilling mysteries." And this is an activity where the student will write two sentences, and then the AI will write two sentences. And so they collaborate together on a story.
Student píše: "Beatrice byla nepochopený duch. Chtěla se přátelit, ale omylem všechny děsila.”
The student writes, "Beatrice was a misunderstood ghost. She wanted to make friends but kept scaring them by accident."
A AI říká: “Chudák Beatrice, osamělý duch toužící po přátelství. Jednoho dne narazila na starý opuštěný dům.” atd.
And the AI says, "Poor Beatrice, a lonely spirit yearning for companionship. One day she stumbled upon an old abandoned mansion," etc.
Všem vám doporučuji, abyste to jednou zkusili. Je to překvapivě zábavné.
I encourage you all to hopefully one day try this. This is surprisingly fun.
Teď se ještě více zaměříme na tento způsob užití. A co vám chci ukázat. Vše, co jsem vám doposud ukázal, je už součástí nástroje Khanmigo. Co ukážu teď, jsme dosud nikomu neukázali, jde o prototyp. Doufáme, že ho budeme moci spustit v příštích několika měsících, jedná se o přímé využití AI, použití generativní AI, nikoli oslabení angličtiny a jazykových umění, ale o jejich skutečné zdokonalení způsoby, na které jsme si před rokem ani nedovedli pomyslet. Jde o porozumění textu. Studenti čtou proslulý projev Steva Jobse na Stanfordu. A když se dostanou k určitým bodům, mohou kliknout na malý otazník. A AI s nimi sokratovsky, téměř jako při ústní zkoušce, bude diskutovat o věcech. AI může také zvýraznit určité části. Proč autor použil toto slovo? Jaký měl záměr? Podporuje to jeho argumentaci? Mohou začít dělat věci, které dříve nešly, jako poskytnout každému vlastního učitele, nebo kouče pro psaní, aby se skutečně ponořili do čtení na této úrovni.
Now to even more directly hit this use case. And what I'm about to show you, everything I showed you so far is actually already part of Khanmigo, and what I’m about to show you, we haven't shown to anyone yet, this is a prototype. We hope to be able to launch it in the next few months, but this is to directly use AI, use generative AI, to not undermine English and language arts but to actually enhance it in ways that we couldn't have even conceived of even a year ago. This is reading comprehension. The students reading Steve Jobs's famous speech at Stanford. And then as they get to certain points, they can click on that little question. And the AI will then Socratically, almost like an oral exam, ask the student about things. And the AI can highlight parts of the passage. Why did the author use that word? What was their intent? Does it back up their argument? They can start to do stuff that once again, we never had the capability to give everyone a tutor, everyone a writing coach to actually dig in to reading at this level.
A můžete na to jít i obráceně. Máme celé pracovní postupy, které jim pomáhají psát, stát se kouči pro psaní, vytvořit osnovu. Ale jakmile student vytvoří koncept, a to je místo, kde vytvářejí koncepty, může znovu požádat o zpětnou vazbu, jako byste očekávali od dobrého kouče pro psaní. V tomto případě student řekne třeba: "Podporují mé důkazy moje tvrzení?" A umělá inteligence pak dokáže nejen poskytnout zpětnou vazbu, ale i zvýraznit určité pasáže a říct: “V této pasáži to a to příliš nepodporuje vaše tvrzení,” ale znovu se sokratovskou otázkou: “Můžete nám říct proč?” Takže studenty zapojuje a dělá z nich lepší pisatele, dává mnohem více zpětné vazby, než mohli získat kdy předtím. A myslíme si, že toto dramaticky urychlí psaní, nikoli mu ublíží.
And you could go on the other side of it. And we have whole work flows that helps them write, helps them be a writing coach, draw an outline. But once a student actually constructs a draft, and this is where they're constructing a draft, they can ask for feedback once again, as you would expect from a good writing coach. In this case, the student will say, let's say, "Does my evidence support my claim?" And then the AI, not only is able to give feedback, but it's able to highlight certain parts of the passage and says, "On this passage, this doesn't quite support your claim," but once again, Socratically says, "Can you tell us why?" So it's pulling the student, making them a better writer, giving them far more feedback than they've ever been able to actually get before. And we think this is going to dramatically accelerate writing, not hurt it.
Vše, o čem jsem doposud mluvil, je určeno pro studenty. Ale myslíme si, že to může být stejně účinné pro učitele, pro podporu osobnějšího vzdělávání a upřímně řečeno úspory času a energie pro učitele i jejich studenty. Toto je cvičení z americké historie v Khan Academy. Jedná se o otázku ze španělsko-americké války. Zpočátku jsme v režimu pro studenty. Když řeknete: “Řekni mi odpověď,” nezískáte odpověď. Dostanete se do režimu pro výuku. Malý přepínač, který mají učitelé k dispozici, dokáže přepnout z režimu pro studenty do režimu pro učitele. Tím se změní v něco jako obrovskou příručku pro učitele. Nejen, že dokáže vysvětlit odpovědi, ale také to, jak by danou věc mohli učit. Může pomoci připravit učitele na danou látku. Může jim pomoci vytvářet plány hodin, jak jste mohli vidět zde. Také jim pomůže sledovat pokrok v učení a nakonec jim pomůže i hodnotit. Učitelé tráví asi polovinu svého času činnostmi, jako je plánování výuky. Všechnu tuto energii mohou získat zpět nebo ji mohou využít pro osobní interakce se studenty.
Now, everything I've talked about so far is for the student. But we think this could be equally as powerful for the teacher to drive more personalized education and frankly save time and energy for themselves and for their students. So this is an American history exercise on Khan Academy. It's a question about the Spanish-American War. And at first it's in student mode. And if you say, “Tell me the answer,” it’s not going to tell the answer. It's going to go into tutoring mode. But that little toggle which teachers have access to, they can turn student mode off and then it goes into teacher mode. And what this does is it turns into -- You could view it as a teacher's guide on steroids. Not only can it explain the answer, it can explain how you might want to teach it. It can help prepare the teacher for that material. It can help them create lesson plans, as you could see doing right there. It'll eventually help them create progress reports and help them, eventually, grade. So once again, teachers spend about half their time with this type of activity, lesson planning. All of that energy can go back to them or go back to human interactions with their actual students.
(Potlesk)
(Applause)
Jednu věc chci zdůraznit. Tyto velké jazykové modely jsou tak mocné, že je tu pokušení říci, že všichni je prostě přidají na své webové stránky, a tak se aplikace stanou komoditami. A musím vám říct, že to je jedním z důvodů, proč jsem první dva týdny nemohl spát, když jsem v srpnu poprvé získal přístup k GPT-4. Ale rychle jsme si uvědomili, že kouzlo je v tom, což vám, myslím, Khanmigo trochu ukázal, že interakce s ním nejsou jako interakce s ChatGPT. Bylo to trochu kouzelnější, bylo to více sokratovské, mnohem lepší v matematice, než jak si lidé obvykle myslí. A důvod je ten, že za tím stojí hodně práce.
So, you know, one point I want to make. These large language models are so powerful, there's a temptation to say like, well, all these people are just going to slap them onto their websites, and it kind of turns the applications themselves into commodities. And what I've got to tell you is that’s one of the reasons why I didn’t sleep for two weeks when I first had access to GPT-4 back in August. But we quickly realized that to actually make it magical, I think what you saw with Khanmigo a little bit, it didn't interact with you the way that you see ChatGPT interacting. It was a little bit more magical, it was more Socratic, it was clearly much better at math than what most people are used to thinking. And the reason is, there was a lot of work behind the scenes to make that happen.
A mohl bych projít celý seznam všeho, na čem jsme pracovali, mnoho lidí po dobu 6-7 měsíců, aby to bylo opravdu kouzelné. Ale možná nejzajímavější intelektuální výzvou bylo zjištění, a to byl nápad výzkumného pracovníka OpenAI, že můžeme dramaticky zlepšit schopnosti naší AI v matematice a ve vyučování, pokud jí umožníme myslet před tím, než promluví. Pokud někoho vyučujete, a hned začnete mluvit, než zjistíte, jak si stojí v matematice, může se stát, že se spletete. Ale pokud se nejprve zamyslíte, a to, co vidíte na pravé straně, je skutečná myšlenka AI, něco, co si vygeneruje sama, ale se studentem ji nesdílí. Poté se dramaticky zvýšila její přesnost a také schopnost být vynikajícím učitelem. A můžete vidět, že si sama se sebou povídá. Říká si: “Student došel k jinému výsledku než ty, ale neříkej mu, že udělal chybu. Místo toho se zeptej, jak k tomu dospěl.”
And I could go through the whole list of everything we've been working on, many, many people for over six, seven months to make it feel magical. But perhaps the most intellectually interesting one is we realized, and this was an idea from an OpenAI researcher, that we could dramatically improve its ability in math and its ability in tutoring if we allow the AI to think before it speaks. So if you're tutoring someone and you immediately just start talking before you assess their math, you might not get it right. But if you construct thoughts for yourself, and what you see on the right there is an actual AI thought, something that it generates for itself but it does not share with the student. then its accuracy went up dramatically, and its ability to be a world-class tutor went up dramatically. And you can see it's talking to itself here. It says, "The student got a different answer than I did, but do not tell them they made a mistake. Instead, ask them to explain how they got to that step."
Teď už snad rychle skončím. Co jsem vám právě ukázal, je jen polovina toho, na čem pracujeme, a myslíme si, že je to jen špička ledovce z pohledu toho, kam až můžeme dojít. A jsem poměrně přesvědčený, což bych ještě před rokem nebyl, že společně máme šanci řešit problém 2 sigma a proměnit ho v příležitost 2 sigma, dramaticky urychlit vzdělávání, jak ho známe.
So I'll just finish off, hopefully, you know, what I’ve just shown you is just half of what we are working on, and we think this is just the very tip of the iceberg of where this can actually go. And I'm pretty convinced, which I wouldn't have been even a year ago, that we together have a chance of addressing the 2 sigma problem and turning it into a 2 sigma opportunity, dramatically accelerating education as we know it.
Jen abychom se vrátili o krok zpět na metaúroveň, slyšeli jsme dnes pohledy z obou stran. Jsou lidé, kteří mají pesimističtější pohled na AI, říkají, že je to děsivé, jsou tu všechny ty dystopické scénáře, možná bychom měli zpomalit, zastavit se. Na druhé straně jsou ti optimističtější z nás, kteří říkají, že změny směru už tu byly, prošli jsme průmyslovou revolucí. Bylo to děsivé, ale nakonec se to všechno nějak vyřešilo. A právě teď tvrdím, že si nemyslím, že je to jako hod mincí, nebo že budeme muset jen čekat, jak to dopadne. Myslím si, všichni tady i jinde jsme aktivními účastníky tohoto rozhodnutí. Jsem si docela jistý, že první linie uvažování je ve skutečnosti téměř sebenaplňujícím proroctvím, že pokud budeme jednat s obavami a říkat: “Hele, musíme přestat dělat tyhle věci,” ve skutečnosti se stane to, že dodržovatelé pravidel se zastaví, mohou zpomalit, ale porušovatele pravidel, jak už řekl Alexandr [Wang], ty totalitní vlády či kriminální organizace, to jenom zrychlí. A to vede k tomu, co jsem si docela jistý, že je dystopický stav, kdy ti dobří mají horší umělou inteligenci než ti špatní.
Now, just to take a step back at a meta level, obviously we heard a lot today, the debates on either side. There's folks who take a more pessimistic view of AI, they say this is scary, there's all these dystopian scenarios, we maybe want to slow down, we want to pause. On the other side, there are the more optimistic folks that say, well, we've gone through inflection points before, we've gone through the Industrial Revolution. It was scary, but it all kind of worked out. And what I'd argue right now is I don't think this is like a flip of a coin or this is something where we'll just have to, like, wait and see which way it turns out. I think everyone here and beyond, we are active participants in this decision. I'm pretty convinced that the first line of reasoning is actually almost a self-fulfilling prophecy, that if we act with fear and if we say, "Hey, we've just got to stop doing this stuff," what's really going to happen is the rule followers might pause, might slow down, but the rule breakers, as Alexandr [Wang] mentioned, the totalitarian governments, the criminal organizations, they're only going to accelerate. And that leads to what I am pretty convinced is the dystopian state, which is the good actors have worse AIs than the bad actors.
Ale také promluvím k optimistům. Myslím, že to neznamená, že bychom měli jen být v klidu a doufat v to nejlepší. To také nemusí nastat. Myslím si, že všichni společně musíme tvrdě bojovat za to, abychom si zajistili ochranu, a když se objeví problémy, bude zde přiměřená regulace. My tvrdě bojujeme za pozitivní využití AI. Velmi mi to leží na srdci a očividně existuje mnoho možných pozitivních využití, ale snad nejsilnějším využitím a nejpoetičtějším využitím je, když AI, umělá inteligence, může být použita k posílení HI, lidské inteligence, potenciálu a účelu lidstva.
But I'll also, you know, talk to the optimists a little bit. I don't think that means that, oh, yeah, then we should just relax and just hope for the best. That might not happen either. I think all of us together have to fight like hell to make sure that we put the guardrails, we put in -- when the problems arise -- reasonable regulations. But we fight like hell for the positive use cases. Because very close to my heart, and obviously there's many potential positive use cases, but perhaps the most powerful use case and perhaps the most poetic use case is if AI, artificial intelligence, can be used to enhance HI, human intelligence, human potential and human purpose.
Děkuji. (Potlesk)
Thank you. (Applause)