In the coming years, artificial intelligence is probably going to change your life, and likely the entire world. But people have a hard time agreeing on exactly how. The following are excerpts from a World Economic Forum interview where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense.
În anii următori, inteligența artificială (IA) îți va schimba probabil viața, dar și întreaga lume. Dar oamenii încă dezbat în ce fel. Ideile următoare sunt dintr-un interviu de la Forumul Economic Mondial în care Stuart Russell, profesor renumit de informatică și expert în IA ne ajută să distingem ideile plauzibile de fantezii.
There’s a big difference between asking a human to do something and giving that as the objective to an AI system. When you ask a human to get you a cup of coffee, you don’t mean this should be their life’s mission, and nothing else in the universe matters. Even if they have to kill everybody else in Starbucks to get you the coffee before it closes— they should do that. No, that’s not what you mean. All the other things that we mutually care about, they should factor into your behavior as well.
E o mare diferență între a-i cere unui om să facă ceva și a da același obiectiv unui sistem de IA. Când ceri unui om să îți aducă o cafea, nu vrei să spui că ar trebuie să fie misiunea vieții lui, și că nimic altceva pe lume nu mai contează. Chiar dacă ar trebui să-i ucidă pe toți din Starbucks pentru a-ți aduce cafeaua înainte de închidere, să o facă. Nu, nu la asta te referi. Ci că toate celelalte lucruri de care ne pasă tuturor trebuie incluse și în comportamentul tău.
And the problem with the way we build AI systems now is we give them a fixed objective. The algorithms require us to specify everything in the objective. And if you say, can we fix the acidification of the oceans? Yeah, you could have a catalytic reaction that does that extremely efficiently, but it consumes a quarter of the oxygen in the atmosphere, which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.
Iar problema cu modul în care construim sistemele de IA acum este că le setăm obiective fixe. Algoritmii ne solicită să specificăm totul în obiectiv. Dacă spui, spre exemplu, putem rezolva acidificarea oceanelor? Da, poți obține o reacție catalitică care rezolvă asta extrem de eficient, dar care consumă un sfert din oxigenul prezent în atmosferă, ceea ce ne-ar provoca o moarte lentă și neplăcută, în decurs de câteva ore.
So, how do we avoid this problem? You might say, okay, well, just be more careful about specifying the objective— don’t forget the atmospheric oxygen. And then, of course, some side effect of the reaction in the ocean poisons all the fish. Okay, well I meant don’t kill the fish either. And then, well, what about the seaweed? Don’t do anything that’s going to cause all the seaweed to die. And on and on and on.
Așadar, cum evităm această problemă? Ai putea spune, păi, fii mai atent la specificarea obiectivului și nu uita de oxigenul din atmosferă. Dar apoi, bineînțeles, un efect secundar al reacției din oceane otrăvește toți peștii. Păi, voiam să spun să nu omorî nici peștii. Dar cum rămâne cu algele? Să nu faci nimic ce ar putea cauza dispariția tuturor algelor. Și așa mai departe.
And the reason that we don’t have to do that with humans is that humans often know that they don’t know all the things that we care about. If you ask a human to get you a cup of coffee, and you happen to be in the Hotel George Sand in Paris, where the coffee is 13 euros a cup, it’s entirely reasonable to come back and say, well, it’s 13 euros, are you sure you want it, or I could go next door and get one? And it’s a perfectly normal thing for a person to do. To ask, I’m going to repaint your house— is it okay if I take off the drainpipes and then put them back? We don't think of this as a terribly sophisticated capability, but AI systems don’t have it because the way we build them now, they have to know the full objective. If we build systems that know that they don’t know what the objective is, then they start to exhibit these behaviors, like asking permission before getting rid of all the oxygen in the atmosphere.
Motivul pentru care nu trebuie să facem asta cu oamenii e pentru că adesea ei știu că nu știu toate lucrurile care contează pentru noi. Dacă ceri unui om să îți aducă o cafea, și ești la Hotelul George Sand din Paris, unde cafeaua costă 13 euro, e perfect normal ca el să se întoarcă și să spună: „Păi, e 13 euro, ești sigur că vrei de aici sau mă duc să iau vizavi?” E ceva perfect normal pentru un om. Sau să întrebe: „O să îți zugrăvesc casa, e în regulă dacă scot burlanele și apoi le pun la loc?” Nu ni se pare asta o abilitate prea sofisticată, dar sistemele de IA nu o au, întrucât așa cum le proiectăm acum, trebuie să știe obiectivul complet. Dacă am construi sisteme care știu că nu știu care este obiectivul, atunci vor începe să manifeste aceste comportamente, cum ar fi a cere permisiunea înainte de a lua tot oxigenul din atmosferă.
In all these senses, control over the AI system comes from the machine’s uncertainty about what the true objective is. And it’s when you build machines that believe with certainty that they have the objective, that’s when you get this sort of psychopathic behavior. And I think we see the same thing in humans.
În toate aceste privințe, controlul asupra sistemului de IA vine din incertitudinea mașinii legată de care e obiectivul real. Și abia atunci când construiești mașini care au certitudinea că au un obiectiv, apare acest comportament psihopatic. Și cred că putem vedea același lucru și la oameni.
What happens when general purpose AI hits the real economy? How do things change? Can we adapt? This is a very old point. Amazingly, Aristotle actually has a passage where he says, look, if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, then we wouldn’t need any workers.
Ce se va întâmpla când IA de uz general se va lovi de economia reală? Cum se vor schimbă lucrurile? Ne vom putea adapta? Aceasta e o idee foarte veche. Surprinzător, Aristotel chiar are un pasaj în care spune că dacă am avea mașini de cusut automate și plectre ce ar putea ciupi lirele producând muzică fără ajutorul oamenilor, atunci nu am mai avea nevoie de muncitori.
That idea, which I think it was Keynes who called it technological unemployment in 1930, is very obvious to people. They think, yeah, of course, if the machine does the work, then I'm going to be unemployed.
Această idee, care cred că îi aparține lui Keynes, pe care a numit-o șomaj tehnologic în 1930, e foarte evidentă pentru oameni. Se gândesc: „Da, sigur dacă mașina face toată treaba, atunci o să rămân șomer.”
You can think about the warehouses that companies are currently operating for e-commerce, they are half automated. The way it works is that an old warehouse— where you’ve got tons of stuff piled up all over the place and humans go and rummage around and then bring it back and send it off— there’s a robot who goes and gets the shelving unit that contains the thing that you need, but the human has to pick the object out of the bin or off the shelf, because that’s still too difficult. But, at the same time, would you make a robot that is accurate enough to be able to pick pretty much any object within a very wide variety of objects that you can buy? That would, at a stroke, eliminate 3 or 4 million jobs?
Te poți gândi la depozitele pe care companiile le operează pentru comerțul online, care sunt jumătate automatizate. Într-un depozit tradițional unde ai tone de lucruri peste tot, iar oamenii merg și le caută și apoi le aduc înapoi și le trimit, există un robot care aduce unitatea de depozitare ce conține lucrul de care ai nevoie, dar omul trebuie să îl ia din coș sau de pe raft, pentru că asta e încă prea dificil. Dar, în același timp, ai crea un robot atât de precis încât să poată lua aproape orice obiect dintr-o varietate de obiecte pe care le poți cumpăra, care ar elimina imediat 3 sau chiar 4 milioane de locuri de muncă?
There's an interesting story that E.M. Forster wrote, where everyone is entirely machine dependent. The story is really about the fact that if you hand over the management of your civilization to machines, you then lose the incentive to understand it yourself or to teach the next generation how to understand it. You can see “WALL-E” actually as a modern version, where everyone is enfeebled and infantilized by the machine, and that hasn’t been possible up to now.
E o poveste interesantă scrisă de E.M. Forster, în care toată lumea e dependentă de mașini. Povestea e de fapt despre faptul că dacă lași conducerea civilizației pe mâna mașinilor, pierzi impulsul de a o înțelege tu însuți, sau de a educa următoarea generație să o înțeleagă. Poți vedea filmul „WALL-E” ca pe o versiune modernă, în care toată lumea e slăbită și infantilizară de mașini, iar asta nu a fost posibil până acum.
We put a lot of our civilization into books, but the books can’t run it for us. And so we always have to teach the next generation. If you work it out, it’s about a trillion person years of teaching and learning and an unbroken chain that goes back tens of thousands of generations. What happens if that chain breaks?
Am pus mult din civilizația noastră în cărți, dar ele nu ne pot înlocui. Așa că trebuie mereu să educăm generația următoare. Dacă faci un calcul, sunt aproape un trilion de ani de predare și învățare într-un lanț neîntrerupt care dăinuie de zeci de mii de generații. Ce se întâmplă dacă acel lanț se rupe?
I think that’s something we have to understand as AI moves forward. The actual date of arrival of general purpose AI— you’re not going to be able to pinpoint, it isn’t a single day. It’s also not the case that it’s all or nothing. The impact is going to be increasing. So with every advance in AI, it significantly expands the range of tasks.
Cred că asta e ceva ce trebuie să înțelegem pe măsură ce IA avansează. Data exactă a apariției IA de uz general nu se poate știi cu precizie, deoarece nu e o singură zi. Nu e nici cazul unui scenariu de totul sau nimic. Impactul va fi din ce în ce mai mare. Pe măsură ce IA avansează, își extinde semnificativ gama de sarcini. Deci în sensul acesta,
So in that sense, I think most experts say by the end of the century, we’re very, very likely to have general purpose AI. The median is something around 2045. I'm a little more on the conservative side. I think the problem is harder than we think.
cred că majoritatea experților spun că până la finalul secolului e foarte probabil să avem IA de uz general. Media ar fi undeva prin anul 2045. Eu sunt ceva mai conservator. Cred că problema e mai dificilă decât credem.
I like what John McAfee, he was one of the founders of AI, when he was asked this question, he said, somewhere between five and 500 years. And we're going to need, I think, several Einsteins to make it happen.
Îmi place ce a spus John McAfee, unul din fondatorii IA, când a fost întrebat același lucru, a spus că între cinci și cinci sute de ani. Și cred că vom avea nevoie de câțiva Einsteini ca să se întâmple asta.