Bryn Freedman: So you said that in the 20th century, global power was in the hands of government. At the beginning of this digital century, it really moved to corporations and that in the future, it would move to individuals. And I've interviewed a lot of people, and they say you're wrong, and they are betting on the companies. So why are you right, and why are individuals going to win out?
Bryn Freedman: Je zei dat in de 20e eeuw de wereldmacht in handen van de overheid lag. Aan het begin van deze digitale eeuw is die overgegaan naar ondernemingen en in de toekomst zou die in mensenhanden komen. Ik heb veel mensen geïnterviewd en die ontkennen wat je zegt. Zij denken dat bedrijven gaan winnen. Waarom heb jij gelijk en denk je dat mensen zullen winnen?
Fadi Chehadé: Because companies cater to individuals, and we as the citizenry need to start understanding that we have a big role in shaping how the world will be governed, moving forward. Yes, indeed, the tug of war right now is between governments, who lost much of their power to companies because the internet is not built around the nation-state system around which governments have power. The internet is transnational. It's not international, and it's not national, and therefore the companies became very powerful. They shape our economy. They shape our society. Governments don't know what to do. Right now, they're reacting. And I fear that if we do not, as the citizenry -- which are, in my opinion, the most important leg of that stool -- don't take our role, then you are right. The detractors, or the people telling you that businesses will prevail, are right. It will happen.
Fadi Chehadé: Omdat bedrijven gericht zijn op mensen en wij als burgers moeten begrijpen hoe groot onze rol is in het vormgeven van de wereld met oog op de toekomst. Inderdaad, de strijd vindt nu plaats tussen overheden, die een groot deel van hun macht aan bedrijven zijn kwijtgeraakt omdat internet niet is gebouwd op een systeem van natiestaten waarbij overheden de macht hebben. Internet is transnationaal. Het is niet internationaal en ook niet nationaal en daardoor zijn de bedrijven zeer machtig geworden. Ze vormen onze economie. Ze vormen onze samenleving. Overheden kunnen het niet oplossen. Ze kunnen nu alleen toekijken. Ik ben bang dat als wij burgers -- en burgers zijn hier de belangrijkste steunpilaar -- het niet naar ons toetrekken, dat je dan gelijk krijgt - dan krijgen degenen die zeggen dat ondernemingen zullen winnen gelijk. Dan gebeurt dat.
BF: So are you saying that individuals will force businesses or business will be forced to be responsive, or is there a fear that they won't be?
BF: Geloof je dat mensen bedrijven zullen dwingen of dat ze gedwongen worden zich meer open te stellen, of is men bang dat ze dat zullen weigeren?
FC: I think they will be. Look at two weeks ago, a small company called Skip winning over Uber and Lyft and everyone to actually get the license for the San Francisco scooter business. And if you read why did Skip win, because Skip listened to the people of San Francisco, who were tired of scooters being thrown everywhere, and actually went to the city and said, "We will deploy the service, but we will respond to the people's requirements that we organize ourselves around a set of rules." They self-governed their behavior, and they won the contract over some very powerful companies.
FC: Ik vermoed van wel. Twee weken geleden bijvoorbeeld, kreeg een klein bedrijf, Skip, in plaats van Uber en Lyft en anderen, de vergunning voor een scooterbedrijf in San Francisco. En als je leest waarom ze wonnen, dan blijkt dat Skip naar de mensen heeft geluisterd, die klaagden over scooters die overal werden neergegooid. Ze stapten naar de gemeente en zeiden: "Wij zullen deze dienst aanbieden, maar betrekken daar ook de wensen uit de omgeving bij en vertalen die in een aantal regels." Door zelf hun gedrag te reguleren, kregen zij het contract ten kostte van zeer machtige bedrijven.
BF: So speaking of guidelines and self-governance, you've spent an entire lifetime creating guidelines and norms for the internet. Do you think those days are over? Who is going to guide, who is going to control, and who is going to create those norms?
BF: Over richtlijnen en zelfregulatie gesproken, jouw leven staat in het teken van het creëren van richtlijnen en regels voor internet. Zijn die tijden voorbij? Wie wijst ons de weg, wie krijgt het voor het zeggen en wie bepaalt straks de regels?
FC: The rules that govern the technology layers of the internet are now well put in place, and I was very busy for a few years setting those rules around the part of the internet that makes the internet one network. The domain-name system, the IP numbers, all of that is in place. However, as we get now into the upper layers of the internet, the issues that affect me and you every day -- privacy, security, etc. -- the system to create norms for those unfortunately is not in place. So we do have an issue. We have a system of cooperation and governance that really needs to be created right now so that companies, governments and the citizenry can agree how this new digital world is going to advance.
FC: De technische regels die internet besturen, zijn inmiddels doorgevoerd, en ik ben jarenlang bezig geweest om de regels op te stellen voor dat deel van internet wat het tot één groot netwerk maakt. Het domeinnamensysteem, de IP-nummers, alles is geregeld. Maar nu we de bovenste lagen van internet bereiken, blijkt dat voor belangrijke dingen in ons dagelijks leven -- zoals privacy, veiligheid, etc. -- het systeem om dat te reguleren nog niet aanwezig is. Dit is een probleem. Een methode voor samenwerking en regulatie moet zo snel mogelijk ingevoerd worden, zodat bedrijven, overheden en burgers samen kunnen bepalen hoe de nieuwe digitale wereld zich verder ontwikkelt.
BF: So what gives a digital company any incentive? Let's say -- Facebook comes to mind -- they would say they have their users' best interests at heart, but I think a lot of people would disagree with that.
BF: Wat kan een stimulans zijn voor een digitale onderneming? Als we kijken naar Facebook, zij zeggen dat hun gebruikers op de eerste plaats komen, maar veel mensen zijn het daar niet mee eens.
FC: It's been very difficult to watch how tech companies have reacted to the citizenry's response to their technologies. And some of them, two or three years ago, basically dismissed it. The word that I heard in many board rooms is, "We're just a technology platform. It's not my issue if my technology platform causes families to go kill their girls in Pakistan. It's not my issue. It's their problem. I just have a technology platform." Now, I think we are now entering a stage where companies are starting to realize this is no longer sustainable, and they're starting to see the pushback that's coming from people, users, citizens, but also governments that are starting to say, "This cannot be."
FC: Het is moeilijk om te zien hoe techbedrijven omgaan met de reacties van burgers op hun technologie. Een aantal jaren geleden werd dit door velen totaal genegeerd. In directiekamers hoorde je vaak: "Wij zijn maar een technologieplatform. Het is niet mijn probleem als door mijn technologieplatform families hun dochters vermoorden in Pakistan. Dat is niet mijn probleem, maar hun probleem. Dit is maar een technologieplatform." Het moment is aangebroken dat bedrijven zich gaan realiseren dat dit niet langer houdbaar is, en ze zien steeds vaker verzet van mensen, gebruikers, burgers, maar ook overheden die roepen: "Dit kan zo niet."
So I think there is a maturity that is starting to set, especially in that Silicon Valley area, where people are beginning to say, "We have a role." So when I speak to these leaders, I say, "Look, you could be the CEO, a very successful CEO of a company, but you could also be a steward." And that's the key word. "You could be a steward of the power you have to shape the lives and the economies of billions of people. Which one do you want to be?" And the answer is, it's not one or the other. This is what we are missing right now. So when an adult like Brad Smith, the president of Microsoft, said a few months ago, "We need a new set of Geneva Conventions to manage the security of the digital space," many of the senior leaders in Silicon Valley actually spoke against his words. "What do you mean, Geneva Convention? We don't need any Geneva Conventions. We self-regulate." But that mood is changing, and I'm starting to see many leaders say, "Help us out." But here lies the conundrum. Who is going to help those leaders do the right thing?
Je ziet dat ze steeds meer verantwoording nemen, vooral in Silicon Valley, waar mensen roepen: "Wij spelen hier ook een rol in." Als ik met deze leiders spreek en zeg: "U kan directeur zijn van een succesvol bedrijf, of u wordt beheerder." En dat is het sleutelwoord. "Je kan de macht die je hebt beheren en zo de levens en de economieën van miljarden mensen vormgeven. Waar kiest u voor?" Het antwoord is dat het niet het een of het ander is. Dat inzicht ontbreekt nog. Dus toen oudgediende Brad Smith, de baas van Microsoft, een paar maanden terug zei: "Er zijn nieuwe Geneefse Conventies nodig om te zorgen voor veiligheid in de digitale ruimte", spraken veel vooraanstaande leiders uit Silicon Valley dit tegen. "Hoezo Geneefse Conventies? Die zijn helemaal niet nodig. Wij reguleren onszelf." Maar die houding is aan het veranderen en leiders hoor je steeds vaker zeggen: "Help ons." Maar dat is precies het dilemma. Wie gaat deze leiders helpen de juiste keus te maken?
BF: So who is going to help them? Because I'd love to interview you for an hour, but give me your biggest fear and your best hope for how this is going to work out.
BF: Wie o wie gaat hen daarbij helpen? Ik zou wel een uur met je willen praten, maar onze tijd zit er bijna op, dus: wat is je grootste angst en waar hoop je het meest op als uitkomst in deze kwestie?
FC: My biggest hope is that we will become each stewards of this new digital world. That's my biggest hope, because I do think, often, we want to put the blame on others. "Oh, it's these CEOs. They're behaving this way." "These governments are not doing enough." But how about us? How is each of us actually taking the responsibility to be a steward of the digital space we live in? And one of the things I've been pushing on university presidents is we need every engineering and science and computer science student who is about to write the next line of code or design the next IoT device to actually have in them a sense of responsibility and stewardship towards what they're building. So I suggested we create a new oath, like the Hippocratic Oath, so that every student entering an engineering program takes a technocratic oath or a wisdom oath or some oath of commitment to the rest of us. That's my best hope, that we all rise. Because governments and businesses will fight over this power game, but where are we? And unless we play into that power table, I think we'll end up in a bad place.
FC: Waar ik het meeste op hoop is dat wij allemaal beheerders worden van de digitale wereld. Dat zie ik het liefst gebeuren, want we geven te vaak anderen de schuld. "Die directeuren hebben dat veroorzaakt." "De overheid doet te weinig." Maar wat doen wij zelf? Nemen wij wel genoeg verantwoordelijkheid over de digitale ruimte waarin we leven? Waar ik vaak op aandring bij voorzitters van universiteiten, is dat iedere student techniek, bètawetenschappen of informatica die een regel code willen schrijven of het nieuwste IoT-apparaat willen maken, is dat ze zich verantwoordelijk voelen voor wat ze produceren. Mijn voorstel was een nieuwe eed op te stellen, zoals de Hippocratische eed, zodat iedere student die aan een ingenieursopleiding begint een technocratische eed of een eed van wijsheid aflegt, om zich in te zetten voor het algemeen belang. Dat zou ik graag zien: dat we de uitdaging aangaan. Want regeringen en bedrijven blijven in een machtsstrijd verwikkeld, maar waar blijven wij dan? Als wij ons niet mengen in de strijd, vrees ik dat het verkeerd afloopt.
My biggest fear? My biggest fear, to be very tactical today, what is keeping me up at night is the current war between the West, the liberal world, and China, in the area of artificial intelligence. There is a real war going on, and for those of us who have lived through the nuclear nonproliferation age and saw how people agreed to take some very dangerous things off the table, well, the Carnegie Endowment just finished a study. They talked to every country that made nuclear weapons and asked them, "Which digital 'weapon' would you take off the table against somebody else's schools or hospitals?" And the answer -- from every nuclear power -- to this question was, nothing. That's what I'm worried about ... The weaponization of the digital space, and the race to get there.
Mijn grootste angst? Mijn grootste angst, en dan blijf ik tactisch, waar ik van wakker lig, is de huidige oorlog tussen het Westen, de liberale wereld, en China op het gebied van kunstmatige intelligentie. Daar speelt zich een ware oorlog af en voor de mensen die de nucleaire non-proliferatie periode hebben meegemaakt en hebben gezien hoe men akkoord ging een aantal gevaarlijke zaken buiten het verdrag te houden, daar heeft de Carnegie Endowment net onderzoek naar gedaan. Daarvoor spraken ze met alle nucleaire naties en stelden de vraag: "Welk digitaal 'wapen' bent u bereid op te offeren voor de scholen en ziekenhuizen van iemand anders?" Elke nucleaire machthebber antwoordde: "Niets." Daar maak ik me zorgen over. De bewapening van de digitale ruimte en de strijd om de eerste te zijn.
BF: Well, it sounds like you've got a lot of work to do, and so do the rest of us. Fadi, thank you so much. I really appreciate it.
BF: Kortom, je moet nog veel werk verrichten en wij ook. Fadi, bedankt. Ik waardeer het enorm.
FC: Thank you.
FC: Graag gedaan.
(Applause)
(Applaus)