Bryn Freedman: So you said that in the 20th century, global power was in the hands of government. At the beginning of this digital century, it really moved to corporations and that in the future, it would move to individuals. And I've interviewed a lot of people, and they say you're wrong, and they are betting on the companies. So why are you right, and why are individuals going to win out?
Bryn Freedman : Vous avez dit qu'au XXe siècle, le pouvoir mondial appartenait aux gouvernements. Qu'au début de ce siècle numérique, il avait glissé vers les entreprises et que dans un futur proche, il serait entre les mains des individus. J'ai interviewé beaucoup de personnes qui disent que vous vous trompez et qui misent plutôt sur les entreprises. Pourquoi pensez-vous avoir raison et pourquoi les individus vont-ils se l'approprier ?
Fadi Chehadé: Because companies cater to individuals, and we as the citizenry need to start understanding that we have a big role in shaping how the world will be governed, moving forward. Yes, indeed, the tug of war right now is between governments, who lost much of their power to companies because the internet is not built around the nation-state system around which governments have power. The internet is transnational. It's not international, and it's not national, and therefore the companies became very powerful. They shape our economy. They shape our society. Governments don't know what to do. Right now, they're reacting. And I fear that if we do not, as the citizenry -- which are, in my opinion, the most important leg of that stool -- don't take our role, then you are right. The detractors, or the people telling you that businesses will prevail, are right. It will happen.
Fade Chehadé : Les entreprises satisfont les besoins des individus, et nous, en tant que citoyens, nous devons comprendre que nous avons un rôle essentiel dans la manière dont la gouvernance du monde sera façonnée dans le futur. C'est vrai, actuellement les frictions ont lieu entre des gouvernements qui ont perdu beaucoup de leur pouvoir au profit des entreprises car Internet n'est pas fondé sur le système de l'État-nation sur lequel les États légitimisent leur pouvoir. L'Internet est une entité transnationale. L'Internet n'est ni international, ni national, ce qui a rendu les entreprises très puissantes. Elles façonnent notre économie. Elles façonnent notre société. Les autorités ne savent pas quoi faire. Maintenant, elles sont réactives. Je crains que si nous, citoyens, qui sommes l'élément le plus important, si nous n'assumons pas notre rôle, vous avez raison. Mes détracteurs, les partisans des entreprises, ont raison. Cela va se produire.
BF: So are you saying that individuals will force businesses or business will be forced to be responsive, or is there a fear that they won't be?
BF : Vous dites que les individus vont obliger les entreprises ou que les entreprises vont être obligées de réagir ou craignez-vous que ce ne soit pas le cas ?
FC: I think they will be. Look at two weeks ago, a small company called Skip winning over Uber and Lyft and everyone to actually get the license for the San Francisco scooter business. And if you read why did Skip win, because Skip listened to the people of San Francisco, who were tired of scooters being thrown everywhere, and actually went to the city and said, "We will deploy the service, but we will respond to the people's requirements that we organize ourselves around a set of rules." They self-governed their behavior, and they won the contract over some very powerful companies.
FC : Je pense que si. Rappelez-vous, il y a deux semaines, une petite entreprise nommée Skip a gagné contre Uber, Lyft et les autres. Elle a obtenu la licence pour le marché des trottinettes à San Francisco. Si vous voulez savoir pourquoi Skip a gagné, c'est parce qu'elle a écouté les habitants de San Francisco, qui en avaient marre des trottinettes abandonnées partout, et que l'entreprise est allée à la mairie et leur a dit : « Nous allons déployer le service, mais nous répondrons aux exigences des citoyens et nous allons nous organiser autour d'un ensemble de règles. » Ils ont autogéré leur conduite et ont obtenu le contrat face à des entreprises très puissantes.
BF: So speaking of guidelines and self-governance, you've spent an entire lifetime creating guidelines and norms for the internet. Do you think those days are over? Who is going to guide, who is going to control, and who is going to create those norms?
BF : En parlant de règles et d'autogestion, vous avez passé une vie entière à créer des règles et des normes pour Internet. Cette époque est-elle révolue ? Qui va orienter, contrôler et créer ces normes ?
FC: The rules that govern the technology layers of the internet are now well put in place, and I was very busy for a few years setting those rules around the part of the internet that makes the internet one network. The domain-name system, the IP numbers, all of that is in place. However, as we get now into the upper layers of the internet, the issues that affect me and you every day -- privacy, security, etc. -- the system to create norms for those unfortunately is not in place. So we do have an issue. We have a system of cooperation and governance that really needs to be created right now so that companies, governments and the citizenry can agree how this new digital world is going to advance.
FC : Les règles qui régissent les couches technologiques d'Internet sont maintenant bien en place. J'ai mis quelques années à établir ces règles pour encadrer ce qui fait d'Internet un réseau. Le système de noms de domaine, les adresses IP, tout cela est en place. Mais nous entrons à présent dans les couches supérieures d'Internet, les problèmes qui nous affectent vous et moi tous les jours, comme le respect de la vie privée ou la sécurité. Le système de règles pour gérer ça n'existe malheureusement pas. Nous avons donc un problème. Nous avons un système de coopération et de gouvernance qui doit être créé maintenant pour que les entreprises, les gouvernements et les citoyens s'accordent sur l'évolution du monde numérique.
BF: So what gives a digital company any incentive? Let's say -- Facebook comes to mind -- they would say they have their users' best interests at heart, but I think a lot of people would disagree with that.
BF : Qu'est-ce qui motive une entreprise ? Par exemple, une entreprise comme Facebook prétend prendre les intérêts de ses utilisateurs au sérieux, mais je pense que beaucoup ne sont pas d'accord.
FC: It's been very difficult to watch how tech companies have reacted to the citizenry's response to their technologies. And some of them, two or three years ago, basically dismissed it. The word that I heard in many board rooms is, "We're just a technology platform. It's not my issue if my technology platform causes families to go kill their girls in Pakistan. It's not my issue. It's their problem. I just have a technology platform." Now, I think we are now entering a stage where companies are starting to realize this is no longer sustainable, and they're starting to see the pushback that's coming from people, users, citizens, but also governments that are starting to say, "This cannot be."
FC : C'est compliqué de vérifier comment ces entreprises réagissent à la position des citoyens envers leurs technologies. Certaines, il y a deux ou trois ans, s'en fichaient complètement. Dans les conseils d'administration, j'entends souvent : « On n'est qu'une plateforme technologique, ce n'est pas notre problème si elle pousse des familles à tuer leurs filles au Pakistan. Ce n'est pas mon problème, c'est le leur. C'est juste une plateforme. » Je pense que nous entrons dans une ère où les entreprises réalisent qu'il n'est plus possible de continuer ainsi et elles commencent à voir les réactions négatives des gens, des utilisateurs, des citoyens et aussi des gouvernements, qui commencent à dire : « Ça doit cesser ! »
So I think there is a maturity that is starting to set, especially in that Silicon Valley area, where people are beginning to say, "We have a role." So when I speak to these leaders, I say, "Look, you could be the CEO, a very successful CEO of a company, but you could also be a steward." And that's the key word. "You could be a steward of the power you have to shape the lives and the economies of billions of people. Which one do you want to be?" And the answer is, it's not one or the other. This is what we are missing right now. So when an adult like Brad Smith, the president of Microsoft, said a few months ago, "We need a new set of Geneva Conventions to manage the security of the digital space," many of the senior leaders in Silicon Valley actually spoke against his words. "What do you mean, Geneva Convention? We don't need any Geneva Conventions. We self-regulate." But that mood is changing, and I'm starting to see many leaders say, "Help us out." But here lies the conundrum. Who is going to help those leaders do the right thing?
Une forme de maturité commence à s'installer, notamment dans la Silicon Valley, où les gens commencent à se dire : « Nous avons un rôle à jouer. » Quand je parle à ces dirigeants, je leur dis : « Vous pouvez être le PDG d'une entreprise florissante, mais vous pouvez aussi être responsable. » C'est ça le mot essentiel. « Vous pouvez être responsable du pouvoir qu'on vous a confié pour orienter la vie et l'économie de milliards de personnes. Que souhaitez-vous être ? » Et la réponse n'est pas l'un ou l'autre. C'est notre problème actuellement. Lorsqu'un adulte comme Brad Smith, le président de Microsoft, déclarait il y a quelques mois : « Il nous faut de nouvelles conventions de Genève pour gérer la sécurité de l'espace numérique », de nombreux dirigeants de Silicon Valley se sont élevés contre lui. « Des conventions de Genève ? Nous n'en avons pas besoin. Nous nous auto-régulons. » Mais cet état d'esprit change, et je constate que de plus en plus de dirigeants nous demandent de l'aide. Le nœud du problème est celui-ci : qui va aider ces dirigeants à faire le bon choix ?
BF: So who is going to help them? Because I'd love to interview you for an hour, but give me your biggest fear and your best hope for how this is going to work out.
BF : Donc, qui va les aider ? J'aimerais vous interviewer durant une heure, mais quelles sont vos peurs et vos espoirs concernant ce problème ?
FC: My biggest hope is that we will become each stewards of this new digital world. That's my biggest hope, because I do think, often, we want to put the blame on others. "Oh, it's these CEOs. They're behaving this way." "These governments are not doing enough." But how about us? How is each of us actually taking the responsibility to be a steward of the digital space we live in? And one of the things I've been pushing on university presidents is we need every engineering and science and computer science student who is about to write the next line of code or design the next IoT device to actually have in them a sense of responsibility and stewardship towards what they're building. So I suggested we create a new oath, like the Hippocratic Oath, so that every student entering an engineering program takes a technocratic oath or a wisdom oath or some oath of commitment to the rest of us. That's my best hope, that we all rise. Because governments and businesses will fight over this power game, but where are we? And unless we play into that power table, I think we'll end up in a bad place.
FC : Mon plus grand espoir est que nous devenions tous responsables de ce nouveau monde numérique. C'est mon plus grand espoir car je pense que souvent, nous rejetons la faute sur les autres. « C'est la faute des PDG. Ils se comportent ainsi. » « Les gouvernements ne font pas assez. » Mais qu'en est-il de nous ? Comment prenons-nous nos responsabilités dans l'espace numérique qui nous entoure ? L'une des choses que je répète aux présidents d'université est qu'il faut que les étudiants en ingénierie, science et informatique, ceux qui écriront les prochaines lignes de code ou concevront les futurs appareils de l'IdO, développent un sens des responsabilités et de la gestion dans ce qu'ils créent. J'ai suggéré la création d'un nouveau serment, semblable au serment d'Hippocrate, liant chaque étudiant commençant un parcours d'ingénieur à un serment technocratique, un serment de sagesse, ou un serment d'engagement envers le reste de la communauté. C'est mon plus grand espoir, que nous grandissions tous. Les gouvernements et les entreprises lutteront pour ce jeu de pouvoir, mais nous ? Si nous ne jouons pas à cette table du pouvoir, je pense que cela se terminera mal.
My biggest fear? My biggest fear, to be very tactical today, what is keeping me up at night is the current war between the West, the liberal world, and China, in the area of artificial intelligence. There is a real war going on, and for those of us who have lived through the nuclear nonproliferation age and saw how people agreed to take some very dangerous things off the table, well, the Carnegie Endowment just finished a study. They talked to every country that made nuclear weapons and asked them, "Which digital 'weapon' would you take off the table against somebody else's schools or hospitals?" And the answer -- from every nuclear power -- to this question was, nothing. That's what I'm worried about ... The weaponization of the digital space, and the race to get there.
Ma plus grande peur ? Ma plus grande peur, en pratique aujourd'hui, ce qui m'empêche de dormir, c'est la guerre entre l'Occident, le monde libéral, et la Chine, dans le domaine de l'intelligence artificielle. Une vraie guerre se déroule actuellement et pour ceux qui ont vécu à l'époque de la non-prolifération nucléaire et ont vu comment les gens se sont mis d'accord pour retirer certains éléments dangereux de la table, eh bien, la Fondation Carnegie vient de terminer une étude. Ils ont échangé avec tous les pays ayant des armes nucléaires et leur ont demandé : « Quelle arme numérique qui vise les écoles et hôpitaux d'autres pays retireriez-vous ? » La réponse, de toutes les puissances nucléaires, a été : « Aucune. » C'est cela qui m'inquiète... La militarisation de l'espace numérique et la course pour y parvenir.
BF: Well, it sounds like you've got a lot of work to do, and so do the rest of us. Fadi, thank you so much. I really appreciate it.
BF : Il semble que vous ayez beaucoup de travail. Et nous aussi. Fadi, merci beaucoup. Merci pour cette intervention.
FC: Thank you.
FC : Merci à vous.
(Applause)
(Applaudissements)