The two most likely largest inventions of our generation are the Internet and the mobile phone. They've changed the world. However, largely to our surprise, they also turned out to be the perfect tools for the surveillance state. It turned out that the capability to collect data, information and connections about basically any of us and all of us is exactly what we've been hearing throughout of the summer through revelations and leaks about Western intelligence agencies, mostly U.S. intelligence agencies, watching over the rest of the world.
我々の世代における 最大の発明といえば インターネットと 携帯電話でしょう それは世界を変えました しかし多くの人が 予期しなかったのは それが監視国家にとって— 絶好の道具になる ということです あらゆる人の— データ 情報 人間関係を 収集する その力が 明らかにされたのです この夏の間中 ニュースを賑わせ続けた 一連の暴露を通して アメリカを主とする 西欧諜報機関による 他国の監視活動の 詳細が分かりました
We've heard about these starting with the revelations from June 6. Edward Snowden started leaking information, top secret classified information, from the U.S. intelligence agencies, and we started learning about things like PRISM and XKeyscore and others. And these are examples of the kinds of programs U.S. intelligence agencies are running right now, against the whole rest of the world.
それが表沙汰になったのは 6月6日 エドワード・スノーデンが 米国諜報機関の 最高機密情報をリークし始めた ことによってです 最高機密情報をリークし始めた ことによってです そして私たちは PRISM や XKeyscore といったものについて 知ることになりました これらは米国の諜報機関が 現在世界のあらゆる国に対して 運用している プログラムの例です
And if you look back about the forecasts on surveillance by George Orwell, well it turns out that George Orwell was an optimist. (Laughter) We are right now seeing a much larger scale of tracking of individual citizens than he could have ever imagined.
監視社会についての ジョージ・オーウェルの予言を 振り返ってみて分かるのは 彼が楽観主義者だったことです (笑) 私たちが今 目にしているのは 個々の市民の追跡が 彼の想像より 遙かに大きな規模で 行われている様です
And this here is the infamous NSA data center in Utah. Due to be opened very soon, it will be both a supercomputing center and a data storage center. You could basically imagine it has a large hall filled with hard drives storing data they are collecting. And it's a pretty big building. How big? Well, I can give you the numbers -- 140,000 square meters -- but that doesn't really tell you very much. Maybe it's better to imagine it as a comparison. You think about the largest IKEA store you've ever been in. This is five times larger. How many hard drives can you fit in an IKEA store? Right? It's pretty big. We estimate that just the electricity bill for running this data center is going to be in the tens of millions of dollars a year. And this kind of wholesale surveillance means that they can collect our data and keep it basically forever, keep it for extended periods of time, keep it for years, keep it for decades. And this opens up completely new kinds of risks to us all. And what this is is that it is wholesale blanket surveillance on everyone.
これはユタ州にある 悪名高き NSA の データセンターです 間もなく操業し始める予定で スーパーコンピューターセンターと データセンターを兼ねています 彼らの収集した情報を納めた ハードディスクでいっぱいの 巨大な部屋を 想像するといいでしょう 非常に大きな建物です どれくらい大きいかというと 14万平米なんですが あまりピンと こないかもしれません 比較で考えた方がいいでしょう 一番大きな IKEA の店舗を 考えてください この建物は その5倍の大きさがあります IKEA の建物に ハードディスクが 一体いくつ入るか? すごく大きいんです このデータセンターを 運用するには 電気代だけでも 年間数千万ドルかかると 見込まれています このような大規模監視が 意味するのは 彼らは集めた 私たちのデータを いつまでも 保存できるということです 何年 何十年と 保持し続けるのです これは私たちみんなに 全く新しい種類の リスクをもたらします すなわち 全個人の 包括的大規模監視です
Well, not exactly everyone, because the U.S. intelligence only has a legal right to monitor foreigners. They can monitor foreigners when foreigners' data connections end up in the United States or pass through the United States. And monitoring foreigners doesn't sound too bad until you realize that I'm a foreigner and you're a foreigner. In fact, 96 percent of the planet are foreigners.
正確には 全個人ではありません 米国の諜報機関は 外国人を監視する権限しか 法的にありません 彼らは外国人による 米国を端点とする あるいは米国を通る データ通信を 監視できます 外国人の監視なら そんなに悪くないのではと 思うかもしれませんが 考えて欲しいのは 私は外国人だし 皆さんも外国人だということです 実際 人類の96%が この「外国人」に該当するのです
(Laughter)
(笑)
Right?
でしょ?
So it is wholesale blanket surveillance of all of us, all of us who use telecommunications and the Internet.
だからこれは 私たち 電気通信やインターネットを使う すべての人間に対する 包括的監視なのです
But don't get me wrong: There are actually types of surveillance that are okay. I love freedom, but even I agree that some surveillance is fine. If the law enforcement is trying to find a murderer, or they're trying to catch a drug lord or trying to prevent a school shooting, and they have leads and they have suspects, then it's perfectly fine for them to tap the suspect's phone, and to intercept his Internet communications. I'm not arguing that at all, but that's not what programs like PRISM are about. They are not about doing surveillance on people that they have reason to suspect of some wrongdoings. They're about doing surveillance on people they know are innocent.
どうか誤解しないでください 監視が悪くない 場合もあります 私は自由が好きですが その私でも ある種の監視は 構わないと思っています 警察が殺人犯を 探しているとか 麻薬組織のボスを 捕まえようとしているとか 学校での乱射事件を防ごうとしていて 手がかりや容疑者を つかんでいるというなら 容疑者の電話を盗聴したり インターネット通信を傍受するのも しごく妥当なことでしょう そのようなケースは 問題にしていません しかし PRISM などのプログラムは そのようなものではありません 犯罪の疑いのある人を 監視しているのではないのです 潔白であることが 分かっている人を 監視するのです
So the four main arguments supporting surveillance like this, well, the first of all is that whenever you start discussing about these revelations, there will be naysayers trying to minimize the importance of these revelations, saying that we knew all this already, we knew it was happening, there's nothing new here. And that's not true. Don't let anybody tell you that we knew this already, because we did not know this already. Our worst fears might have been something like this, but we didn't know this was happening. Now we know for a fact it's happening. We didn't know about this. We didn't know about PRISM. We didn't know about XKeyscore. We didn't know about Cybertrans. We didn't know about DoubleArrow. We did not know about Skywriter -- all these different programs run by U.S. intelligence agencies. But now we do.
このような監視を 支持する意見が 主に4種類あります 第一に このようなことが 発覚したとき その重要性を 過小評価しようとする 冷めた人たちがいます そういうことが 行われているのは 分かっていたし 何も新しいことはないと言うのです 正しくありません これを知っていたなどと 言わせないことです 知らなかったのですから 恐れていた最悪の事態は このようなものだったかもしれませんが 実際に行われているのは 知りませんでした 今や事実として 知ることになりました 以前は知らなかったことです 私たちは PRISM も XKeyscore も Cybertrans も DoubleArrow も Skywriter も 知りませんでした いずれも米国の 諜報機関によって 運用されている プログラムです でも今や 知ることとなりました
And we did not know that U.S. intelligence agencies go to extremes such as infiltrating standardization bodies to sabotage encryption algorithms on purpose. And what that means is that you take something which is secure, an encryption algorithm which is so secure that if you use that algorithm to encrypt one file, nobody can decrypt that file. Even if they take every single computer on the planet just to decrypt that one file, it's going to take millions of years. So that's basically perfectly safe, uncrackable. You take something which is that good and then you weaken it on purpose, making all of us less secure as an end result. A real-world equivalent would be that intelligence agencies would force some secret pin code into every single house alarm so they could get into every single house because, you know, bad people might have house alarms, but it will also make all of us less secure as an end result. Backdooring encryption algorithms just boggles the mind. But of course, these intelligence agencies are doing their job. This is what they have been told to do: do signals intelligence, monitor telecommunications, monitor Internet traffic. That's what they're trying to do, and since most, a very big part of the Internet traffic today is encrypted, they're trying to find ways around the encryption. One way is to sabotage encryption algorithms, which is a great example about how U.S. intelligence agencies are running loose. They are completely out of control, and they should be brought back under control.
米国の諜報機関が 標準化組織に潜り込んで 意図的に暗号技術を 弱体化させようとまでするとは 誰も思いませんでした どういうことかというと 安全性の非常に高い 暗号方式— それで暗号化された ファイルは 誰にも解読できず 地球上すべてのコンピューターを使っても 1つのファイルの解読に 何百万年もかかるという 全く安全で 事実上解読不能なもの それほど優れたものを 意図的に弱くし 結果的に私たちみんなの 安全を損ねていたのです これを実世界でたとえるなら 諜報機関が好きな時に 入れるようにと 各家庭の警報システムに 暗証番号を 付けさせるようなものです 悪人がアジトに警報を付けても 大丈夫なように でも それは同時に 一般の家庭の 安全を損なう ことになります 暗号アルゴリズムに バックドアを付けるなどとは 驚くほかありませんが 彼らは自分の職務を 果たしているにすぎません 命じられた通りに 無線諜報や 通信傍受 インターネット通信の監視を 行っているのです それが彼らの していることで 今日のインターネット通信の多くは 暗号化されているので 暗号の回避方法を 探っているのです その1つが 暗号方式に対する妨害で これは米国の諜報機関が いかにやりたい放題かを示す よい例です まったく制御を失っているので 手綱を付ける必要があります
So what do we actually know about the leaks? Everything is based on the files leaked by Mr. Snowden. The very first PRISM slides from the beginning of June detail a collection program where the data is collected from service providers, and they actually go and name the service providers they have access to. They even have a specific date on when the collection of data began for each of the service providers. So for example, they name the collection from Microsoft started on September 11, 2007, for Yahoo on the March 12, 2008, and then others: Google, Facebook, Skype, Apple and so on.
では件のリークについて 私たちは実際 何を知っているでしょう? すべてはスノーデン氏が 暴露した ファイルに基づいています 6月初めの PRISM に関する 最初のスライドには インターネットサービス業者からの データ収集活動の 詳細が記され アクセスできる 事業者の名前が 挙げられているだけでなく それぞれの企業について データ収集が 開始された日付まで 明記されていました たとえば Microsoft は 2007年9月11日 Yahoo は2008年3月12日 Google や Facebook や Skype Apple の名前もあります
And every single one of these companies denies. They all say that this simply isn't true, that they are not giving backdoor access to their data. Yet we have these files. So is one of the parties lying, or is there some other alternative explanation? And one explanation would be that these parties, these service providers, are not cooperating. Instead, they've been hacked. That would explain it. They aren't cooperating. They've been hacked. In this case, they've been hacked by their own government. That might sound outlandish, but we already have cases where this has happened, for example, the case of the Flame malware which we strongly believe was authored by the U.S. government, and which, to spread, subverted the security of the Windows Update network, meaning here, the company was hacked by their own government. And there's more evidence supporting this theory as well. Der Spiegel, from Germany, leaked more information about the operations run by the elite hacker units operating inside these intelligence agencies. Inside NSA, the unit is called TAO, Tailored Access Operations, and inside GCHQ, which is the U.K. equivalent, it's called NAC, Network Analysis Centre. And these recent leaks of these three slides detail an operation run by this GCHQ intelligence agency from the United Kingdom targeting a telecom here in Belgium. And what this really means is that an E.U. country's intelligence agency is breaching the security of a telecom of a fellow E.U. country on purpose, and they discuss it in their slides completely casually, business as usual. Here's the primary target, here's the secondary target, here's the teaming. They probably have a team building on Thursday evening in a pub. They even use cheesy PowerPoint clip art like, you know, "Success," when they gain access to services like this. What the hell?
これらの企業は いずれも否定しています データにアクセスできる バックドアの提供など していないと言っています しかし 現に このファイルがあります どちらかが嘘をついているのか あるいは別な説明が あるのでしょうか? 1つの可能性は これらの企業は 協力してはおらず ハッキングされた ということです だとすれば 辻褄が合います 協力したのではなくハッキングされた— それも自らの政府に すごく異様なことに 聞こえますが そのような前例が すでに存在します たとえば Flame マルウェアは 米国政府により作られ 広めるために Windows Update ネットワークの セキュリティを破ったと 考えられています つまり Microsoft は 自国政府により ハッキングされた ということです この説を裏付ける証拠は 他にもあります ドイツのシュピーゲル誌が 諜報機関内の精鋭ハッカー部隊 によって行われている 作戦について 暴露しています NSA には TAO と呼ばれる 部門があり NSAの英国版 GCHQ (英国政府通信本部) にも 同様の NAC があります そして最近暴露された この3枚のスライドには 英国の GCHQ による ここベルギーの電話会社を 標的とした 作戦のことが 詳細に記されています これはすなわち EU 所属国の諜報機関が 同じ EU 仲間の国の 電話会社のセキュリティを 意図的に犯しているということです 彼らは それがあたかも ごく普通のビジネスであるかのように スライドで議論しています 「これが第1の目標 これが第2の目標 これがチーム構成」という具合 たぶん木曜にはパブで チームビルディングでもしていることでしょう 侵入に成功したところで PowerPointの 安っぽいクリップアートで 「成功!」 などと出しさえしています 何を考えているんでしょう?
And then there's the argument that okay, yes, this might be going on, but then again, other countries are doing it as well. All countries spy. And maybe that's true. Many countries spy, not all of them, but let's take an example. Let's take, for example, Sweden. I'm speaking of Sweden because Sweden has a little bit of a similar law to the United States. When your data traffic goes through Sweden, their intelligence agency has a legal right by the law to intercept that traffic. All right, how many Swedish decisionmakers and politicians and business leaders use, every day, U.S.-based services, like, you know, run Windows or OSX, or use Facebook or LinkedIn, or store their data in clouds like iCloud or Skydrive or DropBox, or maybe use online services like Amazon web services or sales support? And the answer is, every single Swedish business leader does that every single day. And then we turn it around. How many American leaders use Swedish webmails and cloud services? And the answer is zero. So this is not balanced. It's not balanced by any means, not even close.
「そういうことも あるかもしれないが でも他の国も 皆やっていることだ」 という主張があります どの国もスパイしていると そうかもしれません すべてとは言わないまでも 多くの国がスパイ行為をしています たとえばスウェーデンを 考えてみましょう スウェーデンを 例に挙げるのは 米国と似た法律を 持っているからです ネットワーク通信が スウェーデンを通る場合 彼らは合法的に その通信を傍受できます それでは 果たして スウェーデンの意志決定者 政治家 企業首脳のどれほどの人が 日々 米国を本拠とするサービスを 使っていることでしょう? Windows や OS X を走らせ Facebook や LinkedIn を使い iCloud や Skydrive や Dropbox などの クラウドにデータを保存し Amazon Web サービスや Salesforce のような オンラインサービスを使っていることでしょう? 答えは スウェーデンのすべての企業首脳が 毎日使っている というものでしょう 逆に 米国のリーダーのどれほどが スウェーデンの Web メールや クラウドサービスを 使っていることでしょう? 答えはゼロでしょう まったく対等ではなく 近くすらありません
And when we do have the occasional European success story, even those, then, typically end up being sold to the United States. Like, Skype used to be secure. It used to be end-to-end encrypted. Then it was sold to the United States. Today, it no longer is secure. So once again, we take something which is secure and then we make it less secure on purpose, making all of us less secure as an outcome.
そして時折 ヨーロッパから 成功するサービスが 出てきても たいていアメリカ企業に 買収されることになります たとえば Skype は かつてはセキュアでした エンドツーエンド暗号化 されていたんです それが米国企業に買収され 今ではもうセキュアでなくなりました 安全なものを取り上げて 意図して安全性を 下げているのです 結果として私たちみんなが 安全性の低い状況に置かれています
And then the argument that the United States is only fighting terrorists. It's the war on terror. You shouldn't worry about it. Well, it's not the war on terror. Yes, part of it is war on terror, and yes, there are terrorists, and they do kill and maim, and we should fight them, but we know through these leaks that they have used the same techniques to listen to phone calls of European leaders, to tap the email of residents of Mexico and Brazil, to read email traffic inside the United Nations Headquarters and E.U. Parliament, and I don't think they are trying to find terrorists from inside the E.U. Parliament, right? It's not the war on terror. Part of it might be, and there are terrorists, but are we really thinking about terrorists as such an existential threat that we are willing to do anything at all to fight them? Are the Americans ready to throw away the Constituion and throw it in the trash just because there are terrorists? And the same thing with the Bill of Rights and all the amendments and the Universal Declaration of Human Rights and the E.U. conventions on human rights and fundamental freedoms and the press freedom? Do we really think terrorism is such an existential threat, we are ready to do anything at all?
米国はテロを防ごうとしているだけだ という主張があります テロとの戦いであって 普通の人は心配するには 及ばないのだと テロとの戦いなんかじゃ ありません ある部分では そうかもしれません テロリストは存在し 人々を殺し 傷つけており 我々は戦う必要があります しかしあのリークによって 私たちは知っています 彼らが同じ手口を使って ヨーロッパ首脳の 電話を盗聴し メキシコやブラジル大統領の メールを読み 国連本部や欧州議会内部の メール通信を読んでいるのです 私は彼らが 欧州議会内で テロリストを探しているとは 思いません テロとの戦いではないのです 一部はそうかもしれないし テロリストは実在しますが しかしテロと戦うためなら 何だってするというほどまでに テロは我々の存在自体を 危うくするものなのでしょうか? アメリカ人は テロがあるからというだけで 憲法をゴミ箱行きに するつもりなんでしょうか? そして「権利章典」も 「修正条項」も 「世界人権宣言」も 「人権と基本的自由の保護のための条約」も 「基本的自由」も「報道の自由」も 捨ててしまうのでしょうか? 何だってするというまでに テロは存在を脅かすもの なのでしょうか?
But people are scared about terrorists, and then they think that maybe that surveillance is okay because they have nothing to hide. Feel free to survey me if that helps. And whoever tells you that they have nothing to hide simply hasn't thought about this long enough.
しかし人々は テロを懸念し 何も隠すことはないし 監視されても 構わないのではと 思っています 役に立つなら どうぞ監視してくださいと 何も隠すことがないという人は 単にそのことを 十分に考えていないだけです
(Applause)
(拍手)
Because we have this thing called privacy, and if you really think that you have nothing to hide, please make sure that's the first thing you tell me, because then I know that I should not trust you with any secrets, because obviously you can't keep a secret. But people are brutally honest with the Internet, and when these leaks started, many people were asking me about this. And I have nothing to hide. I'm not doing anything bad or anything illegal. Yet, I have nothing that I would in particular like to share with an intelligence agency, especially a foreign intelligence agency. And if we indeed need a Big Brother, I would much rather have a domestic Big Brother than a foreign Big Brother. And when the leaks started, the very first thing I tweeted about this was a comment about how, when you've been using search engines, you've been potentially leaking all that to U.S. intelligence. And two minutes later, I got a reply by somebody called Kimberly from the United States challenging me, like, why am I worried about this? What am I sending to worry about this? Am I sending naked pictures or something? And my answer to Kimberly was that what I'm sending is none of your business, and it should be none of your government's business either. Because that's what it's about. It's about privacy. Privacy is nonnegotiable. It should be built in to all the systems we use.
我々にはプライバシー というものがあります もし本当に隠すことがない とお考えなら どうかそのことを 最初におっしゃってください そうしたら秘密を託せる人ではないと 分かりますから そうしたら秘密を託せる人ではないと 分かりますから 何しろ秘密を 守れないんですから それでもみんなインターネットでは ものすごく明け透けです 一連のリークが始まったとき 多くの人に意見を聞かれました 私は何も隠すことはないし 何ら悪いことも 違法なこともしていませんが それでも諜報機関に 何かを特に教えたいとは 思いません 殊に外国の諜報機関には もしビッグ・ブラザーを 持つ必要があるなら 外国のよりは 自国のものの方が まだマシです リークが始まったとき 私が最初にツイートしたのは 検索エンジンを使うとき それはすべて 米国の諜報機関に 筒抜けなのだ というコメントでした その2分後に キンバリーという 米国の人から 挑むようなリプライがありました 何を心配しているのか? 心配するどんなものを送信しているのか? ヌード写真でも送っているのか? 私のキンバリーに こう返しました 私が何を送っているかは 君には関係ないことだし 君のところの政府にも 関係のないことだと プライバシーというのは そういうものです プライバシーは 交渉すべきものではありません 我々の使うすべてのシステムに 組み込まれているべきものです
(Applause)
(拍手)
And one thing we should all understand is that we are brutally honest with search engines. You show me your search history, and I'll find something incriminating or something embarrassing there in five minutes. We are more honest with search engines than we are with our families. Search engines know more about you than your family members know about you. And this is all the kind of information we are giving away, we are giving away to the United States.
我々が知っておくべきなのは 我々が検索エンジンに対して すこぶる正直だということです 検索履歴を見せてもらえたら 何か罪になるか 恥ずかしくなるようなものを 5分で見つけられるでしょう 私たちは検索エンジンに対して 家族に対してよりも 率直なのです 検索エンジンは 皆さんのことを 家族よりも よく知っているのです そしてそのような情報を 私たちはアメリカに 渡しているのです
And surveillance changes history. We know this through examples of corrupt presidents like Nixon. Imagine if he would have had the kind of surveillance tools that are available today. And let me actually quote the president of Brazil, Ms. Dilma Rousseff. She was one of the targets of NSA surveillance. Her email was read, and she spoke at the United Nations Headquarters, and she said, "If there is no right to privacy, there can be no true freedom of expression and opinion, and therefore, there can be no effective democracy."
監視は歴史だって変えます ニクソンのような腐敗した 大統領の例で分かります 今日のような監視ツールをニクソンが持っていたらと 想像してみてください ブラジル大統領の ジルマ・ルセフの言葉を 引用しましょう 彼女は NSA の監視対象でした メールを読まれていたのです 彼女は国連本部での演説で 言いました 「プライバシーの権利がないなら 真の表現と言論の自由は存在せず したがって民主主義もあり得ない」
That's what it's about. Privacy is the building block of our democracies. And to quote a fellow security researcher, Marcus Ranum, he said that the United States is right now treating the Internet as it would be treating one of its colonies. So we are back to the age of colonization, and we, the foreign users of the Internet, we should think about Americans as our masters.
それが本質のところです プライバシーは 民主主義の基礎なのです セキュリティ研究者の マーカス・ラナムは言っています 「アメリカは今 インターネットを 植民地のように 扱っている だから植民地時代に 逆戻りして 我々 外国のインターネット ユーザーは アメリカ人を主人として 見なければならないのだ」
So Mr. Snowden, he's been blamed for many things. Some are blaming him for causing problems for the U.S. cloud industry and software companies with these revelations -- and blaming Snowden for causing problems for the U.S. cloud industry would be the equivalent of blaming Al Gore for causing global warming.
スノーデン氏は 様々なことで非難されています リークによって アメリカのクラウド業界や ソフトウェア会社に災難をもたらしたと 非難する人もいます 米国のクラウド業界に災難をもたらしたと スノーデンを非難するのは 地球温暖化を引き起こしたと アル・ゴアを 非難するようなものです
(Laughter)
(笑)
(Applause)
(拍手)
So, what is there to be done? Should we worry. No, we shouldn't worry. We should be angry, because this is wrong, and it's rude, and it should not be done. But that's not going to really change the situation. What's going to change the situation for the rest of the world is to try to steer away from systems built in the United States. And that's much easier said than done. How do you do that? A single country, any single country in Europe cannot replace and build replacements for the U.S.-made operating systems and cloud services.
では 我々はどうすべきなのでしょう? 心配すべきでしょうか? いいえ 心配すべきではありません 怒るべきなんです これは間違っており 無礼であり 為されるべきでないことだからです しかしそう言ったところで 何も変わらないでしょう アメリカ以外の国が 事態を変えるためには アメリカで作られたシステムを 離れることです これは言うは易く 行うは難いことです どうすればできるのか? ヨーロッパのどの国であれ 米国のオペレーティングシステムや クラウドサービスを 置き換えられるところは ないでしょう
But maybe you don't have to do it alone. Maybe you can do it together with other countries. The solution is open source. By building together open, free, secure systems, we can go around such surveillance, and then one country doesn't have to solve the problem by itself. It only has to solve one little problem. And to quote a fellow security researcher, Haroon Meer, one country only has to make a small wave, but those small waves together become a tide, and the tide will lift all the boats up at the same time, and the tide we will build with secure, free, open-source systems, will become the tide that will lift all of us up and above the surveillance state.
でも単独でやる必要はありません 他の国と協力すれば やれるかもしれません 解決法はオープンソースです オープンでフリーでセキュアな システムを一緒に作ることで あのような監視を 回避できます 一国ですべての問題を 解決する必要はなく それぞれが問題の一部を 解決すればいいのです セキュリティ研究者の ハルーン・ミーアの言葉です 「1つの国は 小さな波を起こせばいい その小さな波が積み重なって 潮流になり 潮流はすべての船を 同時に高く引き上げる セキュアでフリーで オープンソースの システムが作り出す潮流は 我々みんなを 監視国家の上に 引き上げるだろう」
Thank you very much.
どうもありがとうございました
(Applause)
(拍手)