Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
어린 시절에 대해 떠올려 보세요. 아마 여러분에게는 친구와 같은 가장 아끼는 장난감이 있었을 거예요. 크리스토퍼 로빈이 곰돌이 푸 인형을 가지고 다녔던 것처럼 말이죠. 그리고 여러분의 상상력은 끝없는 모험에 불을 붙였을 거예요. 이보다 더 순수할 때가 있었을까요? 여러분들에게 제 친구 캐일라를 소개할게요.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
캐일라는 세계에서 올해의 인형으로 선정되었습니다. 캐일라는 인터넷에 연결하여 음성인식 기술을 사용해 아이들의 질문에 대답을 해주거나 친구처럼 말동무를 해 줍니다. 이 기술은 아이들의 상상력을 책임지지 않습니다. 사실 이 기술은 막대한 양의 개인 정보를 수집하는 회사들을 위한 것이죠. 여러분의 가족들은 아무것도 모른채 집이라는 안전한 공간에서 이야기를 나누고 있지만 사실 이것은 위험한 가짜 안도감입니다. 이러한 사례는 저에게 경각심을 불러일으킵니다. 저는 우리나라 고객들의 권리를 지키는 일을 하거든요. 그리고 자동차나 에너지 미터기, 진공청소기와 같이 2020년까지 온라인 상에 등장할 것으로 예상되는 수십억 가지의 기계들을 더 깊게 조사할만한 가치가 있다고 생각합니다. 캐일라는 자신이 배운 흥미로운 것들을 이용해 무엇을 하고 있었을까요? 캐일라는 자신이 충성하고 자신의 정보를 공유할 만한 다른 친구가 있을까요? 맞습니다. 여러분이 생각하신 대로 캐일라에게는 그런 친구가 있어요. 캐일라와 놀기 위해서는 앱을 다운받아야 합니다. 그래야 캐일라의 기능에 접근할 수 있죠. 부모들은 약관이 바뀐 것을 모른 채 약관에 동의하게 됩니다. 아이와 캐일라의 친구, 가족들의 기록은 표적 광고에 사용될 수 있습니다. 또한 이 모든 정보들은 이름 모를 제 3자와 공유되기도 하죠.
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
이게 끝이 아닙니다. 스마트폰을 사용하는 사람들은 일정 거리 안에서 캐일라에게 연결할 수 있어요. 캐일라를 만들고 프로그래밍한 회사에 항의했을 때 그들은 IT 전문가만이 캐일라의 보안을 뚫을 수 있다는 일련의 성명서를 발표했습니다. 그 진실을 확인하기 위해 함께 캐일라를 해킹해 볼까요? 여기 캐일라가 있습니다. 캐일라는 블루투스 기능을 탑재하고 있죠. 이 기능으로 최대 60피트(약 18m)까지 신호를 보낼 수 있어요. 만약 그 사이에 벽이 있다면 도달 거리가 더 짧아지겠죠. 이는 즉 캐일라와 캐일라의 친구들이 방 밖에서 놀고 있을 때 저 또는 다른 사람이 캐일라에 접속할 수 있다는 것을 의미합니다. 이를 설명하기 위해 한번 캐일라를 켜 볼게요. 어디보자... 하나, 둘, 셋. 아, 이제 켜졌네요. 지금 제 동료에게 밖에서 스마트폰으로 연결해 달라고 부탁했어요. 그리고 상황을 좀 더 오싹하게 만들기 위해...
(Laughter)
(웃음)
let's see what kids could hear Cayla say in the safety of their room.
한번 아이들이 안전한 방 안에서 캐일라가 하는 말을 들을 수 있는지 확인해 볼 거예요.
Man: Hi. My name is Cayla. What is yours?
안녕. 나는 캐일라야. 네 이름은 뭐니?
Finn Myrstad: Uh, Finn.
핀이야.
Man: Is your mom close by?
엄마가 옆에 계시니?
FM: Uh, no, she's in the store.
아니. 지금 가계에 계셔.
Man: Ah. Do you want to come out and play with me?
그러면 나랑 밖에서 놀래?
FM: That's a great idea.
그래. 좋은 생각이야.
Man: Ah, great.
좋아.
FM: I'm going to turn Cayla off now.
이제 캐일라를 끄겠습니다.
(Laughter)
(웃음)
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
이렇게 해킹을 하는 데 비밀번호가 필요하다거나 보안을 우회해야 할 필요는 없었어요. 우리는 세계의 20개국에 이 중대한 보안상의 결함과 그 밖의 다른 중대한 문제들에 대한 보고서를 발표했습니다. 그러자 어떤 일이 발생했을까요? 캐일라는 독일에서 판매금지 처분이 되었고 아마존이나 월마트에서도 판매 중지되었습니다. 그리고 캐일라는 현재 독일의 스파이 박물관에서 편히 쉬고 있죠.
(Laughter)
(웃음)
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
하지만 우리가 이와 같은 보고서를 발표한 뒤에도 캐일라는 다른 국가의 매장에서 1년 이상 판매되었습니다. 다음과 같은 사실을 밝혀냈습니다. 우리의 정보를 지켜주는 규칙은 정말 적으며 그 마저도 우리를 보호하기에 적절하지 않다는 것입니다. 이런 기계들이 시장에서 판매되기 전에 이런 기계의 보안과 개인 정보 보호 권리를 획득해야 합니다. 만약 연결된 기기를 통해 집 안에 아무나 들어올 수 있다면 집 문을 열쇠로 잠그는 것은 소용 없기 때문이죠.
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
여러분은 아마도 이런 일이 자신에게 발생하지 않을 거라고 생각하며 이런 문제가 있는 기기만 사용하지 않으면 된다고 생각할 수도 있어요. 하지만 그렇다고 해서 완전하게 보호받을 수는 없습니다. 인터넷에 연결하기만 해도 여러분의 개인 정보는 노출에 취약한 상태가 되니까요.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
더 자세히 설명해 드릴게요. 많은 분들과 마찬가지로 제 핸드폰에도 수십 개의 앱이 있습니다. 이 앱을 적절히 사용하면 우리의 삶을 쉽고 편리하며 심지어 건강하게 할 수도 있습니다. 하지만 우리가 거짓된 안도감에 길들여진 적이 있을까요? 이것은 우리가 네모칸 안에 체크를 하는 순간 시작됩니다. 맞아요. 다들 이러한 조항에 대해 읽어본 적이 있을 거예요. 하지만 정말 약관을 자세히 읽어 본 적이 있나요? 약관이 그렇게 길지 않았다고 확신하나요? 약관을 읽다가 핸드폰 배터리가 다 닳아버리거나 약관을 읽어보려 했을 때 이해할 수 없었으며 서비스를 지금 당장 사용해야 할 때가 있지 않았나요? 현재, 힘의 불균형이 확립되었습니다. 우리는 회사가 개인 정보를 수집하고 맘대로 이용할 수 있도록 동의해왔기 때문입니다.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
이러한 이유로 저와 제 동료는 이 문제를 더 깊게 파헤쳐 보기로 했습니다. 일반적인 핸드폰에 설치되어 있는 유명한 앱들의 약관을 읽어보기로 했습니다. 그리고 소비자들이 실제로 약관을 읽을 것이라고 기대하는 것이 얼마나 비현실적인지 세계에 알리기 위해 900쪽 이상 분량의 약관을 인쇄하여 사무실에서 크게 읽기 시작했습니다. 이 실험은 우리 웹사이트에서 실시간으로 중계되었죠. 보시다시피 약관을 다 읽는 데는 꽤 오랜 시간이 걸렸습니다. 약 31시간 49분 11초가 걸렸습니다. 보통 핸드폰에 있는 약관을 모두 읽는 데요. 이는 영화 "해리 포터"와 "대부"의 상영시간을 합친 것보다 더 길었습니다.
(Laughter)
(웃음)
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
글을 읽는 것와 이해하는 것은 별개의 문제라고 생각합니다. 이해하는 것은 더 많은 시간이 소요되죠. 이것은 정말 중요한 문제입니다. 기업들은 인터넷 규제에 반대해서 20년, 30년 동안 논쟁해왔으며 사용자들은 조항과 약관에 동의해야 하기 때문입니다.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
이 실험을 통해 보여드린 것처럼 사전에 고지된 동의를 얻는 것은 거의 불가능한 일입니다. 고객들에게 책임 부담을 지우는 게 공정하다고 생각하시나요? 저는 그렇게 생각하지 않습니다. 회사가 고객들에게 책임을 전가하기 보다는 사용자들이 약관에 동의하기 전에 약관을 이해하기 쉽도록 만들어야 한다고 생각합니다.
(Applause)
(박수)
Thank you.
감사합니다.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
이제 여러분들께 사랑에 관한 얘기를 해드릴 거예요. 세계적으로 인기가 많은 앱들 중에는 소개팅 앱이 있습니다. 이 산업은 현재 매년 30억 달러에 달하는 가치를 창출하고 있죠. 물론 제 짝과 은밀한 내용을 나누는 건 괜찮죠. 하지만 우리 자신을 노출하는 동안 누군가는 우리 정보를 염탐하고 저장하고 공유하고 있습니다. 우리 팀과 저는 이에 대해 조사하기로 했죠. 이 문제를 다양한 각도에서 이해하고 이 일을 철저하게 수행하기 위해 세계에서 가장 인기있는 소개팅 앱을 제 핸드폰에 설치해야 한다는 것을 꺠달았습니다.
So I went home to my wife ...
그래서 집에 가서 제 아내에게
(Laughter)
(웃음)
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
막 결혼한 사이였죠. "아주 인기 있는 소개팅 앱에 내 프로필을 올려도 될까 순전히 과학적인 목적인데?"
(Laughter)
(웃음)
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
이런 것을 찾았습니다. 메인 메뉴 뒤에 숨어있던 것은 미리 체크되어 있던 네모 상자였습니다. 소개팅 어플 회사에게 제 페이스북에 있는 모든 사진들에 대한 접근권한을 주는 것이었죠. 제 페이스북 계정에는 2천 개 이상의 사진이 있었고 그 중에는 굉장히 개인적인 사진들도 많았습니다. 이뿐만이 아니었습니다. 약관 및 조항을 읽을 때 다음과 같은 것을 발견했습니다. 이걸 여러분들에게 읽어드리기 위해 제 독서용 안경을 꺼내들어야 겠네요. 한번 읽어 보겠습니다. 아주 복잡한 내용입니다. 시작해 볼게요.
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
“콘텐츠를 게시하면” 여기서 콘텐츠란 여러분의 사진이나 앱을 이용하며 다른 사람과 대화했던 내용을 의미합니다. “서비스의 일부로서, 사용자는 자동으로 회사와 계열사, 라이센스 사용자 및 후임자에게 취소 불능을 허가합니다.” 이는 여러분이 허락한 것을 취소할 수 없다는 것을 의미하죠. “영구적으로” 이는 영원하다는 것을 의미하고 “비독점적이고, 양도 가능하며, 2차 가공 허가 및 전액 납입된, 전 세계적인 권리 및 라이센스를 콘텐츠를 사용, 복사, 저장, 실행, 표시, 재생산, 기록, 재생, 개조, 수정 및 배포하기 위해 콘텐츠의 파생 저작물을 준비하거나 다른 저작물에 콘텐츠를 통합하고 현재 알려지거나 이후에 작성되는 모든 미디어에서 이전 저작물의 라이선스를 부여하고 승인합니다.”
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
이는 여러분의 모든 소개팅 기록 및 그와 관련된 모든 것들이 항상 어떤 목적으로든 사용될 수 있다는 것을 의미합니다. 여러분의 자녀가 20년 후 피임 광고에서 여러분이 소개팅 어플에 올린 멋진 사진을 보았다고 상상해 보세요.
But seriously, though --
다시 본론으로 돌아가서...
(Laughter)
(웃음)
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
이 상업적 관행이 여러분들에게 의미하는 것은 무엇인가요? 이 관행은 경제적 손실을 가져다 줄 수도 있습니다. 여러분의 웹 검색 기록에 기반한 알고리즘은 이후에 대출을 받을 것인지 아닌지를 결정할 수 있습니다. 여러분의 잠재의식을 조정할 수도 있어요. 회사들은 여러분의 사진 또는 채팅 내역을 기반으로 여러분의 감정을 분석하여 여러분이 가장 취약한 상태에 있을 때 표적 광고 대상으로 이용합니다. 차별을 받을 수도 있습니다. 피트니스 앱은 여러분의 정보를 건강 보험 회사에 팔아 미래에 보험에 가입하지 못하도록 할 수도 있어요. 이런 일들은 전 세계에서 지금도 발생하고 있습니다.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
하지만 물론 모든 정보들이 악의적으로 사용되지는 않습니다. 일부는 결함이 있고 보완할 필요성이 있지만 좋은 점도 있어요. 그리고 희소식도 있습니다. 우리가 소개팅 어플 회사에 법적 소송을 제기한 뒤 이 회사는 자사의 정책을 세계적으로 바꾸었거든요. 하지만 제가 다니는 기관처럼 고객들의 권리를 위해 싸우는 기관들은 그리 많지 않습니다. 또한 고객들은 이 문제를 스스로 해결할 수 없죠. 만약 우리가 무결하다고 말한 어떤 것이 다시 돌아와 우리를 해친다는 것을 알았을 때 사람들은 말하기를 멈출 것이기 때문이죠. 만약 우리가 감시당한다는 것을 안다면 우리는 행동을 바꿀 것이기 때문입니다. 또한 우리 정보를 사용하는 사람과 이것이 사용되는 방법을 통제하지 못한다면 우리 삶의 통제권을 잃게 되기 때문입니다.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
제가 오늘 말씀드린 얘기는 무작위로 발생하는 일이 아닙니다. 이런 일은 언제든지 발생할 수 있으며 바뀌어야 할 필요가 있다는 신호를 보내고 있어요. 그렇다면 어떻게 변화를 만들 수 있을까요? 회사들은 개인 정보 및 보안을 우선순위에 놓음으로써 신뢰를 쌓고 사용자의 충성도를 높일 수 있음을 깨달아야 할 필요가 있겠죠. 정부는 강제책 및 최신 규제를 강화하여 더 안전한 인터넷 환경을 구축해야 합니다. 그러면 우리 시민들은 어떻게 해야 할까요? 우리는 발언권을 써서 기술이 기본권을 존중할 때에만 사회에 진정으로 효용을 줄 수 있음을 전 세계에 상기시켜야 합니다.
Thank you so much.
대단히 감사합니다.
(Applause)
(박수)