أريد منكم التخيل أنكم تدخلون إلى غرفة، غرفة تحكم فيها مجموعة من الأشخاص، مئات الأشخاص المنحنين فوق مكتب به أقراص صغيرة، وغرفة التحكم تلك تشكّل أفكار ومشاعر مليارات الأشخاص. قد يبدو هذا مثل الخيال العلمي، لكن هذا يحدث بالفعل الآن، اليوم. أعلم هذا لأنني كنت في غرف التحكم هذه. كنت مصمم أخلاقيات في جوجل، حيث درست كيفية توجيه أفكار الناس أخلاقيًا؟ لأن ما لا نتحدث عنه هو كيف لمجموعة صغيرة من الذين يعملون في شركات تكنولوجية معدودة وتبعًا لاختياراتهم سيوجّهون تفكير مليارات الأشخاص اليوم. لأنه عندما تلتقط هاتفك ويصممون طريقة عمل هذا، أو المتابعات الإخبارية، فإنه يجدول فترات زمنية قليلة في عقولنا. إذا رأيت إشعارًا، فإنه يجدولك لتكتسب أفكار ربما لم تكن تنوي اكتسابها. إذا تابعت هذا الإشعار، فإنه يجدولك لتقضي فترة زمنية قصيرة وأنت منجذب لشيء ما ربما لم تكن تنوي أن يكون من اهتمامك. عندما نتحدث عن التكنولوجيا، فإننا نميل للتحدث عنها وكأنها فرصة خيالية ويمكن أن تسير في أي اتجاه. وأنا أريد أن آخذ الأمر بجدية للحظة وأخبركم لماذا تسير نحو اتجاه معين. لأنها لا تتطور عشوائيًا. هناك هدف مخفي يقود الاتجاه الخاص بالتكنولوجيا التي نصنعها، وهذا الهدف هو السباق نحو جذب الانتباه. لأن كل موقع جديد، مثل (TED) والانتخابات والسياسيين، والألعاب وحتى تطبيقات اليوجا، تتنافس كلها حول شيء واحد، ألا وهو جذب اهتمامنا، وهناك الكثير منه. وأفضل طريقة للحصول على اهتمام الناس هي معرفة طريقة تفكير شخص ما. وهناك مجموعة كبيرة من الطرق المقنعة التي تعلمتها في الجامعة في مختبر يدعى (مختبر تكنولوجيا الإقناع) لجذب اهتمام الناس. مثال بسيط وهو موقع (يوتيوب). يريد (يوتيوب) زيادة الوقت الذي تمضيه في المشاهدة. فماذا يفعلون؟ يشغلون الفيديو التالي تلقائيًا. دعونا ندّعي أن هذا فعال للغاية. لقد استطاعوا زيادة الوقت الذي يمضيه الناس قليلًا. حسنًا، لو أنك شركة (نيتفلكس)، فستنظر وتقول، هذا يقلل حصتي في السوق، لذا سأشغل حلقات مسلسلاتي تلقائيًا. ولكن إن كنت شركة (فيسبوك)، ستقول أن هذا يقلص كل حصصي في السوق، لذلك لابد من تشغيل جميع الفيديوهات في الصفحة الرئيسية قبل أن تضغطوا على زر التشغيل. لذلك لا تتطور شبكة (الإنترنت) عشوائيًا. والسبب في إحساسنا أنه يجذبنا بهذه الطريقة هو هذا السباق على جذب اهتمامنا. نحن نعلم نتيجة هذا. التكنولوجيا ليست حيادية، وقد أصبحت سباق إلى دماغ الإنسان ومن يستطيع التعمق للحصول عليه. دعوني أعطيكم مثالًا عن (سناب شات). إن كنتم لا تعلمون، (سناب شات) هو الوسيلة الأولى التي يتواصل بها المراهقون في الولايات المتحدة . فإذا كنتم مثلي تستخدمون الرسائل النصية للتواصل، فإن (سناب شات) من أجل المراهقين، ويستخدمه مئات الملايين منهم. واخترعوا خاصية اسمها (سناب ستريكس)، والتي تُظهر عدد الأيام المتتالية التي يتواصل فيها شخصان مع بعضهما. وبمعنى آخر فإن ما فعلوه هو أنهم منحوا شخصين شيئًا لا يريدان خسارته. لأنك إذا كنت مراهقًا وتملك 150 يومًا متتاليًا، فأنت لا تريد أن يذهب هذا هباءً. لذا فكروا في هذه الفترات الزمنية الصغيرة التي تستحوذ على عقول الصغار. هذا ليس كلام نظري: عنما يذهب الصغار في عطلة، فقد ظهر أنهم يعطون كلمة المرور إلى 5 أصدقاء لهم لكي يستمروا في (سناب ستريكس)، حتى وإن كانوا مشغولين. ويمتلكون 30 من هذه الأشياء، وعليهم أن يستخدموها من خلال التقاط الصور أو حتى الحائط أو السقف لتمضية يومهم. وهذا ليس مثل إجراء محادثات حقيقية. لدينا ميول لنفكر بهذا على أنهم يستخدمون (سناب شات) فحسب كما اعتدنا الثرثرة على الهاتف. وتقولون أن هذا مقبول. حسنًا، ما يفقده هذا أنه في السبعينات، عندما كنت تثرثر على الهاتف، لم يكن هناك مئات المهندسين على الناحية الأخرى من الشاشة الذين يعلمون تمامًا كيف تعمل نفسيتكم وينسقون لكم التزام ثنائي مشترك مع بعضكم البعض. إذا كان هذا يشعركم بالغضب قليلًا، لاحظوا أن هذه الفكرة قد راودتكم الآن. يعد الغضب أيضًا وسيلة جيدة لجذب الانتباه، لأننا لا نختار الغضب، لكنه يحدث لنا. وإذا كنتم مسؤولين عن الأخبار في (فيسبوك)، سواء أردتم ذلك أم لا، في الواقع ستستفيدون من الغضب. لأن الغضب لا يجدول فقط رد الفعل في الأوقات العاطفية والمساحة الخاصة بكم. نحن نريد مشاركة الغضب مع الأشخاص الآخرين. لذلك نضغط على "مشاركة" ونقول، " هل تصدقون الأمور التي قالوها؟" لذلك للغضب فاعلية شديدة في جذب الانتباه، لدرجة أنه إذا اختار (فيسبوك) بين إظهار الأخبار التي تبعث على الغضب أو الأخبار الهادئة، سيختاروا عرض الأخبار الباعثة على الغضب، ليس لأن شخصًا ما اختار ذلك عن قصد، لكن لأن ذلك هو الأفضل لجذب انتباهك. وغرفة التحكم في تزويد الأخبار ليست مسؤولة أمامنا. تعتبر مسؤولة فقط لزيادة الانتباه. كما أنها مسؤولة، بسبب النموذج التجاري للإعلانات، ويتاح للأشخاص القادرين أكثر على الدفع الدخول بالفعل إلى غرفة التحكم ويقولون: " تلك المجموعة هناك، نريد جدولة هذه الأفكار في عقولهم." حيث يمكنكم السعي وراء، يمكنكم بالتحديد السعي وراء كذبة مباشرةً للأشخاص الذين يتأثرون بسرعة. ولأن ذلك الأمر مربح سيصبح أسوأ. لذلك أنا هنا اليوم لأن التكاليف واضحة للغاية. لا أعرف مشكلة ملحّة أكثر من هذه، لأن هذه المشكلة تختبيء تحت كل هذه المشاكل. لا تستحوذ فقط على حريتنا لننجذب للأشياء التي نريدها ونعيش حياتنا كما نرغب، إنها تغير الطريقة التي نتحاور بها، إنها تغير الديمقراطية الخاصة بنا، وتغير قدرتنا على الحوار والعلاقات التي نرغب بها مع بعضنا البعض. كما أنها تؤثر علينا جميعًا، لأن مليار شخص لديهم جهاز كهذا في جيوبهم. كيف بإمكاننا إصلاح ذلك؟ يجب علينا إجراء ثلاثة تغيرات جذرية للتكنولوجيا والمجتمع الخاص بنا. أولًا علينا الاعتراف بأننا قابلون للإقناع. بمجرد أن تبدأوا باستيعاب أن دماغكم من الممكن جدولته ليحتوي أفكار صغيرة أو مساحات زمنية صغيرة لم تختاروها، لمَ لا نرغب في توظيف هذا الفهم والحماية من أسباب حدوث ذلك؟ أعتقد أننا نحتاج لرؤية أنفسنا أساسًا بشكل جديد. إنه أمر مماثل لحقبة جديدة في تاريخ الإنسانية، شيء يشبه عصر التنوير، لكنه نوعًا ما مثل تنوير الوعي بالذات، أنه يمكن إقناعنا، وقد يكون لدينا شيئًا نود أن نحميه. ثانيًا نحن بحاجة إلى إيجاد نماذج ونظام مساءلة جديدين بحيث يصبح العالم أفضل وأكثر إقناعًا مع مرور الوقت، لأنه سيصبح أكثر إقناعًا، فقط عندما يصبح الأشخاص في غرفة التحكم أكثر مسؤولية وشفافية تجاه ما نريده. الشكل الأخلاقي الوحيد الموجود للإقناع حينما يكون هدف الشخص المُقنِع يتماشى مع أهداف الشخص المُقنَع. وذلك يتضمن الاستعلام عن أشياء كبيرة، مثل النموذج التجاري للإعلانات. أخيرًا، نحن بحاجة إلى نهضة في التصميم، لأنه بمجرد أن ترى الطبيعة البشرية، التي تمكنك من توجيه الجداول الزمنية لمليار شخص، تخيلوا أن هناك أشخاص لديهم رغبة حول ما يريدون القيام به وما يريدون أن يفكروا فيه وما يريدون أن يشعروا به وكيف يودون أن يتم إعلامهم، ونحن فقط منجذبون نحو هذه الاتجاهات الأخرى. ولديك مليار شخص آخر منجذبون نحو كل هذه الاتجاهات الأخرى حسنًا، تخيلوا نهضة كاملة في التصميم حيث تحاول التحكم بالسلطة المحددة والأكثر فاعلية للاستفادة من الوقت الذي تحدث فيه هذه الجداول الزمنية. وسيتضمن ذلك أمران: الأول هو حمايتكم من الجداول الزمنية التي لا نريد أن تجربوها، والأفكار التي لا نريدها أن تحدث، لذلك عندما تسمعون الجرس، ليس الجرس الذي يشتت انتباهكم؛ والثاني سيمكّننا من العيش في الجدول الزمني الذي نريده. لذا اسمحوا لي أن أعطيكم مثالًا ملموسًا. اليوم، دعونا نقول أن أحد أصدقائكم قام بإلغاء العشاء، وتشعرون ببعض الوحدة. ماذا ستفعلون في هذه اللحظة؟ تقومون بفتح (فيسبوك). وفي هذه اللحظة، المصممون في غرفة التحكم يريدون جدولة شيء واحد بالضبط، وهو جدولة قضاء أقصى وقت ممكن على الشاشة. الآن، بدلًا من ذلك، تخيلوا لو أنشأ المصممون جدول زمني مختلف والتي كانت أسهل طريقة، مستخدمين كافة بياناتهم، لمساعدتكم على الخروج مع الأشخاص الذين تهتموا لأمرهم؟ فكروا فقط في تخفيف العزلة في المجتمع، إذا كان ذلك هو الجدول الزمني الذي يتيحه (فيسبوك) للجميع. أو تخيلوا محادثة أخرى. دعونا ندّعي أنكم تريدون كتابة شيء مثير للجدل للغاية على (فيسبوك)، والذي يعد مهمًا للغاية لتفعلوه، وتشاركوا موضوعات مثيرة للجدل. وحاليًا يوجد هناك مربع كبير للتعليقات، ويسألكم تقريبًا، ما الحرف الذي تريد كتابته؟ بمعنى آخر، يجدول إطار زمني قليل للأشياء التي ستستمرون في فعلها على الشاشة. وتخيلوا لو أن هناك زر آخر يقول، ما الوقت الذي تود تمضيته أكثر؟ وتضغطون على "استضافة عشاء." وهناك تحت ذلك البند تجد مكتوبًا، "من تود استضافته على العشاء؟" وسوف تحصلون على محادثة عن أمور مثيرة للجدل، ولكنها ستحدث في أكثر الأماكن تحت سلطتكم في جدولكم الزمني، والذي سيكون في المنزل تلك الليلة مع مجموعة من الأصدقاء للحديث عن ذلك. تخيل أننا ندير، مثلًا، إيجاد واستبدال جميع الجداول الزمنية التي توجهنا حاليًا لقضاء وقت أكثر على الشاشة بصورة مقنِعة واستبدال جميع هذه الجداول الزمنية بالأمور التي نريدها في حياتنا. ليس من الضروري أن تكون الأمور هكذا. بدلًا من إعاقة اهتماماتنا، تخيلوا لو أننا استخدمنا كافة هذه البيانات والقوة وهذه النظرة للطبيعة البشرية لإعطائنا قدرة خارقة على التركيز وقدرة خارقة لوضع اهتماماتنا للأمور التي تهمنا وقدرة خارقة لإجراء الحوارات التي نحتاجها من أجل الديمقراطية. التحديات الأكثر تعقيدًا في العالم لا تتطلب فقط استخدام اهتماماتنا فرديًا. ولكنها تتطلب استخدام اهتماماتنا وتنسيقها سويًا. يتطلب تغير المناخ أن يقوم العديد من الأشخاص أن يكونوا قادرين على تنسيق اهتماماتهم في أكثر الطرق تمكينًا معًا. وتخيلوا إيجاد قوة خارقة لفعل ذلك. أحيانًا تكون أكثر المشاكل الملحة وأهمها لا تتعلق بالمستقبل الافتراضي وما يمكننا اختراعه في المستقبل. أحيانًا أكثر المشاكل الملحة تكون تحت مرأى ومسمع منا، الأشياء التي تحدد بالفعل أفكار مليارات الناس. وربما عوضًا عن الشعور بالحماس تجاه الواقع المدمَج الجديد والواقع الافتراضي وهذه الأشياء الجذابة التي قد تحدث، والتي ستكون عرضة لنفس السباق نحو جذب الاهتمام، إذا استطعنا معالجة سباق جذب الاهتمام حول الأشياء الموجودة بالفعل لدى مليارات الناس. ربما بدلًا من الشعور بالحماس تجاه التطبيقات التعليمية الجديدة والرائعة، سيمكننا إصلاح الطرق التي تتلاعب بعقول الصغار نحو إرسال رسائل فارغة منهم وإليهم. (تصفيق) وبدلًا من الشعور بالقلق حول المستقبل الافتراضي والذكاء الاصطناعي الجامح الذي يصل لأقصى درجاته لتحقيق هدف واحد، نستطيع معالجة الذكاء الاصطناعي الجامح الذي يتواجد بالفعل الآن، التي تعمل على زيادة المتابعات الإخبارية لأقصى حد لغرض واحد. وبدلًا من الذهاب لاستعمار كواكب جديدة، نستطيع إصلاح الكوكب الذي نحن عليه بالفعل. (تصفيق) إيجاد حل لهذه المشكلة يعد أمرًا أساسيًا لحل كل المشكلات الأخرى. لا يوجد شيء في الحياة أو في مشكلاتنا العامة لا يتطلب قدرتنا على وضع اهتمامنا في المكان الصحيح. وعندما تنتهي حياتنا، نجد أن كل ما نمتلكه هو اهتمامنا ووقتنا. ما هو الوقت الذي تود تمضيته جيدًا؟ شكرًا لكم. (تصفيق) كريس أندرسون: شكرًا لك (تريستان). مهلًا، قف هنا لحظة. أولًا، شكرًا لك. أعرف أننا طلبنا منك إلقاء هذه المحادثة في وقت قصير، ومررت بأسبوع يملؤه التوتر نوعًا ما لجمع هذا الموضوع، لذا شكرًا لك. قد يقول بعض من استمعوك أن ما تشتكى منه هو الإدمان، وكل هؤلاء الناس يفعلون هذه الأشياء، بالنسبة لهم هذا بالفعل مثير للاهتمام. كل هذه القرارات المتخذة عملت على بناء محتوى المستخدِم لتكون مثيرة جدًا. يبدو العالم أكثر إثارة مما كان عليه يومًا. ما عيب ذلك؟ (هاريس): أعتقد أن هذا مثير بالفعل. هناك طريقة واحدة لفهم هذا، إذا كنت (يوتيوب) مثلًا، فأنت تريد دومًا إظهار الفيديو التالي الأكثر إثارة. تريد أن تصبح أفضل وأفضل عند اقتراح هذا الفيديو التالي، لكن إذا عرضت الفيديو التالي المثالي الذي يريد الجميع مشاهدته، فسيكون أفضل وأفضل في إبقائك متعلقًا بالشاشة. لذلك فالمفقود في هذه المعادلة هو معرفة حدودنا. تريد (يوتيوب) أن تعرف شيئًا عن النوم. قال المدير التنفيذي لـ(نيتفليكس) مؤخرًا، "أحد أكبر منافسينا هم (فيسبوك) و(يوتيوب) والنوم." وما نريد إدراكه هو أن البنية البشرية محدودة وأن لدينا حدود أو أبعاد معينة لحياتنا نريد بها أن نشعر بالتكريم والاحترام وتستطيع التكنولوجيا المساعدة في ذلك. (تصفيق) كريس أندرسون: هل تستطيع توضيح الوضع حيث يكون جزء من المشكلة أننا لدينا نموذج ساذج عن الطبيعة البشرية؟ ويبرَّر معظم هذا من ناحية التفضيلات البشرية، حيث يكون لدينا هذه الخوارزميات التي تقوم بعمل رائع في الاستفادة من التفضيلات البشرية، لكن أي نوع من التفضيلات؟ هناك التفضيلات عن الأشياء التي تهمنا عندما نفكر فيها في مقابل التفضيلات التي نضغط عليها غريزيًا. إذا استطعنا زرع وجهة النظر الدقيقة عن الطبيعة البشرية في كل تصميم، هل سيكون هذا خطوة للأمام؟ (هاريس): بالتأكيد، أعني أنني أعتقد الآن كما لو كانت التكنولوجيا الخاصة بنا تستحضر أساسًا عقل السحلية خاصتنا ما أفضل طريقة تجعلك تقوم بشكل متهور بالشيء التالي الصغير لقضاء وقتك، بدلًا من سؤالك عن حياتك ما الوقت الذي تود تمضيته أكثر؟ ما هو أفضل جدول زمني الذي قد يتضمن شيئًا فيما بعد، هل سيكون الوقت الذي تمضيه في (TED) في يومك الأخير هنا؟ (سي ايه): إذا قال لنا (فيسبوك) و(جوجل) وغيرهما في البداية، "مرحبًا، هل تودون منا أن نحسّن عقلكم التأملي أو عقل السحلية لديكم؟ الاختيار لكم." (هاريس): هذه إحدى الطرق. نعم. (سي ايه): ذكرت كلمة "قابلية الإقناع" هذه مثيرة لاهتمامي لأنه يوجد نوعين مختلفين منها. هناك إقناع الذي نحاول القيام به الآن من إعمال العقل والتفكير وإيجاد الحجة، لكني أعتقد أنك تتحدث تقريبًا عن نوع مختلف، نوعًا من الإقتاع أكثر شبابًا وعفوية، لأن الشخص يقتنع بدون حتى معرفة أنه يفكر. (هاريس): بالضبط، السبب وراء اهتمامي كثيرًا بهذه المشكلة أنني درست في (معمل تكنولوجيا الإقناع) في (ستانفورد) ويعلم الطلاب كيفية تحديد هذه التقنيات. هناك مؤتمرات وورش عمل توضح للناس كل هذه الطرق الخفية للحصول على انتباه الناس والتحكم بحياتهم. ولأن معظم الناس لا يعلمون بوجود هذا فتمثل هذه المحادثة أهمية كبيرة. (سي إيه): نعلم كلانا الكثير من الناس في هذه الشركات. هناك في الواقع العديد منهم في القاعة، ولا أعلم رأيك، لكن انطباعي عنهم أنه لا تنقص لديهم النية الحسنة. يريد الناس عالمًا أفضل. هم بالفعل يريدون ذلك. ولا أعتقد أنك أوحيت بكلامك أنهم أشرار. إنه نظام حيث تقبع فيه هذه العواقب غير المقصودة التي خرجت عن السيطرة، (هاريس): عن هذا السباق نحو الاهتمام. هذا سباق قديم نحو الحضيض عندما تضطر إلى الحصول على الانتباه، ويتسم بالتوتر الشديد. الطريق الوحيد للحصول على المزيد هو أن تتعمق داخل الدماغ، تتعمق لتحصل على الغضب والعاطفة، تتعمق لتصل لعقل السحلية. (سي إيه): حسنًا، شكرًا جزيلًا لمساعدتنا على أن نصبح حكماء أكثر بشأن هذا. (هاريس): شكرًا. شكرًا جزيلًا. (تصفيق)
I want you to imagine walking into a room, a control room with a bunch of people, a hundred people, hunched over a desk with little dials, and that that control room will shape the thoughts and feelings of a billion people. This might sound like science fiction, but this actually exists right now, today. I know because I used to be in one of those control rooms. I was a design ethicist at Google, where I studied how do you ethically steer people's thoughts? Because what we don't talk about is how the handful of people working at a handful of technology companies through their choices will steer what a billion people are thinking today. Because when you pull out your phone and they design how this works or what's on the feed, it's scheduling little blocks of time in our minds. If you see a notification, it schedules you to have thoughts that maybe you didn't intend to have. If you swipe over that notification, it schedules you into spending a little bit of time getting sucked into something that maybe you didn't intend to get sucked into. When we talk about technology, we tend to talk about it as this blue sky opportunity. It could go any direction. And I want to get serious for a moment and tell you why it's going in a very specific direction. Because it's not evolving randomly. There's a hidden goal driving the direction of all of the technology we make, and that goal is the race for our attention. Because every news site, TED, elections, politicians, games, even meditation apps have to compete for one thing, which is our attention, and there's only so much of it. And the best way to get people's attention is to know how someone's mind works. And there's a whole bunch of persuasive techniques that I learned in college at a lab called the Persuasive Technology Lab to get people's attention. A simple example is YouTube. YouTube wants to maximize how much time you spend. And so what do they do? They autoplay the next video. And let's say that works really well. They're getting a little bit more of people's time. Well, if you're Netflix, you look at that and say, well, that's shrinking my market share, so I'm going to autoplay the next episode. But then if you're Facebook, you say, that's shrinking all of my market share, so now I have to autoplay all the videos in the newsfeed before waiting for you to click play. So the internet is not evolving at random. The reason it feels like it's sucking us in the way it is is because of this race for attention. We know where this is going. Technology is not neutral, and it becomes this race to the bottom of the brain stem of who can go lower to get it. Let me give you an example of Snapchat. If you didn't know, Snapchat is the number one way that teenagers in the United States communicate. So if you're like me, and you use text messages to communicate, Snapchat is that for teenagers, and there's, like, a hundred million of them that use it. And they invented a feature called Snapstreaks, which shows the number of days in a row that two people have communicated with each other. In other words, what they just did is they gave two people something they don't want to lose. Because if you're a teenager, and you have 150 days in a row, you don't want that to go away. And so think of the little blocks of time that that schedules in kids' minds. This isn't theoretical: when kids go on vacation, it's been shown they give their passwords to up to five other friends to keep their Snapstreaks going, even when they can't do it. And they have, like, 30 of these things, and so they have to get through taking photos of just pictures or walls or ceilings just to get through their day. So it's not even like they're having real conversations. We have a temptation to think about this as, oh, they're just using Snapchat the way we used to gossip on the telephone. It's probably OK. Well, what this misses is that in the 1970s, when you were just gossiping on the telephone, there wasn't a hundred engineers on the other side of the screen who knew exactly how your psychology worked and orchestrated you into a double bind with each other. Now, if this is making you feel a little bit of outrage, notice that that thought just comes over you. Outrage is a really good way also of getting your attention, because we don't choose outrage. It happens to us. And if you're the Facebook newsfeed, whether you'd want to or not, you actually benefit when there's outrage. Because outrage doesn't just schedule a reaction in emotional time, space, for you. We want to share that outrage with other people. So we want to hit share and say, "Can you believe the thing that they said?" And so outrage works really well at getting attention, such that if Facebook had a choice between showing you the outrage feed and a calm newsfeed, they would want to show you the outrage feed, not because someone consciously chose that, but because that worked better at getting your attention. And the newsfeed control room is not accountable to us. It's only accountable to maximizing attention. It's also accountable, because of the business model of advertising, for anybody who can pay the most to actually walk into the control room and say, "That group over there, I want to schedule these thoughts into their minds." So you can target, you can precisely target a lie directly to the people who are most susceptible. And because this is profitable, it's only going to get worse. So I'm here today because the costs are so obvious. I don't know a more urgent problem than this, because this problem is underneath all other problems. It's not just taking away our agency to spend our attention and live the lives that we want, it's changing the way that we have our conversations, it's changing our democracy, and it's changing our ability to have the conversations and relationships we want with each other. And it affects everyone, because a billion people have one of these in their pocket. So how do we fix this? We need to make three radical changes to technology and to our society. The first is we need to acknowledge that we are persuadable. Once you start understanding that your mind can be scheduled into having little thoughts or little blocks of time that you didn't choose, wouldn't we want to use that understanding and protect against the way that that happens? I think we need to see ourselves fundamentally in a new way. It's almost like a new period of human history, like the Enlightenment, but almost a kind of self-aware Enlightenment, that we can be persuaded, and there might be something we want to protect. The second is we need new models and accountability systems so that as the world gets better and more and more persuasive over time -- because it's only going to get more persuasive -- that the people in those control rooms are accountable and transparent to what we want. The only form of ethical persuasion that exists is when the goals of the persuader are aligned with the goals of the persuadee. And that involves questioning big things, like the business model of advertising. Lastly, we need a design renaissance, because once you have this view of human nature, that you can steer the timelines of a billion people -- just imagine, there's people who have some desire about what they want to do and what they want to be thinking and what they want to be feeling and how they want to be informed, and we're all just tugged into these other directions. And you have a billion people just tugged into all these different directions. Well, imagine an entire design renaissance that tried to orchestrate the exact and most empowering time-well-spent way for those timelines to happen. And that would involve two things: one would be protecting against the timelines that we don't want to be experiencing, the thoughts that we wouldn't want to be happening, so that when that ding happens, not having the ding that sends us away; and the second would be empowering us to live out the timeline that we want. So let me give you a concrete example. Today, let's say your friend cancels dinner on you, and you are feeling a little bit lonely. And so what do you do in that moment? You open up Facebook. And in that moment, the designers in the control room want to schedule exactly one thing, which is to maximize how much time you spend on the screen. Now, instead, imagine if those designers created a different timeline that was the easiest way, using all of their data, to actually help you get out with the people that you care about? Just think, alleviating all loneliness in society, if that was the timeline that Facebook wanted to make possible for people. Or imagine a different conversation. Let's say you wanted to post something supercontroversial on Facebook, which is a really important thing to be able to do, to talk about controversial topics. And right now, when there's that big comment box, it's almost asking you, what key do you want to type? In other words, it's scheduling a little timeline of things you're going to continue to do on the screen. And imagine instead that there was another button there saying, what would be most time well spent for you? And you click "host a dinner." And right there underneath the item it said, "Who wants to RSVP for the dinner?" And so you'd still have a conversation about something controversial, but you'd be having it in the most empowering place on your timeline, which would be at home that night with a bunch of a friends over to talk about it. So imagine we're running, like, a find and replace on all of the timelines that are currently steering us towards more and more screen time persuasively and replacing all of those timelines with what do we want in our lives. It doesn't have to be this way. Instead of handicapping our attention, imagine if we used all of this data and all of this power and this new view of human nature to give us a superhuman ability to focus and a superhuman ability to put our attention to what we cared about and a superhuman ability to have the conversations that we need to have for democracy. The most complex challenges in the world require not just us to use our attention individually. They require us to use our attention and coordinate it together. Climate change is going to require that a lot of people are being able to coordinate their attention in the most empowering way together. And imagine creating a superhuman ability to do that. Sometimes the world's most pressing and important problems are not these hypothetical future things that we could create in the future. Sometimes the most pressing problems are the ones that are right underneath our noses, the things that are already directing a billion people's thoughts. And maybe instead of getting excited about the new augmented reality and virtual reality and these cool things that could happen, which are going to be susceptible to the same race for attention, if we could fix the race for attention on the thing that's already in a billion people's pockets. Maybe instead of getting excited about the most exciting new cool fancy education apps, we could fix the way kids' minds are getting manipulated into sending empty messages back and forth. (Applause) Maybe instead of worrying about hypothetical future runaway artificial intelligences that are maximizing for one goal, we could solve the runaway artificial intelligence that already exists right now, which are these newsfeeds maximizing for one thing. It's almost like instead of running away to colonize new planets, we could fix the one that we're already on. (Applause) Solving this problem is critical infrastructure for solving every other problem. There's nothing in your life or in our collective problems that does not require our ability to put our attention where we care about. At the end of our lives, all we have is our attention and our time. What will be time well spent for ours? Thank you. (Applause) Chris Anderson: Tristan, thank you. Hey, stay up here a sec. First of all, thank you. I know we asked you to do this talk on pretty short notice, and you've had quite a stressful week getting this thing together, so thank you. Some people listening might say, what you complain about is addiction, and all these people doing this stuff, for them it's actually interesting. All these design decisions have built user content that is fantastically interesting. The world's more interesting than it ever has been. What's wrong with that? Tristan Harris: I think it's really interesting. One way to see this is if you're just YouTube, for example, you want to always show the more interesting next video. You want to get better and better at suggesting that next video, but even if you could propose the perfect next video that everyone would want to watch, it would just be better and better at keeping you hooked on the screen. So what's missing in that equation is figuring out what our boundaries would be. You would want YouTube to know something about, say, falling asleep. The CEO of Netflix recently said, "our biggest competitors are Facebook, YouTube and sleep." And so what we need to recognize is that the human architecture is limited and that we have certain boundaries or dimensions of our lives that we want to be honored and respected, and technology could help do that. (Applause) CA: I mean, could you make the case that part of the problem here is that we've got a naïve model of human nature? So much of this is justified in terms of human preference, where we've got these algorithms that do an amazing job of optimizing for human preference, but which preference? There's the preferences of things that we really care about when we think about them versus the preferences of what we just instinctively click on. If we could implant that more nuanced view of human nature in every design, would that be a step forward? TH: Absolutely. I mean, I think right now it's as if all of our technology is basically only asking our lizard brain what's the best way to just impulsively get you to do the next tiniest thing with your time, instead of asking you in your life what we would be most time well spent for you? What would be the perfect timeline that might include something later, would be time well spent for you here at TED in your last day here? CA: So if Facebook and Google and everyone said to us first up, "Hey, would you like us to optimize for your reflective brain or your lizard brain? You choose." TH: Right. That would be one way. Yes. CA: You said persuadability, that's an interesting word to me because to me there's two different types of persuadability. There's the persuadability that we're trying right now of reason and thinking and making an argument, but I think you're almost talking about a different kind, a more visceral type of persuadability, of being persuaded without even knowing that you're thinking. TH: Exactly. The reason I care about this problem so much is I studied at a lab called the Persuasive Technology Lab at Stanford that taught [students how to recognize] exactly these techniques. There's conferences and workshops that teach people all these covert ways of getting people's attention and orchestrating people's lives. And it's because most people don't know that that exists that this conversation is so important. CA: Tristan, you and I, we both know so many people from all these companies. There are actually many here in the room, and I don't know about you, but my experience of them is that there is no shortage of good intent. People want a better world. They are actually -- they really want it. And I don't think anything you're saying is that these are evil people. It's a system where there's these unintended consequences that have really got out of control -- TH: Of this race for attention. It's the classic race to the bottom when you have to get attention, and it's so tense. The only way to get more is to go lower on the brain stem, to go lower into outrage, to go lower into emotion, to go lower into the lizard brain. CA: Well, thank you so much for helping us all get a little bit wiser about this. Tristan Harris, thank you. TH: Thank you very much. (Applause)