Humane: A New Agenda for Tech
Paleolithic Emotions, Medieval Institutions, and Godlike Technology
احساسات پارینه سنگی، نهادهای قرون وسطی، و فناوری خداگونه
آنچه که در حال حاضر در صنعت فناوری می‌گذرد، نوعی صدای ناهنجار و خشن از نارضایتی‌ها و رسوایی‌ها است که به نوعی در همه جا به گوش می‌رسد.
خب، حالا چگونه می‌توانیم به درک مشترکی از مشکل واقعی دست پیدا کنیم؟
و چگونه می‌توانیم آن را رفع کنیم؟
با علم به همه چالش‌هایی که اخیراً دیده‌اید ــ مشکل صنعت فناوری را دقیقا چه می‌دانید؟
ما به فناوری اعتیاد داریم. مواردی مانند قطبی‌سازی، دستکاری انتخابات، خشم‌پروری، هتک حرمت، بطالت و بیهودگی، مسئله‌ی سلامت روان نوجوانان، موضوع ربات‌ها و … ما را درگیر کرده‌اند.
من در اینجا می‌خواهم ادعا کنم که در واقع یک چیز وجود دارد که همه‌ی این مشکلات را ایجاد می‌کند.
و آن را ادوارد او. ویلسون (E.O. Wilson) زیست‌شناس ــ اجتماعی (Sociobiology) آمریکایی بیان کرده است: مشکل واقعی بشریت این است که «ما احساسات پارینه سنگی، نهادهای قرون وسطایی و فناوری خداگونه داریم.»
مشکل به نوعی در، بشر بودن است. زیرا در عین حالی که ما همچنان این غرایز باستانی پارینه‌سنگی خود را حفظ کرده‌ایم، فناوری‌هایمان در حال رشد به صورت نمایی است.
اولین باری که من در معرض این غرایز پارینه‌سنگی قرار گرفتم، در کودکی و در مواجهه با یک شعبده‌باز بود. سحر و جادو نوعی دانش در مورد محدودیت‌های ویژگی‌های تکاملی ذهن ما است، درست است؟ شما از این محدودیت‌های تکاملی توجه، حواس‌پرتی و محدودیت‌های هدایت نادرست انسان استفاده می‌کنید. اینها از ویژگی‌های ذهنی هستند. و بعداً به‌عنوان یک فناور، یاد می‌گیرید که هنگام طراحی نرم‌افزار چگونه از طریق همین نقص‌ها وارد مغز مردم شوید.
در آزمایشگاه‌های «فناوری متقاعد‌کننده»، می‌توانید نحوه‌ی عملکرد مغز افراد را یاد بگیرید، و سپس دانشتان را در روابط آنها پیاده کنید و نحوه‌ی بازی افراد در روابطش را کنترل کرده و شکل دهید. به‌عنوان یک اخلاق‌شناس طراحی (design ethicist) به شما می‌گویم گوگل این کار را با افکار 2 میلیارد نفر انجام می‌دهد ــ چگونه بر غرایز پارینه‌سنگی 2 میلیارد نفر تأثیر می‌گذارد؟
همه‌ی ما به فکر لحظه‌ای هستیم که فناوری بر نقاط قوت و هوش انسان غلبه کند ــ چه زمانی قرار است از منحصربه‌فرد بودن عبور کنیم و شغل ما با چیزی باهوش‌تر از انسان جایگزین شود؟ این چیزی است که همه درباره‌ی آن صحبت می‌کنند.
اما لحظه‌ای که فناوری بر نقاط ضعف انسان غلبه کند خیلی زود فرا خواهد رسید. و امروز می‌خواهم ادعا کنم که عبور از این نقطه، ریشه‌ی بات‌ها، اعتیاد، اضافه‌بار اطلاعات، قطبی‌سازی، رادیکال‌سازی، هتک‌حرمت، بطالت و بیهوده‌‌سازی است ــ یعنی تمام آن چیزی که منجر به کاهش دامنه‌ی توجه ما از روابط، استقامت و پایداری، اجتماعات، عادات، و در نتیجه تنزل انسانیت می‌شود.
مسابقه برای رسیدن به انتهای ساقه‌ی مغز
جای خالی یک نام برای این مشکل وجود دارد. مشکلی که حاصل سیستم اقتصاد توجه استخراجی (extractive attention economy) است. بنابراین وقتی می‌گویم اقتصاد توجه استخراجی، منظور این است که این مسابقه در انتهای ساقه‌ی مغز وجود دارد، و مسابقه‌ای برای مهندسی معکوس غرایز انسان است.
چه کسی بهتر از جادوگر زیست‌شناس تکاملی می‌تواند این ترفندها را در ذهن انسان کشف کند؟
با تبدیل تلفن‌ها، برنامه‌های دوستیابی و ایمیل‌هایمان به دستگاه‌های اسلات (بازی قماری که بر مبنای شانس بنا شده است)، ــ ما ۷۴ بار در روز ایمیل‌هایمان را چک می‌کنیم، در سیستم‌های دوپامینرژیک خود می‌خزیم و صفحات زیادی را در شبکه‌های اجتماعی بارگذاری می‌کنیم (مرتبط با مسئله‌ی در دسترس بودن اجتماعی، باید این کار را انجام بدهم. باید برای هم در آنجا باشیم و تعاملات اجتماعی متقابل و …)
ما با تمام این سوگیری‌های شناختی مختلف در افراد بازی می‌کنیم. و همه‌ی اینها به نام جلب «توجه» شناخته می‌شوند. اما در رقابت برای رسیدن به انتهای ساقه‌ی مغز، فقط مسئله جلب «توجه» شما نیست. من باید تو را به جلب توجه، «معتاد» کنم زیرا فقط اینگونه است که «توجه» بیشتر می‌شود.
بنابراین وقتی می‌نشینید و می‌خواهید تعداد فالوورهایتان را افزایش دهید، لایک بیشتری بگیرید یا توجه بیشتری را به ظاهرتان جلب کنید، باید بدانید که فناوری در پس‌زمینه در حال کار کردن است. و دنیایی را ایجاد کرده که در آن فقط با ظاهر متفاوت از آنچه که هستید پاداش دریافت می‌کنید.
ما اکنون حدود یک چهارم زندگی خود را در این سیستم‌های اجتماعی مصنوعی روی اسکرین‌ها می‌گذرانیم. موضوع فقط روی اسکرین‌ها بودن نیست، این اتفاق خارج از اسکرین‌ها هم در حال وقوع است. زیرا طرز فکر ما در مورد روابطمان را هم شکل می‌دهد. اینکه ما چگونه روابط خود را ببینیم نوعی «استعمار» است که نتایج جدی‌ای را نیز در پی داشته است.
با توجه به تحقیقات درصد زنان با علائم افسردگی در سال 1991 از 17٪ شروع می‌شود و اگر تا سال 2013 در عصر ظهور رسانه‌های اجتماعی مدرن پیش بروید، به حدود 20، 21٪ می‌رسید، اما بعد از آن چه اتفاقی می‌افتد:
تحقیق ژان تونگ Jean Twenge’s research، به طور شفاف نشان داده است که در بین دختران 10 تا 14 ساله، مادامی که سنجش اعتبار اجتماعی آنها وابسته به برنامه‌های متغیری از ماشین‌های بازی بوده و یا به تصویر خودشان در میان دوستانشان وابسته باشد، چه اتفاقی برای آنها می‌افتد.
روبرو شدن با این واقعیت که ما در هویت خود چه کسی هستیم، تحقیرکننده و طاقت‌فرسا است. در مقابل ما چه می‌کنیم؟ پایین‌تر آوردن سطح توجه‌مان، کاهش نیازمان به توجه از سوی دیگران و تنزل دادن هویت خود.
تنزل رتبه‌ی انسانیت
اما بعد تنزل رتبه‌ی دیگری شروع می‌شود که همان «اراده‌ی آزاد» ماست. وقتی این را می‌گویم، ممکن است فکر کنید که زیاده‌روی می‌کنم، اما اجازه دهید مثالی برای شما بزنم.
فرض کنید که می‌خواهید روی یک ویدیوی YouTube کلیک کنید. چند نفر این کار را کرده‌اند؟ شما می‌خواهید دکمه‌ی پخش را بزنید، فکر می‌کنید من فقط یک ویدیو می‌بینم و سپس کار دیگری انجام می‌دهم. و البته اتفاقی که می‌افتد این است که دو ساعت می‌گذرد و شما ناگهان از حالت خلسه بیدار می‌شوید و می‌گویید ــ چه اتفاقی برای من افتاده؟
زیرا وقتی دکمه‌ی پخش آن ویدیوی یوتیوب را فشار می‌دهید، آنچه در واقع اتفاق می‌افتد این است که یک آواتار کوچک از «عروسک وودو» (Voodoo doll) در وجود شما بیدار می‌شود. در یک سرور در جایی بر اساس همه کلیک‌ها و لایک‌های شما، بر اساس هر چیزی که تماشا کرده‌اید و نحوه‌ی مقایسه‌ی آن با عروسک‌های وودو سایرین، «گوگل» در حال ساختن مشابه شماست ــ همه‌ی آن کلیک‌ها مانند بریده‌ی ناخن و خرده‌های مویی هستند که این بات را بیشتر و بیشتر شبیه شما می‌کنند.
گوگل (متخصصان فناوری) مجبور نیست شما را دستکاری کند فقط باید «عروسک وودو»ی شما را دستکاری کند. یک سری ویدیو را روی او آزمایش می‌کند و می‌فهمد ــ کدام یک از شما را می‌تواند مدت طولانی‌تری آنلاین نگه دارد؟ این مانند یک بازی شطرنج در مقابل صفحه‌ی شطرنج ذهن شماست. گوگل (متخصصان فناوری) برنده می‌شود زیرا می‌تواند از قبل حرکت‌های بیشتری را در صفحه‌ی شطرنج ببیند.
اکنون میانگین تماشای روزانه YouTube در تلفن همراه بیش از 60 دقیقه است. همانطور که مدیر محصول YouTube گفته است این به‌خاطر آن چیزی است که موتورهای توصیه‌ای (recommendation engines) در مقابل چشمان شما قرار می‌دهند.
با این کار در واقع انتخاب آزاد ما را «استعمار» می‌کنند. زیرا در حال حاضر 70% از یک میلیارد ساعت تماشای روزانه در YouTube به‌واسطه‌ی خود سیستم توصیه می‌شود. هوش مصنوعی در واقع «انتخاب آزاد» ما را تنزل داده و بر آن غلبه کرده است. بنابراین اراده‌ی آزاد در حال استعمار است. زیرا بعد از آن است که تصمیم می‌گیریم که به چه چیزی اعتقاد داریم.
اگر من یوتیوب باشم و بخواهم شما بیشتر تماشا کنید، هم بخش احیاکننده/ بازسازی‌کننده (regenerative section) دارم، هم بخش استخراجی (extractive section). اگر بخواهم بیشتر تماشا کنید، شما را به کدام سمت هدایت خواهم کرد؟
مثلا من قصد دارم شما را به سمت شهر دیوانه متمایل کنم. شما می‌توانید از بخش آرام شروع کنید، از بخش دیوانه هم می‌توانید شروع کنید، اما اگر بخواهم بیشتر تماشا کنید، همیشه شما را به سمت متضاد آن نیز متمایل خواهم کرد. چگونه؟
سه نمونه از آن:
- حدود یک سال پیش، اگر یک دختر نوجوان بودید و یک ویدیوی رژیمی را شروع می‌کردید، ویدیوهای بی‌اشتهایی به شما توصیه می‌شد، زیرا اینها چیزهایی هستند که توجه مردم را بیشتر جلب می‌کنند.
- اگر فیلم خبری 11 سپتامبر را تماشا می‌کردید، تئوری‌های توطئه درباره‌ی 11 سپتامبر را توصیه می‌کرد.
- و اگر در حال تماشای فرود ناسا روی ماه هستید، مبحث زمین تخت را توصیه می‌کند.
خب حالا بیایید نگاهی به یکی از این نمونه‌ها بیندازیم. اگر مثلاً به موضوع زمین مسطح نگاه کنیم، چند درصد از نتایج به نفع زمین مسطح مثبت بوده است؟
این داده‌ها مربوط به حدود دو سال پیش (2015) است: اگر در جستجوی گوگل نگاه کنید، نتایج 20٪ بود. بنابراین 20 درصد از نتایج جستجوی گوگل به نفع زمین مسطح بود. اگر در جستجوی یوتیوب نگاه کنید، 35٪ بود. اما اگر به توصیه‌های یوتیوب نگاه کنید، 90٪ بود.
اینطور نیست که کسی بخواهد این اتفاق بیفتد زیرا این چیزی است که سیستم توصیه می‌کند. به قدری که کایری اروینگ، بسکتبالیست مشهور در ابتدا گفته بود ــ معتقد است زمین صاف است و البته بعداً عذرخواهی کرد و یوتیوب را مقصر دانست. وقتی او بعداً به NPR آمد گفت ــ متاسفم که این را باور کردم، نمی‌خواستم مردم را گمراه کنم.
با دسته‌ای از دانش‌آموزان در مدرسه مصاحبه شد و گفتند: اوه، بله با موضوع زمین صاف برخورد کرده‌اند.
این خیلی مهم و حیاتی است که بدانید وقتی مردم را به سمت این مسیرهای دیوانه‌کننده سوق می‌دهید، بازگرداندن آنها واقعاً دشوار می‌شود.
اما این فقط ویدیوها نیستند که توصیه می‌شوند. به تازگی Guillaume Chaslot، افشاگر توصیه‌های YouTube بیان کرده که یوتیوب «زبانی» را که ما روزانه در معرض آن قرار داریم قطبی کرده و تغییر می‌دهد.
به این مثال دقت کنید:
در هفته‌ی گذشته، بیشترین کلمات کلیدی توصیه شده در یوتیوب موارد زیر بوده اند:
- تحصیل کردن؛
- پاره کردن؛
- کم‌ارزش کردن/ اطلاع دادن و آگاه کردن؛
- بی‌مصرف کردن؛
- مناظره کردن؛
- پاره کردن / دریدن؛
- مواجه شدن / مقابله کردن؛
- تخریب کردن؛
- تنفر داشتن؛
- خراب کردن؛
- معدوم کردن / محو کردن.
بنابراین حتی اگر اخبار جعلی را حل کنید، این یکی از انواع «تشعشع پس‌زمینه» است که در هفته‌ی گذشته جمعیتی به اندازه‌ی اسلام روزانه 60 دقیقه در معرض آن بوده‌اند. اکنون به این فکر کنید که جمعیتی به اندازه‌ی اسلام به این سمت متمایل شده‌اند، نه به این دلیل که کسی می‌خواهد این اتفاق بیفتد، بلکه به این دلیل که فقط «اقتصاد توجه استخراجی» می‌خواهد توجه شما را جلب کند.
این اتفاق در مورد فیسبوک نیز افتاد. حدود دو سال پیش، مارک زاکربرگ گفت ــ ماموریت جدید ما این نیست که جهان را وسیع‌تر و متصل‌تر کنیم، بلکه می‌خواهیم دنیا را به هم نزدیک‌تر کنیم.
آنها گفتند، یکی از راه‌هایی که می‌خواهیم انجام دهیم این است که یک هوش مصنوعی بسازیم تا گروه‌های فیسبوکی را به مردم پیشنهاد کند. او می‌گوید این روش کار کرده است، زیرا در شش ماه اول به 50٪ از مردم کمک کردیم تا به جوامع معنی‌دارتری بپیوندند.
خب این به چه معناست؟
شما اینجا هستید و قصد دارید به یک گروه فیسبوکی بپیوندید، فرض کنید این یک گروه فیسبوکی برای تازه مادران است. نسخه‌ی عروسک آواتار وودو بر اساس همه‌ی کلیک‌های شما و همه‌ی چیزهایی که تا به حال به آنها پیوسته‌اید بیدار شده و می‌گوید ــ اگر من شما را مجبور به پیوستن به آنها کنم، کدام گروه‌ها شما را مدت طولانی‌تری در خود نگه می‌دارند و برای شما جذاب‌تر خواهند بود؟ چه گروه‌هایی بیشترین درگیری و تعامل را ایجاد خواهند کرد؟ ــ و به نظر شما کدامیک از محبوب‌ترین گروه‌ها خواهند بود؟ تئوری‌های توطئه‌ی ضد واکسن.
اگر به «ضد واکسن» بپیوندید، در آن چیزی هستید که Renee DiResta آن را «ماتریس همبستگی توطئه» (conspiracy correlation matrix) می‌نامد زیرا ضد واکس، مسیرهای شیمیایی، زمین مسطح و غیره را توصیه می‌کند، و در نتیجه‌ی آن اکنون موضوع «ضد واکسن» جز ۱۰ تهدید برتر سلامت جهانی است که به طور گسترده توسط رسانه‌های اجتماعی تشدید شده است.
اکنون می‌توانیم 10000 ناظر محتوا را به زبان انگلیسی استخدام کنیم. می‌توانیم افرادی را در برنامه استخدام کنیم تا تعدیل این محتوا را آغاز کنند. اما آن شیب نموداری را تصور کنید که شما 10000 صخره‌گیر را استخدام کرده‌اید که سعی می‌کنند از غلتیدن سنگ‌ها به پایین تپه جلوگیری کنند، و در مقابل سیستمی ایجاد کرده‌اید که روی 2 میلیارد نفر تأثیر می‌گذارد. اصلا قابل مقایسه نیست.
نکته‌ی دیگر اینکه هر یک از این سه موضوع زمین مسطح، بی اشتهایی دختران نوجوان و ضد واکسن فقط مواردی هستند که ما به زبان انگلیسی در مورد آنها مطالعه کرده‌ایم، (زیرا روزنامه‌نگاران انگلیسی‌زبان ما در حال پررنگ کردن این موضوعات هستند،) در نظر بگیرید که چه اتفاقات دیگری در سراسر جهان به زبان‌هایی که مهندسان نمی‌دانند در حال رخ دادن است؟
ما از تحقیقی که MIT در توییتر انجام داد می‌دانیم که اخبار جعلی شش برابر سریعتر از اخبار واقعی منتشر می‌شوند. این وضعیتی است که جهان را به این جهت دیوانه‌کننده سوق می‌دهد. با ذکر این مهم که ما در شش سال آینده حدود 4 میلیارد نفر جدید در محیط‌های آنلاین خواهیم داشت.
ادامه دارد ...
انسانی: یک دستور کار جدید در مواجهه با فناوری از «تریستان هریس» بخش دوم
آنچه مطالعه کردید بخش اول از ترجمه‌ی سخنرانی تریسان هریس در سال 2017 از جهت اهمیت پرداختن به فناوری انسانی است. در صورت علاقه‌مندی می‌توانید ویدئو سخنرانی را مشاهده کنید و یا برای مطالعه‌ی متن دست‌نویس سخنرانی به زبان اصلی به سایت سر بزنید.
