Tech Leaders Can Do More to Avoid Unintended Consequences
پیشبینی اثرات منفی یک ایده یا اختراع کار آسانی نیست، اما چارچوبهای مشخصی وجود دارد که میتواند به کارآفرینان کمک کند اندکی دورتر را ببینند.
ده سال پیش، در اتاقی کوچک هتلی در هلسینکی فنلاند، یک کارآفرین جوان حوزه فناوری با قلم و کاغذ نشست و محاسبه کرد که یکی از اختراعات او باعث هدررفتن معادل بیش از یک میلیون عمر انسانی در هر روز شده است. این آگاهی حال او را بهشدت بد کرد. نام آن کارآفرین آزا رسکین (Aza Raskin) است؛ مخترع «اسکرول بینهایت» (infinite scroll)، قابلیتی در تلفنهای ما که تنها با یک حرکت سادهی انگشت، ما را بیپایان درگیر پیمایش و دیدن محتوا میکند.
در سال ۲۰۰۶، رسکین در تلاش بود مشکل آزاردهندهی دکمهی «صفحه بعدی» را که کاربران اینترنت مدام مجبور به کلیک روی آن بودند، حل کند. هدف او، به طرز طنزآمیزی، جلوگیری از گسسته شدن جریان فکری کاربر بود. رسکین در گفتوگویی که اخیراً در پادکست من با عنوان Rethink Moments داشت، توضیح داد:
«قصد من این بود چیزی بسازم که بتواند تمرکز ما را بیشتر کند و سرعت استفاده ما از وبسایتها و اپلیکیشنها را تنظیم نماید.»
اسکرول بینهایت این مشکل را با بارگذاری خودکار محتوای جدید، بدون نیاز به کلیک، برطرف کرد.
اما رسکین پیشبینی نمیکرد که غولهای فناوری از اصل طراحی او سوءاستفاده کنند؛ اپلیکیشنهایی بسازند که به طور خودکار محتوای بیشتر و بیشتری را به کاربر ارائه دهند، بیآنکه او درخواست کرده باشد یا حتی بتواند واقعاً جلوی آن را بگیرد. یک ویدئو را در یوتیوب تمام میکنید، بلافاصله ویدئوی بعدی بارگذاری میشود. وارد اینستاگرام میشوید تا فقط چند تصویر را ببینید، و نیم ساعت بعد همچنان بیهدف در حال بالا و پایین رفتن هستید.
رسکین میگوید:
«فکر میکنم وقتی به گذشته نگاه میکنم، چیزی که بیش از همه حسرتش را میخورم این است که اختراعاتم را همراه با فلسفه یا چارچوبی که قرار بود در آن به کار گرفته شوند، ارائه نکردم. نوعی خوشبینی سادهلوحانه وجود داشت که تصور میکرد اختراعاتم در خلأ زندگی خواهند کرد و تحت تأثیر نیروهای بازار قرار نخواهند گرفت.»
او عمیقاً از پیامدهای ناخواسته اختراعش؛ ساعتها، حتی سالهای عمر، که صرف گشتوگذار و پیمایش بیهدف شدهاند، پشیمان است.
رسکین در این مسیر تنها نیست. در طول سالها، زمانی که به کارآفرینان موفق مشاوره دادهام، اغلب شنیدهام که آنها هرگز تصور نمیکردند ایدههایشان در مقیاس وسیع چه اثرات منفیای میتواند داشته باشد. برای مثال، بنیانگذاران Airbnb پیامدهای منفی اجارههای کوتاهمدت بر جوامع محلی را پیشبینی نکرده بودند. یا زمانی که جاستین روزنستین دکمهی «لایک» را اختراع کرد، فکر نمیکرد که دریافت قلبها و لایکها—یا نگرفتن آنها—چه اثری بر اعتمادبهنفس نوجوانان خواهد گذاشت.
من طرفدار فیسبوک (ببخشید، متا) نیستم، اما میتوان گفت مارک زاکربرگ هم شرکت عظیم شبکه اجتماعی خود را در ابتدا با هدف مداخله سیاسی تأسیس نکرد. با این حال دیدیم که پلتفرمی که قرار بود—به نقل از زاکربرگ—«به مردم قدرت اشتراکگذاری بدهد و جهان را بازتر و متصلتر کند»، در نهایت به پیامدهای ناخواسته و ویرانگری مانند حمله به ساختمان کنگره آمریکا در ششم ژانویه منجر شد.
خالقان و کارآفرینان معمولاً میخواهند محصولاتی بسازند که «جهان را تغییر دهد.» و اغلب این کار را میکنند—اما نه لزوماً به شکلی که در ابتدا تصور میکردند.
ناتوانی در پیشبینی پیامدهای ناخواستهی فناوری، مشکلی عمیق و جدی است و پرسشهای دشواری را مطرح میکند:
آیا کارآفرینان باید مسئول پیامدهای زیانبار نوآوریهای خود باشند؟
و آیا راهی برای جلوگیری از این پیامدهای ناخواسته وجود دارد؟
پیامدهای ناخواستهی نوآوریها با فناوریهای جدید شتاب گرفتهاند، اما این مسئله مختص قرن بیستویکم نیست. مایکروویو برای راحتی ساخته شد، اما مخترع آن هرگز به این فکر نکرد که اگر هر کس غذای خود را جداگانه گرم کند، چه تأثیری بر عادات غذایی خانوادگی خواهد داشت.
زمانی که کارل بنز نخستین خودروی بنزینی را برای کمک به جابهجایی سریعتر و آزادی بیشتر افراد ساخت، به مشکلاتی مانند ترافیک سنگین یا آلودگی هوا فکر نکرده بود. و هنگامی که بیش از ۱۱۰ سال پیش پلاستیک به عنوان مادهای محکم و انعطافپذیر اختراع شد، کسی نمیتوانست آسیبهای زیستمحیطی ناشی از بستهبندی انبوه و استخراج نفت را که امروز با آن روبهرو هستیم، تصور کند.
در سال ۱۹۳۶، جامعهشناس رابرت مرتون چارچوبی را برای درک انواع مختلف پیامدهای پیشبینینشده پیشنهاد داد—از جمله:
- نتایج وارونه،
- عوارض غیرمنتظره،
- منافع غیرقابلپیشبینی.
انتخاب واژهی «پیشبینینشده» (unanticipated) به جای «ناخواسته» (unintended) توسط مرتون، به هیچوجه تصادفی نبود. اما با گذر زمان، این دو اصطلاح در هم آمیختهاند.
- «پیشبینینشده» به ناتوانی یا عدم تمایل ما برای پیشبینی پیامدهای زیانبار آینده اشاره دارد.
- «ناخواسته» پیامدهایی را توصیف میکند که صرفنظر از میزان تلاش ما، اساساً غیرقابل تصورند.
تفاوت این دو تنها یک بحث زبانی نیست—تعبیر دوم، کارآفرینان و سرمایهگذاران را از مسئولیت پیامدهای زیانبارِ غیرعمدی فاصله میدهد. من اصطلاح «پیامدهای نادیدهگرفتهشده» (unconsidered consequences) را ترجیح میدهم، زیرا مسئولیت نتایج منفی را مستقیماً بر دوش سرمایهگذاران و کارآفرینان میگذارد.
مِرتون پنج عامل کلیدی را برشمرد که مانع پیشبینی یا حتی در نظر گرفتن پیامدهای بلندمدت توسط مردم میشوند:
- نادانی،
- کوتاهمدتگرایی،
- ارزشها،
- ترس،
- خطا — یعنی فرض اینکه عادتهایی که در گذشته کارآمد بودهاند، در شرایط کنونی هم کاربرد خواهند داشت.
من یک عامل ششم را هم اضافه میکنم:
- سرعت. سرعت، دشمن اعتماد است.
برای اینکه بتوانیم تصمیمهای آگاهانهای درباره این بگیریم که کدام محصولات، خدمات، افراد و اطلاعات شایسته اعتماد ما هستند، لازم است اندکی اصطکاک وجود داشته باشد تا ما را کند کند— درست برعکسِ پیمایش و اسکرول بینهایت و آسان. و سرعت خود دو وجه دارد.
بر اساس دادههای Our World in Data، بیش از ۵۰ سال طول کشید تا بیش از ۹۹ درصد خانوارهای آمریکایی رادیو را برای گوش دادن به برنامهها در خانه و خودروهایشان بپذیرند. تلویزیون رنگی برای رسیدن به سطح مشابهِ پذیرش عمومی، ۳۸ سال زمان برد. در مقایسه، اینستاگرام تنها در سه ماه پس از راهاندازی در سال ۲۰۱۰ به یک میلیون کاربر رسید. تیکتاک در سال ۲۰۲۱، تنها چهار سال پس از عرضه جهانی، به کاربر میلیاردی خود دست یافت—نیمی از زمانی که فیسبوک، یوتیوب یا اینستاگرام برای رسیدن به همان نقطه صرف کردند، و سه سال سریعتر از واتساپ.
وقتی بازهی زمانی پذیرش یک فناوری توسط مصرفکنندگان از چند دهه به چند ماه کاهش پیدا میکند، کارآفرینان بهراحتی میتوانند تغییرات رفتاری عمیقتر و اغلب ظریفی را که این نوآوریها با سرعتی شتابان وارد زندگی ما میکنند، نادیده بگیرند.
کارآفرینان اغلب برای خودشان این داستان را تعریف میکنند که هنوز در مرحلهی «تازگی» (novelty) یا «محیط آزمایشی» (sandbox) هستند، در حالی که در واقع میلیونها نفر در حال استفاده از محصول آنها هستند. این موضوع در حقیقت در بیانیههای مأموریتی اولیهی شرکتهای بزرگ فناوری بازتاب یافته است—شعارهایی مانند «شرور نباش» (Don’t be evil) از گوگل یا «به مردم قدرت بده تا اجتماع بسازند و جهان را به هم نزدیکتر کنند» از فیسبوک—که بسیار فراتر از تاریخ انقضای خود به کار گرفته میشوند؛ حتی سالها پس از آنکه بنیانگذاران مجبور شدهاند نهتنها کاستیهای جدی نوآوریهایشان بلکه پیامدهای سنگین آن کاستیها را هم بپذیرند.
در همین زمان، تمرکز اصلی اکثر کارآفرینان بر تسریع رشد باقی میماند. من تنها یکبار در یک «پیشنهاد سرمایهگذاری» (pitch deck) شاهد یک استراتژی «رشد آهسته» بودهام. همانطور که همانت تانجا، شریک مدیریتی شرکت سرمایهگذاری General Catalyst، در کتاب خود با عنوان Intended Consequences مینویسد: «شعار قدیمیِ سریع حرکت کن و چیزها را بشکن یک اصل طراحی مهندسی است … نه یک اصل طراحی اجتماعی.»
تانجا استدلال میکند که سرمایهگذاران خطرپذیر باید بهجای بررسی «حداقل محصولات قابل عرضه» (minimum viable products)، به دنبال «حداقل محصولات فضیلتمند» (minimum virtuous products) باشند. پرسشی کلیدی برای سنجش میزان فضیلت یک محصول در طول زمان این است:
اگر در دورهای دیگر یا در کشوری دیگر متولد شده بودید، چه حسی نسبت به این ایده داشتید؟
این ایده به کجا خواهد انجامید؟ وقتی رشد کند، چگونه تغییر خواهد کرد؟ پاسخ این است که گاهی واقعاً نمیدانیم.
پیچوخمهای رفتار انسانی و پیشرفتهای فناوری میتوانند پیشبینی آینده را دشوار کنند. حتی هنگام نوشتن این مقاله دریافتم که بسیاری از کارآفرینان و سرمایهگذاران تمایلی به صحبت دربارهی تأثیرات فناوریها در مقیاس وسیع ندارند. یک واکنش رایج این است: «نمیتوان تأثیر در مقیاس وسیع را تصور کرد.»
اما همانطور که رسکین اشاره میکند:
«ناتوانی در تصور پیامدهای یک فناوری در مقیاس وسیع، در واقع استدلال بسیار خوبی است برای اینکه چرا نباید اجازه داد فناوری در چنین مقیاسی عرضه شود. اگر نمیتوانید اثرات فناوریای را که قصد آزاد کردنش را دارید پیشبینی کنید، این نشانهی آن است که نباید چنین کاری انجام دهید.»
تصور کنید اگر یک شرکت داروسازی میگفت که به هیچ وجه نمیتواند پیامدهای منفی یا عوارض جانبی بالقوه مرگبار یک دارو را پیشبینی کند، چون بدن انسانها همه متفاوت و پیچیده است—اما با این حال دارو را وارد بازار کند؟! این در شرایط کنونی ما غیرقابل تصور است، زیرا داروها باید از پروتکلهای آزمایشی دقیق عبور کنند و استانداردهای اثربخشی و ایمنی تعیینشده توسط سازمانهای تخصصی را رعایت کنند. البته این سیستم کامل نیست—شکافها و راههای فرار وجود دارد—اما اکنون زمان آن رسیده که برای محصولات فناوری، استانداردهای حفاظتی بیشتری وضع شود و محدودهی دسترسی آنها محدود گردد، محصولاتی که بهطرز قابلتوجهی فراگیرتر از بسیاری داروها هستند.
پیامدهای ناخواسته را نمیتوان بهطور کامل از بین برد، اما میتوانیم در نظر گرفتن و کاهش آنها بهتر عمل کنیم.
مسئولیت پیامدهای نادیدهگرفتهشده مسئلهای پیچیده است. شبکههای اجتماعی را در نظر بگیرید. در حال حاضر، مخترعان اصلی این پلتفرمها—زاکربرگ، جک دورسی (توییتر)، چاد هورلی (یوتیوب)—را نمیتوان بهخاطر محتوایی که کاربران تصمیم میگیرند منتشر کنند، مسئول دانست. اما آنها باید در قبال هر محتوایی که الگوریتمهایی که نوشته و بهکار میبرند، پخش و ترویج میکند، پاسخگو باشند.
قوانین نمیتوانند مردم را مجبور کنند که از یک محصول یا خدمت بهطور مسئولانه استفاده کنند. اما کارآفرینان باید در قبال تصمیمات ساختاری و طراحیای که میگیرند و بهگونهای منافع کاربران و جامعه را حفظ یا نقض میکنند، مسئول شناخته شوند.
تیم برنرز-لی، مخترع اینترنت، در نامهای به مناسبت سیامین سالگرد شبکه جهانی وب به «پیامدهای منفی ناخواسته» طراحی وب اشاره کرد، از جمله «انگیزههای وارونه» ناشی از مدلهای کسبوکار مبتنی بر تبلیغات که بسیاری از غولهای فناوری مانند گوگل و فیسبوک از آن استفاده میکنند و موجب تشویق «کلیکفریبها و انتشار ویروسی اطلاعات نادرست» میشوند.
با آشکار شدن پیامدهای پیشبینینشده، این کارآفرینان هستند که باید مدلهای کسبوکار و سازوکارهای ساختاری موجود خود را برای کاهش اثرات منفی اصلاح، بهروزرسانی، یا کاملاً بازطراحی کنند.
یک پیامد نادیدهگرفتهشده با یک نتیجهی نامطلوب تفاوت دارد. تصادف قطار یا خودرو که باعث مرگ افراد میشود، یک نتیجهی نامطلوب است. این با تأثیری که از یک سیاست عمدی یا اقدام هدفمند—مثل مدل کسبوکار مبتنی بر تبلیغات—به وجود میآید و سلسلهای از رفتارهای زیانبار و رویدادهای منفی آینده را آغاز میکند، متفاوت است.
همانطور که داستان اسکرول بینهایت رسکین نشان میدهد، وقتی این اختراعات توسط بازار آزاد دستکاری میشوند، بسیار آسان است که خالقان کنترل چیزهایی را که ساختهاند، از دست بدهند. ویژگیای که او قصد داشت به افراد کمک کند تا تمرکز بیشتری داشته باشند، توسط دیگران به ابزاری برای حواسپرتی جمعی تبدیل شده—و منافع مالی غولهای فناوری را تقویت کرده است.
اما در دههی گذشته، رسکین بهعنوان همبنیانگذار مرکز فناوری انسانی (Center for Human Technology) همراه با تریستان هریس، بسیار در این باره فکر کرده که چگونه میتوان فلسفهی طراحی را مستقیماً در یک اختراع یا محصول گنجاند.
او سه ایدهای که در حال توسعه آنها است را توضیح داد:
- اولین ایدهای که او مطرح میکند، معرفی یک مجوز متنباز جدید است که همراه با یک سوگندنامهی بقراطی ارائه شود. این مجوز شامل یک «منشور حقوق و منشور خطاها» خواهد بود که موقعیتها یا استفادههای مشخص از فناوری را که باعث لغو مجوز میشوند، تعیین میکند. هدف این ایده جلوگیری از سوءاستفادهی بیمجازات از فناوری یک خالق است.
- دومین راهحل عملی رسکین برای مسئول نگهداشتن کارآفرینان در مقیاس بزرگ، متصل کردن مسئولیت به مقیاس قدرت است. رسکین میگوید:
«اگر محصول یا خدمت شما توسط کمتر از ۱۰,۰۰۰ نفر استفاده میشود، باید تحت قوانین متفاوتی قرار بگیرید تا زمانی که پایگاه کاربران شما بزرگتر از یک کشور باشد.» او در واقع به ایدهای اشاره میکند که من آن را «مجوز با اجازه در مقیاس» (permission at scale) مینامم.
هر بار که یک اختراع به یک نقطهی عطف پذیرش دست پیدا کند—مثلاً ۱۰۰,۰۰۰ کاربر، یک میلیون کاربر، یک میلیارد کاربر و غیره—کارآفرین باید بر اساس اثرات مثبت و منفی اختراع خود، دوباره برای دریافت مجوز اقدام کند.
دوباره، چارچوبهای بهترین روشها (best-practice frameworks) وجود دارند که میتوان از صنعت داروسازی اقتباس کرد. وقتی شرکتهای دارویی در حال کار روی درمان بیماریهای نادر هستند، بسیاری از محدودیتها برداشته میشوند زیرا با توجه به زمینهی کار، بسیار سنگین هستند. اما وقتی دارو در مقیاس بزرگ عرضه میشود، مقررات بسیار متفاوت خواهند بود.
رسکین توضیح میدهد:
«یک مقیاس پیشروندهی مسئولیت به این معناست که شما در مقیاس کوچک نوآوری زیادی داشته باشید، اما به محض اینکه اختراع شما ظرفیت ایجاد آسیب پیدا کند، مسئولیتی متناسب با آن نیز بر دوش شما خواهد بود.»
- در نهایت، او توصیه میکند که یک «تیم قرمز» مستقل از هیئتمدیره یا سرمایهگذاران ایجاد کنید. رسکین نقش این تیم را مشخص کردن تمام راههایی میداند که فناوری میتواند برای اهداف خوب یا بد سوءاستفاده شود. او میگوید:
«این کار نوعی شرمِ متقابل ایجاد میکند—ما میدانیم، شما هم میدانید—در استفاده از فناوری برای اهداف شوم.»
رسکین، «باشگاه تردید» (Doubt Club) خود را راهاندازی کرده است؛ فرومی برای گروهی از کارآفرینان که روی ایدههای غیررقابتی کار میکنند تا تردیدهایشان دربارهی محصول، مأموریت شرکت یا معیارهایشان را به اشتراک بگذارند. آنها توافق کردهاند که هر چیزی که در باشگاه تردید مطرح میشود، از اتاق خارج نشود. هدف این است که نادانی کاهش یابد و آنچه رسکین «تواضع معرفتشناختی» (epistemic humility) مینامد، تشویق شود—آمادگی برای گفتن سه کلمهی جادویی: من نمیدانم.
فیزیکدان نظری برجسته، ریچارد فاینمن، یک بار در کتاب خود The Pleasure of Finding Things Out نوشت:
«توانایی ما در شک و تردید است که آیندهی تمدن را تعیین خواهد کرد.»
این اصل بهطور فوری در مورد نوآوریهای فناوری نیز کاربرد دارد. کارآفرینان و سرمایهگذاران باید مسئولانه به پرسشهای «چه میشود اگر …» پاسخ دهند:
- چه میشود اگر افراد از اختراع من عقب بمانند؟
- چه میشود اگر سیستم من مستعد تعصب شود؟
- چه میشود اگر منافع مدل کسبوکار من با منافع واقعی مشتریان همسو نباشد؟
ما بیش از حد به وضوح تفسیرهای خود باور داریم. شناسایی و کاهش پیامدهای ناخواسته نیازمند تواضع بیشتر و پذیرش تردید است؛ این امر ما را ملزم میکند که زمان بگذاریم تا آنچه را نمیدانیم کشف کنیم و بهطور فعال به دنبال احتمالهای جایگزین باشیم. برای کارآفرینان و سرمایهگذاران، این اساساً به معنای باور به خود و ایدههایتان، اما تردید در دانش فعلیتان است.
منبع: https://www.wired.com/story/technology-unintended-consequences/
مقالات مرتبط:
- چارچوبی برای تغییر سیستمهای پیچیده در جهت فناوری انسانی
- طراحی اخلاقی یک استراتژی مدیریت ریسک است
- طراحی یک امر سیاسی است
- چرا ساختن فرهنگ اخلاقی باید از بالاترین نقطه سازمان آغاز شود؟
- فناوری قابلاعتماد و اخلاقی: چالش جدید رهبری
