Designing for Tomorrow: A Discussion on Ethical Design
هر کسی که در زمینهٔ فناوری کار می‌کند، می‌داند که این صنعت در سال‌های اخیر به دلیل فقدان اصول اخلاقی و فرهنگ بی‌دقت "move fast, break things" ضربه خورده است. اما اکنون شرکت‌ها شروع به درک میزان آسیب زیادی که به بازار کار، حریم خصوصی و سلامت روان زده‌اند، کرده‌اند و در جستجوی نحوهٔ انجام متفاوت کارها در آینده هستند.
ما به‌عنوان طراح، نقش بزرگی در ایجاد این تغییر فرهنگی داریم. و برای اینکه بفهمید چرا، فقط به تکامل طراحی به‌عنوان یک حرفه نگاه کنید. در ابتدا طراحان دیجیتال (Digital designers) مهندسان کدنویسی بودند با تمایلات هنری. امروزه اما به‌طور فزاینده‌ای، طراحان صدای کاربر را تجسم داده‌اند و برای چیزی تلاش می‌کنند که دونالد نورمن آن را «طراحی کاربرمحور» (user-centered design) نامیده است.
از سال 1988، اتفاقات زیادی افتاده است. استیو جابز این ایده را رایج کرد که «طراحی فقط آن چیزی نیست که به نظر می‌رسد و حس می‌شود (فرم و شکل ظاهری). طراحی یعنی چگونه کار می‌کند». رشد تعامل صوتی (voice interaction) و هوش مصنوعی (AI) طراحی را فراتر از زیبایی‌شناسی، به قلمرو تصمیم‌گیری‌های پیچیده برده است. امروزه طراحان بیش از هر زمان دیگری زمان صرف می‌کنند تا کار ما را به ارزش‌های انسانی گره بزنند.
تغییر مهم دیگری نیز رخ داده است: در شناخت بهتر رفتار و انگیزه‌های افراد، ما آموخته‌ایم که تا حد زیادی گونه‌ای غیرمنطقی هستیم و مستعد محاسبات نادرست شناختی مانند زیان‌گریزی (loss aversion) یا مغلطه‌‌ٔ هزینهٔ هدررفته (sunk cost fallacy) هستیم. طراحان از این آسیب‌پذیری‌های روان‌شناختی سوء‌استفاده کرده‌اند تا کاربران آنچه را که خود می‌خواهند فراموش کنند و روی آنچه کسب‌وکارها می‌خواهند کلیک کنند.
با استفاده از تست A/B ــ که به ما امکان می‌دهد هزاران آزمایش کنترل‌شده را هر روز با هزینهٔ اندک روی کاربران انجام دهیم ــ و البته شما «اینترنت» دارید که به‌طرز وحشتناکی در دستکاری افراد و ایجاد آسیب طولانی‌مدت خوب است.
این تصمیمات غیراخلاقی معمولاً نتیجهٔ نیت بد نیستند. بلکه، یک موضوع سیستماتیک هستند که از تمرکز ما بر اهداف کوتاه‌مدت تجاری، مانند ایجاد تعامل و درگیری و درآمد ناشی می شوند، که اغلب به قیمت زیان به اعتماد و رفاه کاربر تمام می‌شوند. با وجود اینکه اندازه‌گیری اعتماد در کوتاه‌مدت دشوار است، اما پس از، از دست دادن آن، بازگرداندن آن حتی دشوارتر است. اگر می‌خواهیم محصولات پایداری بسازیم که تاثیر مثبتی بر افرادی که از آنها استفاده می‌کنند، بگذاریم، طراحان باید اعتماد کاربران را به دست آورند و آن را حفظ کنند.
طراحی غیراخلاقی، اهداف تجاری کوتاه‌مدت را مقدم بر کسب (و حفظ) اعتماد کاربران قرار می‌دهد.
روشی که طراحی غیراخلاقی به مردم آسیب می‌رساند
هنگامی که تصمیمات طراحی و محصول ما باعث آسیب می‌شود، اعتماد و رفاه کاربر به خطر می‌افتد. اینها را می‌توان به‌طور کلی به سه دسته‌ای تقسیم کرد که همپوشانی دارند:
1. آسیب جسمی (Physical harm):
- عدم فعالیت و محرومیت از خواب (Inactivity and sleep deprivation)، که با اسکرول بی‌نهایت، صف ویدیوهای خودکار، و سایر نشانه‌های اقتصاد توجه فعال شده است.
- فشار مالی(Financial strain)، ناشی از ویژگی‌هایی است که از داده‌ها تغذیه می‌شوند یا لغو تمدید اشتراک‌ها را بسیار دشوار می‌کند.
- بهره‌کشی از کارگران در اقتصاد گیگ فناوری محور (Exploitation of workers in the tech-driven gig economy)، که از اقتصاد رفتاری تحت‌عنوان «طراحی متقاعدکننده» (persuasive design) استفاده می‌کند تا مردم را وادار کند تا ساعات طولانی‌تری برخلاف منافع خود کار کنند.
- ارائه داده‌های قابل شناسایی شخصی (Exposure of personally identifiable data) ــ به‌عنوان مثال، زمانی که ویژگی‌ها مکان دقیق شخصی را با دیگران به اشتراک می‌گذارند.
- تصادفات ناشی از حواس پرتی (Accidents due to distraction)، به‌ویژه زمانی که مردم در حال رانندگی هستند.
2. آسیب عاطفی (Emotional harm):
- خیانت به اعتماد یا حریم خصوصی (Betrayal of trust or privacy)، زمانی که افراد با استفاده از اطلاعات شخصی که فکر می‌کردند خصوصی باقی می‌ماند مورد استثمار، افشا یا تبعیض قرار می‌گیرند.
- خودانگاره منفی، اضطراب و افسردگی (Negative self-image, anxiety & depression) ــ به‌ویژه در میان جوانانی که ذهن، بدن و هویت آنها هنوز شکل نگرفته است و تمایل به پذیرش اجتماعی دارند.
3. آسیب‌های اجتماعی (Societal harm):
- قطبی‌سازی سیاسی (Political polarization)، الگوریتم‌ها چشم‌انداز روزنامه‌نگاری را مسطح نشان می‌دهند، آژانس‌های خبری را از طریق احساسات‌گرایی به رقابت می‌کشند و به جامعه‌ای تقسیم‌شده با دیدگاه‌های قطبی و درک غیرمادی واقعیت کمک می‌کنند.
- حذف (Exclusion)، برای مثال، زمانی که طراحان در توسعه و ایجاد؛ ویژگی‌های حساس به تجربیات کاربران LGBTQ (هویت‌های جنسیتی متفاوت)، قابلیت دسترسی برای افراد دارای ناتوانی ذهنی و جسمی و اهمیت متن خوانا برای کاربران مسن‌تر شکست می‌خورند و در نتیجه آنها را از دایرهٔ کاربران خود حذف می‌کنند.
- تقویت کلیشه ها و سرکوب ساختاری (Reinforcing stereotypes and structural oppression)، به دلیل وابستگی فزاینده به الگوریتم‌ها و داده‌های جانبدارانه برای طبقه‌بندی و پیش‌بینی افراد.
چرا اصلا تجربیات مضر و آسیب رسان ساخته می شوند
طراحی اساساً در اولویت قرار دادن کاربر است. اما اگر انجام این کار همیشه آسان بود، ما با مشکلاتی که امروز داریم مواجه نمی‌شدیم. متاسفانه، نیازهای کاربر اغلب با چند انگیزهٔ بسیار وسوسه‌انگیز در تضاد است. اینها اهداف تجاری ما هستند که اغلب در فناوری فقط آنها را می‌بینیم (tunnel-vision): تعامل، علم، اتوماسیون و مقیاس، بی‌طرفی و سرعت بی‌پروا.
انگیزه‌های وسوسه انگیز The tempting incentives
- تعامل (Engagement) ــ اینها اعداد بزرگی هستند، مانند کاربران متوسط روزانه (DAU)، که به‌عنوان خلاصه‌ای برای موفقیت در تیم‌های فناوری استفاده می‌شوند.
- علم (Science) ــ اگر بیش از حد نسبت به داده‌های رفتاری حریص باشیم، آزمایش‌های غیراخلاقی A/B می‌توانند اجرا شوند. و ما اغلب فراموش می‌کنیم که چگونه «فقط آزمایش» چیزی می‌تواند تاثیرات مادی بر روی کاربران داشته باشد.
- اتوماسیون و مقیاس (Automation and scale) ــ ما اغلب سعی می‌کنیم یک راه‌حل یک‌اندازه برای همه پیدا کنیم. خواه یک الگوریتم باشد یا یک جریان طراحی، که افراد را مجبور می‌کند تا با آن سازگار شوند، نه برعکس.
- بی طرفی (Neutrality) ــ بسیاری از تصمیمات با عدم تصمیم‌گیری گرفته می‌شوند. ما باید سعی کنیم با غریزهٔ اجتناب از گفتگوهای دشوار مبارزه کنیم، زیرا انتخاب‌های منفعلانه به هر حال انتخاب هستند.
- سرعت بی پروا (Reckless speed) ــ چه تعداد از تصمیمات چالش‌برانگیز و مشکوک در خدمت «زودتر حلش کن/ زودتر از شرش خلاص شویم» سریعتر زیر فرش پنهان می‌شوند؟
اکنون می‌دانیم که طراحی می‌تواند ناخواسته باعث آسیب شود، بنابراین باید زمانی را برای رسیدگی به آن با همان سختگیری که برای درخشش پروژه‌های جدید اختصاص می‌دهیم، فراهم کنیم.
با نگاهی به نمونه‌های آسیب، به وضوح می‌بینیم که تمام تصمیمات اتخاذشده در خدمت یکی از این انگیزه‌ها و مشوق‌ها هستند ــ همانطور که در زیر به آنها اشاره شده است:
تغییر روش کار
در زیر چند نکته و ترفند وجود دارد که برخی از تیم‌ها آنها را مفید دانسته‌اند:
1- مراقب زبان داد و ستد باشید
یکی از راه‌های تشخیص اینکه، چه زمانی اعتماد و رفاه کاربر را برای اهداف تجاری معامله می‌کنیم، فقط توجه و دقت کردن است. در اینجا عباراتی وجود دارد که اغلب در موقعیت های مشکوک مطرح می شوند و باید ما را ترغیب کنند که مشوق‌ها و انگیزه‌های خود مجدد بررسی کنیم:
- «موارد حاشیه‌ای و غیرمتمرکز» (Edge Case) در مقابل «بیشتر کاربران ما»
نادیده گرفتن گروه‌های خاصی از افراد به‌عنوان «حاشیه‌ها»، یا ایجاد فرضیه‌هایی درباره «اکثر» کاربرانمان، قضاوتی است دربارهٔ اینکه چه کسی شایسته توجه ماست. به جای ترسیم مرزهای مفروض و حفظ برخی افراد در حاشیه، از خود بپرسید چگونه می توانید با آنها همدلی کرده و مشکل را مرتفع کنید.
- «این فقط برای MVP است» / «این فقط یک تست در مقیاس کوچک است»
این عبارات می‌توانند با موقتی جلوه دادن یک راه حل، گفتگو در مورد ارزش‌ها را متوقف کنند. اما ویژگی‌ها اغلب بیش از حد انتظار در مرحله MVP باقی می‌مانند و گاهی حتی یک درصد تست به معنای میلیونها کاربر است. بنابراین، هنگام بحث در تیم‌هایمان، باید در مورد آزمایش‌ها از نظر تعداد کاربرانی که بر روی آن تأثیر می‌گذارند، به جای درصد صحبت کنیم و هرگز متقاعد نشویم که چیز مضری ارائه کنیم که نمی‌خواهیم آن را در برنامهٔ بلندمدت‌مان داشته باشیم.
- «به هر حال هیچ‌کس متوجه نمی‌شود» / «فقط آن را به شرایط و ضوابط اضافه کنید»
این عبارات مانند شروع یک داستان بد مطبوعاتی به نظر می‌رسند. اولاً، چون مردم همیشه متوجه می‌شوند. و دوم اینکه غیرمسئولانه است که فرض کنیم همه شرایط و ضوابط را می‌خوانند.
- «همه این کار را می‌کنند» / «اگر ما این کار را نکنیم، شخص دیگری انجام می‌دهد»
عباراتی مانند این برای توجیه برخی چیزهای بسیار وحشتناک استفاده شده است. اما ما باید خودمان را افرادی ببینیم که می‌توانند تغییرات مثبتی ایجاد کنند.
2- تضاد منافع را بشناسید.
یکی دیگر از راه‌های تشخیص تصمیم‌گیری غیراخلاقی این است که متوجه شوید زمانی که از سوگیری‌های شناختی افراد در طراحی خود استفاده می‌کنید ــ به‌عنوان مثال، با بازی بر روی اینرسی طبیعی افراد برای تماشای ساعت‌ها ویدیو با پخش خودکار و پشت هم ــ این می‌تواند نشان دهد که انگیزه‌های شما دیگر با مشوق‌های کاربر هماهنگ نیست. یک قانون سرانگشتی خوب این است که از خود بپرسید: اگر کاربر بداند در واقعیت چه اتفاقی در حال رخ دادن است، چه احساسی در مورد آن خواهد داشت؟ آیا این همان چیزی است که آنها برای خودشان می‌خواهند؟
3- معیارهای مناسب را انتخاب کنید.
انتخاب معیارهای مناسب برای ارائهٔ خدمات واقعی به کاربران بسیار مهم است، زیرا معیارهای یک تیم تمام تصمیمات مهم آنها را هدایت می‌کنند. ما باید از چند سیگنال استفاده کنیم، به جای یک سیگنال، تعامل را با احساسات متعادل کنیم و تنها به معیارهای کمی تکیه نکنیم.
4- از داستان‌سرایی و قاب‌بندی استفاده کنید.
داستان‌سرایی بخش دیگری از مجموعهٔ مهارت‌های طراح است که می‌تواند به پیشرفت‌های انسانی‌تر در فناوری کمک کند. ما دیده‌ایم که بسیاری از داستان‌گویی‌ها به قاب‌بندی بستگی دارند ــ در تنظیم اصول طراحی خود در شروع پروژه و اطمینان از اینکه به آنها پایبند هستیم ــ مهم نیست که چقدر انحراف از آنها وسوسه انگیز است.
یکی از راه‌های انجام این کار استفاده از چارچوب آسیب / انگیزه (Harm/Incentive framework) که قبلا اشاره شد، برای برجسته کردن هرگونه آسیب فیزیکی، عاطفی و اجتماعی است که ممکن است از یک پروژه ایجاد شود.
5- در طول مسیر؛ اخلاق را ارزیابی کنید.
اخلاق چیزی نیست که در ابتدای پروژه از سر راه برداشته شود و سپس فراموش شود. ما باید در گفتگوهای پس از ایده‌پردازی، زمانی که راه‌حل‌های مختلف را می‌سنجیم، همواره به آنها بازگردیم. و همچنین باید اخلاق را در برنامه‌های تحقیقاتی کاربران خود بیاوریم ــ انجام مصاحبه‌ها برای کاوش عمیق‌تر در مواردی مانند اعتماد، حواس‌پرتی و حریم خصوصی، درک اینکه خط و مرزهای کاربران کجاست و کشف اینکه چگونه می‌توانیم طراحی خود را در آینده محترمانه‌تر و قابل‌دسترس‌تر کنیم.
6- پس از آزمایش اجرا کنید.
هنگامی که نتایج آزمایشی را به دست آوردیم، باید در کنار دانشمندان داده بررسی کنیم که آیا جمعیت خاصی تحت‌تأثیر آزمایش ما قرار می‌گیرند یا خیر. ما باید سعی کنیم از نگاه کردن صرف به معیارهای کاربر معمولی خودداری کنیم، همانطور که تاد رز در کتاب خود با عنوان پایان میانگین (The End of the Average) اشاره می‌کند: «لحظه‌ای که شما نیاز به تصمیم‌گیری در مورد تک‌تک افراد دارید، میانگین بی‌فایده است. درواقع بدتر از بی‌فایده است، زیرا توهم دانش (the illusion of knowledge) را ایجاد می‌کند، در حالی که درواقع میانگین آنچه را که در مورد یک فرد مهم است پنهان می‌کند».
همچنین ما باید با تیم پشتیبانی مشتری خود دوست شویم ــ آنها کسانی هستند که گوش‌هایشان به زمین بازی نزدیک است و جنبه‌هایی از تجارب کاربر را می‌بینند که اغلب در اعداد گم می‌شوند.
و در نهایت …
ما باید رابطه خود را با «پیامدهای ناخواسته» واکاوی کنیم. آسیب‌هایی که فناوری ایجاد می‌کند تقریباً همیشه ناخواسته است. و دانستنش نیز بسیار مهم است زیرا به ما یادآوری می‌کند که نمی‌توانیم تنها با نیت خوب از ایجاد کار مضر جلوگیری کنیم.
آنچه ما می‌دانیم این است: هنگامی که متوجه می شویم یا حتی پیش‌بینی می‌کنیم که کارمان ممکن است به دیگران آسیب برساند، مسئول رفع آن یا کنار گذاشتن آن راه حل خاص هستیم. ما دیگر نمی‌توانیم سرمان را در خاک کرده و بی‌طرفی یا انکار پذیری را انتخاب کنیم. ما باید در مورد اخلاق نظر داشته باشیم. زیرا آگاه بودن چیزی است که به ما اطمینان و اعتمادبه‌نفس می‌دهد تا در مورد چیزهایی که به آنها اهمیت می‌دهیم موضع‌گیری کنیم.
منبع: https://spotify.design/article/designing-for-tomorrow-a-discussion-on-ethical-design
