Designing for Tomorrow: A Discussion on Ethical Design

هر کسی که در زمینه فناوری کار می کند، می داند که این صنعت در سال های اخیر به دلیل فقدان اصول اخلاقی و فرهنگ بی دقت "move fast, break things" ضربه خورده است. اما اکنون شرکت‌ها شروع به درک میزان آسیب زیادی که به بازار کار، حریم خصوصی و سلامت روان زده اند، کرده‌اند - و در جستجوی نحوه انجام متفاوت کارها در آینده هستند.

ما به عنوان طراح، نقش بزرگی در ایجاد این تغییر فرهنگی داریم. و برای اینکه بفهمید چرا، فقط به تکامل طراحی به عنوان یک حرفه نگاه کنید. در ابتدا طراحان دیجیتال (Digital designers) مهندسان کدنویسی بودند با تمایلات هنری. امروزه اما به‌طور فزاینده‌ای، طراحان صدای کاربر را تجسم داده اند و برای چیزی تلاش می‌کنند که دونالد نورمن آن را «طراحی کاربر محور» (user-centered design) نامیده است.

از سال 1988، اتفاقات زیادی افتاده است. استیو جابز این ایده را رایج کرد که «طراحی فقط آن چیزی نیست که به نظر می رسد و حس می شود (فرم و شکل ظاهری). طراحی یعنی چگونه کار می کند.» رشد تعامل صوتی (voice interaction) و هوش مصنوعی (AI) طراحی را فراتر از زیبایی شناسی؛ به قلمرو تصمیم گیری های پیچیده برده است. امروزه طراحان بیش از هر زمان دیگری زمان صرف می کنند تا کار ما را به ارزش های انسانی گره بزنند.

تغییر مهم دیگری نیز رخ داده است: در شناخت بهتر رفتار و انگیزه‌های افراد، ما آموخته‌ایم که تا حد زیادی گونه‌ای غیرمنطقی هستیم و مستعد محاسبات نادرست شناختی مانند زیان گریزی (loss aversion) یا مغلطه‌‌ی هزینه‌ی هدر رفته (sunk cost fallacy) هستیم. طراحان از این آسیب‌پذیری‌های روان‌شناختی سوء استفاده کرده‌اند تا کاربران آنچه را که خود می‌خواهند فراموش کنند و روی آنچه کسب‌وکارها می‌خواهند کلیک کنند.

با استفاده از تست A/B - که به ما امکان می دهد هزاران آزمایش کنترل شده را هر روز با هزینه اندک روی کاربران انجام دهیم - و البته شما "اینترنت" دارید که به طرز وحشتناکی در دستکاری افراد و ایجاد آسیب طولانی مدت خوب است.

این تصمیمات غیراخلاقی معمولاً نتیجه نیت بد نیستند. بلکه، یک موضوع سیستماتیک هستند که از تمرکز ما بر اهداف کوتاه مدت تجاری، مانند ایجاد تعامل و درگیری و درآمد ناشی می شود، که اغلب به قیمت زیان به اعتماد و رفاه کاربر تمام می شود. با وجود اینکه اندازه گیری اعتماد در کوتاه مدت دشوار است، اما پس از، از دست دادن آن، بازگرداندن آن حتی دشوارتر است. اگر می‌خواهیم محصولات پایداری بسازیم که تاثیر مثبتی بر افرادی که از آن‌ها استفاده می‌کنند، بگذاریم، طراحان باید اعتماد کاربران را به دست آورند و آن را حفظ کنند.

طراحی غیراخلاقی، اهداف تجاری کوتاه مدت را مقدم بر کسب (و حفظ) اعتماد کاربران قرار می دهد.

روشی که طراحی غیراخلاقی به مردم آسیب می رساند

هنگامی که تصمیمات طراحی و محصول ما باعث آسیب می شود، اعتماد و رفاه کاربر به خطر می افتد. اینها را می توان به طور کلی به سه دسته ای تقسیم کرد که همپوشانی دارند:

1. آسیب جسمی (Physical harm):

• عدم فعالیت و محرومیت از خواب (Inactivity and sleep deprivation)، که با اسکرول بی نهایت، صف ویدیوهای خودکار، و سایر نشانه های اقتصاد توجه فعال شده است.

• فشار مالی(Financial strain)، ناشی از ویژگی‌هایی است که از داده ها تغذیه می شوند یا لغو تمدید اشتراک‌ها را بسیار دشوار می‌کند.

• بهره کشی از کارگران در اقتصاد گیگ فناوری محور (Exploitation of workers in the tech-driven gig economy)، که از اقتصاد رفتاری تحت عنوان «طراحی متقاعدکننده» (persuasive design) استفاده می‌کند تا مردم را وادار کند تا ساعات طولانی‌تری برخلاف منافع خود کار کنند.

• ارائه داده های قابل شناسایی شخصی (Exposure of personally identifiable data) - به عنوان مثال، زمانی که ویژگی ها مکان دقیق شخصی را با دیگران به اشتراک می گذارند.

• تصادفات ناشی از حواس پرتی (Accidents due to distraction)، به ویژه زمانی که مردم در حال رانندگی هستند.

2. آسیب عاطفی (Emotional harm):

• خیانت به اعتماد یا حریم خصوصی (Betrayal of trust or privacy)، زمانی که افراد با استفاده از اطلاعات شخصی که فکر می‌کردند خصوصی باقی می ماند مورد استثمار، افشا یا تبعیض قرار می‌گیرند.

• خودانگاره منفی، اضطراب و افسردگی (Negative self-image, anxiety & depression)- به ویژه در میان جوانانی که ذهن، بدن و هویت آنها هنوز شکل نگرفته است و تمایل به پذیرش اجتماعی دارند.

3. آسیب های اجتماعی (Societal harm):

• قطبی‌سازی سیاسی (Political polarization)، الگوریتم‌ها چشم‌انداز روزنامه‌نگاری را مسطح نشان می دهند، آژانس‌های خبری را از طریق احساسات‌گرایی به رقابت می‌کشند و به جامعه‌ای تقسیم‌شده با دیدگاه‌های قطبی و درک غیرمادی واقعیت کمک می‌کنند.
• حذف (Exclusion)، برای مثال، زمانی که طراحان در توسعه و ایجاد؛ ویژگی‌های حساس به تجربیات کاربران LGBTQ (هویت های جنسیتی متفاوت)، قابلیت دسترسی برای افراد دارای ناتوانی ذهنی و جسمی و اهمیت متن خوانا برای کاربران مسن‌تر شکست می خورند و در نتیجه آنها را از دایره ی کاربران خود حذف می کنند.
• تقویت کلیشه ها و سرکوب ساختاری (Reinforcing stereotypes and structural oppression)، به دلیل وابستگی فزاینده به الگوریتم ها و داده های جانبدارانه برای طبقه بندی و پیش بینی افراد.

چرا اصلا تجربیات مضر و آسیب رسان ساخته می شوند

طراحی اساساً در اولویت قرار دادن کاربر است. اما اگر انجام این کار همیشه آسان بود، ما با مشکلاتی که امروز داریم مواجه نمی‌شدیم. متاسفانه، نیازهای کاربر اغلب با چند انگیزه بسیار وسوسه انگیز در تضاد است. اینها اهداف تجاری ما هستند که اغلب در فناوری فقط آنها را می بینیم (tunnel-vision): تعامل، علم، اتوماسیون و مقیاس، بی طرفی و سرعت بی پروا.

انگیزه های وسوسه انگیز The tempting incentives

• تعامل (Engagement)- اینها اعداد بزرگی هستند، مانند کاربران متوسط روزانه (DAU)، که به عنوان خلاصه ای برای موفقیت در تیم های فناوری استفاده می شوند.
• علم (Science) - اگر بیش از حد نسبت به داده‌های رفتاری حریص باشیم، آزمایش‌های غیراخلاقی A/B می‌توانند اجرا شوند. و ما اغلب فراموش می کنیم که چگونه "فقط آزمایش" چیزی می تواند تاثیرات مادی بر روی کاربران داشته باشد.
• اتوماسیون و مقیاس (Automation and scale)- ما اغلب سعی می‌کنیم یک راه‌حل یک‌اندازه برای همه پیدا کنیم. خواه یک الگوریتم باشد یا یک جریان طراحی، که افراد را مجبور می‌کند تا با آن سازگار شوند، نه برعکس.
• بی طرفی (Neutrality) – بسیاری از تصمیمات با عدم تصمیم گیری گرفته می شوند. ما باید سعی کنیم با غریزه اجتناب از گفتگوهای دشوار مبارزه کنیم، زیرا انتخاب های منفعلانه به هر حال انتخاب هستند.
• سرعت بی پروا (Reckless speed) – چه تعداد از تصمیمات چالش برانگیز و مشکوک در خدمت «زودتر حلش کن/ زودتر از شرش خلاص شویم» سریعتر زیر فرش پنهان می شوند؟

اکنون می دانیم که طراحی می تواند ناخواسته باعث آسیب شود، بنابراین باید زمانی را برای رسیدگی به آن با همان سختگیری که برای درخشش پروژه های جدید اختصاص می دهیم، فراهم کنیم.

با نگاهی به نمونه‌های آسیب، به وضوح می‌بینیم که تمام تصمیمات اتخاذ شده در خدمت یکی از این انگیزه ها و مشوق‌ها هستند - همانطور که در زیر به آن اشاره شده است:

تغییر روش کار

در زیر چند نکته و ترفند وجود دارد که برخی از تیم‌ها آن‌ها را مفید دانسته‌اند:

1- مراقب زبان داد و ستد باشید

یکی از راه‌های تشخیص اینکه، چه زمانی اعتماد و رفاه کاربر را برای اهداف تجاری معامله می‌کنیم، فقط توجه و دقت کردن است. در اینجا عباراتی وجود دارد که اغلب در موقعیت های مشکوک مطرح می شوند و باید ما را ترغیب کنند که مشوق ها و انگیزه های خود مجدد بررسی کنیم:

• "موارد حاشیه ای و غیرمتمرکز" (Edge Case) در مقابل "بیشتر کاربران ما"

نادیده گرفتن گروه‌های خاصی از افراد به‌عنوان «حاشیه ها»، یا ایجاد فرضیه‌هایی درباره «اکثر» کاربرانمان، قضاوتی است درباره اینکه چه کسی شایسته توجه ماست. به جای ترسیم مرزهای مفروض و حفظ برخی افراد در حاشیه، از خود بپرسید چگونه می توانید با آنها همدلی کرده و مشکل را مرتفع کنید.

• "این فقط برای MVP است" / "این فقط یک تست در مقیاس کوچک است"

این عبارات می توانند با موقتی جلوه دادن یک راه حل، گفتگو در مورد ارزش ها را متوقف کنند. اما ویژگی‌ها اغلب بیش از حد انتظار در مرحله MVP باقی می‌مانند و گاهی حتی یک درصد تست به معنای میلیونها کاربر است. بنابراین، هنگام بحث در تیم‌هایمان، باید در مورد آزمایش‌ها از نظر تعداد کاربرانی که بر روی آن تأثیر می‌گذارند، به جای درصد صحبت کنیم و هرگز متقاعد نشویم که چیز مضری ارائه کنیم که نمی خواهیم آن را در برنامه بلندمدت مان داشته باشیم. 

• "به هر حال هیچ کس متوجه نمی شود" / "فقط آن را به شرایط و ضوابط اضافه کنید"

این عبارات مانند شروع یک داستان بد مطبوعاتی به نظر می رسد. اولا، چون مردم همیشه متوجه می شوند. و دوما غیرمسئولانه است که فرض کنیم همه شرایط و ضوابط را می‌خوانند.

1. "همه این کار را می کنند" / "اگر ما این کار را نکنیم، شخص دیگری انجام می دهد"

عباراتی مانند این برای توجیه برخی چیزهای بسیار وحشتناک استفاده شده است. اما ما باید خودمان را افرادی ببینیم که می توانند تغییرات مثبت ایجاد کنند.

2- تضاد منافع را بشناسید.

یکی دیگر از راه‌های تشخیص تصمیم‌گیری غیراخلاقی این است که متوجه شوید زمانی که از سوگیری‌های شناختی افراد در طراحی خود استفاده می‌کنید – به عنوان مثال، با بازی بر روی اینرسی طبیعی افراد برای تماشای ساعت‌ها ویدیو با پخش خودکار و پشت هم – این می تواند نشان دهد که انگیزه های شما دیگر با مشوق های کاربر هماهنگ نیست. یک قانون سرانگشتی خوب این است که از خود بپرسید: اگر کاربر بداند در واقعیت چه اتفاقی در حال رخ دادن است، چه احساسی در مورد آن خواهد داشت؟ آیا این همان چیزی است که آنها برای خودشان می خواهند؟

3- معیارهای مناسب را انتخاب کنید.

انتخاب معیارهای مناسب برای ارائه خدمات واقعی به کاربران بسیار مهم است، زیرا معیارهای یک تیم تمام تصمیمات مهم آنها را هدایت می کند. ما باید از چند سیگنال استفاده کنیم، به جای یک سیگنال، تعامل را با احساسات متعادل کنیم و تنها به معیارهای کمی تکیه نکنیم. 

4- از داستان سرایی و قاب بندی استفاده کنید.

داستان سرایی بخش دیگری از مجموعه مهارت های طراح است که می تواند به پیشرفت های انسانی تر در فناوری کمک کند. ما دیده‌ایم که بسیاری از داستان‌گویی ها به قاب بندی بستگی دارد - در تنظیم اصول طراحی خود در شروع پروژه و اطمینان از اینکه به آنها پایبند هستیم - مهم نیست که چقدر انحراف از آنها وسوسه انگیز است. 

یکی از راه‌های انجام این کار استفاده از چارچوب آسیب/انگیزه (Harm/Incentive framework) که قبلا اشاره شد، برای برجسته کردن هرگونه آسیب فیزیکی، عاطفی و اجتماعی است که ممکن است از یک پروژه ایجاد شود. 

5- در طول مسیر؛ اخلاق را ارزیابی کنید.

اخلاق چیزی نیست که در ابتدای پروژه از سر راه برداشته شود و سپس فراموش شود. ما باید در گفتگوهای پس از ایده پردازی، زمانی که راه حل های مختلف را می سنجیم، همواره به آنها بازگردیم. و همچنین باید اخلاق را در برنامه‌های تحقیقاتی کاربران خود بیاوریم - انجام مصاحبه‌ها برای کاوش عمیق‌تر در مواردی مانند اعتماد، حواس‌پرتی و حریم خصوصی، درک اینکه خط و مرزهای کاربران کجاست و کشف اینکه چگونه می‌توانیم طراحی خود را در آینده محترمانه‌تر و قابل دسترس‌تر کنیم.

6- پس از آزمایش اجرا کنید.

هنگامی که نتایج آزمایشی را به دست آوردیم، باید در کنار دانشمندان داده بررسی کنیم که آیا جمعیت خاصی تحت تأثیر آزمایش ما قرار می گیرند یا خیر. ما باید سعی کنیم از نگاه کردن صرف به معیارهای کاربر معمولی خودداری کنیم، همانطور که تاد رز در کتاب خود با عنوان «پایان میانگین» (The End of the Average) اشاره می کند: "لحظه ای که شما نیاز به تصمیم گیری در مورد تک تک افراد دارید، میانگین بی فایده است. در واقع بدتر از بی فایده است، زیرا توهم دانش (the illusion of knowledge) را ایجاد می کند، در حالی که در واقع میانگین آنچه را که در مورد یک فرد مهم است پنهان می کند.». 

همچنین ما باید با تیم پشتیبانی مشتری خود دوست شویم - آنها کسانی هستند که گوش هایشان به زمین بازی نزدیک است و جنبه هایی از تجارب کاربر را می بینند که اغلب در اعداد گم می شوند.

و در نهایت …

ما باید رابطه خود را با "پیامدهای ناخواسته" واکاوی کنیم. آسیب هایی که فناوری ایجاد می کند تقریباً همیشه ناخواسته است. و دانستنش نیز بسیار مهم است زیرا به ما یادآوری می‌کند که نمی‌توانیم تنها با نیت خوب از ایجاد کار مضر جلوگیری کنیم.

آنچه ما می دانیم این است: هنگامی که متوجه می شویم یا حتی پیش بینی می کنیم که کارمان ممکن است به دیگران آسیب برساند، مسئول رفع آن یا کنار گذاشتن آن راه حل خاص هستیم. ما دیگر نمی‌توانیم سرمان را در خاک کرده و بی‌طرفی یا انکار پذیری را انتخاب کنیم. ما باید در مورد اخلاق نظر داشته باشیم. زیرا آگاه بودن چیزی است که به ما اطمینان و اعتماد به نفس می دهد تا در مورد چیزهایی که به آنها اهمیت می دهیم موضع گیری کنیم.

منبع: https://spotify.design/article/designing-for-tomorrow-a-discussion-on-ethical-design