اهمیت شناخت روش «تفکر طراحی اخلاقی»
سخنرانی در هفتمین کنفرانس یوایکس شیراز
داستان من و مطالعات طراحی اخلاقی از بررسی فیلم‌های علمی و تخیلی در کلاس پروژهٔ 6 (حال و آینده) دانشجوهای کارشناسی طراحی صنعتی شروع شد. زمانی که در فیلم‌های قدیمی دهه‌های 70 و 80 میلادی وقایع و فناوری‌هایی می‌دیدیم که امروز جزئی از زندگی روزمره است سوال پیش می‌آمد که دقیقا چه زمانی و به چه اشکالی اتفاقات حول فناوری‌های مثبت و منفی‌ای که الان به نمایش درمیاد وارد زندگی معمول ما انسانها خواهد شد.
مثلا یکی از نخستین و معروف‌ترین نمونه‌های واقعیت مجازی در فیلم "Tron" ساخته سال 1982 نمایش داده شد. در این فیلم، شخصیت اصلی به داخل یک کامپیوتر دیجیتالیزه می‌شود و در یک دنیای سه بعدی واقعیت مجازی زندگی می‌کند. فیلم مطرح دیگری که مفهوم واقعیت مجازی را به طور گسترده‌ای به تصویر کشید، "The Matrix" بود که در سال 1999 منتشر شد. در این فیلم، انسانها در یک دنیای واقعیت مجازی زندگی می‌کند.
با این وجود اولین بار واقعیت مجازی به‌عنوان یک ایده، در دههٔ 1930 در داستان علمی تخیلی "Pygmalion's Spectacles" توسط Stanley G. Weinbaum (استنلی جی. واینبام) مطرح شد. در این داستان، شخصیت اصلی نوعی عینک خاص بر چشم دارد که او را به دنیایی افسانه‌ای منتقل می‌کند. این دستگاه که دقیقاً مشابه با هدست‌های واقعیت مجازی فعلی است، امکان تجربهٔ حواس پنج‌گانه را برای شخصیت داستان فراهم می‌کرده است.
اما اولین سیستم واقعیت مجازی که توانست یک تجربهٔ شبیه‌سازی شده را ارائه دهد، سیستم "Sensorama" بود که توسط (مورتون هایلیگ) Morton Heilig در دههٔ 1950 طراحی و ساخته شد.
درسته که دهه‌هاست سفر واقعیت مجازی آغاز شده و روز‌به‌روز در دسترس‌تر می‌شود و نمی‌توان قابلیت‌های ارزش‌آفرین آن مانند شبیه‌سازها در حوزهٔ آموزش و درمان را نادیده گرفت اما ما در گذر این سالها متوجه شده‌ایم که غوطه‌ور شدن در دنیای واقعیت مجازی (VR) تغییرات رفتاری را در مخاطبان این فناوری ایجاد کرده که بعضا حتی پس از ترک محیط مجازی نیز در فرد باقی خواهد ماند. اثرات منفی مانند:
تاثیرات اجتماعی: استفاده بیش از حد از واقعیت مجازی می‌تواند باعث ایزوله شدن افراد و کاهش تعاملات اجتماعی واقعی شود؛
آسیب جسمی مانند خستگی چشم، سردرد و در بعضی موارد حالت تهوع و زمین خوردگی؛
استفاده غیر اخلاقی: برای اهداف غیراخلاقی استفاده شود، مانند هرزه نگاری، تقلید غیرقانونی، یا حتی استفاده برای فعالیت‌های جنایی؛
آسیب به حقوق خصوصی و حریم شخص. با توجه به اینکه واقعیت مجازی می‌تواند اطلاعات حساسی از کاربران جمع‌آوری کند، مانند حرکات بدنی و تعاملات اجتماعی، این می‌تواند به حقوق خصوصی کاربران آسیب بزند.
مجرمان سایبری به اندازهٔ هر نوع رایانهٔ دیگری قادر به حمله به هدست واقعیت مجازی هستند. چنین حملاتی می‌توانند منجر به نقض داده‌ها شود که منجر به سرقت هویت، سرقت اطلاعات شخصی یا اعتبار شبکه، آسیب به سخت‌افزار و نرم‌افزار و بسیاری از مسائل دیگر شود.
این پیامدها در بیشتر موارد نتیجهٔ نیت بد نیستند. بلکه، یک موضوع سیستماتیک هستند که از تمرکز ما بر اهداف کوتاه مدت تجاری، مانند ایجاد تعامل و درگیری بیشتر کاربر و افزایش درآمد است، که با بی‌دقتی به قیمت زیان به اعتماد و رفاه کاربر و افزایش استرس تمام می‌شود.
من هم به‌عنوان یک کاربر مانند خیلی از شما، در حال تجربهٔ رابطهٔ عشق ــ نفرت، دلهره ــ اشتیاق با نوآوری در فناوری و طراحی هستم. از یک طرف، در مورد پیشرفت‌های بزرگ در حال وقوع بسیار مشتاق و هیجان زده‌ام، اما از طرف دیگر، می‌بینم که انواع اختلالات بزرگی که در همین فیلم‌های علمی و تخیلی می‌بینیم، دور از ذهن نیست.
به نقل از مارشال مک لوهان (Marshall McLuhan)،
نوآوری دیجیتال عوارض جانبی زیادی دارد. زیرا درست است که ما محصولات و ابزارها را شکل می‌دهیم، اما بعد از، متعاقبا آنها نیز ما (افکار، احساسات، روابط و جامعهٔ بشری، محیط‌زیست و اقتصاد و ...) را شکل می‌دهند.
این «ما» کیست؟
ما = طراحان (انسان‌هایی محدود در زمان و مکان)
تا چند دههٔ پیش وقتی در مورد طراحان (designers) صحبت می‌کردیم، بیشتر منظورمان طراحی محصول بود. احتمالا می‌پذیرید که پنجاه سال پیش، تأثیر طراحی ضعیف (نیازهای کاربر را بطور کامل برآورده نمی‌کرد) یا طراحی بد (باعث آسیب به کاربر می‌شود)، حداقل بود. یک محصول گیج‌کننده احتمالا فروش را کاهش می‌داد و یا خدمات نامناسب ممکن بود عملکرد مشتری را کاهش دهد ــ اما تعداد مخاطبان تحت تأثیر معمولاً کم و پیامدهای واقعی آنها نسبتاً جزئی بودند.
اما روند دیزاین در سالهای گذشته کاملاً تغییر کرده است و از طراحی محصول و ساخت محصولات فیزیکی به سمت طراحی محرک‌های ذهنی با زیرمجموعه‌هایی مانند طراحی تجربه، معماری اطلاعات، طراحی تعامل، طراحی رابط کاربری و طراحی تجربهٔ کاربر، حرکت کرده است.
معماران دیجیتال امروز طراحان محصولات مدرن هستند و ابزارها و خدماتی را می‌سازند که زیربنای اقتصاد مدرن است.
آنها در 3 بخش اصلی محصولات را طراحی می‌کنند و فعالیت دارند:
سیستم: چگونه همه چیز در پشت صحنه کار می‌کنند؛
فرایندها: نحوهٔ استفاده کاربران از سیستم‌ها؛
صفحه تعامل، روابط: چگونگی ظاهر محصول.
اما در مقایسه، طراحان مدرن می‌توانند بافت جامعه را دستکاری کنند.
مثلا یک تغییر در الگوریتم فیسبوک می‌تواند بر اخباری که ده‌ها میلیون نفر می‌بینند تأثیر بگذارد.
در سال 2014، یک الگوریتم معیوب تجزیه‌وتحلیل صدا باعث شد که دولت بریتانیا به اشتباه، 7000 دانش‌آموز خارجی را به تقلب در آزمون‌های زبان انگلیسی متهم کرده و به ناحق ویزای آنها را لغو کند.
شرکت مشاور کمبریج آنالیتیکا اطلاعات فیسبوک کاربران را بدون رضایت آنها به منظور انجام تبلیغات سیاسی جمع‌آوری کرد. پیام‌های سفارشی‌سازی‌شده در چندین پلت‌فرم دیجیتال، گروه‌های کاربری پروفایل‌شده را هدف قرار داده‌اند تا بر رأی‌دهی آنها در انتخابات ریاست‌جمهوری ۲۰۱۶ ایالات متحده تأثیر بگذارند.
به طور خلاصه یک طراح مدرن در 3 گروه اصلی می تواند آسیب بزند و دامنهٔ آسیب و خطرات آن بسیار وسیعتر از قبل است.
1. آسیب جسمی (Physical harm):
عدم فعالیت و محرومیت از خواب (Inactivity and sleep deprivation)، که با اسکرول بی‌نهایت، صف ویدئوهای خودکار، و سایر نشانه‌های اقتصاد توجه فعال شده است.
فشار مالی (Financial strain)، ناشی از ویژگی‌هایی است که از داده‌ها تغذیه می‌شوند یا لغو تمدید اشتراک‌ها را بسیار دشوار می‌کند.
بهره‌کشی از کارگران در اقتصاد گیگ فناوری محور (Exploitation of workers in the tech-driven gig economy)، که از اقتصاد رفتاری تحت عنوان «طراحی متقاعدکننده» (persuasive design) استفاده می‌کند تا مردم را وادار کند تا ساعات طولانی‌تری برخلاف منافع خود کار کنند.
ارائهٔ داده‌های قابل شناسایی شخصی (Exposure of personally identifiable data) - به‌عنوان مثال، زمانی که ویژگی‌ها مکان دقیق شخصی را با دیگران به اشتراک می‌گذارند.
تصادفات ناشی از حواس‌پرتی (Accidents due to distraction)، به ویژه زمانی که مردم در حال رانندگی هستند.
2. آسیب عاطفی (Emotional harm):
خیانت به اعتماد یا حریم خصوصی (Betrayal of trust or privacy)، زمانی که افراد با استفاده از اطلاعات شخصی که فکر می‌کردند خصوصی باقی می‌ماند مورد استثمار، افشا یا تبعیض قرار می‌گیرند.
خودانگاره منفی، اضطراب و افسردگی (Negative self-image, anxiety & depression) ــ به ویژه در میان جوانانی که ذهن، بدن و هویت آنها هنوز شکل نگرفته است و تمایل به پذیرش اجتماعی دارند.
3. آسیب‌های اجتماعی (Societal harm):
قطبی‌سازی سیاسی (Political polarization)، الگوریتم‌ها چشم‌انداز روزنامه‌نگاری را مسطح نشان می‌دهند، آژانس‌های خبری را از طریق احساسات‌گرایی به رقابت می‌کشند و به جامعه‌ای تقسیم‌شده با دیدگاه‌های قطبی و درک غیرمادی واقعیت کمک می‌کنند.
حذف (Exclusion)، برای مثال، زمانی که طراحان در توسعه و ایجاد؛ ویژگی‌های حساس به تجربیات کاربران LGBTQ (هویت‌های جنسیتی متفاوت)، قابلیت دسترسی برای افراد دارای ناتوانی ذهنی و جسمی و اهمیت متن خوانا برای کاربران مسن‌تر شکست می‌خورند و در نتیجه آنها را از دایرهٔ کاربران خود حذف می‌کنند.
تقویت کلیشه ها و سرکوب ساختاری (Reinforcing stereotypes and structural oppression)، به دلیل وابستگی فزاینده به الگوریتم‌ها و داده‌های جانبدارانه برای طبقه‌بندی و پیش‌بینی افراد.
برای همین است که در طول فرایند طراحی به شاخص‌هایی برای نظارت سیستماتیک و ارزیابی و اندازه‌گیری کار طراحان بر انسانها نیاز است. علاوه بر این، در صورتی که اثرات برنامه‌ها در زمینه‌های زندگی واقعی ناخواسته باشد، عکس‌العمل‌ها و پاسخ‌های سریع هم لازم است. چون ما (طراحان) بر ما (انسانها) اثر می‌گذارد.
همهٔ ما به فکر لحظه‌ای هستیم که فناوری بر نقاط قوت و هوش انسان غلبه کند ــ چه زمانی قرار است از منحصربه‌فرد بودن عبور کنیم و شغل ما با باهوش‌تر از انسان جایگزین شود؟ این چیزی است که همه دربارهٔ آن صحبت می‌کنند.
اما لحظه‌ای که فناوری بر نقاط ضعف انسان غلبه می‌کند بسیار زودتر فرا می‌رسد.
زیرا در آزمایشگاه‌های «فناوری متقاعدکننده»، نحوهٔ عملکرد مغز افراد را یاد می‌گیرند و سپس دانششان را در روابط آنها اجرا و نقش و نحوهٔ بازی افراد را در روابطش کنترل و شکل می‌دهند. محدودیت های تکاملی انسان مانند توجه، حواس‌پرتی، و انواع دیگر ویژگی‌های ذهن انسان در این آزمایشگاه‌ها مورد مطالعه قرار می‌گیرد و در نتیجه یک طراح و فن‌آور، یاد می‌گیرد که هنگام طراحی نرم‌افزار چگونه از طریق همین نقص‌ها وارد مغز انسان شود.
جادوگر زیست‌شناس تکاملی این ترفندها را در ذهن انسان کشف می‌کند و با همدستی طراح و مهندس با استفاده از این سوگیری‌های شناختی انسان را به بازی می‌گیرد. همهٔ اینها به نام جلب «توجه» شناخته می‌شوند. اما در رقابت برای رسیدن به انتهای ساقهٔ مغز، فقط مسئله جلب «توجه» شما نیست. آنها باید تو را به جلب توجه، «معتاد» کنند زیرا فقط اینگونه است که «توجه» بیشتر می‌شود. نمونهٔ بارز سالهای اخیر اینستاگرام و فیسبوک و دیگر شبکه‌های اجتماعی است که این کارها را با افکار چند میلیارد نفر انجام می‌دهند. و امروز می‌توان ادعا کنم که عملا عبور از این نقطهٔ ریشه اعتیاد به فناوری، اضافه بار اطلاعات و داده‌های بزرگ، جامعه‌های قطبی‌سازی شده، رادیکال‌سازی، هتک حرمت، بطالت و بیهوده‌‌سازی است ...
ادوارد او. ویلسون (E.O. Wilson) زیست‌شناس ــ اجتماعی (Sociobiology) آمریکایی بیان کرده است: مشکل واقعی بشریت این است که «ما احساسات پارینه سنگی، نهادهای قرون وسطایی و فناوری خداگونه داریم.»
به نوعی مشکل، بشر بودن است زیرا در عین حالی که ما همچنان این غرایز باستانی پارینه‌سنگی را داریم، (در حال تکامل هستیم) فناوری در حال رشد نمایی است.
خب حالا چقدر باید ترسید؟ بستگی دارد!
فیلم‌های علمی تخیلی را که اول نوشتار گفتم یادتون هست، پایان آن فیلم‌ها بستگی مستقیم داشت با تصمیم انسان‌های متخصص.
خلاصهٔ کلام، همزمان با پژوهش و کار کردن در پروژه‌های متفاوت به مرور یاد گرفتم غنی‌ترین ابزار مورداستفاده در طراحی که می‌تواند تفاوت چشمگیر ایجاد کند همانا خود «انسان» است.
ما در کنترل کشف آموخته‌های جدید زیست‌شناسی تکاملی و سوگیری‌های شناختی و استفاده از آنها نقشی ندارید. در توسعهٔ فناوری‌های جدید که از دل قصه‌ها و دانش و تخیل دانشمندان به دنیای علوم و فناوری راه پیدا می‌کنند هم نقشی نداریم. مادامی نگرانیهایمان پیرامون انواع فناوری‌ها مانند هوش مصنوعی، کلان داده‌ها، واقعیت‌های مجازی و دیگر فناوری‌های نوظهور و در حال توسعه کمتر می‌شود که مهندس، طراح محصول، مدیر محصول، طراح تجربهٔ کاربری، مدیر تحقیق و توسعه و … انسان بودن و انسانیت خود را فراموش نکند.
ما به‌عنوان طراح اول و قبل از هر چیزی انسان هستیم،
انسانی که مجهز به دانش طراحی (دانش تخصصی خود) باشد؛
دارای نیت خوب باشد؛
به دانش شاخص‌های تصمیم‌گیری و اجرای طراحی اخلاقی و فناوری انسانی تجهیز باشد.
برای این مقصود در سالهای گذشته افراد زیادی درگیر ترویج مسائل مهم و بنیادی بودند. تا آموزش طراحی را از انسان ــ محور بودن فراتر برده و به سمت زندگی ــ محور شدن سوق دهند.
این افراد با کلیدواژه‌ها و مفاهیم مشترک مفهوم طراحی اخلاقی را شکل داده اند:
طراحی اخلاقی به طراحی محصولات، خدمات و تجربیاتی اطلاق می‌شود که رفاه، حقوق و ارزش‌های انسانی را در اولویت قرار می‌دهد. و پیامدهای اخلاقی و تاثیرات بالقوه تصمیمات طراحی بر افراد، جامعه و محیط‌زیست را در نظر می‌گیرد.
«اخلاقی» در طراحی اخلاقی به چه معناست؟
روشی که ما در مورد محصولات یا خدمات اخلاقی صحبت می کنیم به راحتی ما را به این فکر می‌اندازد که «اخلاقی بودن» یک پدیده واضح و بدون ابهام است. مسئله این نیست. اخلاق یک رویکرد هنجاری است. آنچه هست را توصیف نمی‌کند. بلکه بیان می‌کند که چه چیزی باید باشد. محتوای دقیق «باید» بسته به مبانی اخلاقی هنجاری مختلف متفاوت است.
اما نقطهٔ شروع را به روشنی بیان می‌کند: ایده ما در مورد «اخلاقی» در طراحی اخلاقی مستلزم مجموعه‌ای محدود از ارزش‌های اخلاقی نسبتاً جهانی است، مانند ترویج حقوق بشر و تأکید بر نیازهای آسیب‌پذیرترین گروه‌ها است. اخلاق در قالب یک حکمت عملی:
هنر یافتن مناسب ترین راه حل‌ها در زمینه‌های مختلف، برای ایجاد و پیشبرد زندگی خوب در نهادهای عادلانه است.
کاری وجود دارد که همه ما می‌توانیم و باید انجام دهیم:
بیایید تامل کنیم و از درک خود از مفاهیم «خوب» و «باید» و «عادلانه» آگاه شویم و این مفاهیم را در فرایندهای طراحی به گفتگو بیاوریم.
ابزار اجرایی:
در سالهای گذشته روش‌های مختلف و در حال توسعه‌ای را بررسی کردم. اما اگر بخواهم در این فرصت اندک (سخنرانی) راه میانبر و ساده‌ای نشان دهم. یک ریشهٔ مشترک را انتخاب خواهم کرد:
شما نیاز به یک نقشهٔ اصلی دارد که همه چیز به سمت آن باید حرکت کرده و با آن تراز شود: لنزهای طراحی اخلاقی (ارزشها)؛
و نیاز به یک ابزار دارید که برای سنجش لنزهای خود باید از آن استفاده کنید: ابزار چرا.
1- لنزهای طراحی اخلاقی (ارزشها)
طراحی اخلاقی فراتر از زیبایی‌شناسی و قابلیت استفاده است. فاکتورهایی (لنزهایی) مانند حریم خصوصی، دسترسی، شفافیت، فراگیر بودن، پایداری و استفادهٔ مسئولانه از داده را در نظر می‌گیرد. و هدف آن ایجاد تجربیات کاربری منصفانه، محترمانه، قابل‌اعتماد و همسو با اصول اخلاقی است.
برابری Equality؛
در کنترل انسان Human in control؛
قابل‌اعتماد بودن / امانت‌داری Trustworthiness؛
شفافیت Transparency؛
مسئوليت Accountability؛
حریم خصوصی Privacy؛
بهزیستی Wellbeing؛
فراگیری Inclusion؛
مسئولیت زیست‌محیطی Environmental responsibility.
طراحی حساس به ارزش که توسط باتیا فریدمن و پیتر کان در دانشگاه واشنگتن در اواخر دههٔ 1980 و اوایل دههٔ 1990 توسعه یافت، رویکردی است که به دنبال طراحی فناوری است که ارزش‌های انسانی را در نظر بگیرد. با نگاه کردن از دریچهٔ ارزش‌های انسانی، می‌توانیم به راحتی اثرات سیستماتیک بلندمدت فناوری‌های فعلی و آینده را در نظر بگیریم.
2- ابزار چرا
شما هر چقدر هم انواع روندها و مدل‌های طراحی را آموخته باشید اما هیچ ابزاری چون مکث کردن، فکر کردن و سوال پرسیدن به پیرایش کار اصلی شما نخواهد پرداخت، شما باید بدانید هر قدمی را که بر می‌دارید برای چیست و چه اثرات و تبعاتی را در تمام چرخهٔ عمر محصول و یا خدمت می‌گذارد و چه نتایجی برای تمام ذینفعان به جا خواهد گذاشت. بارها و بارها سوال پرسیدن، بارها و بارها بررسی کردن چرایی و چگونگی محصول و یا خدمت به این معناست که تمام ظواهر و زوائد حذف خواهند شد و چیز اضافه‌ای باقی نخواهند ماند و آنچه می‌ماند جوهره و قلب ماجرا و در نتیجه شفافیت است. آنچه می‌ماند فقط هدفی زندگی ــ محور است و نه فقط انسان ــ محور.
«چرا» همان ابزار قدیمی است که طراحان اخلاق‌مدار خودآگاه یا ناخودآگاه همیشه از آن استفاده می‌کنند. در حالی که در گام اول بررسی طراحی اخلاقی، فقط پیامدهای فوری در نظر گرفته می‌شود، مانند:
چه چیزی می‌تواند باعث از دست دادن اعتماد مردم به محصول شما شود؟
چه چیزی در محصول و یا خدمت شما می‌تواند باعث شود مردم احساس ناامنی کنند یا در معرض خطر قرار گیرند؟
چه مکانیزم‌هایی در مجموعهٔ شما برای احترام به خفظ حریم خصوصی کاربران شما وجود دارد؟
اما در گام دوم تعاملات، واکنش‌ها و پیامدهای بعدی مورد بررسی قرار می‌گیرد. به زبان ساده تفکر مرتبهٔ اول و دوم:
تفکر مرتبهٔ اول ساده‌سازی است. صرفاً به نتیجهٔ فوری یک عمل می‌پردازد. اگر ارسال پیام مستقیم به یک همکار را از طریق برنامهٔ مدیریت پروژه (عمل) خود آسان کنید، همکاری را آسان‌تر می‌کنید (نتیجهٔ مرتبهٔ اول). در حالی که تفکر مرتبهٔ اول فقط پیامدهای فوری را در نظر می‌گیرد، تفکر مرتبهٔ دوم تعاملات و پیامدهای بعدی را در نظر می‌گیرد. در مثال مدیریت پروژه، آسان کردن ارسال پیام مستقیم ممکن است باعث افزایش وقفه‌های همکار در طول روز شود (نتیجهٔ مرتبهٔ دوم)، که به نوبهٔ خود ممکن است بهره‌وری آنها را کاهش دهد (نتیجهٔ مرتبهٔ سوم).
به منظور اعمال تفکر مرتبهٔ دوم در طراحی خود، Shane Parrish سه روش خاص را توصیه می‌کند:
1- هنگام در نظر گرفتن یک اقدام بالقوه، همیشه از خود بپرسید «و پس از آن چه؟» این سوال تفکر سطح دوم را تحریک می‌کند و شما را مجبور می‌کند که از انتخاب‌های اولیهٔ طراحی سطح اول فراتر بروید.
2- خود را پنج دقیقه، پنج ماه و پنج سال آینده تصور کنید و عواقب تصمیمات خود را پیش‌بینی کنید. فرافکنی افکار خود به آینده در نقاط مختلف تصمیم‌گیری به چارچوب‌بندی تفکر سطح دوم شما در کوتاه‌مدت و بلندمدت کمک می‌کند.
3- نمودارهای/ جدول‌هایی پیامد را برای پیش‌بینی پیامدهای سطح اول، دوم و سوم ایجاد کنید. این نمودارها احتمالاً جامع یا کاملاً دقیق نخواهند بود، اما یک بررسی جامع از هر انتخاب طراحی به شما ارائه می‌دهند. (تصویری)
ما خیلی از اوقات در فیلم‌ها نتیجهٔ تفکرهای نوع دوم و سوم را می‌بینیم.
وقتی این سه تکنیک را به کار می‌برید، اغلب متوجه می‌شوید که بسیاری از تصمیمات سطح اول منفی اما سطح دوم مثبت هستند. پریش نتیجه می‌گیرد که تفکر مرتبهٔ دوم تلاش زیادی می‌خواهد. «فکر کردن در قالب سیستم، تعاملات و زمان آسان نیست. با این حال، انجام این کار راهی هوشمندانه برای جدا کردن خود از انبوه عواقب است.»
«اخلاقی کار کردن مهارتی است که باید آموزش داده شود و سپس توسعه یابد. به‌عنوان طراح آسان نیست به مدیرعامل یک شرکت بگویید محصولی که در حال طراحی آن هستید، مضر است. جرات زیادی می‌خواهد. شما باید بدانید که چه سوالاتی بپرسید. باید بدانید که چه آزمایش‌هایی برای بررسی اثرات احتمالی محصول انجام بدید. باید بدانید که چطور خوب استدلال کنید و ضروری است که خودتان را در جایگاه یک سهامدار محصول ببینید. لازم است خودتان را به‌عنوان شخصی ببینید که محصول از کانال شما عبور کرده و اجازهٔ ورود به بازار را بدست می‌آورد، مثل یک دروازه‌بان. و صادقانه بگویم، نیاز به طراحانی دارد که از پیشینه‌ها و تجربیاتی که توسط محصولات شرکت‌های بزرگ ایجاد شده‌اند، کاملا آگاه باشند. این تخصص خیلی زمانبر است و طول می‌کشد.»
چرا طراحی غیراخلاقی به یک دغدغه برای کاربران تبدیل شده است؟
1- حریم خصوصی کاربر: شیوه‌های طراحی غیراخلاقی اغلب شامل جمع‌آوری و سوءاستفاده از داده‌های کاربران بدون رضایت آنها شده است. کاربران به طور فزاینده‌ای از اهمیت حریم خصوصی خود آگاه شده و نگران سوءاستفاده یا بهره‌برداری از اطلاعات شخصی خود هستند.
2- روش‌های دستکاری: طراحی غیراخلاقی ممکن است از روش‌های دستکاری، مانند الگوهای تاریک، برای حقه زدن و یا فریب کاربران در جهت انجام اقداماتی که قصد انجام آن را نداشته‌اند، استفاده کند. در نتیجه اعتماد کاربران از بین می‌رود و باعث می‌شود کاربران احساس ناامیدی و مورد سوءاستفاده قرار گرفتن، کنند.
3- تجربهٔ کاربر: طراحی غیراخلاقی اهداف تجاری را بر نیازها و تجربیات کاربر اولویت می‌دهد، که می‌تواند باعث ایجاد رابط‌های خسته‌کننده یا گیج‌کننده شده و دستیابی به اهداف را برای کاربران دشوار کند و رضایت کلی آنها را از محصول یا خدمات کاهش دهد.
4- تأثیر اجتماعی: تصمیمات طراحی می‌تواند پیامدهای اجتماعی عمیقی داشته باشد. طراحی غیراخلاقی ممکن است تعصبات را تداوم بخشد، کلیشه‌های مضر را تقویت کند، یا جوامع به حاشیه رانده‌شده را حذف کند. کاربران به طور فزاینده‌ای نسبت به این مسائل آگاه هستند و انتظار طرح‌هایی را دارند که فراگیری، تنوع و مسئولیت اجتماعی را ترویج می‌کند.
5- شفافیت و اصالت: کاربران به شفافیت و اصالت در تعاملات خود با محصولات و خدمات دیجیتال اهمیت می‌دهند. طراحی غیراخلاقی این اصول را با پنهان کردن اطلاعات، دستکاری رفتار کاربر، یا ارائهٔ نادرست اهداف تضعیف می‌کند.
6- پیامدهای بلند مدت: شیوه‌های طراحی غیراخلاقی می‌تواند عواقب طولانی‌مدتی هم برای کاربران و هم برای جامعه به‌عنوان یک کل داشته باشد. تصمیمات طراحی غیراخلاقی می‌تواند به چالش‌های اجتماعی مهم از گسترش اطلاعات نادرست تا فرسایش فرایندهای دموکراتیک، کمک کند.
پس پیشنهاد می‌شود:
در جایگاه فردی، طراحی اخلاقی را بیاموزید و به آن مسلط شوید.
در جایگاه سازمانی طراحی اخلاقی را در سازمان حمایت و ترویج کنید.
در پروژه‌ای استانداردهای طراحی اخلاقی را اجرا کنید.
در دانشگاهها درباره مفاهیم جدید و چالش‌های پیشرو گفتگو کنید.
و در نهایت …
ما باید رابطهٔ خود را با «پیامدهای ناخواسته» واکاوی کنیم. آسیب‌هایی که فناوری ایجاد می‌کند تقریباً همیشه ناخواسته است. و دانستنش نیز بسیار مهم است زیرا به ما یادآوری می‌کند که نمی‌توانیم تنها با نیت خوب از ایجاد کار مضر جلوگیری کنیم.
آنچه ما می‌دانیم این است: هنگامی که متوجه می‌شویم یا حتی پیش‌بینی می‌کنیم که کارمان ممکن است به دیگران آسیب برساند، مسئول رفع آن یا کنار گذاشتن آن راه‌حل خاص هستیم. ما دیگر نمی‌توانیم سرمان را در خاک کرده و بی‌طرفی یا انکارپذیری را انتخاب کنیم. ما باید در مورد اخلاق نظر داشته باشیم. زیرا آگاه بودن چیزی است که به ما اطمینان و اعتماد به نفس می‌دهد تا در مورد چیزهایی که به آنها اهمیت می‌دهیم موضع‌گیری کنیم.
جهان اکنون در حال تغییرات سریع است. مصرف‌گرایی که توسط شرکت‌ها جرقه زده شده است، عدم وجود حریم خصوصی، موج سیاسی راست افراطی در سراسر جهان، تخریب محیط‌زیست، عدم تحمل افراد با نژاد، رنگ، ترجیحات جنسی یا مذهب متفاوت، ترس‌آفرینی، فقدان همدلی و دلسوزی برای افرادی که حتی نزدیک ما هستند و …
با این وجود برای همه این مشکلات پاسخ‌هایی وجود دارد. راه‌حل‌ها را می‌توان پیدا کرد. معتقدیم که ما به سیستم دیگری از تفکر و تصمیم‌گیری نیاز داریم که بیشتر متمرکز بر انسان باشد و کمتر سهامدارمحور باشد. ما به رویکردی نوآورانه برای حل مشکلات نیاز داریم که همدلی و شفقت را در اولویت قرار دهد.
ما به افراد بیشتری مانند من و شما نیاز داریم تا ابزارهای موفقیت را بدست آوریم. نه فقط افراد صاحب قدرت یا ثروتمندان بی‌دغدغه.
آینده نزدیک است. آیندهٔ امروز توسط انتخاب‌های ما در حال شکل گرفتن است. طراح با درایت و یا کسب‌وکاری با هدف رقابت و ماندگاری می‌داند که پرداختن به مفاهیم «طراحی اخلاقی» نشانهٔ مثبت بلوغ عملکرد است. و نشان می‌دهد یک رویکرد وظیفه‌شناسانه‌تر و مسئولیت‌پذیرتر در حال تبدیل شدن به ستون پایدار هویت حرفه‌ای او است. زیرا
فناوری‌ها از نظر اخلاقی مصنوعات خنثی نیستند. آنها آکنده از سیاست و اخلاق هستند، زیرا انواع خاصی از کنش‌ها را می‌پذیرند و به شیوه‌های خاصی تفسیر را شکل می‌دهند.
برای زندگی خوب با فناوری، افراد باید موضعی آگاهانه تر و انتقادی سازنده تر نسبت به فناوری انتخاب کنند.
فناوری قدرت بسیار زیادی بر زندگی ما دارد. جوامع باید طراحی فناوری و سلطه گرایی (هژمونی) شرکت‌های فناوری را تحت نظارت دموکراتیک قرار دهند.
طراحان و سازندگان فناوری‌ها باید مسئولیت بیشتری را در قبال نتایج، اعم از خواسته و ناخواسته، بدیهی و غیربدیهی که برآمده از خلاقیت‌هایشان است، بر عهده بگیرند.
انجام اخلاق در فناوری مستلزم درک عمیق هر دو بعد فنی و اخلاقی است. با این حال، هیچ چارچوب اخلاقی یکسانی وجود ندارد که فناوران به آن روی بیاورند ــ اجرای اخلاق هرگز آسان نخواهد بود.
منابع پیشنهادی برای مطالعه بیشتر:
اخلاقی کردن فناوری ــ پیتر پل وربیک ــ 2011
طراحی برای دنیای واقعی ــ ویکتورپاپانک
اخلاق اختراع ــ شیلا جاسانوف ــ 2016 The Ethics of Invention, Sheila Jasanoff
فناوری و فضایل، شانون والور ــ2016 Technology and the Virtues, Shannon Valor
فناوری‌های بنیادی: طراحی زندگی روزمره، آدام گرین فیلد – 2017
اخلاق آینده، سنید بوولز ــ 2018 Future Ethics, Cennydd Bowels
این مقاله، سخنرانی نگارنده در هفتمین کنفرانس یوایکس شیراز بود که به منظور در دسترس بودن متن نوشتار برای همگان در سایت قرار داده شد.
