Ethical design is a risk management strategy

چگونه تصمیم‌گیرندگان را متقاعد کنیم که طراحی اخلاقی را در اولویت قرار دهند؟

هشدار محتوا: در بخش‌هایی از این مقاله در مورد خودکشی صحبت می‌شود، لطفا در هنگام خواندن مراقب باشید.

صحبت در مورد طراحی اخلاقی به‌عنوان یک «کار درست» کافی نیست. سازمان‌های بزرگ درونِ یک سیستم‌ پیچیده، اولویت‌های زیادی در رقابت‌های خود دارند. آنها در نهایت نسبت به سهامداران و سود نهایی خود پاسخگو هستند. بنابراین برای جلب توجه تصمیم‌گیرندگان، باید طراحی اخلاقی را به‌عنوان یک استراتژی مدیریت ریسک بازخوانی کنیم.

طراحی اخلاقی یک استراتژی مدیریت ریسک است

وقتی صحبت از طراحی و اخلاق فنی می‌شود، ما اغلب استدلالهای اخلاقی را پیش می‌کشیم. البته که طراحی باید همه‌جانبه باشد و این مسئولیت ما به‌عنوان طراح است که تأثیر کار خود را در نظر گرفته و آسیب‌های احتمالی را کاهش دهیم (چرا باید درباره‌ی اخلاق طراحی فکر کنیم؟). اما این رویکرد در طراحی اخلاقی با محدودیت‌هایی مواجه است که نمی‌توان آن‌ها را نادیده گرفت. زیرا ما اغلب در یک حوزه‌ی نفوذ محدود فعالیت می‌کنیم، مانند زمانی که برای یک ویژگی خاص محصول طراحی را انجام می‌دهیم. در حالی که ما می‌توانیم و باید هم این‌طور باشد که از موقعیت‌ خود برای دفاع از طراحی اخلاقی استفاده کنیم، اما اغلب تأثیر محدودی بر سیستم گسترده‌تری داریم که در آن فعالیت می‌کنیم.

باید بپذیریم  که ما هم بخشی از این سیستم‌های بسیار بزرگتر هستیم. شرکت‌های چند ملیتی بر اساس زیرساخت‌های پیچیده‌ای که بر مبنای آن‌ها فعالیت می‌کنند، باید به سهامداران، قوانین جهانی و سیستم‌های اقتصادی بزرگ‌تر پاسخگو باشند. در واقع مسئولیت اصلی آن‌ها متوجه کاربران محصولاتشان و یا دست‌اندرکاران تولید آنها نیست (مهم نیست که آن‌ها چه ادعایی می‌کنند). در این سطح، توسل به «انجام دادن کار درست» اغلب بی‌اثر است زیرا اولویت‌های رقیب در اینجا بسیار زیادند.

شاید بتوان گفت بهترین راه برای حمایت از طراحی اخلاقی تبیین رابطه‌ی آن با ریسک باشد. طراحی اخلاقی اساسا راهی برای مدیریت ریسک است.

من قصد دارم در مورد برخی از خطرات (ریسک‌ها) مهمی صحبت کنم که با در نظر گرفتن اصول طراحی اخلاقی می‌توان آن‌ها را کم کرد. دسته‌بندی این ریسک‌ها تا حدودی ساده‌سازی شده‌است و به طور قطع مطلق نیستند و مانند هر سیستم پیچیده‌ای با یکدیگر تلاقی‌هایی دارند. ‌

ریسک 1: خطر برای امنیت عمومی

فناوری از راه‌های بی‌شماری می‌تواند به افراد و جوامع آسیب‌های قابل‌توجهی وارد کند. این آسیب‌ها از مصادیق خطر برای امنیت عمومی هستند:
مورد اخیر و غم‌انگیزی که ناشی از تاثیر فناوری بر امنیت عمومی است، خودکشی مولی راسل 14 ساله است. بازرس ارشد پرونده‌ی او به این نتیجه رسید که مولی: «بر اثر آسیب رساندن به خود در حالی که از افسردگی ناشی از  تاثیرات منفی محتوای آنلاین رنج می‌برد درگذشت» (در این مورد، از پینترست و اینستاگرام). کارشناسان برخی از محتواهای آسیب‌زایی را که توسط پلتفرم‌ها در دوره‌ی منتهی به مرگ مولی به وی توصیه شده بود، بررسی کردند. یکی از آن‌ها به دادگاه گفت:

من مجبور شدم آن‌ها را در مدت زمان کوتاهی ببینم و متوجه شدم که بسیار آزاردهنده و غم‌انگیز بودند ... در یک دوره‌‌ی چند هفته‌ای نمی‌توانستم خوب بخوابم، بنابراین و با توجه به اینکه یک کودک این‌ها را در طول چند ماه مشاهده کرده‌است، می‌توان نتیجه گرفت که او (با در نظر گرفتن این که او یک نوجوان 14 ساله‌ی افسرده بود) مطمئناً تحت‌تاثیر قرار گرفته و ناامیدتر شده است.»

یافته‌های این پرونده نکوهش‌کننده‌اند. دادگاه به صراحت مرزی را بین تصمیمات تجاری و طراحی رسانه‌های اجتماعی و تأثیر دنیای واقعی بر زندگی یک فرد ترسیم کرده‌است. شکی نیست که تصمیمات این سازمان‌های بزرگ خطراتی را برای امنیت عمومی به همراه دارند. اما با توجه به موضوع بحث ما این سوال پیش می‌آید که در مورد خطرات خود سازمان‌ها وضعیت چگونه است؟

ریسک 2: شهرت

مواردی مانند مولی راسل اثرات منفی زیادی بر وجهه‌ی عمومی متا (شرکت صاحب اینستاگرام، که قبلاً فیسبوک نامیده می‌شد) بر جای گذاشت. همچنین نشت اطلاعاتی کاربران در سال گذشته که توسط فرانسیس هاگن افشا شد؛ برای بار چندم ثابت کرد که  فیس‌بوک «رشد را بر ایمنی» اولویت می‌دهد.اسناد وی نشان می‌دهد که اینستاگرام بر این واقعیت که مکانی «سمی» برای جوانان است کاملا واقف است اما ترجیح می‌دهد این یافته‌ها را به اشتراک نگذارد. آن‌ها می‌دانستند که «۳۲ درصد از دختران نوجوان مورد بررسی، گفته‌اند که در مواقعی که نسبت به بدن خود احساس بدی داشتند، اینستاگرام موجب تقویت این حس در  آن‌ها می‌شده است». آن‌ها می‌دانستند که «۱۳ درصد از نوجوانان بریتانیایی و ۶ درصد از کاربران آمریکایی مورد بررسی، محتواهای مشوقِ خودکشی را در اینستاگرام دنبال می‌کنند».

فیس‌بوک به دلیل تصمیمات اشتباهش، اغلب موضوع مورد بحث در رسانه‌ها بوده است. این پیامدهای منفی نتیجه‌ی تصمیمات استراتژیک شرکتی است که طراحی اخلاقی و محصول فراگیر را در اولویت خود قرار نداده است. در عوض، نوآوری و رشد بیش از هرچیز در اولویت آن‌هاست. چنین سرعتی طبعا امکان بررسی دقیق عواقب مخرب ناخواسته‌ی طراحی را نمی‌دهد. به شهادت هاوگن فیس‌بوک در زمان تحقیقات خود (که برای طراحی اخلاقی اساسی است)، یافته‌هایی را که آن‌ها را به سمت متفاوتی هدایت می‌کند نادیده می‌گیرد.

«در اینجا بین آنچه که برای عموم خوب است و آنچه که برای فیس‌بوک خوب است یک تضاد منافع پیش آمد .. فیس‌بوک برای بارها و بارها تصمیم گرفت که بهینه‌سازی‌هایش در جهت منافعی مانند کسب درآمد بیشتر باشد.» ــ فرانسیس هاگن

این یک تفکر کلاسیک کوتاه‌مدت است. به این معنی که ممکن است شواهدی را که در روند توسعه خلل ایجاد کنند، به منظور به حداکثر رساندن درآمد حذف کنند تا در نهایت یک سود کوتاه‌مدت حاصل شود. اما با گذشت زمان، این ریسک شهرتِ بد است که افزایش می‌یابد. در حال حاضر شهرت فیس‌بوک به پایین‌ترین حد خود رسیده است و در نتیجه‌ی آن حمایت کاربران، کارمندان و سرمایه‌گذاران این شبکه‌ی اجتماعی رو به کاهش گذاشته است.

آیا خطر قابل‌توجهی که شهرت فیس‌بوک را تهدید می‌کرد منجر به تغییر نام تجاری‌اش به Meta شد؟ این شرکت ادعا می‌کند که نام جدید آنچه را که این شرکت انجام می‌دهد بهتر منعکس می‌کند، زیرا به واقعیت مجازی «متاورس»  که قصد ساختنش را دارند اشاره دارد. اما از منظر بدبینانه‌تر ( واقع‌بینانه؟)، به نظر می‌رسد که این تغییر نام در زمان بسیار مناسبی برای منحرف کردن توجه از اخبار بد فزاینده بوده است. آیا این یک تلاش مرحله‌ی آخر برای مدیریت ریسک شهرت است؟

ریسک 3: قانونی و نظارتی

البته، محاکمه توسط رسانه‌ها تنها تأثیر منفی ناشی از فناوری غیراخلاقی نیست. مسئله‌ی اصلی زمانی است که این غیراخلاقی به غیرقانونی تبدیل می‌شود! 

یکی از دلایلی که باعث آسیب‌رسان بودن یک فناوری می‌شود این است که برای «یک موضوع خاص» هنوز قانونی تصویب نشده‌‌است. قانونگذاری یک فرایند کُند و به شدت تحت‌تأثیر عوامل سیاسی است. آنچه در دهه‌ی گذشته دیده‌ایم این است که سرعت تغییرات در شرکت‌های فناوری بسیار بیشتر از موسسات تنظیم‌کننده‌ی قانون است. برای بسیاری از آسیب‌های ایجادشده توسط شرکت‌های بزرگ فناوری هیچ قانونی ثبت نشده‌است. یکی از جملات مورد علاقه‌ی من برای خلاصه کردن زندگی مدرن این است:

مشکل واقعی بشریت این است:
ما احساسات دیرینه سنگی، نهادهای قرون وسطایی؛ و فناوری خداگونه داریم. ای او ویلسون

در حضور چارچوب‌های نظارتی قوی، شرکت‌ها با مشکل مواجه می‌شوند. تحقیقات اخیرِ دفتر کمیسر اطلاعات (ICO)، ناظر اطلاعات بریتانیا، نشان داده است که TikTok احتمالا قانون حفاظت از داده‌ها را نقض کرده و احتمالا داده‌های کودکان زیر 13 سال را بدون رضایت والدینشان پردازش کرده است. آن‌ها همچنین متوجه شدند که این شرکت ممکن است داده‌های دسته‌بندی شده‌ی خاصی را بدون هیچ مبنای قانونی پردازش کرده باشد. این ماجرا ممکن است به جریمه‌ی 27 میلیون پوندی TikTok منجر شود.

این خبر چند هفته پس از اعلام جریمه 349 میلیون پوندی شرکت متا توسط ناظر داده ایرلند منتشر شد. تحقیقات آن‌ها نشان داد که این پلتفرم داده‌های مربوط به حساب‌ افراد 13 تا 17 ساله را به طور پیش‌فرض در اختیار«عموم» قرار داده است. این تصمیم طراحی، منجر به این شد که اطلاعات شخصی کودکان (مانند شماره تلفن و آدرس ایمیل) در اینترنت در دسترس عموم قرار گیرد.

شاید قوانین مربوط به حفاظت از داده‌ها نسبت به دیگر بخش‌های آسیب‌زای فناوری پیشرفته‌تر باشد. اما این مسئله در حال تغییر است. اتحادیه‌ی اروپا قانون جدیدی (قانون هوش مصنوعی) را پیشنهاد کرده‌است که هدف آن کاهش استفاده‌ی مضر از هوش مصنوعی است و فناوری‌های هوش مصنوعی را که باعث آسیب‌های جسمی و روانی می‌شوند، غیرقانونی می‌کند. پس می‌توان گفت که برای شرکت‌هایی که از ابتدا طراحی اخلاقی را در نظر نمی‌گیرند، نظارت‌ها در حال افزایش است.

ریسک 4: تجاری

ریسک تجاری مقوله‌ی مجزایی نیست، بلکه نقطه‌ی اوج همه موارد فوق است. تصمیمات سازمانی که سلامت عمومی را به خطر می‌اندازد، منجر به تأثیرات منفی بر شهرت می‌‌شوند. و این به نوبه خود موجب به خطر انداختن درآمد آن سازمان می‌شود. در برخی موارد، سازمان ممکن است با خطرات قانونی مواجه شود.

 در فوریه سال جاری، گزارش شد که فیس‌بوک برای نخستین بار در تاریخ ۱۸ ساله‌ی خود، شاهد کاهش کاربران فعال روزانه‌ی خود بوده‌است. سهام آن‌ها بیش از 20 درصد کاهش یافته و حدود 200 میلیارد دلار کم شده است. البته همبستگی علت تام نیست و ما نمی‌توانیم این فعالیت بازار سهام را مستقیماً به افزایش احساسات منفی نسبت به فیس‌بوک نسبت دهیم. عوامل دیگری مانند رشد TikTok به عنوان یک رقیب اصلی نیز در این امر دخیل هستند.

اما این فرض که گزارش‌دهی منظم در مورد تأثیر مخرب فیس‌بوک بر جامعه احتمالا سرمایه‌گذاران را محتاط کرده است، فرض دور از دسترسی نیست. احتمالا آنها فقط نمی‌خواهند ریسک بیشتری کنند.

کاهش ریسک

اذعان به خطرات ناشی از طراحی بد تنها نقطه‌ی شروع است. جاسازی تغییر واقعی مستلزم تفکر سیستمی است. مرکز فناوری انسانی چارچوبی را با هدف ایجاد تغییر در سیستم‌های پیچیده ایجاد کرده است. آنها درجات مختلفی از تأثیر را نشان می‌دهند که می‌تواند با مداخله‌ در سطوح مختلف در سیستم ایجاد شود.

تغییر لوگوی جدید فیس‌بوک، نمی‌تواند آغاز خوبی برای رسیدگی به مسائلی که در بالا مطرح شد و ایجاد تأثیر مثبت خالص بر جامعه باشد. آن‌ها می‌توانند از تغییر ویژگی‌ها و پلتفرم‌ها یا به‌روزرسانی‌ در ساختارهای تیمی و حاکمیت داخلی خود شروع کنند. اما برای ایجاد بیشترین تأثیر، آن‌ها باید در مدل کسب‌و‌کار و اهداف اقتصادی خود تجدید نظر کنند. راستش نمی‌توانم بگوییم که به این زودی اتفاق می‌افتد.

نکته‌ی مثبت این موضوع این است که فرهنگ عمومی روز به روز بیشتر از این موضوعات آگاه می‌شود. و در نهایت، تغییر احساسات اجتماعی ممکن است باعث تغییر پارادایم شود. بنابراین هنوز امیدی هست.

شما چی فکر می‌کنید؟

چگونه می‌توان مفهوم «ریسک» را به مکالمه درباره طراحی اخلاقی و فراگیر وارد کرد؟

منبع: https://uxdesign.cc/ethical-design-is-a-risk-management-strategy-400abd84c8a