When Ethical Problems Arise in Tech, Design is an Important Safeguard
Words by Lexi Namer, Visuals by Austin Smoldt-Sáenz
طراحی محصول تأثیر زیادی بر نحوه تعامل مصرف کنندگان با یک برنامه و با یکدیگر دارد.
در ادامه چگونگی انجام اقدامات اخلاقی بیان شده است.
ما به عنوان طراحان، قدرت و فرصت منحصر به فردی برای شکل دادن به محصولات قبل از ورود به بازار داریم. اما همانطور که Eva Penzey-Moog در طراحی برای ایمنی (Designing for Safety) می گوید، محصولات اغلب برای استفاده در یک «محیط ایده‌آل» توسط «مشتریان ایده‌آل» طراحی می شوند.
ما طراحان به خود می‌بالیم که همدل و انسان-محور هستیم، اما تجربه ثابت کرده است که این اشتباه رایج بی ضرر نبوده است. زیرا انسان-محور بودن طراحی به این معنی نیست که طرح ها به طور خودبه‌خودی اخلاقی نیز هستند.
تقاطع اخلاق و فناوری
اخلاق - قواعد رفتاری است که برای شناسایی رفتار قابل قبول یا غیرقابل قبول در هر دو سطح شخصی و جمعی استفاده می شود - ایجاد می‌کند. با این حال می تواند بین این دو تنش نیز وجود داشته باشد.
برخی از مشکلات اخلاقی در صنعت فناوری بیداد می کند. فناوری مبتنی بر فرهنگ «حرکت سریع و شکستن قواعد» است و طراحان تحت فشار هستند تا سریع‌تر و سریع‌تر بسازند، و در سریع‌ترین زمان ممكن آماده‌ی بازار شده و به هر قیمتی فورا مقیاس‌پذیر شوند.
ما اکنون شاهد عواقب آن رویه فرهنگ سرعتی؛ در تعدادی از شرکت‌هایی هستیم که وارد بازار شده اند و با کمترین نظارت در مورد اینکه چطور می‌تواند نحوه استفاده از آنها مضر باشد - مقیاس‌پذیر شده‌اند.
نمونه‌ای که من اغلب مثال می‌زنم؛ یک برنامه پزشکی است که برای کمک به ارائه‌دهندگان مراقبت‌های بهداشتی در پیگیری بهتر مراقبت از بیمار طراحی شده است. این محصول ممکن است با رفع نیازهای ارائه دهندگان مراقبت های بهداشتی انسان محور تلقی شود، اما لزوماً تضمین کننده ی عدم سوء استفاده از حریم خصوصی بیماران نیست.
ما به عنوان طراح، نه تنها باید انسان محور باشیم، بلکه باید اخلاق محور نیز باشیم.
Lexi Namer طراح و توسعه دهنده مستقل
طراحی و اخلاق به جریان اصلی تبدیل می شود
در حالی که من همیشه در مورد اخلاق می دانستم، هرگز به این فکر نکرده بودم که چگونه می تواند با کار من به عنوان یک طراح تلاقی پیدا کند. تا اینکه روزی که داشتم با دوست خوبی که به عنوان طراح محصول در یک شرکت مالی کار می کرد، صحبت می کردم. او اشاره کرد که پس از تقریباً چهار سال کار بر روی محصولی که در ارتباط مستقیم با مصرف کننده است، برای اولین بار موضوع اخلاق در همین هفته مطرح شد.
ما شروع کردیم به تلاش برای بازگشایی آنچه که به معنای طراحی کردن اخلاقی است. برای من، این مثل زمانی بود که لامپ بالای سرم ترکید! و شروع کردم به تلاش تمرین درک اخلاق برای خودم و همچنین تزریق این مضامین و مکالمات در دوره های طراحی که تدریس می کردم.
برخی از طراحان و سازمان‌های بطور باورنکردنی سال‌ها درگیر اخلاق طراحی بوده‌اند و این موضوع در جامعه طراحی به طور روز افزونی مورد بحث قرار می‌گیرد. Trine Falbe یکی از این طراحان است که در ژانویه 2022، شبکه طراحی اخلاقی (EDN) (Ethical Design Network) را راه اندازی کرد، یک جامعه جهانی برای طراحان به منظور اشتراک گذاری، بحث و آموزش در مورد طراحی اخلاقی، که به طور گسترده نشر پیدا کرد و به سرعت تنها در هشت ماه به بیش از 800 عضو رسید.
من پس از پیوستن به گروه EDN Slack با Trine آشنا شدم و به عنوان یک سازمان دهنده برای شبکه مشغول شدم و شروع به سرپرستی یک بحث دو هفته‌ای پیرامون موضوعی در طراحی اخلاقی کردم تا با طراحان همفکری که علاقه مند به محوریت اخلاقی هستند، فکر، ایده‌ها و گفتگو را تقویت کنیم.
پس از چند ماه بحث‌های قابل تأمل، متوجه برخی مضامین نوظهور شدم و همه نظرات را ترکیب کردم. از این ترکیب، چهار حوزه موضوعی کلیدی را شناسایی کردم:
- تعریف و دسته بندی (طبقه بندی)
- آموزش و آگاهی
- اندازه گیری-سنجش و موفقیت
- مسئولیت پذیری و پاسخگویی
برای بحث بعدی، من همه را ترغیب کردم که در مورد اینکه کدام یک از این زمینه ها فوری‌تر است؛ صحبت کنند. آموزش و آگاهی به اتفاق آرا برای وارد کردن اصول اخلاقی به جریان اصلی گفتگوی طراحی حیاتی تشخیص داده شد و با یافته‌های من که آموزش اصول اخلاقی در کلاس طراحی گم شده‌است، همسو بود.
چگونه از ما انتظار می رود که طراحانی اخلاق محور باشیم، بدون دانش و آموزش زبان و چارچوب طراحی اخلاقی؟
Lexi Namer طراح و توسعه دهنده مستقل
مکالمه را حول آسیب متمرکز کنید
چون مبحث اخلاق گسترده و چندوجهی است، در ابتدا دوست دارم آن را در چارچوب کاهش آسیب قرار دهم. در حالی که همه ما قطب‌نماهای اخلاقی متنوعی داریم، هدف ما باید طراحی محصولاتی باشد که کمترین آسیب ممکن را به همراه داشته باشند. آسیب را می توان به طور کلی به شش نوع طبقه بندی کرد و همه اینها می تواند در یک محیط فیزیکی یا مجازی رخ دهد.
- آسیب جسمی
- آسیب جنسی
- آسیب کلامی یا عاطفی
- آسیب روحی یا روانی
- آسیب مالی یا اقتصادی
- آسیب فرهنگی یا هویتی
به عنوان طراح، پیامدهای مضر خواسته و ناخواسته ای وجود دارد که می تواند در نتیجه کار ما اتفاق بیفتد. الگوهای طراحی فریبنده، رابط‌های عمدی هستند که به دقت در یک وب‌سایت یا اپلیکیشن قرار داده شده‌اند تا کسی را فریب داده و یا شرمنده کند تا کاری را انجام دهد که معمولاً انجام نمی‌دهد.
برخی از طراحان و محققان به طور باورنکردنی سال هاست که در این فضا کار می کنند و در همین راستا طراح UX هری بریگنول در سال 2010 کمپینی را علیه طراحی فریبنده آغاز کرد.
بیشتر اوقات، ما با نیت بد طراحی نمی‌کنیم، اما نمی‌توانیم راه‌هایی را که می‌تواند از طرح‌هایمان سوءاستفاده کند، پیش‌بینی و توضیح دهیم. مبارزه در این راه مستلزم بررسی نیت و قصد، داشتن چشم انتقادی، و نداشتن ترس از تکرار یا بیرون انداختن کارمان است(ارزش زیادی برای کارمان قائل نباشیم).
دو عامل اصلی در محصولات دیجیتالی وجود دارد که می‌توانند باعث آسیب شوند: خود فناوری و افرادی که از آنها استفاده می‌کنند.
آسیب در فناوری
در خود فناوری، برخی از مسائل رایج عبارتند از: حریم خصوصی داده ها، تشخیص چهره، سوگیری الگوریتمی و اعتیاد. همه اینها طراحی شده اند - و می توانند و باید بهتر طراحی شوند - اما شامل رابطه بین فناوری و شخصی است که از آن استفاده می کند.
در این بازی قدرت نامتعادل پویایی بین کسانی که محصولات تولید می کنند و کسانی که آنها را مصرف می کنند وجود دارد. به‌عنوان طراح، باید همه راه‌هایی را که طرح‌ها و فناوری ما ممکن است منجر به آسیب شود، به‌طور انتقادی بررسی کنیم.
این شامل موارد زیر است:
- ایفای نقش فعال تر در درک داده ها و فناوری که به طراحی های ما قدرت می بخشد،
- گمانه زنی در مورد اینکه چگونه ممکن است منجر به آسیب شوند،
- تلاش برای کاهش بخشی از آن در طراحی‌مان.
آسیب بین مردم
هنگامی که یک محصول توسط شخصی مورد سوء استفاده قرار می گیرد، چه به صورت بدخواهانه یا تصادفی، ممکن است آسیب بین افراد ایجاد شود. یکی از بزرگترین راه‌هایی که این امر آشکارا دیده می‌شود، در محصولاتی است که در آن افراد در حال ایجاد و انتشار محتوا هستند، که معمولاً در رسانه‌های اجتماعی و بازی‌ها دیده می‌شود. این منابع محتوایی شلوغ می تواند منجر به نشر اطلاعات نادرست، جعلیات عمیق (deep fakes)، عدم تعادل قدرت (ناترازی قدرت)، آسیب، ناامنی و بی اعتمادی شود.
یک مثال عالی، بازی موبایل، Pokemon Go است. این بازی که در سال 2016 توسط شرکت برنامه های موبایل Niantic منتشر شد، دنیای فیزیکی و مجازی را با هم ترکیب کرد و به بازیکنان اجازه داد تا با استفاده از تلفن های هوشمند و واقعیت افزوده، پوکمون های مجازی را در شهرهای واقعی دنبال کنند.
بیشتر محتوا توسط مصرف‌کننده تولید می‌شد و در یک نمونه، بازیکنان را به موزه هولوکاست ایالات متحده روانه کرد، جایی که بازی پوکمونی را نشان می‌داد که گاز سمی را در داخل سالنی منتشر می‌کرد که شهادت بازماندگان اتاق گاز را نشان می‌داد. این به شدت مشکل ساز بود و به اعتراض شهروندان و موزه برای حذف محتوای بی احساس و مضر منجر شد.
از اینجا به کجا می رویم
در حالی که طراحی اخلاقی در صنعت جذابیت بیشتری پیدا می کند، کتاب ها، مقالات و بحث های زیادی در مورد این موضوعات در حال ایجاد است. علاوه بر این، ابزارها و چارچوب‌های فراوانی برای کمک به طراحان به منظور تزریق اخلاق به روش های کاری‌شان پدید آمده‌اند. این منابع توسط افراد و شرکت ها توسعه یافته اند، اما اغلب در صنعت طراحی بطور گسترده مورد استفاده و مورد مطالعه قرار نمی گیرند، و ناشناخته هستند. این تا حدی به دلیل توسعه آنها در سیلوها است (مخازن علمی صنایع خاص)که هیچ مخزن متمرکزی از زمان و نحوه استفاده از آنها وجود ندارد.
علاوه بر این، گروهی از محققان دریافتند که 44 درصد از 63 روش بررسی شده در مجلات دانشگاهی منتشر شده است که اغلب به دلیل دیوارهای پرداخت (داشتن هزینه) غیرقابل دسترس هستند، و این ابزارها در همان صنعتی که برای آن طراحی شده اند، انبار شده‌اند.
در حالی که من یک صفحه داخلی از منابع را نگه می داشتم و چندین طراح دیگر نیز همین کار را انجام می دادند، متوجه شدم که یک مخزن مرکزی واحد وجود ندارد که این حجم از اطلاعات را در خود جای دهد. من منابع طراحی اخلاقی (Ethical Design Resources) را طراحی و ساختم، یک مخزن آنلاین و با منبع جمعی برای شروع به مدیریت همه منابع طراحی اخلاقی در یک مکان واحد.
سوال این بود که از اینجا به کجا می‌رویم، و چه کاری می‌توانید انجام دهید تا درباره طراحی اخلاقی بیشتر بدانید؟ گفتگو تازه شروع شده است و هنوز کار، آموزش و تحقیق زیادی باقی مانده است. بزرگترین فرصت این است که خود و طراحان آینده را در مورد اهمیت اخلاق و شناسایی آسیب در کار طراحی آموزش دهیم، و در اینجا چند راه برای شروع آورده شده است:
- به گروه جهانی Slack در شبکه طراحی اخلاقی بپیوندید
- با کاوش در منابع طراحی اخلاقی، خود را در مورد برخی از این موضوعات آموزش دهید
- مجموعه ای از ارزش های اخلاقی ایجاد کنید تا طرح های خود را مدام بررسی کنید
- در ابتدا در مورد آسیب، اخلاق، و پیامدهای ناخواسته با تیم خود بحث کنید
- برخی از ابزارهای موجود را امتحان کنید.
- با گفتگو در شبکه طراحی خود، آگاهی از طراحی اخلاقی را گسترش دهید
منبع: https://dscout.com/people-nerds/ethical-problems-tech-design
مقالات مرتبط:
- تشویق طراحان و توسعه‌دهندگان کسب‌و‌کارها برای طراحی بر پایه‌ی ارزش‌های انسانی
- وقتی سوگیری در طراحی محصول به معنای مرگ و زندگی است
- طراحی برای فردا: گفتگو پیرامون طراحی اخلاقی
- اخلاق طراحی و محدودیت‌های طراح اخلاقی
- طرح و نقشه‌ی اخلاقی برای مقابله‌ی مستقیم با معضلات طراحی
