Defining a Framework of Ethical Design

پس چه رابطه‌ای بین اخلاق و طراحی وجود دارد؟ چرا طراحی باید با اخلاق مرتبط باشد؟

«طراحی» معانی مختلفی دارد که ممکن است ارتباط با اخلاق را نشان دهند. از نظر معنای لغوی «طراحی» (اسم و فعل)؛ ساختن (قابلیت) یا ترسیم چیزی (هر شکلی) با قصد (هدف خاص) و با نتایج (مشهود یا ناملموس) است که نحوهٔ ساخت آن را به‌عنوان فرایند هم توضیح می‌دهد (انتشارات دانشگاه کمبریج، n.d.a).

«طراحی برای انسان بودن اساسی است ــ ما طراحی، عمدی‌سازی، برنامه‌ریزی و طرح‌ریزی را به روش‌هایی انجام می‌دهیم که اقدامات و ساخته‌های ما را از قبل نشان می‌دهند ــ ما دنیای خود را طراحی می‌کنیم، در حالیکه جهان ما هم متقابلاً عمل کرده و ما را طراحی می‌کند».
ــ آن ماری ویلیس، استاد و ویراستار مقالات فلسفهٔ طراحی

با درک معنای طراحی از دیدگاه طراحی هستی‌شناختی، طراحی را می‌توان به‌عنوان شیوه‌هایی که بسیار فراگیرتر و عمیق‌تر از آنچه عموماً توسط عاملان آن شناخته می‌شود، درک کرد. در طول طراحی، می‌فهمیم که چگونه موجودات ذهنی «هستیم» و چگونه می‌توانیم «جهان خود» را که در یک کنش بازتابی به ما با «طراحی» عمل می‌کند شکل دهیم (فرمول‌بندی Fry). این شامل «طراحی فرایندهای طراحی» است که به موجب آن نتایج از قبل مشخص می‌شوند و در آن فرایندهای طراحی خاصی فعال می‌شوند، و همچنین «اثرات طراحی» (اشیاء، فضاها، سیستم‌ها، زیرساخت‌ها) که طراحان به‌عنوان نتیجه طراحی می‌کنند معلوم می‌شوند (ویلیس، ۲۰۰۶، صص 80 - 93).

اخلاق طراحی نیز از قرن نوزدهم مورد توجه بوده است. ادعای اصلی این است که طراحی می‌تواند محصول و سیستمی مبتنی بر فروتنی ایجاد کند که ارزش‌هایی را برای انسان‌ها و محیط اطرافشان ایجاد می‌کند، «طبیعتی» که می‌تواند بر اساس اخلاق بنا شود. نگرانی‌های اخلاقی اصلی در طراحی، پایداری، طراحی سالم از نظر زیست‌محیطی یا طراحی سبز و تجارت منصفانه هستند. تلاش رویکرد سودمند آتفیلد (Attfield’s utility approach) که «سهم منصفانه برای همه» است، فرصت‌هایی را برای بحث دربارهٔ نقش اخلاق در طراحی در سطح کلی‌تر برجسته کرد (اتفیلد، 1999، صفحات 3-5).

طراحی سنتی در اوایل درک‌شدنش، در اروپای اوایل قرن بیستم که قلب تولید صنعتی در آن زمان به حساب می‌آمد، ساخته شد. در این دوره از فناوری صنعتی، این ایده که طراحی نیاز به تخصص و دانش فعال دارد ایجاد شد. با این حال، از آن زمان، درک اولیه برای پذیرفتن نتایج جدید (از محصول به خدمات و به سازمان‌ها) و عاملان تازه (از متخصصان تا کاربران)، به تدریج بازتعریف شد و روابط خود را با زمان (از فرایندهای بسته به فرایندهای باز) تغییر داد. بنابراین طراحی در حال حاضر به یک فرهنگ و یک روش در مورد چگونگی بودن چیزها برای دستیابی به کارکردها و معانی مطلوب تبدیل شده است (مانزینی، 2015، ص 53).

طراحی به‌عنوان یک خدمت عملی به انسان در دستیابی به اهداف فردی و جمعی تلقی می‌شود. هدف نهایی کمک به دیگر افراد برای رسیدن به اهدافشان است. اینجاست که فضایل و همچنین مسئولیت طراحان به‌طور اجتناب‌ناپذیری در یک زمینهٔ اجتماعی، سیاسی، مذهبی و فلسفی بزرگتر قرار می‌گیرد. هدایت اخلاقی از اخلاق شخصی می‌آید و نه تنها از سازمان‌های حرفه‌ای، بلکه از نهادهای حکومتی، آموزه‌های دینی، و فلسفه هم ناشی می‌شود.

بنابراین، در دوران جدید، طراحی کردن با لحاظ کردن اخلاق نشان‌دهندهٔ نگرانی در مورد رفتار اخلاقی فرد و انتخاب‌های مسئولانه در اجرای طراحی است. نظر به توسعهٔ دانش علمی و ظهور فناوری با طراحی (طراحی شده)، ملاحظات اخلاقی نقش به‌سزایی در تفکر طراحی داشته‌اند. طراحان دانش جدید دربارهٔ جهان را با فناوری ترکیب می‌کنند و بعد از آن است که از پیامدهای آن برای افراد، جوامع، فرهنگ‌ها و محیط طبیعی آگاه‌تر می‌شوند (بوکانان، 2022).

«اخلاق در این عصر فناوری چگونه عمل می‌کند؟»

در این عصر دیجیتال، وقتی به اخلاق فکر می‌کنیم، فقط تعاریف کلاسیک اخلاق را به یاد نمی‌آوریم. این به این دلیل است که زندگی ما به‌سرعت با فناوری اطرافمان در حال تغییر است و دیجیتالی شدن مفاهیم اخلاق را در زندگی واقعی ما تغییر می‌دهد.

پس باید به رابطهٔ بین اخلاق و فناوری در این عصر فناوری‌محور نگاه کنیم. خوان انریکز تاکید کرد که به‌دلیل تغییر سریع جامعه با فناوری، مردم به‌طور معقولی با هنجارهای رایج امروزی عمل می‌کنند و با نگاه‌کردن به گذشته به‌شدت مورد قضاوت قرار می‌گیرند. فناوری بزرگترین بازیگر در این تغییر است، زیرا جایگزین‌هایی را ارائه می‌دهد که قبلاً هرگز با جنبه‌های اخلاقی محکم نشان داده نشده بودند و می‌توانند اساساً تصور ما را از درست و نادرست تغییر دهند. علاوه‌براین، باورهای مطلق ما اغلب به خلاف آنچه که در گذشتهٔ خود می‌پذیرفتیم و به آن اعتقاد داشتیم، تبدیل می‌شوند، زیرا هنجارهای اخلاقی بر این اساس شکل می‌گیرند (انریکز، 2020، صفحات 5-8).

سوالات زیاد و روبه‌رشدی در مورد اخلاق فناوری وجود دارند، مانند اینکه آیا اشکال جدید فناوری‌ «قدرت» عمل را در اختیار ما می‌گذارند، که به این معنی است که ما باید بیش از همیشه انتخاب‌های «درست» داشته باشیم. با این حال، انسان‌ها را آسیب‌پذیرتر و به هم وابسته‌تر می‌کند،که یا با هم شکوفا می‌شوند یا با هم فرومی‌پاشند.

فناوری‌ها در حال آزمایش زندگی انسان در سطح جهانی هستند، زیرا هیچ مرزی برای فناوری وجود ندارد که بگوید هدفی که به درک بهتر جهان کمک می‌کند، حس بهتری از انتخاب‌ها را هم ایجاد می‌کند. با این حال، فناوری‌های پیشرفته با ابزارها / مدل‌های مبتنی بر داده مانند هوش مصنوعی و یادگیری ماشینی اصولاً جنبه‌هایی اخلاقی دارند که باید در نظر گرفته شوند. این موضوع تا وقتی صحبت از مبادلهٔ اخلاق با کارایی مطرح است ما را به اشتباه می‌اندازد. بهره‌وری از فناوری می‌تواند سود قابل‌توجهی برای بشریت داشته باشد، اما به این معنی نیست که مبتنی بر اخلاق است (گرین، 2017).

بنابراین، فناوری و اخلاق با هم مرتبط هستند. زیرا فناوری بازیگر کلیدی است که شرایط اجتماعی، سیاسی، اقتصادی، بیولوژیکی، روانی و محیطی را که در آن انسان‌ها تلاش می‌کنند تا شکوفا شوند را به‌عنوان یک بستر شکل می‌دهد. علاوه‌براین، طراحی فناورانه و تصمیم‌های پیاده‌سازی در دست تعداد کمی از «نوآوران» هستند که علایق/ نیازها/ ارزش‌های همگان را در بر نمی‌گیرند. آنها اغلب بر بروز یک انگیزهٔ غیرشخصی برای کارایی، بهینه‌سازی، اندازه‌گیری، کنترل و سایر ارزش‌های ماشینی که بهای آنها ارزش‌های انسانی مانند عدالت، شفقت، اشراف، آزادی و رهبری است (و بر هنجارهای اخلاقی نسل آینده تأثیر می‌گذارند)، تمرکز می‌کنند. تمایل برای درک این موضوع که قدرت فناوری نیز باید با رشد خرد انسانی و مسئولیت اخلاقی برای متعادل کردن آنها مطابقت داشته باشد در حال افزایش است (والور و همکاران، 2018).

«تا زمانی که پیشرفت فناوری وجود داشته باشد، اخلاق فناوری از بین نخواهد رفت، درواقع، مسائل پیرامون فناوری و اخلاق اهمیت بیشتری پیدا خواهند کرد.»
ــ برایان گرین، مدیر اخلاق فناوری در مرکز اخلاق کاربردی Markkula

چه جنبه‌ها و اصول اخلاقی در فناوری را می‌پذیریم؟

به گفتهٔ اخلاق‌شناسان و مؤسسات اخلاق فناوری مانند «ICAEW»، اخلاق در فناوری اساساً نیازمند چارچوب‌های قوی برای «پاسخگویی» است که حمایت حیاتی از اخلاق را فراهم می‌کنند. این به این دلیل است که فناوری تنش‌ها و فشارهای جدیدی را برای اخلاق و مسئولیت‌پذیری ایجاد می‌کند. در این معنا، باید ساختار پاسخگویی متفاوتی با شکل سنتی وجود داشته باشد، زیرا راه جدید در عصر فناوری جدید باید به‌طور موثر بین حوزه‌های مختلف مانند متخصصان فناوری، کاربران تجاری و مدیریت ارشد به اشتراک گذاشته شود تا از هر گونه شکافی جلوگیری شده و از واگذاری‌های شفاف اطمینان حاصل شود. همچنین، با توجه به تحولات جدیدِ مفاهیم اخلاق با فناوری، سؤالات دشوار جدیدی در رابطه با درک معنای واقعی انصاف، کرامت انسانی، عدالت اجتماعی و اشتراکات مشترک ذینفعان مختلف و ساختارهای اجتماعی مطرح شده‌اند. همچنین در مورد توانایی شناسایی پیامدها و آسیب‌های ناخواستهٔ ناشی از فناوری نیز سوالاتی پرسیده می‌شوند (ICAEW، 2019).

نگاهی به روابط اخلاق در طراحی و فناوری، پیچیدگی تعامل آن و تأثیرات بعدی را بر افراد، جامعه و فناوری تشکیل‌دهندهٔ امروز و فردا نشان می‌دهد. متأسفانه هنوز هیچ منشور اخلاقی جهانی وجود ندارد که مردم و جامعه بر آن تکیه کنند. با این حال، تقاضاهای فزاینده‌ای در مورد اینکه چگونه باید روابط بین اخلاق، طراحی و فناوری را برای مشاغل و جوامع جهانی درک کنیم و بر اساس آن عمل کنیم، وجود دارند. ما باید از خود بپرسیم.

«آیا ما اصول اخلاقی شخصی خود را همراه با این تغییر سریع توسعهٔ فناوری حفظ می‌کنیم؟»

«مشکلات اخلاقی پیش رو کدام‌ها هستند؟ مشکل اخلاقی در طراحی با فناوری داده‌محور برای یک خدمت چیست؟»

در فرایند توسعهٔ راه‌حل‌های مبتنی بر داده‌ها مانند هوش مصنوعی و یادگیری ماشینی، هیچ روش استاندارد‌شده‌ای وجود ندارد که بدانیم همهٔ داده‌ها از کجا آمده‌اند و چگونه حاصل شده‌اند. این مجموعه داده‌ها شامل چه سوءگیری‌ یا سیاست‌های طبقه‌بندی‌کننده‌ای هستند که بر تمامی سیستم‌هایی که بر آنها متکی هستند تأثیر می‌گذارند؟ داده چیست؟
اساساً، داده‌ها در قرن بیست‌و‌یکم به هر چیزی تبدیل شدند که می‌توان برداشت کرد. از این نظر، می‌تواند منبعی برای مصرف، جریانی برای کنترل یا سرمایه‌گذاری‌ای برای مهارکردن باشد. نکتهٔ جالب این است که جمع‌آوری داده‌ها نه تنها از متخصصان داده، بلکه مؤسسات آنها و فناوری‌هایی که مبتکران به کار گرفته‌اند هم صورت گرفته است.

علاوه‌بر‌این، کارشناسان دادهٔ بیشتری نسبت به گنجاندن ارزش‌های جدید در فناوری به جای ادامهٔ گسترش بی‌عدالتی‌های قدیمی و موجود در جهان، اعتراض کرده‌اند.

اونیل، نویسنده، دانشمند داده و ریاضیدان مشهور، در طول زندگی حرفه‌ای خود شاهد تناقضات عظیمی در استفاده از مدل‌های الگوریتمی در اقتصاد کلان داده بود. مدل‌هایی که به‌عنوان یک خدمت دیجیتالی برای بسیاری استفاده می‌شوند، حاوی تبعیضاتی مانند نژادپرستی، بی‌عدالتی، نابرابری و بی‌عدالتی هستند. سوء‌استفادهٔ از مدل‌های ریاضی که برای تصمیم‌گیری خودکار در راه‌حل‌های خدماتی آیندهٔ ما از کلان‌داده استفاده می‌کنند، فاقد آینده‌نگری است، به‌ویژه زمانی که صحبت از پیامدهای مضر به میان می‌آید. علی‌رغم اینکه مبتکران جهانی همیشه رؤیای راه‌حل‌های آینده را در سر می پرورانند، مجموعه داده‌ها را از داده‌های تاریخی در گذشته جمع‌آوری، برچسب‌گذاری و طبقه‌بندی می‌کنند تا به ماشینی آموزش دهند، که می‌تواند با تعصبات و تبعیض‌های ناعادلانه ترکیب شود (O'Neil, 2016).

«فرایندهای کلان‌داده گذشته را کدگذاری می‌کنند. آنها آینده را اختراع نمی‌کنند. انجام این کار مستلزم تخیل اخلاقی است، و این چیزی است که فقط انسان‌ها می‌توانند ارائه دهند. ما باید به‌صراحت مقادیر بهتری را در الگوریتم‌های خود قرار دهیم و مدل‌های کلان داده‌ای را ایجاد کنیم که از اصول اخلاقی ما پیروی ‌کنند. گاهی اوقات این بدان معناست که انصاف را مقدم بر سود قرار دهیم.»
-O’Neil، 2016، سلاح‌های تخریب ریاضی. 204p

این امر، سؤالات اخلاقی را از نمود فنی با مشکلات گسترده‌تر جدا می‌کند. در این مشکلات مسئولیت به‌راحتی قابل‌تشخیص نبوده، یا فراتر از محدودهٔ تحقیق یا استقرار دیده می‌شوند. مسئله تنها یکی از مجموعه‌داده‌های دارای سوءگیری یا الگوریتم‌های ناعادلانه و پیامدهای ناخواسته نیست. بلکه بازتولید همیشگی ایده‌هایی است که به جوامع آسیب‌پذیر آسیب رسانده و بی‌عدالتی‌های کنونی را بدون آگاهی تقویت می‌کنند (کرافورد، 2021، ص 115-117).

پس چرا طراحی باید به این بحران اخلاقی در فناوری فکر کند؟

امروزه اهمیت تعامل بین اخلاق، طراحی و فناوری بسیار مهم شده است. با توجه به پیچیدگی سازمان‌های فنی ــ اجتماعی که با حوزه‌های مختلف کار می‌کنند، فرایند طراحی تنها در حوزهٔ طراحی در نظر گرفته نمی‌شود. فناوری یک ورزش گروهی است و فناوری مدرن کنونی توسط گروه‌‌هایی از مهندسان، طراحان، مدیران محصول و دانشمندان داده و با تکیه بر چندین لایهٔ زیرین ساخته می‌شود (Bowles, 2020).

طراحی یک اقدام و برنامهٔ کلیدی برای ایجاد خدمات و نتایج با فناوری است. به‌عنوان بخشی از سازندگان فناوری، طراحان سعی می‌کنند با همدلی نقش مهمی در خدمات کاربر‌محور ایفا کنند.

«چرا ما به طراحی فناوری‌هایی که سیستم‌های موجود نابرابری قدرت را بازتولید می‌کنند، ادامه می‌دهیم، در حالی که برای خیلی‌ها واضح است که ما نیاز فوری به برچیدن این سیستم‌ها داریم؟»

-ساشا کوستانزا ــ چاک، محقق، طراح و فعال ارتباطات

ساشا کوستانزا ــ چاک به معضل فعلی مربوط به شیوه‌های طراحی برای راه‌حل‌های مبتنی بر فناوری اشاره کرده است. در مورد طراحی فناوری، این شیوه‌ها شکاف گمشده‌ای را برای گروه‌های حاشیه‌ای خاص ایجاد می‌کنند، حتی در طول اکثر فرایندهای طراحی، دیدن و در نظر گرفتن این شکاف غیرممکن است. ازآنجاکه امروزه اکثر فرایندهای طراحی ساختار متقابلی ندارند، این می‌تواند باعث توزیع ناعادلانهٔ مزایا و بارهایی شود که به‌طور مداوم در هنجارهای قدیمی موجود در مدل سرمایه‌داری بازتولید می‌شوند. فقدان آگاهی از «تقابل» و «ماتریکس سلطه» در فرایند طراحی، باعث می‌شود که پیامدهای زیانباری برای گروه‌های حاشیه‌نشین فقیرتر با قدرت کمتر در جامعه ایجاد شوند. (Costanza-Chock, 2020, pp. 17 - 39).

تأثیرات قدرتمند به‌هم‌پیوستهٔ طراحی و فناوری، نقش طراحان و سایر بازیگران در کنار خود فناوری در حال تغییر هستند. طراحان امروزی که می‌خواهند بخشی از خروجی فناوری باشند، باید متفکر سیستمی، متخصص در مقررات، همکار، ارتباط‌دهنده و نترس باشند تا صدای خود را در مورد شیوه‌های اخلاقی بالا ببرند. چیزهای بیشتری برای آموختن در مورد نحوهٔ پاسخگویی به کاری که انجام می‌دهیم وجود دارند که به‌ندرت توسط آموزش طراحی تدریس می‌شوند.

بنابراین، طراحان باید به یک سنگربان اخلاق تبدیل شوند. در طول دههٔ گذشته، نقش طراح نه تنها از نظر فناوری که از نظر اخلاقی هم به‌طرز شگفت‌آوری پیچیده شده است (Monteiro,2019, pp. 18, 30).

امیدوارم هنوز توجه شما را از دست نداده باشم. نکتهٔ اصلی من در این چارچوب این است که ما به لنزهایی نیاز داریم تا ارزش‌های اخلاقی را بررسی کرده و آنها را به‌عنوان یک طیف تصور کنیم، نه اینکه آنها را سیاه و سفید یا صرفاً به‌عنوان یک موضوع درست و نادرست برای قضاوت در نظر بگیریم.

ازآنجاکه فناوری نوظهور مشکلات جدیدی را در زمینهٔ مسئولیت جمعی که احتمالاً بر افراد، گروه‌ها، سیستم‌ها و ذینفعان آینده تأثیر می‌گذارد برای سازندگان به ارمغان می‌آورد، پیامدهای غیرقابل پیش‌بینی‌ای دارد که در یک افق زمانی باز آشکار می‌شوند (والور، 2016).

پنج نظریهٔ اخلاقی ممکن است به ما کمک کنند تا مسائل اخلاقی را که در کنار سایر آسیب‌ها، از استفادهٔ زیاد از کاربردهای تکنولوژیکی امروزی ناشی شده‌اند، بشناسیم و توصیف کنیم. این چارچوب، که از پنج لنز اخلاقی استفاده می‌کند و آنها را شرح می‌دهد، جهانی نیست که بتواند برای همهٔ زمینه‌ها و حیطه‌ها اعمال شود، اما به‌طور خاص بر اصول و ارزش‌های اخلاقی در چارچوب فرایندهای طراحی و فناوری داده‌محور متمرکز است.

هر نظریهٔ اخلاقی دیدگاه متفاوتی دارد که آنچه را که «درست (خوبی)» و «نادرست» است ترسیم می‌کند، اما اشکالاتی نیز وجود دارند که منجر به محدودیت‌هایی می‌شوند. بنابراین، تکیه بر یک نظریهٔ اخلاقی واحد برای دیدن مفاهیم اخلاقی عملی که باید آموخته شوند، کافی نیست. در مرور منابع، پنج نظریهٔ اخلاقی؛ اخلاق فضیلت، اخلاق وظیفه، اخلاق نتیجه‌گرا، رویکرد قابلیت و اخلاق مراقبت، به منظور جستجوی رابطهٔ بین‌رشته‌ای میان اخلاق، طراحی و فناوری مورد بررسی قرار می‌گیرند.

این مقاله حاوی بخشی از تحقیق پایان‌نامهٔ کارشناسی ارشد با عنوان «باز کردن طیف اخلاق ــ باز کردن فضا و زمانی امن برای افشای اخلاق مشارکتی» است که توسط Jiye Kim، کارشناس ارشد طراحی یکپارچه در دانشکدهٔ طراحی بین‌المللی Köln (KISD) نوشته شده است.
این پژوهش آکادمیک توسط پروفسور بیرگیت ماگر (طراحی خدمات) و پروفسور دکتر لاسه شرفیگ (طراحی یکپارچه) در KISD از مارس 2022 تا ژانویه 2023 تحت نظارت قرار گرفت.

دربارهٔ نویسنده:

من یک فرد معمولی هستم که کامل نیست اما کنجکاوی زیادی در مورد «چرا طراحی می‌کنیم و برای چه چیزی طراحی می‌کنیم» در اخلاق طراحی نظری و عملی دارد. من خوش‌شانس بوده‌ام که فرصت‌هایی در زمینهٔ تحصیل و تجربیات کاری مختلف به‌عنوان طراح در کرهٔ جنوبی و چندین کشور اروپایی داشته باشم. تحقیقاتی که من انجام داده‌ام تحت تأثیر این تجربیات قبلی و متمرکز بر کشف معنای طراحی «اخلاقی» در ایجاد خدمات فناوری بوده‌اند. این فرصت‌ها به من این امکان را می‌دهند که شاهد طیفی از احتمالات در شیوه‌های طراحی اخلاقی باشم، که به طراحان این امکان را می‌دهد که نه تنها آنچه را که انجام می‌دهیم، بلکه نحوهٔ انجام آن را نیز تعیین کنند.

پایان.

تعریف چارچوبی برای طراحی اخلاقی ــ بخش اول

منبع: https://unpack-ethicaldesign.com/blog/defining-a-framework-of-ethical-design

مترجم: مریم رضائی جاجیده