طراحی فناوری در عصر دیجیتالی شدن: نیاز به ارزیابی فناوری و اخلاق - بخش دوم

 :Designing technology in the age of digitalization
needs for technology assessment and ethics
Armin Grunwald - Institute for Technology Assessment and Systems Analysis (ITAS), Karlsruhe Institute of Technology (KIT), Germany

ربات‌های مراقبت

سلامت و مراقبت از افراد، حوزه‌های مهمی برای فناوری‌های مبتنی بر هوش مصنوعی هستند. با توجه به سالمندی فزاینده جامعه و افزایش درصد افراد نیازمند به مراقبت در کل جهان، آینده مراقبت از افراد به چالش اجتماعی بزرگی تبدیل شده است. ربات‌های خدماتی یا مراقبتی خودران و فناوری‌های کمکی به همراه نانو فناوری‌ها (مانند اسکلت‌های بیرونی) به عنوان ابزاری با پتانسیل بالا برای پشتیبانی از مراقبت شناخته می‌شوند. هوش مصنوعی در این زمینه نقش مهمی ایفا می‌کند و به سیستم‌های خودران اجازه می‌دهد تا در محیط‌های پیچیده به‌طور مناسب عمل کنند، به‌ویژه از طریق شناسایی آنی شرایط متغیر محیطی یا وضعیت افراد نیازمند مراقبت، مانند موارد بیماری زوال عقل (دکر و همکاران، ۲۰۱۷).

از آنجا که انسان‌ها و فناوری در این حوزه‌ها به طور نزدیک با هم در ارتباط هستند و افراد آسیب‌پذیر معمولاً نیاز به مراقبت دارند و ممکن است در برابر نقص‌های فناوری بی‌دفاع باشند، شناسایی وضعیت فرد توسط هوش مصنوعی اهمیت زیادی دارد. زیرا افراد و خانواده‌هایشان مستقیماً تحت تأثیر قرار می‌گیرند و در تمامی زمینه‌های سلامت و مراقبت، مسائلی چون کرامت، استقلال و انسانیت مطرح می‌شود، بنابراین واضح است که سؤالات اخلاقی و قانونی باید هنگام توسعه چنین فناوری‌هایی مورد توجه قرار گیرند. علاوه بر این، نیازهای عملی بیماران، خانواده‌های آن‌ها و پرستاران باید از ابتدا در فرآیند توسعه گنجانده شود تا از راه‌حل‌های صرفاً تکنوکراتیک جلوگیری شده و از بروز مشکلات پذیرش در آینده جلوگیری شود. در اینجا نه تنها رویکرد مسئله‌محور و مخاطب‌محور در طراحی فناوری اهمیت دارد، بلکه زمان‌بندی مناسب نیز باید مورد توجه قرار گیرد (دکر و فلیشر، ۲۰۱۰).

بنابراین، سؤالاتی مانند اینکه چگونه سیستم‌های کمکی مبتنی بر هوش مصنوعی و به‌ویژه حکمرانی توسعه فناوری و استفاده عملی از فناوری که به طور مناسب به چالش‌های مراقبتی پاسخ دهد، باید طراحی شوند، مسائلی هستند که نمی توان تنها توسط توسعه‌دهندگان، اخلاق‌دانان و وکلا به آن‌ها پرداخت، بلکه نیازمند یک شبکه پیچیده و فراملی از ذینفعان و افراد آسیب‌دیده است. طراحی فناوری در این حوزه باید به‌طور خاص شامل گروه‌های افراد مرتبط (ذینفعان) باشد.

در مجموع، این مثال‌ها نشان می‌دهند که طراحی فناوری – چه در اینجا و چه در بسیاری دیگر از زمینه‌های دیجیتال‌سازی – نباید به‌طور انحصاری توسط دانشمندان کامپیوتر و مهندسان توسعه یابد. علاوه بر تخصص فنی و برتری در آن، نیاز به آگاهی از تأثیرات، حساسیت اخلاقی و شایستگی قانونی نیز وجود دارد، که شامل دانش در حوزه‌های مربوطه است.

طراحی مشترک بین‌رشته‌ای برای دوران دیجیتال‌سازی

فناوری و جامعه به‌طور متقابل بر یکدیگر تأثیر می‌گذارند (Rip et al., 1995). جامعه از طریق ارائه مشوق‌ها و توسعه قوانین، از طریق نیروهای بازار تحت رقابت جهانی، و از طریق تقاضای مصرف‌کنندگان به شکل‌دهی علم و فناوری کمک می‌کند. در عین حال، علم و فناوری تأثیراتی بر جامعه دارند. برای شکل‌دهی به فناوری برای عصر دیجیتال، توسعه‌های جدید باید از طریق بررسی پتانسیل‌های فنی و مسائل غیرفنی در یک تعامل سیستمی بین فناوری‌های دیجیتال‌شده و تحولات دیجیتال در جامعه ارزیابی شوند، با در نظر گرفتن عوامل زیست‌محیطی و اقتصادی، جنبه‌های اخلاقی و پذیرش اجتماعی، و شرایط سیاسی چارچوب‌ها.

ارزیابی فناوری (Technology Assessment)

ارزیابی فناوری در دهه ۱۹۷۰ در ایالات متحده به‌عنوان یک فعالیت مبتنی بر علم و مشاوره سیاست‌گذاری ظهور کرد (Bimber, 1996) و دفتر ارزیابی فناوری در کنگره ایالات متحده به‌عنوان اولین مؤسسه TA شناخته شد. در دوره اول خود، فناوری به‌عنوان یک پدیده‌ای که دنباله‌رو دینامیک‌های خود است (فناوری‌گرایی، بخش ۲ بالا) در نظر گرفته می‌شد، و نتیجه آن این بود که شکل‌دهی به فناوری موضوعی نبود. وظیفه اصلی ارزیابی فناوری در آن زمان، عملکرد پیش‌آگاهی آن بود تا به بازیگران سیاسی این امکان را بدهد که اقداماتی برای جبران یا پیشگیری از تأثیرات منفی پیش‌بینی‌شده فناوری انجام دهند. این موضوع به‌طور کامل در دهه ۱۹۸۰ تغییر کرد و به‌دنبال پارادایم سازنده اجتماعی، که بر فرصت‌های شکل‌دهی فناوری بر اساس نیازهای اجتماعی و ارزش‌ها تأکید می‌کرد، گسترش یافت (Bijker and Law, 1994). در این چارچوب، رویکرد ارزیابی فناوری سازنده (CTA) توسعه یافت (Rip et al., 1995). CTA شروع به بررسی فرایندهای توسعه فناوری و نوآوری کرد (Smits and ten Hertog, 2007). از آن زمان، ارزیابی فناوری به‌عنوان راهنمایی برای طراحی فناوری‌های جدید و نوآوری‌های بالقوه‌ای که ممکن است از آن‌ها حاصل شود، به بخشی از مجموعه کلی ارزیابی فناوری تبدیل شده است.

ارزیابی فناوری یک حوزه پژوهشی میان‌رشته‌ای است که به طور کلی هدف آن فراهم کردن دانش برای تصمیم‌گیری‌های بهتر و آگاهانه‌تر در مورد فناوری‌های جدید است (Grunwald, 2019a). انگیزه اولیه و هنوز معتبر آن، پاسخ به ظهور اثرات جانبی ناخواسته و اغلب نامطلوب علم و فناوری است. ارزیابی فناوری به منظور افزودن عقلانیت و تأمل به حکمرانی فناوری طراحی شده است، از طریق ادغام هر گونه دانش موجود در مورد:

• اثرات جانبی ممکن،
• حمایت از ارزیابی فناوری‌ها بر اساس ارزش‌های اجتماعی و اصول اخلاقی،
• تدوین استراتژی‌هایی برای مقابله با عدم‌قطعیت‌های اجتناب‌ناپذیر،
• و کمک به راه‌حل‌های سازنده برای حل اختلافات اجتماعی در مورد علم و فناوری.

ارزیابی فناوری شامل سه شاخه نیمه‌پوششی است که اهداف مختلفی در حکمرانی کلی فناوری دارند (بر اساس Grunwald, 2019a):

1. ارزیابی فناوری در ابتدا به‌عنوان مشاوره سیاست‌گذاری مفهوم‌سازی شد (Bimber, 1996) و هنوز هم بسیاری از فعالیت‌های ارزیابی فناوری در این حوزه قرار دارند (Grunwald, 2019a). هدف آن، پشتیبانی از سیاست‌گذاران در مواجهه با چالش‌های ذکرشده از طریق پیاده‌سازی تدابیر سیاسی مانند تنظیم مقررات مناسب (برای مثال، اصل احتیاط)، تخصیص منابع مالی مناسب برای تحقیقات، و استراتژی‌هایی برای توسعه پایدار با استفاده از فناوری‌های مناسب است. در این شیوه عملیاتی، ارزیابی فناوری مستقیماً به توسعه فناوری نمی‌پردازد، بلکه شرایط مرزی توسعه و استفاده از فناوری را در نظر می‌گیرد.
2. در طی دهه‌های گذشته مشخص شد که شهروندان، مصرف‌کنندگان و کاربران، فعالان جامعه مدنی، ذینفعان، رسانه‌ها و عموم مردم نیز در حاکمیت فناوری در نقش‌های مختلف مشارکت دارند. ارزیابی فناوری مشارکتی رویکردهایی را برای مشارکت این گروه‌ها در نقش‌های مختلف و در مراحل مختلف حاکمیت فناوری توسعه داده است (Abels and Bora, 2016; Joss and Belucci, 2002). علم شهروندی یک حوزه جدید از مشارکت است.
3. شاخه سوم ارزیابی فناوری (TA) بیشتر به توسعه فناوری‌های مشخص و مهندسی مرتبط است. این رویکرد از تحلیل‌های مربوط به پیدایش فناوری که در چارچوب ساخت‌گرایی اجتماعی انجام شده است (Bijker et al., 1987)، ناشی می‌شود و ایده شکل‌دهی فناوری طبق انتظارات اجتماعی و ارزش‌ها مطرح گردید. رویکردهای مختلفی، از جمله ارزیابی فناوری تحلیلی-سیستمی (Grunwald and Achternbosch, 2013)، هدف دارند که دانش پیش‌بینی‌شده درباره پیامدها و تأثیرات ممکن فناوری را به فرآیندهای طراحی، توسعه و مهندسی اضافه کنند. هدف کلی این است که برای رسیدن به "فناوری بهتر در جامعه‌ای بهتر" (Rip et al., 1995) تلاش شود.

برای عملیاتی کردن ارزیابی فناوری (TA) در پروژه‌های خاص، مجموعه‌ای از روش‌ها تحت عنوان "جعبه‌ابزار روش‌ها" (مطابق با Decker و Ladikas، 2004) توسعه یافته است. روش‌های استفاده‌شده در ارزیابی فناوری شامل روش‌های تحقیقاتی، روش‌های تعاملی و روش‌های ارتباطی هستند. روش‌های تحقیقاتی به منظور حل مسائل TA به‌کار می‌روند تا داده‌ها جمع‌آوری شوند، پیش‌بینی‌ها تسهیل گردند، ارزیابی ریسک‌های کمی انجام شود، عواقب اقتصادی شناسایی شوند، ارزش‌های اجتماعی یا مشکلات پذیرش بررسی شوند و تعادل اکولوژیکی محاسبه گردد.

روش‌های تعاملی، مشارکتی یا گفت‌وگویی برای سازمان‌دهی تعاملات اجتماعی ضروری هستند تا به مدیریت تعارض کمک کنند، امکان حل تعارض فراهم شود، تخصص علمی و شهروندان در کنار یکدیگر قرار گیرند، ذینفعان در فرآیندهای تصمیم‌گیری مشارکت کنند و شهروندان را به شکل‌دهی به آینده جامعه ترغیب کنند. ارزش‌ها در تمامی این حوزه‌ها نقش حیاتی دارند. بنابراین، ارزیابی فناوری (TA) نمی‌تواند بی‌طرف از نظر ارزشی باشد، بلکه باید در حین انجام فرآیندهای ارزیابی و تحلیل خود دقت و شفافیت کافی داشته باشد (Grunwald، 2019a). حوزه دیجیتالی شدن، طبق مثال‌هایی که ذکر شد و فراتر از آن، چالشی عمده برای ارزیابی فناوری به شمار می‌رود.

طراحی حساس به ارزش (Value Sensitive Design:VSD)

طراحی حساس به ارزش (VSD) که توسط فریدمن و همکاران (2006) و ون دن هوون و همکاران (2015) معرفی شده است، به کشف ساختارهای ارزشی پیاده‌سازی شده در فناوری اشاره دارد (برای مثال، ون د پوئل، 2009) که سوالاتی را درباره اینکه آیا و چگونه این موضوع می‌تواند امکان طراحی فناوری بر اساس ارزش‌ها را فراهم کند، مطرح می‌سازد (بری، 2009). بر این اساس، هدف طراحی حساس به ارزش این است که ارزش‌های مرتبط را به الزامات طراحی و فناوری خاص تبدیل کند (ون د پوئل، 2013). 

برای این منظور، طراحی حساس به ارزش شامل مراحل تکراری و متقابل شناسایی گروه‌های کاربران و افراد متاثر از فناوری، از جمله مفاهیم اخلاقی آن‌ها، تفسیر ارزش‌ها و همچنین تأملات فلسفی و اخلاقی در زمینه تکنولوژیکی مربوطه است. سپس این ارزش‌ها به الزامات طراحی منتقل یا عملیاتی می‌شوند، تعارضات یا تضادهای احتمالی بین برآورده‌سازی ارزش‌ها حل می‌شود و در نهایت، اجرای طراحی مورد بررسی قرار می‌گیرد.

یک زمینه خاص در طراحی سیستم‌های دیجیتال به ویژگی‌های آنها در رابطه با تنظیم رفتار و داشتن ویژگی‌های مشابه نهادها مربوط می‌شود. نهادها سیستم‌های اجتماعی هستند که قواعد اجتماعی را برقرار می‌کنند، سازمان‌دهی و محدود می‌کنند و ابزارهایی برای اعمال این قواعد دارند، مانند مشوق‌ها یا تحریم‌ها، و بدین ترتیب به‌طور مؤثری در تحقق ارزش‌های اجتماعی کمک می‌کنند (Brey, 2009). شبکه‌ها و خدمات مبتنی بر نرم‌افزار و هوش مصنوعی به طور فزاینده‌ای نقش چنین عناصری را در تنظیم رفتار ایفا می‌کنند. زیرا انتقال تدریجی تعاملات میان‌فردی به سیستم‌های دیجیتال به این معنی است که قوانین اجتماعی و ارزش‌های زیرساختی آن‌ها «در سیستم‌ها برنامه‌ریزی می‌شوند». این امر باعث می‌شود که اجرای قوانین به صورت خودکار انجام شود، انحرافات از قوانین به‌طور فنی جلوگیری شود و قوانین با دقت بسیار بالا اعمال شوند.

در این زمینه، به الگوریتم‌های پیچیده اثری نهادی و مستقل مشابه به سیستم‌های قواعد اجتماعی نسبت داده می‌شود. نمونه‌هایی از این اثرات نهادی می‌توانند در قواعد اجتماعی فیلترهای اینترنت، سیستم‌های مدیریت حقوق دیجیتال، معماری‌ها و پروتکل‌های اینترنت، موتورهای جستجو، سیستم‌های تجارت الکترونیک، شبکه‌های اجتماعی و جوامع آنلاین، سیستم‌های هوش مصنوعی، قوانین تصمیم‌گیری در تحلیل داده‌های کلان، یا سیستم‌های امتیازدهی که توسط فناوری اطلاعات پیاده‌سازی شده‌اند، مشاهده شوند (Orwat et al., 2010). 

ادبیات مربوط به نرم‌افزار به عنوان نهاد اشاره می‌کند که مقرراتی که از نرم‌افزار استفاده می‌کنند، تمایل به «جایگزینی» یا به خطر انداختن قوانین، ارزش‌ها و انتظارات متعارف دارند، که می‌توانند به تدریج در سیستم‌های قوانین عمومی نفوذ کنند، حتی اگر توسط شرکت‌های فعال در سطح جهانی ایجاد شوند، مشروعیت دموکراتیکی نداشته باشند. طراحی سیستم‌های مبتنی بر هوش مصنوعی به عنوان خدمات می‌تواند بر اساس تجربیات VSD با فناوری‌های اطلاعات و ارتباطات ساخته شود (به عنوان مثال، ون دن هوون، ۲۰۰۷؛ بری، ۲۰۰۹). در زمینه دیجیتالی شدن، VSD را می‌توان به راحتی با TA ترکیب کرد.

تحقیق و نوآوری مسئولانه (RRI: Responsible research and innovation)

مفاهیم «پژوهش مسئولانه» در پیشرفت‌های علمی و فناوری و «نوآوری مسئولانه» در زمینه محصولات، خدمات و سیستم‌های جدید که سال‌ها به‌طور گسترده مورد بحث قرار گرفته‌اند (Siune et al., 2009; Owen et al., 2013) و باعث شکل‌گیری عبارت «پژوهش و نوآوری مسئولانه» (RRI) شده است. مفهوم نوآوری مسئولانه، تأملات اخلاقی صریح را به ارزیابی فناوری (TA) و مطالعات علم، فناوری و جامعه (STS) اضافه می‌کند و آن‌ها را در رویکردهای یکپارچه برای شکل‌دهی به فناوری و نوآوری گنجانده است.بنابراین نوآوری مسئولانه، ارزیابی فناوری (TA) را با تجربیات خود در فرایندهای ارزیابی، مشارکت بازیگران، پیش‌بینی و ارزیابی با اخلاق، به‌ویژه در زمینه مسئولیت، ترکیب می‌کند و همچنین بر پایه دانش بدست آمده از مطالعات علم، فناوری، نوآوری و جامعه (STS و STIS) در مورد فرایندهای تحقیق و توسعه (R&D) و نوآوری استوار است. تأملات اخلاقی و ارزیابی فناوری به‌طور فزاینده‌ای به‌عنوان بخشی یکپارچه از برنامه‌های تحقیق و توسعه در نظر گرفته می‌شود (Siune et al., 2009).

ظهور نوآوری مسئولانه (RRI) (Siune et al., 2009) نشان‌دهنده این تشخیص است که رویکردهای موجود برای شکل‌دهی به علم و فناوری هنوز تمام انتظارات گسترده‌تری که در زمینه حکمرانی فناوری و دستیابی به "فناوری بهتر در جامعه بهتر" وجود دارد، برآورده نمی‌کنند (Rip et al., 1995). امید پشت جنبش نوآوری مسئولانه این است که رویکردهای جدید – یا توسعه‌یافته – می‌توانند به‌طور قابل توجهی به رویکردهای موجود مانند ارزیابی فناوری (TA) و اخلاق مهندسی افزوده شوند. در حقیقت، در مقایسه با رویکردهای قبلی، تغییراتی در تأکیدها و تمرکزهای جدید ایجاد شده است (Grunwald, 2011).

• «شکل‌دهی نوآوری» شعار قبلی «شکل‌دهی فناوری» را که رویکرد برساخت‌گرایی اجتماعی به فناوری را مشخص می‌کرد، تکمیل یا حتی جایگزین می‌کند. این تغییر، منعکس‌کننده این بینش است که این فناوری به خودی خود نیست که بر جامعه تأثیر می‌گذارد و بنابراین باید مطابق با نیازها، انتظارات و ارزش‌های جامعه شکل گیرد، بلکه نوآوری است که فناوری و جامعه از طریق آن تعامل می‌کنند، همانطور که بسیاری از مطالعات STIS به آن اشاره کرده‌اند.

• اکنون، نگاه دقیق‌تری به زمینه‌های اجتماعی فناوری و علم جدید انداخته می‌شود. نوآوری مسئولانه را می‌توان گامی فراتر در جهت جدی‌تر گرفتن دیدگاه کشش تقاضا و ارزش‌های اجتماعی در شکل‌دهی فناوری و نوآوری دانست.

• به جای مشاهده‌ی از راه دور و پیروی از الگوهای کلاسیک علم، اکنون نشانه‌ی روشنی برای مداخله در فرآیند توسعه و نوآوری وجود دارد: پروژه‌های نوآوری مسئولانه نه تنها از نظر تحقیق، بلکه به عنوان مداخله در «دنیای واقعی» نیز «تفاوت ایجاد خواهند کرد».
• طیف ذینفعانی که باید در فرآیندهای مشارکتی و گفتگوها مشارکت داشته باشند، به دلیل اشکال جدید مدیریت علم و فناوری باید بیشتر گسترش یابد (Siune et al., 2009).

با توجه به موارد ذکر شده در بالا، نوآوری مسئولانه را می‌توان به عنوان یک رادیکال‌سازی علم پسا-معمول شناخته شده (Funtowicz and Ravetz, 1993) در نظر گرفت، که حتی به عمل اجتماعی نیز نزدیک‌تر است. تحقیق و نوآوری مسئولانه، ناگزیر نیازمند همکاری بین رشته‌ای شدیدتری بین مهندسی، علوم اجتماعی و اخلاق کاربردی است، مشابه، اما اغلب فراتر از، TA و VSD. نوآوری اصلی در این همکاری بین رشته‌ای می‌تواند ادغام اخلاق (تأمل هنجاری در مورد مسئولیت‌ها) و علوم اجتماعی مانند STS و تحقیقات حکمرانی (که به طور تجربی با فرآیندهای اجتماعی پیرامون انتساب مسئولیت و پیامدهای آنها برای حکمرانی سروکار دارد) باشد.

جمع بندی

فناوری‌های دیجیتال جدید، امکانات جدید بی‌شماری را تقریباً در هر جنبه‌ای از جامعه مدرن ایجاد می‌کنند. با این حال، چالش‌های جدیدی نیز ایجاد می‌کنند:

1. رشد سریع و اهمیت حیاتی اطلاعات و داده‌ها در تمام شاخه‌های جامعه، الزامات عظیمی را برای مدیریت، پردازش و محاسبات داده‌ها ایجاد می‌کند.
2. فرآیندهای دیجیتالی شدن، زمینه‌ساز فرآیندهای مهم تحول اجتماعی هستند که باید مسئولانه طراحی شوند.
3. وابستگی زیاد به فناوری‌های اطلاعات و ارتباطات دیجیتال در زیرساخت‌هایی مانند سیستم تأمین انرژی، سیستم حمل و نقل یا ظرفیت‌های پردازش و ذخیره‌سازی اطلاعات در بسیاری از زمینه‌ها، ممکن است تهدیدات جدیدی را برای امنیت و حریم خصوصی ایجاد کند.
4. رابط‌های جدید انسان و ماشین نیاز به ملاحظات اخلاقی و انسان‌شناسی دارند.
5. همه این فرآیندهای تحول ممکن است پیامدهای بزرگی برای اشتغال، شمول و عدالت توزیعی داشته باشند که می‌تواند باعث درگیری‌های اجتماعی در آینده شود.

بنابراین، رویکردهای میان‌رشته‌ای باید با به‌کارگیری ارزیابی فناوری، تحلیل سیستم‌ها، تحقیقات نوآوری و اخلاق، بر پیش‌شرط‌های اجتماعی، سیاسی و اقتصادی و همچنین بر تأثیرات تغییرات اجتماعی-فنی تمرکز کنند. برای پرداختن به چالش‌های بزرگی که جامعه، علم و اقتصاد با آن مواجه هستند، فناوری جدید باید با موفقیت در محیط اجتماعی خود گنجانده شود. این بیانیه کلی به‌ویژه در مورد دیجیتالی شدن مداوم و شتابان و همچنین وعده آن برای ایجاد تحول عمیق در انواع فعالیت‌ها و شایستگی‌های اجتماعی، اقتصادی و علمی صدق می‌کند. ادغام موفقیت‌آمیز فناوری‌های جدید در سیستم‌های هدف اجتماعی آنها نیازمند رویکردهایی مانند اخلاق کاربردی، ارزیابی فناوری یا RRI است.

طراحی فناوری در عصر دیجیتالی شدن: نیاز به ارزیابی فناوری و اخلاق - بخش دوم

منبع: file:///C:/Users/victus/Downloads/Designing_technology_in_the_age_of_.pdf 

مقالات مرتبط: