طراحی فناوری در عصر دیجیتالی شدن: نیاز به ارزیابی فناوری و اخلاق - بخش اول

:Designing technology in the age of digitalization
needs for technology assessment and ethics
Armin Grunwald - Institute for Technology Assessment and Systems Analysis (ITAS), Karlsruhe Institute of Technology (KIT), Germany

چکیده:

تحقیق، طراحی و توسعه فناوری از دو جنبه با پیشرفت سریع دیجیتالی شدن مواجه شده است: (۱) فناوری‌های دارای پشتیبانی یا قابلیت پشتیبانی دیجیتال باید طراحی و توسعه داده شوند، و (2) فرآیندهای تحقیق و توسعه مربوطه خود در محیطی بسیار دیجیتالی‌تر اتفاق خواهند افتاد. طراحی فناوری به طور کلی باید ارزش‌های درگیر و پیامدهای احتمالی توسعه و استفاده از محصولات، خدمات و سیستم‌های حاصل را در نظر بگیرد. در یک محیط دیجیتالی، مسئله ارزش‌ها اهمیت بیشتری پیدا می‌کند، زیرا باید روابط نزدیک‌تر و صمیمانه‌تری بین انسان و فناوری شکل بگیرد. طراحی رابط‌های انسان و ماشین نه تنها یک مسئله کاربردی است، بلکه به سوالات اخلاقی مانند توزیع مسئولیت و به مسائل انسان‌شناسی مربوط به تصویر انسان از خود و ایده‌هایی در مورد جامعه آینده نیز می‌پردازد. در فرآیندهای تحقیق، طراحی و توسعه مربوطه، مسائل ارزشی مانند کنترل، حریم خصوصی، همدلی، مسئولیت‌پذیری و پاسخگویی باید فراتر از مسائل فنی کارایی و قابلیت اطمینان در نظر گرفته شوند. ننیاز به طراحی و شکل‌دهی فناوری‌های دیجیتال آینده که شامل اخلاق و ارزیابی فناوری می‌شوند، با سه مثال نشان داده خواهد شد: تولید صنعتی آینده و حوزه‌های خودروهای خودران و ربات‌های مراقبتی. طراحی حساس به ارزش و تحقیق و نوآوری مسئولانه به عنوان رویکردهایی برای مقابله با این چالش‌ها معرفی خواهند شد.

واژه‌های کلیدی: دیجیتالی شدن، طراحی فناوری، ارزیابی فناوری، اخلاق، پژوهش و نوآوری مسئولانه.

مقدمه:

سرعت پیشرفت دیجیتالی‌شدن به طور فزاینده‌ای بر تقریباً تمام جنبه‌های زندگی انسان تأثیر می‌گذارد و چالش‌های بزرگی را در زمینه‌های مختلف ایجاد می‌کند. اقتصاد دیجیتال و جامعه، مدیریت پایدار و انرژی، زندگی سالم و امنیت مدنی از جمله مسائلی هستند که به شدت تحت تأثیر تحولات دیجیتالی قرار دارند. تحقیق، طراحی و توسعه فناوری با دو جنبه دیجیتالی‌شدن روبه‌رو است:

1. طراحی فناوری‌های آینده: فناوری‌های جدید در زمینه‌هایی مانند روباتیک مراقبتی، رانندگی خودکار و انقلاب صنعتی 4 باید با توجه به معیارهای مختلف، نه تنها فنی بلکه اقتصادی، زیست‌محیطی و اخلاقی طراحی و توسعه یابند.

2. دیجیتالی‌شدن فرایندهای تحقیق و توسعه: خود فرایندهای تحقیق و توسعه به طور فزاینده‌ای دیجیتالی می‌شوند که این امر نحوه شکل‌گیری و ساخت فناوری‌ها را تغییر خواهد داد.

در حالی که دیجیتالی‌شدن پتانسیل عظیمی برای نوآوری دارد، همچنین چالش‌های جدیدی را به همراه می‌آورد و نیازمند بازنگری مرزهای طراحی فناوری است. این امر به ویژه در مورد رابط‌های انسان-ماشین صدق می‌کند، که فراتر از مسائل عملکردی بوده و شامل ملاحظات اخلاقی مانند توزیع مسئولیت و مسائلی مرتبط با تصویر خود انسان می‌شود. این نگرانی‌ها هم در سطح فردی (نحوه تعامل انسان‌ها با فناوری) و هم در سطح اجتماعی و جمعی اهمیت دارند، و بر اهمیت توجه به مسائلی مانند کنترل، حریم خصوصی، همدلی، مسئولیت و پاسخگویی در طول فرایند طراحی فناوری تأکید می‌کند. دیجیتالی شدن پتانسیل بالایی برای نوآوری و تجارت ارائه می‌دهد. با این حال، همزمان چالش‌های جدیدی نیز به وجود می‌آید و هنگام تحقیق و توسعه فناوری‌های جدید برای عصر دیجیتال و در عصر دیجیتال، باید شرایط مرزی متغیر را در نظر گرفت. فناوری از نظر ارزشی خنثی نیست (به عنوان مثال، ون دو پوئل، ۲۰۰۹).

طراحی فناوری به معنای تصمیم‌گیری بر اساس معیارهایی است که عمدتاً نه تنها شامل معیارهای فنی، بلکه شامل معیارهای غیرفنی مانند معیارهای اقتصادی، زیست‌محیطی یا اخلاقی نیز می‌شوند. در عصر دیجیتال‌سازی، اهمیت ارزش‌ها در طراحی فناوری آینده افزایش می‌یابد، زیرا باید رابط‌های نزدیک‌تر و صمیمانه‌تری بین انسان و فناوری شکل گیرد. طراحی رابط‌های انسان و ماشین نه تنها یک مسئله کاربردی است، بلکه به سوالات اخلاقی مانند توزیع مسئولیت نیز می‌پردازد، بلکه به مسائل انسان‌شناسی مربوط به تصویر انسان از خود نیز می‌پردازد. این مشاهده هم در مورد رابط انسان و ماشین در سطح فردی و هم در مورد روابط بین فناوری دیجیتالی و جامعه به طور کلی صدق می‌کند. در فرآیندهای تحقیق، طراحی و توسعه مربوطه، مسائل ارزشی مانند کنترل، حریم خصوصی، همدلی، مسئولیت‌پذیری و پاسخگویی باید بسیار فراتر از مسائل فنی کارایی و قابلیت اطمینان در نظر گرفته شوند.

با توجه به این پیشینه، هدف این مقاله بررسی ضرورت‌ها و الزامات طراحی فناوری در عصر دیجیتال‌سازی است. اول، به عنوان یک موضوع کلی‌تر، وظیفه ما بحث انتقادی در مورد احیای اخیر جبرگرایی فناوری (technology determinism) در پی دیجیتال‌سازی است (بخش ۲). جبرگرایی فناوری، امکان شکل‌دهی و طراحی فناوری با توجه به ارزش‌های اخلاقی و اهداف اجتماعی را انکار می‌کند. در عوض، مداوم از استراتژی‌های سازگاری با دیجیتالی شدن حمایت می‌کند. در مقابل، من با سه مثال، نیاز به طراحی و شکل‌دهی فناوری‌های آینده دیجیتال را نشان خواهم داد:

• بسیاری انتظار دارند که تولید صنعتی آینده (که در آلمان به آن انقلاب صنعتی چهارم می‌گویند) با همکاری نزدیک بین انسان‌ها، ربات‌ها و سایر انواع فناوری دیجیتال که شامل مسائلی مانند مسئولیت‌پذیری، پاسخگویی و تعهد می‌شود، مشخص شود.

• در زمینه خودروهای خودران، سوالات زیادی درباره کنترل، ریسک، مسئولیت و تعهدات حقوقی مطرح است؛ همچنین نحوه مواجهه با موقعیت‌های اضطراری و رسیدگی به معضلات اخلاقی نظیر "مسئلهٔ تراموا (Trolley problem یا Tramway)" نیز نیازمند توجه است.

• در زمینه مراقبت، بحث‌های گسترده‌ای درباره توسعه و استفاده از روبات‌های مراقبتی در حال جریان است. به وضوح، مسائل اخلاقی مانند استقلال و همدلی باید در این زمینه به دقت مورد بررسی قرار گیرد.

این موارد نشان‌دهنده نیاز به درگیر کردن (بیشتر) رویکردهای بین‌رشته‌ای برای رسیدن به فناوری‌های عالی و نوآورانه است، در حالی که همزمان باید آگاهی کافی از انسجام اجتماعی و یکپارچگی این فناوری‌ها در جامعه داشته باشیم. به عنوان رویکردهای نمونه، در نهایت (بخش ۵) من ارزیابی فناوری (TA)، طراحی حساس به ارزش (VSD)، و پژوهش و نوآوری مسئولانه (RRI) را معرفی خواهم کرد. مورد اخیر از جمله عناصر جدیدتر سیاست تحقیقاتی برای مقابله مناسب با چالش هم‌شکل‌سازی و طراحی مشترک فناوری جدید است.

اعتراض به جبرگرایی فناوری

در بحث‌های عمومی کنونی، تصور غالب این است که دیجیتالی‌شدن دینامیک خاص خود را توسعه می‌دهد. به‌ویژه نمایندگان کسب‌وکار و سیاستمداران تمایل دارند درباره دیجیتالی‌شدن به‌عنوان یک پدیده اجتناب‌ناپذیر طبیعی صحبت کنند، مانند یک سونامی یا زلزله (گرونوالد، ۲۰۱۹ب). با توجه به این دیدگاه، جامعه و افراد فقط می‌توانند با دیجیتالی شدن سازگار شوند. در این صورت، شکل‌دهی فعال یک گزینه نیست. این لفاظی با محدودیت‌های عملی (فرضی) و فقدان (فرضی) جایگزین‌ها بحث می‌کند (گرونوالد ۲۰۱۹a، ۱۵۹):

یک نمونه گسترده از جبر فناوری روزمره را می‌توان در روایت‌های رایج پیرامون دیجیتالی شدن یافت. مدیران، دانشمندان و سیاستمداران از استعاره‌هایی مانند «سونامی» یا «زلزله» برای توصیف دیجیتالی شدن قریب‌الوقوع تقریباً همه فرآیندها در زندگی روزمره، در محل کار و در اقتصاد استفاده می‌کنند.این استعاره پیام‌های مختلفی را منتقل می‌کند، از جمله:

1. توسعه فناوری در پشت دیجیتالی‌شدن نمی‌تواند به‌طور عمدی توسط جامعه تحت تأثیر قرار گیرد بلکه به‌طور مقایسه‌ای مشابه با یک رویداد طبیعی مانند زلزله یا سونامی که تحت قوانین طبیعی حاکم است، به واقعیت می‌پیوندد.

2. دیجیتالی‌شدن با سرعتی بی‌سابقه پیش خواهد رفت که نشان می‌دهد: (الف) هرگونه تلاش برای تأثیرگذاری بر آن محکوم به شکست است و (ب) هرگونه تلاش برای فرار از آن نیز شکست خواهد خورد.

3. دیجیتالی‌شدن برای اقتصادها، شرکت‌ها یا بازار کار ویران‌کننده خواهد بود مگر اینکه اقداماتی پیشگیرانه انجام شود، که می‌تواند شامل آموزش پیشگیرانه یا ایجاد سیستم‌های انگیزشی برای ترویج سازگاری با دیجیتالی‌شدن بیشتر باشد.

این جبرگرایی فناوری روزمره احتمالاً در بخش‌های وسیعی از جامعه نیز رواج دارد. وقتی توسط مهندسان و مدیران استفاده می‌شود، ممکن است یک نیت استراتژیک پشت آن باشد؛ اعلام چیزی به‌عنوان «قطعی» سؤالاتی درباره گزینه‌های ممکن را حذف می‌کند. با این حال، این جبرگرایی فناوری به نظر می‌رسد که با واقعیت‌های ساده در تضاد باشد. هر خط از یک کد منبع توسط انسان‌ها نوشته می‌شود. نرم‌افزار بر روی سخت‌افزاری اجرا می‌شود که آن هم توسط انسان‌ها تولید شده است، یا توسط ماشین‌هایی که برای این منظور توسط انسان‌ها توسعه و برنامه‌ریزی شده‌اند. الگوریتم‌ها، ربات‌ها، خدمات دیجیتال، مدل‌های کسب‌وکار برای پلتفرم‌های دیجیتال یا برنامه‌های ربات‌های خدماتی همه توسط انسان‌ها اختراع، طراحی، تولید و راه‌اندازی می‌شوند. نرم‌افزار موتور جستجو، الگوریتم‌های فناوری‌های داده‌های کلان، و رسانه‌های اجتماعی همگی توسط انسان‌ها توسعه و پیاده‌سازی شده‌اند. این "سازندگان" دیجیتالی‌شدن معمولاً در شرکت‌ها، مراجع دولتی یا خدمات مخفی کار می‌کنند. آن‌ها ارزش‌ها، نظرات و منافع خاصی دارند و استراتژی شرکتی، نیازهای سیاسی، ملاحظات نظامی و غیره را دنبال می‌کنند. به این ترتیب، آن‌ها نحوه و جهت توسعه و استفاده از دیجیتالی‌شدن را تحت تأثیر قرار می‌دهند. با این حال، اگر افراد دیگری با ارزش‌ها و منافع مختلف می‌توانستند دیجیتالی‌شدن را طراحی کنند یا حداقل در طراحی آن مشارکت کنند، دیجیتالی‌شدن به شکلی متفاوت پیش می‌رفت.

با توجه به این موضوع، مسئله طراحی مطرح می شود. بنابراین، در علوم اجتماعی، به طور گسترده ای به عنوان حکم عقل سلیم پذیرفته شده است که جبرگرایی فناوری به دلایل تجربی و نظری نادرست است (Grunwald, 2019a). هیچ نشانه‌ای از قوانین یا قواعد حاکم بر پیشرفت فناوری در پشت پرده‌ی بازیگرانی مانند دانشمندان و مهندسان کامپیوتر وجود ندارد.با این حال، هنگام گوش دادن به بحث‌های عمومی، به اظهارات رسانه‌های جمعی، و به صداهایی از اقتصاد و اغلب همچنین از علوم مهندسی، تصویر کاملاً متفاوتی به ذهن خطور می‌کند: اعتقاد راسخ به اینکه مسیر توسعه فناوری جدید، به ویژه در زمینه دیجیتالی شدن، و همچنین فراتر از آن، توسط جبر فناوری اداره می‌شود.

مشکل این است که اگر جبرگرایی فناوری غالب شود، قدرت واقعی خود را به‌دست خواهد آورد. اگر طبق مثال سونامی که بالا ذکر شد، بسیاری یا شاید اکثر مردم باور داشته باشند که دیجیتالی‌شدن مانند یک سونامی خواهد آمد، و بهتر است به‌طور مناسب خود را و جامعه را برای این سونامی خیالی آماده کنند، در این صورت دیجیتالی‌شدن دقیقاً مانند یک سونامی خواهد بود. در این روایت، گزینه‌های جایگزین برای شکل‌دهی به دیجیتالی‌شدن به‌عنوان یک فرایند اجتماعی با امکانات مداخله و گزینه‌های انتخاب مسیرهای جایگزین، به‌ویژه بر اساس ملاحظات اخلاقی یا اجتماعی، به‌سادگی نادیده گرفته، فراموش شده یا حتی سرکوب خواهند شد. بنابراین، جبرگرایی فناوری می‌تواند مانند پیشگویی‌های خودکامبخش، خودکامبخش شود.(مرتن، ۱۹۴۸).

این می‌تواند فاجعه‌بار باشد، زیرا دیجیتالی‌شدن یا یک مسیر واحد برای دیجیتالی‌شدن در آینده وجود ندارد. در عوض، آینده به‌طور کلی، و همچنین آینده دیجیتالی‌شدن، فضایی از امکانات پر از گزینه‌های مختلف است. اینکه کدام یک از این گزینه‌ها به واقعیت تبدیل خواهد شد هنوز تعیین نشده است، بلکه بستگی به بسیاری از تصمیمات در سطوح مختلف دارد: در شرکت‌ها و شرکت‌های داده، در سیاست و مقررات، توسط دانشمندان کامپیوتر و مهندسان، در سیاست‌گذاری علمی و در تعیین اولویت‌های پژوهشی مؤسسات تحقیقاتی. این ایده اولین قدم به سمت اتخاذ یک دیدگاه شکل‌دهی در مورد توسعه آینده فناوری‌های دیجیتال است. و در این مسیر، همچنین جایگاهی برای اخلاق وجود دارد تا اصولی مانند حقوق بشر و حقوق مدنی، عدالت و انصاف، حریم خصوصی و فراگیری را با مقایسه و سنجش گزینه‌های مختلف برجسته کند.

طراحی فناوری در عصر دیجیتال سازی

برخلاف فناوری‌های سنتی، دیجیتالی شدن رابطه بین سوژه‌های کنشگر (انسانی) و اشیاء (فنی) را تغییر می‌دهد. همزمان با افزایش استقلال سیستم‌های هوشمند در تصمیم‌گیری، سوالات گسترده‌ای در مورد اینکه مسئولیت هنگام تصمیم‌گیری الگوریتم‌ها بر عهده کیست، مطرح می‌شود. این توسعه که پتانسیل نوآوری‌های بی‌شماری را دارد، احتمالاً عنصر اصلی بسیاری از الزامات برای طراحی فناوری دیجیتال را تشکیل می‌دهد. آنها دیگر نه تنها بر عملکرد فنی و بهره‌وری اقتصادی، بلکه بر مسائل اخلاقی و انسان‌شناسی نیز تمرکز دارند.

آینده تولید صنعتی - انقلاب صنعتی ۴ (صنعت ۴.۰)

تولید صنعتی در بستر صنعت ۴.۰ دیجیتالی خواهد شد، طبق اصول خودسازمان‌دهی (منزلای و همکاران، ۲۰۱۶). شبکه‌سازی بلادرنگ محصولات، فرآیندها و زیرساخت‌ها قرار است فرآیندهای تولید، مدل‌های کسب‌وکار، محصولات و خدمات، و همچنین دنیای کار را به طور چشمگیری تغییر دهد. مفهوم سازمانی صنعت ۴.۰ شامل چهار اصل طراحی بنیادی است (بر اساس هرمان و همکاران، ۲۰۱۶):

1. شبکه‌سازی: ماشین‌ها، دستگاه‌ها، حسگرها و انسان‌ها می‌توانند با یکدیگر شبکه‌سازی کنند تا از طریق اینترنت اشیاء و اینترنت سنتی داده‌ها را منتقل و تبادل کنند.

2. شفافیت اطلاعات: داده‌های حسگر، سیستم‌های اطلاعاتی مدل‌های دیجیتال کارخانه را گسترش می‌دهند تا تصویری مجازی از دنیای واقعی (که به آن "دوقلوهای دیجیتال" گفته می‌شود) ایجاد کنند و امکان کارکرد کارخانه هوشمند را فراهم کنند.

3. کمک‌های فنی: سیستم‌های کمک هوش مصنوعی به انسان‌ها در اتخاذ تصمیمات آگاهانه‌تر و پاسخ‌دهی سریعتر به مشکلات کمک می‌کنند.

4. تصمیمات غیرمتمرکز: سیستم‌های تولید تصمیمات مستقلی می‌گیرند و تا حد امکان وظایف خود را به صورت خودکار انجام می‌دهند. تنها در موارد استثنایی، مانند بروز اختلالات یا اهداف متناقض، وظایف را به سطح بالاتری، مثلاً یک ناظر انسانی، محول خواهند کرد.

هدف صنعت ۴.۰ این است که تولید شخصی‌سازی شده را بر اساس نیازهای مشتریان امکان‌پذیر سازد، که به عنوان یک مدل متضاد رادیکال با تولید انبوه فوردی عمل می‌کند. فناوری‌های مورد نیاز برای اتوماسیون اساساً باید بر پایه هوش مصنوعی بنا شوند، از طریق معرفی روش‌های خود بهینه‌سازی، خودپیکربندی، خودتشخیص و شناخت مستقل. علاوه بر محصولات شخصی‌سازی شده، کاهش زمان تولید و بهره‌وری از طریق یادگیری‌های انباشته شده در طول فرآیند تولید نیز قرار است محقق شود. ظرفیت‌های تولیدی جغرافیایی توزیع‌شده و سیستم‌های برنامه‌ریزی و کنترل مربوطه باید به طور مستقل با یکدیگر همکاری کنند و به این ترتیب استفاده بهینه‌تری از منابع موجود صورت گیرد. در تحقق این انتظارات، هوش مصنوعی نقش حیاتی در پردازش داده‌ها، فرآیندهای یادگیری و خودسازمان‌دهی ایفا می‌کند.

در اینجا، طراحی فناوری با پیچیدگی‌های قابل توجهی روبه‌رو است. استانداردها و مقررات فنی باید برای امکان‌پذیر ساختن ارتباطات انسان-ماشین یا ماشین-ماشین توسعه یابند. هماهنگی و همکاری بین انسان‌ها و ماشین‌ها نیازمند رابط‌های تعریف‌شده کاملا تعریف شده است؛ از جمله اینکه باید مشخص شود که چه کسی باید با چه کسی سازگار شود. امنیت داده‌ها و مالکیت آن‌ها اولویت بالایی دارد و باید به‌طور قانونی محافظت شود، همانطور که مسائل مسئولیت برای تخصیص پیچیده مسئولیت‌ها بین انسان و ماشین باید به‌طور قانونی روشن شود.

دگرگونی جامع حاصل شده در دنیای کار (Börner و همکاران، ۲۰۱۸) نه تنها مستلزم ضرورت ابتکارات آموزشی و تربیتی اولیه است، بلکه بر ایمنی در محل کار بدون مرز (کار جمعی)، نقش آینده اتحادیه‌های کارگری یا سازمان‌های جدید نمایندگی کارکنان، تقسیم بین‌المللی کار در بازار کار جهانی و توسعه سیستم‌های تأمین اجتماعی نیز تأثیر می‌گذارد. با توجه به تأثیرات گسترده مورد انتظار بر اقتصاد و دنیای کار، یک دیدگاه طراحی آینده‌نگر و مسئولانه که جامعه را نیز در بر بگیرد (Mainzer 2016, 222) به شدت مورد نیاز است تا تحولات امیدوارکننده شناسایی و تحولات نامطلوب در مراحل اولیه پیش‌بینی شوند و سپس در صورت امکان از آنها جلوگیری شود.

رانندگی خودکار

آینده‌ی حمل‌ونقل ارتباط نزدیکی با انقلاب دیجیتال در حال وقوع دارد. در سال‌های اخیر، رانندگان انسانی با کمک‌های روزافزونی مبتنی بر حسگرهای پیشرفته، ارزیابی بلادرنگ داده‌های جمع‌آوری‌شده و محرک‌هایی که نتیجه‌گیری‌های الگوریتم‌ها را پیاده‌سازی می‌کنند، مواجه شده‌اند. پردازنده‌ها و حسگرها به طور فزاینده‌ای قادر به مشاهده‌ی وضعیت ترافیک در اطراف خودرو به صورت بلادرنگ هستند و گام‌های بعدی را که باید برای تطبیق خودرو با شرایط ترافیکی مربوطه برداشته شود، تعیین می‌کنند. این توسعه در حال حاضر منجر به خودکارسازی نسبی رانندگی در وسایل نقلیه جدید شده است. سیستم‌های بسیار خودکار می‌توانند به طور خودکار خطوط را تغییر دهند و عملکردهای دیگری را بدون دخالت انسان انجام دهند. در برخی کشورها، میدان‌های آزمایشی ایجاد شده است که در آن‌ها وسایل نقلیه بسیار خودکار یا کاملاً خودکار می‌توانند کار کنند.

مهم است بدانیم که رانندگی خودران طیف گسترده‌ای از گزینه‌های جدید حمل و نقل را فراتر از حمل و نقل سنتی فردی با خودروهای شخصی ایجاد می‌کند: مفاهیم و الگوهای جدید حمل و نقل، مدل‌های تجاری جدید برای ارائه دهندگان خدمات حمل و نقل و ترکیب‌های جدید حمل و نقل خصوصی و عمومی، یا حتی محو شدن مرزهای سنتی بین آنها، می‌تواند امکان‌پذیر شود. همین ویژگی به تنهایی خودروهای خودران را به یک نوآوری احتمالاً متحول‌کننده تبدیل می‌کند. علیرغم پیامدهای مثبت و گسترده مورد انتظار رانندگی خودران در مورد ایمنی و راحتی، نباید فراموش کرد که این امر مستلزم خطرات خاصی است که برخی از آنها از رانندگی سنتی شناخته شده هستند، در حالی که برخی دیگر جدید هستند و اغلب مربوط به دیجیتالی شدن رانندگی هستند که لزوماً در آن دخیل هستند (مائورر و همکاران، ۲۰۱۶).

تحقیقات در حال انجام به‌ویژه بر روی دینامیک‌های هم‌تکامل بین اتوماسیون/دیجیتالیزه شدن و الگوها و روال‌های روزانه تحرک متمرکز است. گسترش انواع مختلف خودروهای خودکار (AVs) بستگی به این دارد که چگونه انتظار می‌رود و طراحی شده‌اند که با یکدیگر و با انسان‌ها تعامل کنند و عمل کنند، که باعث افزایش پیچیدگی در ترافیک جاده‌ها می‌شود، به‌ویژه در ترافیک ترکیبی که در آن خودروهای خودکار و رانندگان انسانی با هم در حال حرکت هستند. از آنجا که ترافیک جاده‌ای نتیجه‌ای از یک شبکه از روابط اجتماعی دائماً در حال مذاکره‌ (بده-بستان اطلاعات) و بازآرایی‌شده است که فراتر از رفتار ساده اطاعت از قوانین است، خودروهای خودکار در یک سطح از اتوماسیون به بازیگران اجتماعی در این شبکه تبدیل خواهند شد (این به موضوع نقش گرفتن تکنولوژی به‌عنوان سوژه‌ها اشاره دارد که در ابتدای این بخش ذکر شد). این امر چالش‌های تحقیقاتی متعددی ایجاد می‌کند، مانند اینکه آیا انسان‌ها به خودروهای خودکار در ترافیک اجازه می‌دهند که عاملیت داشته باشند، آیا باید – و آیا باید – قادر باشند در برخی موقعیت‌های ترافیکی مذاکره کنند، آیا رفتار انسان‌ها مطابق با اتوماسیون باید به یک اصل قانونی آینده تبدیل شود و آیا می‌توان ارزش‌ها را در خودروهای خودکار پیاده‌سازی کرد و اگر بله، کدام ارزش‌ها و چگونه (Grunwald, 2018).

به‌ویژه، مسئولیت‌های در حال تغییر نیاز به توجه ویژه دارند، هم از نظر اخلاقی و هم از نظر قانونی: «در مورد سیستم‌های غیرخودران، رابط انسان-ماشین باید به‌گونه‌ای طراحی شود که در هر زمان به‌طور واضح و مشخص مشخص باشد که مسئولیت‌ها در کدام طرف قرار دارند، به‌ویژه مسئولیت کنترل. توزیع مسئولیت‌ها (و در نتیجه مسئولیت‌پذیری)، به‌عنوان مثال در مورد زمان و ترتیبات دسترسی، باید مستند شده و ذخیره شود. این موضوع به‌ویژه در مورد فرآیندهای انتقال مسئولیت از انسان به تکنولوژی اعمال می‌شود» (کمیسیون اخلاق، 2017). این نکته برای تمام اشکال رانندگی خودکار و نیمه‌خودکار صدق می‌کند، در حالی که رانندگی کاملاً خودکار یا مستقل در این زمینه مشکلی ندارد، زیرا کنترل به‌طور کامل توسط تکنولوژی اعمال می‌شود.

یکی دیگر از محورهای بحث به مسئله معروف "مسئلهٔ تراموا (Trolley problem یا Tramway)" مربوط می‌شود. این مسئله به موقعیت‌های به‌ظاهر بی‌چاره اشاره دارد که در آن‌ها تنها گزینه‌های بدی وجود دارند، نه گزینه‌های خوب. بارها و بارها این سوال مطرح می‌شود که آیا یک وسیله نقلیه خودران باید در چنین وضعیتی، که مثلاً هیچ گزینه سومی وجود نداشته باشد بین دو کودک یا سه سالمند کدام را زیر بگیرد؟! تا به امروز، ما این موقعیت‌ها را به‌عنوان حوادث تراژیک در نظر می‌گرفتیم که فردی در مکان نادرست و در زمان نادرست قرار گرفته است. با این حال، وقتی صحبت از رانندگی خودکار به میان می‌آید، توصیف‌های مختلف مسئله تراموا معنای کاملاً جدیدی پیدا می‌کنند و مهم‌تر از همه، به لحاظ عملی مورد بررسی قرار می گیرند. هنگام استفاده از ماشین‌های خودران، کنتراست‌های تراژیک در ترافیک جاده‌ای ناگهان به موقعیت‌های بغرنجی تبدیل می‌شوند که شباهت چشمگیری به آزمایش فکری نظری مسئله تراموا دارند. پیش از آنکه چنین موقعیت سختی رخ دهد، باید روشن شود که یک وسیله نقلیه خودران باید چگونه یا بر اساس چه معیارهایی در چنین موقعیتی تصمیم‌گیری کند.

معیارهای اساسی که الگوریتم‌ها باید بر اساس آن‌ها رفتار ماشین‌های خودران را کنترل کنند، هنوز باید توسط انسان‌ها تعیین شوند (والاک و آلن، ۲۰۰۹). تصمیمات اخلاقی (در مورد زندگی انسان‌ها) توسط ماشین‌های خودران در ترافیک جاده‌ای در نهایت باید توسط انسان‌ها اتخاذ شوند. بنابراین، مسئولیت زندگی و مرگ (در مواقع دشوار) یا مسئولیت تصادفاتی که توسط وسایل نقلیه خودران ایجاد می‌شود، نمی‌تواند به تکنولوژی واگذار شود. با این حال، این مسئله همچنان باز می‌ماند که چه کسی یا چه کسانی باید مسئول رفتار وسایل نقلیه خودران در ترافیک جاده‌ای و پیامدهای آن باشند.

طراحی فناوری در عصر دیجیتالی شدن: نیاز به ارزیابی فناوری و اخلاق - بخش دوم

مقالات مرتبط: