The Freshest Books on Ethics that Technologists Must Read
قدرت بزرگ، مسئولیت بزرگ هم به همراه می‌آورد، درست است؟
من می‌خواهم به فناوران کمک کنم تا در راستای مشارکت هر چه بیشتر در بحث‌های اخلاق فناوری، آگاهانه‌تر و پربارتر عمل کنند.
در اینجا فهرستی از کتاب‌هایی را آورده‌ام که دیدگاه گسترده‌تری را ارائه می‌کنند و به‌گونه‌ای مکمل یکدیگرند. این کتاب‌ها در مقایسه با کتاب‌های کلاسیک فلسفه‌ی اخلاق یا مقدمه‌های کلی اخلاق، فناوری‌محور و امروزی‌ترند.
1- اخلاق آینده، سنید بوولز ــ 2018
اخلاق آینده از پیامدهای اخلاقی فناوری‌های در حال ظهور ارزیابی دقیق و معاصری به دست می‌دهد. این کتاب به موضوعاتی مانند قدرت الگوریتم‌های مغرضانه، مکانیسم‌های اعتیاد‌آور در نرم‌افزارها و میدان‌های جنگ خودمختار می‌پردازد. در این اثر، سنید بوولز مکاتب اخلاقی اصلی وظیفه‌گرا، نتیجه‌گرا و فضیلت‌گرا را مدنظر قرار می‌دهد.
استدلال اصلی نویسنده این است که صنعت فناوری به نسبت قدرتی که دارد اعتماد مورد نیاز خود را به دست نیاورده‌است.
برای جلب اعتماد، صنعت فناوری باید خود را از اساس بازآفرینی کرده و اخلاق را در اولویت کارش قرار دهد.
این بدان معناست که متخصصان فناوری باید با مفاهیم اخلاقی مرتبط با خلاقیت‌های خود بیشتر آشنا شوند و زمینه برای گفتگو در مورد اخلاق را در سازمانشان تسهیل کنند.
علی‌رغم عنوانی که دارد، کتاب اخلاق آینده با «حفره‌های فلسفی» انتزاعی ناشی از احتمالات فناوری آینده، مانند آگاهی از پیامدهای هوش مصنوعی مقابله نمی‌کند. بلکه برای هدایت طراحی فناوری که هم‌اکنون باعث ایجاد اختلاف در جهان شده است، تلاش می‌کند. «اخلاق آینده» کتابی جدی است که تکنیک‌های مفیدی مانند «designated dissenter» و «provocotypes» را به فناوران ارائه می‌کند.
2- فناوری های بنیادی: طراحی زندگی روزمره، آدام گرین فیلد ــ 2017
Radical Technologies: The Design of Everyday Life, Adam Greenfield
در فناوری‌های بنیادی، آدام گرین‌فیلد نشان می‌دهد که چگونه ما مقدار زیادی از قدرتمان در زندگی روزمره را به فناوری اختصاص داده‌ایم. گرین‌فیلد منکر هیچ فناوری‌ای نیست، بلکه به منظور ترقی اجتماعی در یک فرهنگ فناورگرا آن‌ها را مورد استدلال قرار می‌دهد.
این کتاب بسیار خواندنی و مجاب‌کننده است و گرین‌فیلد نشان می‌دهد که برای درک چگونگی شکل‌دهی ساختار جامعه و فرهنگ توسط فناوری‌ها باید هم از ابعاد فنی درک کافی داشت و هم آگاهانه بحث اخلاقی نمود.
ما نباید فناوری‌ها را بر اساس دیدگاه‌ها و مقاصد طراحان ارزیابی کنیم، بلکه باید آن‌ها را با توجه به تأثیرشان در دنیای واقعی بسنجیم؛ چون معمولاً زمانی که فناوری‌ها با واقعیت‌های آشفته‌ی اجتماعی مواجه می‌شوند، از آنچه که در ابتدا در نظر داشتند فاصله پیدا می‌کنند.
این کتاب اینترنت اشیا، واقعیت افزوده، ساخت دیجیتالی، ارزهای دیجیتال، بلاکچین، اتوماسیون، یادگیری ماشینی و هوش مصنوعی را از نظر ابعاد سیاسی و اخلاقی مورد بررسی قرار می‌دهد.
3- فناوری و فضایل، شانون والور ــ 2016
Technology and the Virtues, Shannon Valor
این کتاب مرور متقاعد‌کننده‌ایست بر اخلاق فضیلت‌گرای بین‌فرهنگی در راستای فرهنگ فناورانه‌ی قرن بیست‌و‌یکم. فناوری و فضایل کتاب آکادمیکی‌ست که نمی‌توان به راحتی وارد آن شده و در آن غرق شد.
محور استدلال شانون والور این است که میراث فرهنگی جهانی ما راهنمایی‌های اخلاقی مفیدی را در قالب فضیلت‌هایی ارائه می‌دهند که می‌توان آن‌ها را از نو فعال کرده و برای هدایت روابطمان با فناوری از آن‌ها استفاده نمود.
او با در هم تنیدن رزونانس‌های مشترک از سنت‌های اخلاقی کلاسیک ارسطویی، بودایی و کنفوسیوسی، فهرستی از 12 فضیلت «فنی ــ اخلاقی» را تهیه می‌کند که می‌توانند خود را به عنوان شخصیت‌های برتر یا حتی ارزش‌های طراحی بیان کنند.
فضیلت‌ها عبارتند از صداقت، خویشتن‌داری، فروتنی، عدالت، شجاعت، همدلی، مراقبت، مدنیت و متانت، انعطاف‌پذیری، بزرگواری، چشم‌انداز ــ و هماهنگ‌کننده‌ی همه‌ی آن‌ها یعنی خرد.
این فضایل به نوبه‌ی خود برای بررسی نحوه‌ی ارتباط ما با فناوری‌هایی مانند رسانه‌های اجتماعی، رباتیک، اتوماسیون و نظارت استفاده می‌شوند. من بحث در مورد اخلاق ربات‌ها در مراقبت از سالمندان را بسیار مفید یافتم.
به نظر من، اخلاق فضیلت‌گرا، کاربردی‌ترین سبک اخلاقی روزانه برای فناوران است. دلیل آن تا حدی به این برمی‌گردد که زمینه‌ها را فراهم کرده و امکان مبادلات اخلاقی را تسهیل می‌سازد. من همچنین فکر می‌کنم که مفاهیم فضیلت‌گرایانه به جای تمرکز بر قوانین جهانی بازدارنده یا محاسبات انتزاعی نتیجه‌محور، می‌توانند به طور مثبتی برای تصمیم‌گیری‌های طراحی مؤثر به کار گرفته شوند.
(می‌توانید مقاله‌ی «شبکه‌سازی اجتماعی و اخلاق - شبکه‌های اجتماعی، بیش از هر موضوع دیگری، ما را با چالش‌های اخلاقی گوناگون مواجه ساخته‌اند» را از این نویسنده در سایت ترجمان بخوانید)
4- اخلاق اختراع، شیلا جاسانوف ــ 2016
The Ethics of Invention, Sheila Jasanoff
بر خلاف سایر کتاب‌های این مقاله جاسانوف رویکردی ریشه‌شناسانه‌تری نسبت به اخلاق فناوری دارد زیرا او یک پژوهشگر حوزه‌ی حقوق است و به دنبال یافتن قوانین و رویه‌های مناسبی برای حفاظت از کرامت انسانی است و اخلاق را در کنار چارچوب‌های قانونی قرار می‌دهد.
استدلال اصلی او این است که سیستم‌های فناوری زندگی ما را به همان روشی که سیستم‌های حقوقی بر زندگی ما حاکم هستند، اداره می‌کنند. با این حال، برخلاف سیستم‌های حقوقی، سیستم‌های فناوری تحت نظارت دموکراتیک نیستند.
او با نمونه‌هایی مانند تولید شیمیایی، اصلاح ژنتیکی و کلان داده‌ها ــ که پیامدهای منفی آن در اقتصاد جهانی اغلب به زیر فرش رانده می‌شوند، به روشنی نشان می‌دهد که چگونه اثرات منفی و خطرات سیستم‌های فناوری آسیب‌پذیرترین جوامع را هدف قرار می‌دهند.
چیزی که جاسانوف بر آن تاکید می‌کند این است که در فرهنگی که به نوآوری امتیاز می‌دهد، دیدگاه‌های محتاطانه در مورد توسعه‌ی فناوری اغلب نادیده گرفته می‌شوند.
برای اصلاح این روند، جاسانوف استدلال می‌کند که عمل مسئولانه در نوآوری باید همه‌ی سهامداران، کاربران، جوامع و زیست‌بوم‌های درگیر را نمایندگی کرده و صدایشان باشد.
سیستم حکمرانی هم به جای بها دادن به طیف محدودی از کارشناسان می‌تواند از طریق ارزیابی ریسک اثرات اجتماعی، زیست‌محیطی و پیامدهای بلندمدت فناوری‌های جدید در جهان پیامدهای فناوری را به درستی پیش‌بینی کند.
5- اخلاقی کردن فناوری ، پیتر پل وربیک ــ 2011
Moralizing Technology, Peter-Paul Verbeek
مفهوم اصلی در این کتاب نظریه‌ی میانجیگری است ــ میانجیگری به منزله‌ی نوار قرمزی‌ست که تمام کتاب‌های فوق را به هم وصل می‌کند.
میانجیگری می‌گوید فناوری‌ها از نظر اخلاقی مصنوعات خنثیِ خارج از قلمرو امور انسانی نیستند، بلکه از طریق امکانات مادی خود با انسانیت، فرهنگ و اخلاق عمیقاً درهم‌تنیده شده‌اند.
نویسنده توضیح می‌دهد که چگونه، از منظر میانجیگری، عاملیت (نمایندگی) و مسئولیت به اقدامات و تفاسیر ممکن توسط فناوری‌ها مربوط می‌شوند، به عنوان مثال، ما فقط به خاطر اسلحه افراد مسلح داریم یا فقط به خاطر ماشین است که تصادف می‌کنیم. این بدان معناست که نه تنها مردم دارای اخلاق هستند، بلکه فناوری‌ها نیز می‌توانند اخلاقی باشند.
وربیک استدلال می‌کند که با وارد کردن چیزهای مادی و فناورانه به قلمرو اخلاق، باید قادر باشیم ملاحظات اخلاقی را در فرایندهای طراحی خود مدیریت کنیم. او می‌گوید لازم است که فناوری‌ها را نه تنها از نظر مقبولیت بلکه از نظر کیفیت تعاملی‌شان نیز ارزیابی کنیم.
اخلاقی کردن فناوری، کتابی‌ست فلسفی که بحث‌های بین پدیدارشناسی و پساپدیدارشناسی را تا جایی شرح می‌دهد که ممکن است برای عمل‌گرایان فناوری بیش از حد نظری به نظر برسد. با این حال، من فکر می‌کنم نظریه‌ی میانجیگری برای فن‌شناسان به قدری مفید است که ارزش درک کامل آن را دارد.
(این کتاب با عنوان اخلاقی کردن تکنولوژی: فهم و طراحی سیرت اشیا به فارسی ترجمه شده‌است)
استدلال‌های مشترک
به نظر من بین همه‌ی این نویسندگان استدلال‌های مشترکی وجود دارد که هر یک می‌توانند تلنگر ارزشمندی برای اندیشیدن و اقدام باشند:
- فناوری‌ها از نظر اخلاقی خنثی نیستند. آن‌ها آکنده از سیاست و اخلاق هستند، زیرا انواع خاصی از کنش‌ها را می‌پذیرند و به شیوه‌های خاصی تفسیر را شکل می‌دهند.
- افراد برای داشتن یک زندگی خوب با فناوری، باید نسبت به آن موضعی آگاهانه‌تر و انتقادی سازنده‌تر داشته باشند.
- فناوری قدرت بسیار زیادی در زندگی ما دارد. جوامع باید طراحی فناوری و سلطه‌گرایی (هژمونی) شرکت‌های فناوری را تحت نظارت دموکراتیک خود قرار دهند.
- طراحان و سازندگان فناوری‌ها باید مسئولیت بیشتری را در قبال نتایج برآمده از خلاقیت‌هایشان، اعم از خواسته و ناخواسته، بدیهی و غیربدیهی بر عهده بگیرند.
- اجرای اخلاق در فناوری مستلزم درک عمیقی از هر دو بعد فنی و اخلاقی است. با این حال، هیچ چارچوب اخلاقی یکسانی وجود ندارد که فناوران به آن روی بیاورند؛ اجرای اخلاق هرگز آسان نخواهد بود.
