:Trust by Design
An Ethical Framework for Collaborative Intelligence Systems in Industry 5.0
۶. سناریوهای کاربردی
برای نشان دادن چارچوب اعتماد از طریق طراحی در عمل، ما سه سناریوی صنعت ۵.۰ را در حوزههای مختلف ارائه میدهیم. این سناریوها، معضلات اخلاقی مکرر در همکاری انسان و ماشین و چگونگی پرداختن چارچوب پیشنهادی ما به آنها را برجسته میکنند. به جای تمرکز بر یک بخش خاص، ما درسهای قابل اجرا در زمینههای تولید، پشتیبانی تصمیمگیری صنعتی و تقویت انسان را تعمیم میدهیم.
۶.۱. سناریو ۱: رباتهای همکار در تولید
یک کارخانه خودروسازی، رباتهای همکار (cobots) را در خط مونتاژ مستقر میکند تا در کنار انسانها در نصب قطعات سنگین کار کنند. کوبوتها میتوانند به طور هوشمندانه ابزارها را به کارگران بدهند، قطعات را در جای خود نگه دارند یا عملیات گشتاوردهی تکراری را انجام دهند. کارگران در ابتدا نگرانیهایی در مورد ایمنی (کار در نزدیکی رباتهای متحرک) و امنیت شغلی دارند (از خود میپرسند که آیا این کوبوتها به تدریج وظایف آنها را بر عهده خواهند گرفت یا خیر). هدف این شرکت بهبود بهرهوری تولید و کاهش آسیبهای ارگونومیک برای کارگران در عین حفظ یک محیط انسانمحور است.
چالشهای اخلاقی و مسائل مربوط به اعتماد: در این سناریو، ایمنی فیزیکی از اهمیت بالایی برخوردار است. اگرچه رباتهای همکار با ویژگیهای ایمنی (مفاصل با نیروی محدود، حسگرهایی برای توقف در صورت نزدیک شدن بیش از حد انسان) طراحی شدهاند، اما کارگران ممکن است بلافاصله به توقف به موقع ربات برای جلوگیری از برخورد اعتماد نکنند. همچنین ابهام نقش وجود دارد - اگر ربات همکار بتواند بخشی از یک کار را به طور خودکار انجام دهد، کارگران ممکن است مطمئن نباشند که چه زمانی باید مداخله کنند، که به طور بالقوه منجر به اتکای بیش از حد یا استفاده کم از ربات میشود.
ترس از جابجایی شغلی وجود دارد، زیرا کارگران رباتها را در حال انجام وظایفی میبینند که قبلاً به صورت دستی انجام میدادند. علاوه بر این، سوالاتی در مورد مسئولیتپذیری مطرح میشود: اگر قطعهای که توسط ربات همکار نصب شده است بعداً در بازرسی کیفیت شکست بخورد، آیا کارگر مقصر است یا اتوماسیون؟ همه این عوامل میتوانند بر اعتماد و روحیه تأثیر بگذارند.
اعتماد از طریق طراحی کاربردی: این شرکت از ابتدا چارچوب ما را اعمال میکند. در طول طراحی سیستم، مهندسان و مدیران ایمنی، همراه با نمایندگان کارگران، ارزیابی ریسک اخلاقی را انجام میدهند. برای ایمنی، آنها خطراتی مانند «برخورد تصادفی ربات همکار به دست کارگر» را شناسایی کرده و از کاهش آنها اطمینان حاصل میکنند: سرعت ربات همکار در نزدیکی انسان محدود میشود و طوری برنامهریزی میشود که حداقل فاصله را حفظ کند، مگر اینکه صریحاً در حالت همکاری باشد.
آنها همچنین یک سیستم سیگنالدهی قصد ساده را روی ربات همکار پیادهسازی میکنند - مثلاً یک صفحه نمایش نور یا کوچک که اقدام بعدی آن را نشان میدهد («جابجایی پنل درب به موقعیت») تا کارگر هرگز از حرکات آن غافلگیر نشود و شفافیت را در زمان واقعی رعایت کند. نمونههای اولیه به برخی از کارگران باسابقه نشان داده میشود که بازخورد میدهند که دوست دارند یک آویز لغو دستی داشته باشند که بتوانند حمل کنند.
طراحان این را در نظر میگیرند: هر کارگر یک دکمه توقف یا مکث اضطراری قابل حمل برای نزدیکترین ربات همکار دارد که به آنها حس کنترل میدهد (اصل عامل انسانی).
قبل از استقرار کامل، یک برنامه آموزشی برگزار میشود. این برنامه به جای آموزش فنی صرف، جنبههای روانشناختی را نیز پوشش میدهد: مربیان توضیح میدهند که رباتهای همکار برای کمک و نه جایگزینی وجود دارند؛ آنها نشان میدهند که چگونه برخی از وظایف مستعد آسیبدیدگی اکنون توسط رباتهای همکار انجام خواهد شد (مانند حفاری سربار) و تأکید میکنند که این امر به کارگران اجازه میدهد تا بر مونتاژ دقیقتر و بررسیهای کیفی تمرکز کنند. آنها حتی دادههایی را به اشتراک میگذارند که نشان دهنده کاهش خستگی کارگران و حفظ خروجی تولید است تا روایتی بسازند مبنی بر اینکه رباتهای همکار باعث ایجاد یک محیط کار بهتر میشوند، نه اینکه آن را تهدید کنند (همسو با ارزش انسانمحور). مدیریت با شفافیت در مورد اهداف و نتایج، اعتماد ایجاد میکند.
در طول مرحله آزمایشی در یک ایستگاه مونتاژ، مکانیسمهای بازخورد برقرار هستند. کارگران میتوانند هرگونه حادثه یا پیشنهاد ناخوشایند را از طریق تبلتی که در نزدیکی قرار دارد گزارش دهند. یکی از مشاهدات اولیه این است که وقتی دو کارگر و یک ربات همکار در یک کار همکاری میکنند، کارگران گاهی اوقات مطمئن نیستند که آیا شخص دیگر یا ربات همکار مرحله بعدی را انجام خواهد داد یا خیر، که باعث سردرگمی مختصری میشود. این یک مشکل هماهنگی است - تیم رویه عملیاتی استاندارد را اصلاح میکند و شاید یک نشانه صوتی از ربات همکار در نقاط تحویل خاص اضافه کند (مانند یک صدای زنگ ظریف هنگام تکمیل عمل خود و انتظار میرود که انسان آن را به دست بگیرد). این نوع تنظیم دقیق، نمونهای از تنظیم رابط همکاری برای حفظ شفافیت و اعتماد است.
از دیدگاه ذینفعان، برای رفع ترس از امنیت شغلی، مدیریت میتواند (احتمالاً با توافق اتحادیهها) تعهد دهد که هیچ اخراجی ناشی از معرفی رباتهای همکار رخ نخواهد داد و در عوض، هرگونه افزایش بهرهوری برای بهبود شرایط کار یا ارتقای مهارت کارگران برای مسئولیتهای بالاتر استفاده خواهد شد. عمل به این وعده حیاتی است - اعتماد به فناوری با اعتماد به سازمان در هم تنیده است. وقتی کارگران میبینند که رباتهای همکار واقعاً فشار فیزیکی آنها را کاهش میدهند و هنوز هم برایشان ارزش قائل هستند (شاید نقش آنها به نظارت بر چندین ربات همکار یا انجام کارهای پیچیدهتر ارتقا یابد)، اعتماد افزایش مییابد. با گذشت زمان، کارگران ممکن است مانند اعضای تیم به رباتهای همکار اعتماد کنند - مثلاً بدانند که "ربات همیشه این قسمت را برای من ثابت نگه میدارد، بنابراین میتوانم روی سفت کردن پیچها تمرکز کنم".
از نظر پاسخگویی و مسئولیتپذیری، فرض کنید یک حادثه کوچک رخ میدهد - مثلاً یک ربات همکار به دلیل مسدود شدن موقت یک حسگر، کارگر را مسواک میزند. مدیریت چارچوب شروع به کار میکند، حادثه ثبت میشود، به طور شفاف بررسی میشود و مشخص میشود که تأثیر کمی داشته است اما با این وجود به عنوان یک لحظه یادگیری استفاده میشود. شرکت به طور آشکار با تیم در مورد آنچه اتفاق افتاده ارتباط برقرار میکند و برنامه تمیز کردن حسگر ربات همکار را برای جلوگیری از وقوع مجدد بهروزرسانی میکند. این پاسخ اعتماد را بیشتر تقویت میکند: کارگران میبینند که سیستم و مدیران پاسخگو و متعهد به ایمنی هستند.
به طور خلاصه، مورد تولید نشان میدهد که چگونه Trust by Design با اخلاق ایمنی (از طریق طراحی و آموزش)، شفافیت (از طریق سیگنالها و رویهها)، استقلال (حفظ کنترل انسانی) و عوامل روانی-اجتماعی (از طریق ارتباطات و سیاستگذاری) برای موفقیت همکاری انسان و ربات همکار، برخورد میکند. نتیجه یک تیم مقاوم انسان-ربات است که در آن انسانها به رباتها اعتماد میکنند تا نقش خود را با خیال راحت و مؤثر انجام دهند و رباتها به طور مؤثر نیروی کار انسانی را بدون کاهش عاملیت یا ارزش انسانی تقویت میکنند.
۶.۲. سناریو ۲: پشتیبانی تصمیمگیری هوش مصنوعی در عملیات صنعتی
یک کارخانه فرآوری شیمیایی یک سیستم پشتیبانی تصمیمگیری مبتنی بر هوش مصنوعی را برای کمک به اپراتورهای اتاق کنترل در مدیریت فرآیندهای پیچیده معرفی میکند. هوش مصنوعی دادههای حسگر (فشار، دما، جریانها) را تجزیه و تحلیل میکند و تنظیماتی را برای بهینهسازی عملکرد و جلوگیری از خطاها پیشنهاد میدهد. این سیستم میتواند ناهنجاریها را ساعتها قبل پیشبینی کند. اپراتورها همچنان مسئول هستند اما انتظار میرود برای تصمیمات معمول و اضطراری به توصیههای هوش مصنوعی مراجعه کنند. این یک محیط پرخطر است - تصمیمات اشتباه میتواند باعث آسیب به تجهیزات یا حوادث ایمنی شود. چالش این است که اطمینان حاصل شود که اپراتورها به هوش مصنوعی اعتماد دارند و به درستی از آن استفاده میکنند بدون اینکه بیش از حد به آن وابسته شوند و اینکه توصیههای هوش مصنوعی از نظر اخلاقی و فنی صحیح است.
چالشهای اخلاقی و مسائل مربوط به اعتماد: در اینجا، شفافیت استدلال یک چالش بزرگ است - اپراتورهایی با دههها تجربه ممکن است به سختی به یک هوش مصنوعی «جعبه سیاه» که به آنها میگوید مثلاً دمای رآکتور را به طور پیشگیرانه کاهش دهند، اعتماد کنند. اگر هوش مصنوعی نتواند پیشبینی خود را به گونهای که با مدل ذهنی اپراتور همسو باشد، توضیح دهد، ممکن است توصیههای بالقوه نجاتبخش را نادیده بگیرد (کمبود اعتماد). برعکس، اگر آنها بیش از حد به هوش مصنوعی اعتماد کنند، ممکن است بدون بررسی مجدد، از یک توصیه بد پیروی کنند که احتمالاً منجر به حادثه میشود (بیش از حد اعتماد).
اطمینان از تعادل مناسب کنترل دشوار است: شرکت نمیخواهد انسان را از حلقه حذف کند، اما همچنین نمیخواهد مزایای هوش مصنوعی به دلیل بیاعتمادی هدر رود.
پاسخگویی نیز پیچیده است: اگر یک اپراتور از توصیه هوش مصنوعی پیروی کند که منجر به نتیجه بدی شود، چه کسی مسئول است؟ اپراتور ممکن است هوش مصنوعی را سرزنش کند، اما در نهایت شرکت مسئول تصمیمات است. خطر اثر منطقه خرد شدن اخلاقی (moral crumple zone effect) وجود دارد - اپراتور ممکن است قربانی شود زیرا نمیتوان هوش مصنوعی را «سرزنش» کرد، که از نظر اخلاقی مشکلساز خواهد بود. حریم خصوصی در مورد دادههای ماشینی کمتر مسئلهساز است، اما ایمنی و قابلیت اطمینان هوش مصنوعی از الزامات اخلاقی حیاتی هستند (هوش مصنوعی باید به دقت اعتبارسنجی شود تا سهواً اقدامات ناامن را پیشنهاد نکند).
اعتماد از طریق طراحی برنامه: طبق این چارچوب، سیستم هوش مصنوعی قرار است با ورودی گسترده از اپراتورها (کاربران نهایی) و مهندسان فرآیند توسعه یابد. در ابتدا، طراحان یک مدل هوش مصنوعی قابل توضیح را اتخاذ میکنند - به عنوان مثال، به جای یک شبکه عصبی جعبه سیاه خالص، از یک مدل ترکیبی استفاده میکنند که میتواند مشخص کند کدام خوانشها یا روندهای حسگر بیشترین تأثیر را بر پیشنهاد آن داشتهاند. در رابط کاربری، وقتی هوش مصنوعی عملی را پیشنهاد میدهد، آن را با منطقی مانند «فشار راکتور روند بالایی دارد و پیری کاتالیزور تشخیص داده شده است؛ توصیه میشود نرخ خوراک 5٪ کاهش یابد» همراه میکند. این سیستم حتی ممکن است نموداری را نشان دهد که روندهای فعلی را با الگوهای حادثه تاریخی مقایسه میکند تا توصیه را توجیه کند. این با اصل شفافیت همسو است و به اپراتورها بینشی در مورد استدلال هوش مصنوعی میدهد.
برای حفظ عاملیت انسانی، سیستم باید به عنوان «مشاور» پیکربندی شود، نه «خلبان خودکار». این سیستم نمیتواند مستقیماً محرکها را کنترل کند؛ بلکه توصیههایی را ارائه میدهد که انسان باید آنها را تأیید و اجرا کند.
رابط کاربری به گونهای طراحی شده است که انسان را به تصمیمگیرنده نهایی تبدیل کند: برای هر توصیه، اپراتور میتواند «پذیرش»، «اصلاح» یا «رد» را انتخاب کند و باید اقدام را تأیید کند. این امر آنها را به طور فعال درگیر نگه میدارد و از اتوماسیون کورکورانه جلوگیری میکند. با این حال، برای جلوگیری از خودراضی بودن احتمالی اتوماسیون (تنبلی اپراتورها به دلیل درست بودن همیشگی هوش مصنوعی)، برنامه آموزشی باید شامل سناریوهایی باشد که در آنها هوش مصنوعی پیشنهادی غیربهینه ارائه میدهد و کارآموزان یاد میگیرند که آن را تشخیص داده و نادیده بگیرند - و این نکته را تقویت کنند که قضاوت انسانی هنوز حیاتی است. با گذشت زمان، این آموزش در یک شبیهساز اعتماد ایجاد میکند: اپراتورها میبینند که هوش مصنوعی معمولاً درست میگوید، اما محدودیتهای آن را نیز درک میکنند و نحوه بررسی مجدد پیشنهادات مهم را نیز میفهمند.
برای اطمینان از قابلیت اطمینان، هوش مصنوعی باید تحت آزمایشهای گستردهای با دادههای تاریخی قرار گیرد و به صورت زنده آزمایش سایه (ارائه توصیههایی که مشاهده شدهاند اما اجرا نشدهاند) انجام شود تا تأیید شود که به ندرت با قضاوت متخصص انسانی در تضاد است، مگر زمانی که واقعاً چیزی را که انسان نادیده گرفته است، تشخیص دهد.
در طول استقرار، معیارهای عملکرد اخلاقی باید نظارت شوند: اپراتورها چند بار با هوش مصنوعی موافق هستند؟ آیا مواردی وجود دارد که هوش مصنوعی درست بوده و انسان آن را نادیده گرفته است و چرا؟ اگر اپراتوری به طور مداوم توصیهها را رد کند، سرپرستان برای بررسی اینکه آیا مشکل اعتماد یا مشکل مدل وجود دارد یا خیر، وارد عمل میشوند. شاید اپراتور متوجه شود که هوش مصنوعی شرایط ظریف خاصی را در نظر نمیگیرد - این بازخورد میتواند برای اصلاح هوش مصنوعی (بهبود مستمر) استفاده شود. برعکس، اگر اپراتورها بدون تجزیه و تحلیل شروع به تأیید همه پیشنهادات هوش مصنوعی کنند، ممکن است آموزش یا اصلاحات رابط کاربری بیشتری برای تشویق بررسی متفکرانه مورد نیاز باشد (شاید با درخواست گاه به گاه دلیلی برای پذیرش در شرایط بحرانی برای اطمینان از در نظر گرفتن آن).
یک ویژگی خاص طراحی اخلاقی: هوش مصنوعی محدود شده است که هرگز اقداماتی خارج از محدودیتهای ایمنی یا مرزهای عملیاتی استاندارد (یک پوشش ایمنی مبتنی بر قانون) پیشنهاد ندهد. به عنوان مثال، هرگز پیشنهاد باز کردن شیر بیش از حد مجاز یا مخلوط کردن مواد شیمیایی با نسبتی که مقررات را نقض میکند، نمیدهد. این حفاظت وظیفهشناختی تضمین میکند که حتی اگر موتور بهینهسازی هوش مصنوعی به نحوی فکر کند که یک اقدام افراطی باعث بهینهسازی عملکرد میشود، آن را به کاربر ارائه نمیدهد. بنابراین، انسان هرگز در موقعیتی قرار نمیگیرد که توصیهای غیراخلاقی یا ناامن از هوش مصنوعی را در نظر بگیرد - و اعتماد خود را حفظ کند که "هوش مصنوعی مرا از قوانین اساسی ایمنی منحرف نخواهد کرد".
۶.۳. سناریو ۳: فناوریهای تقویت انسان در محیطهای صنعتی
یک شرکت لجستیک، کارگران انبار خود را به اسکلتهای بیرونی پوشیدنی (لباسهای برقی که از کمر و بازوها پشتیبانی میکنند) و عینکهای هوشمند AR (واقعیت افزوده) مجهز میکند. اسکلتهای بیرونی هنگام بلند کردن اقلام سنگین، فشار را کاهش میدهند و عینکهای AR اطلاعات بلادرنگ مانند مکان اقلام و الگوهای بهینه چیدمان را ارائه میدهند. این فناوریها نشاندهنده تقویت انسان با هدف بهبود بهرهوری و ایمنی هستند. سوالات اخلاقی در مورد استفاده اجباری، اثرات بالقوه بر سلامتی و حریم خصوصی مطرح میشود (عینکهای AR دارای دوربینهایی هستند که محیط را اسکن میکنند، که میتواند به عنوان نظارت تلقی شود). برای این سناریو، ما بر جنبه اسکلت بیرونی برای یک معضل اخلاقی خاص تمرکز خواهیم کرد: آیا پوشیدن اسکلت بیرونی برای وظایف خاص اجباری است و چگونه باید با کارگرانی که آن را ناراحت کننده میدانند، رفتار کنیم؟
چالشهای اخلاقی و مسائل مربوط به اعتماد: اسکلتهای بیرونی مرز بین انسان و ماشین را محو میکنند. یک مسئله کلیدی، استقلال و رضایت است: برخی از کارگران ممکن است به دلیل ناراحتی، غرور در توانایی دستی یا بیاعتمادی به فناوری جدید، نخواهند این دستگاه را بپوشند. اگر کارفرما آن را برای جلوگیری از آسیبدیدگی اجباری کند، آیا این از نظر اخلاقی قابل قبول است؟ Pote و همکاران (2023) خاطرنشان کردند که مجبور کردن کارگران به پوشیدن اسکلت بیرونی مانند یک قطعه PPE در صورتی که به خوبی اندازه نباشد یا باعث درد شود، نگرانیهایی را ایجاد میکند - مشابه اجباری کردن یک ژاکت ایمنی نامناسب که باعث کبودی میشود. از نظر اخلاقی، اسکلت بیرونی واقعاً باید کمک کند و نه ابزاری برای استثمار باشد که شرکت را قادر میسازد کارگران را مجبور به بلند کردن وزن بیشتر کند.
یک مؤلفه اعتماد وجود دارد: کارگران باید به ایمن بودن دستگاه اعتماد کنند (به آنها آسیب نمیرساند یا عملکرد نامناسبی ندارد). اگر نسخههای اولیه دست و پا گیر باشند یا باعث درد شوند، اعتماد به فناوری کاهش مییابد. همچنین، اگر اسکلت بیرونی یا عینک دادههای عملکرد را جمعآوری کنند، ممکن است حریم خصوصی دادهها مطرح شود - کارگران ممکن است نگران باشند که از آن برای نظارت بر سرعت یا حرکات آنها برای اهداف انضباطی، نه فقط برای کمک، استفاده شود. عینکهای واقعیت افزوده با دوربین نیز ممکن است مانند یک ابزار نظارتی به نظر برسند و به طور بالقوه اعتماد به اهداف مدیریت را از بین ببرند. در نهایت، انصاف مطرح میشود: اگر برخی از کارگران نتوانند از اسکلت بیرونی استفاده کنند (به دلیل شکل بدن یا موارد منع مصرف سلامتی)، آیا در انجام وظایف خود با مشکل مواجه میشوند یا از آنها انتظار میرود که کارهای سنگین را بدون پشتیبانی انجام دهند؟
اعتماد از طریق طراحی کاربردی: این شرکت، فناوری تقویت را ابتدا با یک برنامه آزمایشی داوطلبانه، به جای استفاده اجباری فوری، عرضه میکند. این به استقلال احترام میگذارد و به فناوری اجازه میدهد تا رضایت کارگران را جلب کند. در مرحله آزمایشی، 10 کارگر اسکلت بیرونی و عینک واقعیت افزوده را امتحان میکنند. بازخورد آنها به طور فعال درخواست میشود: چه احساسی دارید؟ آیا کارها را آسانتر کرده است؟ آیا نقطه ضعفی وجود دارد؟ فرض کنید برخی میگویند بندهای شانه اسکلت بیرونی پس از مدتی جا میافتند. مهندسان با فروشنده اسکلت بیرونی همکاری میکنند تا تناسب یا بالشتک را تنظیم کنند (که یک اصلاح طراحی کاربر محور است). این بهبود مکرر بسیار مهم است به طوری که تا زمان استقرار گستردهتر، اکثر مسائل ارگونومیک حل میشوند و به کارگران نشان میدهند که راحتی آنها در اولویت اصلی است - یک سیگنال اعتماد مهم.
این شرکت همچنین به طور شفاف به سیاستها میپردازد: آنها به کارگران میگویند که اسکلتهای بیرونی برای کاهش آسیبها در نظر گرفته شدهاند و بدون ارزیابی پزشکی، محدودیت وزن بار کاری را افزایش نمیدهند. در واقع، آنها ممکن است کتباً اعلام کنند که حداکثر محدودیت وزن جعبه ثابت خواهد ماند یا حتی کاهش مییابد زیرا اسکلتهای بیرونی حاشیه ایمنی بیشتری را فراهم میکنند. این امر با هرگونه تصوری مبنی بر اینکه از این فناوری برای بهکارگیری نیروی کار بیشتر از آنها استفاده خواهد شد، مغایرت دارد. این امر با اصل نیکوکاری (ما این کار را برای رفاه شما انجام میدهیم) و عدالت (عدم استفاده از فناوری برای تحمیل خواستههای ناعادلانه) همسو است.
برای عینکها و دستگاههای بیرونی واقعیت افزوده، آنها اقدامات حفاظتی حریم خصوصی را اجرا میکنند - به عنوان مثال، سیستم واقعیت افزوده دادههای بصری را روی خود دستگاه پردازش میکند تا کارگر را راهنمایی کند اما ویدیو را برای مدیریت پخش نمیکند. هرگونه داده عملکردی جمعآوریشده (مانند تعداد بالابرها) با خود کارگر به اشتراک گذاشته میشود و به صورت کلی برای بهبود فرآیند استفاده میشود، نه برای نظارت فردی برای مجازات. این قوانین در یک توافقنامه مدون میشوند. با ارائه این تضمینها، مدیریت این اعتماد را ایجاد میکند که "این ابزارها برای کمک به شما اینجا هستند، نه برای جاسوسی از شما".
آنها همچنین از یک رویکرد فراگیر پیروی میکنند: اگر برخی از کارگران نتوانند از اسکلت بیرونی استفاده کنند (به دلیل ایمپلنتهای پزشکی یا عدم تناسب)، اطمینان حاصل میکنند که آن کارگران یا از امکانات جایگزین استفاده میکنند یا جریمه نمیشوند. شاید بتوانند از سایر وسایل کمکی استفاده کنند یا از بالابرهای تیمی استفاده کنند. به عنوان مثال، عدالت با چرخش وظایف حفظ میشود، به طوری که به کسانی که از اسکلت بیرونی استفاده میکنند، همیشه تمام کارهای سنگین داده نمیشود - همه همچنان بار کار را به طور معقول تقسیم میکنند و اسکلتهای بیرونی در صورت نیاز همه را تقویت میکنند. این دستگاه به عنوان یک مزیت یا پشتیبانی اختیاری ارائه میشود - حداقل در ابتدا. با گذشت زمان، اگر اکثریت آن را مفید بدانند، اثبات اجتماعی و کمی بهبود بهرهوری ممکن است به طور طبیعی استفاده از آن را بدون دستورالعملهای بالا به پایین گسترش دهد.
یک دوراهی اخلاقی این بود که آیا آن را اجباری کنند یا خیر. فرض کنید طی ماهها، دادهها نشان میدهد که آسیبهای کمر در بین افرادی که از اسکلتهای بیرونی استفاده میکنند کاهش یافته است و افرادی که از آنها استفاده نمیکنند، فشارهای بیشتری را متحمل میشوند. شرکت ممکن است اجباری کردن آن را برای برخی از وظایف پرخطر در نظر بگیرد. شرکت Trust by Design با دقت به این موضوع نزدیک میشود: با کارگران و احتمالاً نمایندگان بهداشت و ایمنی برای بحث در مورد یافتهها تعامل میکند. اگر شواهد به شدت از استفاده از آن حمایت کند، ممکن است اجماعی حاصل شود که "برای ایمنی خودتان، همه ما باید هنگام انجام کار X از آنها استفاده کنیم". سپس آنها میتوانند سیاستی را اجرا کنند که هر زمان که وزنی بالاتر از Y کیلوگرم بلند میکنید، اسکلت بیرونی باید پوشیده شود، مشابه آنچه که برای PPE خاص لازم است. تفاوت در اینجا این است که آنها به جای تحمیل خودسرانه آن، به طور مشترک با شواهد روشن به این تصمیم رسیدند. آنها همچنین به نظارت بر راحتی و تأثیرات سلامتی استفاده طولانی مدت ادامه میدهند (مثلاً، آیا پوشیدن آن در تمام طول روز باعث خستگی یا هرگونه مشکل ناخواسته میشود؟).
در همین حال، مهندسی Trust by Design خود اسکلت بیرونی ممکن است شامل آلارمهایی باشد اگر کاربر به گونهای حرکت کند که علیرغم هدایت مؤثر کاربر توسط اسکلت بیرونی - مانند خم شدن نادرست - باعث آسیب شود (مثلاً یک لرزش ملایم که به آنها یادآوری میکند با پشتیبانی دستگاه بلند شوند). این نوع ویژگی از نظر اخلاقی پیچیده است (ممکن است احساس شود که دستگاه مزاحم است)، بنابراین فقط در صورتی پیادهسازی میشود که کاربران آن را بخواهند و مفید بیابند. در حالت ایدهآل، قابل تنظیم است (اگر کاربر آن را آزاردهنده بداند، میتواند هدایت را خاموش کند). دادن کنترل به کاربران بر چنین ویژگیهایی، به استقلال آنها احترام میگذارد و اعتماد به دستگاه را تشویق میکند - این ابزاری است که در خدمت آنها است، نه کنترل آنها.
نتیجه: با گذشت زمان، اکثر کارگران انبار، اسکلتهای بیرونی را به عنوان بخشی استاندارد از تجهیزات خود میپذیرند زیرا تفاوت را احساس میکنند: خستگی کمتر، درد کمتر. آنها اعتماد دارند که این دستگاه شغلشان را ایمنتر میکند. افراد تازه استخدام شده، نگرش مثبت افراد باتجربه را میبینند و به سرعت این فناوری را میپذیرند. تعداد کمی که در ابتدا مقاومت کردند، یا پس از دیدن مزایای همکارانشان کنار آمدند، یا اگر کسی هنوز نمیتواند از آن استفاده کند، شرکت تضمین میکند که آن شخص در موقعیت نامساعدی قرار نمیگیرد یا شاید او را به نقشی با بار کاری کمتر (بدون کاهش حقوق - نشان میدهد که شرکت برای سلامت کارمند ارزش قائل است تا اجبار به استفاده از فناوری) منتقل میکند. از آنجا که این راهاندازی با احترام و مشارکت انجام شد، هیچ گونه پویایی خصمانهای وجود نداشت. میتوان یک حالت خلاف واقع را تصور کرد که اگر مدیریت فقط تجهیزات را کنار میگذاشت و میگفت: "شما باید این را بپوشید یا با تنبیه مواجه خواهید شد"، کارگران ممکن بود به تجهیزات بیاعتماد شوند، آن را به طور نامناسب بپوشند یا سعی کنند آن را به بازی بگیرند و در نتیجه هدف را شکست دهند. «اعتماد از طریق طراحی» با ایجاد یک حلقه بازخورد مثبت از اعتماد، از این امر جلوگیری کرد - کارمندان شاهد بودند که مدیریت واقعاً به آنها اهمیت میدهد (بازخورد میگیرد، نه اینکه از دادهها علیه آنها استفاده کند) و مدیریت شاهد بود که کارمندان به طور سازنده با فناوری تعامل دارند، نه اینکه آن را خرابکاری یا نادیده بگیرند.
در تمام این سناریوها، یک نکته مشترک این است که اخلاق و اعتماد دست در دست هم پیش میروند. سازمانها با پرداختن پیشگیرانه به مسائل اخلاقی (ایمنی، شفافیت، انصاف و استقلال)، سیستمها و سیاستهایی را ایجاد کردند که کارمندان و اپراتورها میتوانستند به آنها اعتماد کنند، که به نوبه خود منجر به پذیرش و نتایج بهتر شد. چارچوب «اعتماد از طریق طراحی» رویکردی ساختاریافته برای پیشبینی و مدیریت معضلات اخلاقی ارائه داد، چه در تصمیمگیری در مورد چگونگی توضیح خود توسط یک هوش مصنوعی، چه در مورد چگونگی ارسال سیگنالهای نیت توسط یک ربات، یا چگونگی تعیین سیاستهای مربوط به فناوریهای پوشیدنی.
در تمام موارد، هنگامی که یک معضل اخلاقی بالقوه در پیشبینی سناریوها در نظر گرفته میشد، چارچوب، گفتگوی فراگیر و ارزیابی تجربی را به جای اجرای از بالا به پایین پیشنهاد میکرد. این امر نه تنها منجر به تصمیمات اخلاقی صحیح میشود، بلکه با ایجاد این احساس در افراد که دیدگاههایشان شنیده میشود و راهحلهای حاصل منصفانه و معقول هستند، اعتماد را تقویت میکند. بخش بعدی به چشمانداز نظارتی و سیاستگذاری میپردازد تا این شیوههای سازمانی را در چارچوب تلاشهای قانونی و استانداردسازی گستردهتر که صنعت ۵.۰ و هوش مشارکتی را شکل میدهند، قرار دهد.
۷. پیامدهای نظارتی و سیاستگذاری
ظهور هوش مشارکتی در صنعت ۵.۰، تنظیمکنندگان و سیاستگذاران را بر آن داشته است تا چگونگی اعمال قوانین موجود و محل نیاز به قوانین یا استانداردهای جدید را بررسی کنند. اطمینان از اینکه رویههای انسانمحور و قابل اعتماد در مقیاس بزرگ رعایت میشوند، ممکن است به چیزی بیش از چارچوبهای داوطلبانه نیاز داشته باشد؛ این امر ممکن است مستلزم مقررات رسمی، بهویژه در زمینههای ایمنی، حریم خصوصی و حقوق کار باشد. در این بخش، چشمانداز نظارتی فعلی در حوزههای قضایی اصلی را بررسی میکنیم، توصیههایی برای توسعه سیاست ارائه میدهیم، استانداردهای نوظهور صنعت را مورد بحث قرار میدهیم و اهمیت هماهنگی بینالمللی را در نظر میگیریم.
7.1. رویکردهای نظارتی تطبیقی در اروپا و ایالات متحده
اتحادیه اروپا از یک دستور کار اخلاقی و انسانمحور در صنعت 5.0 حمایت میکند. فراتر از خلاصه سیاست گسترده 2021، قانون هوش مصنوعی آینده - که از سال 2026 به مرحله اجرا در میآید - اولین قانونی خواهد بود که هوش مصنوعی را بر اساس ریسک طبقهبندی میکند. ابزارهای مدیریت کارگران صنعتی در ردیف "پرخطر" قرار میگیرند و قوانین سختگیرانهای را در مورد شفافیت، قابلیت ردیابی، دقت و نظارت اجباری انسانی (ماده 14) اعمال میکنند. GDPR هر زمان که از دادههای شخصی - مثلاً پوشیدنیها یا دوربینها - استفاده میشود، محدودیتهای بیشتری را اضافه میکند، در حالی که قوانین ایمنی دیرینه (به عنوان مثال، دستورالعمل ماشینآلات) در حال حاضر برای رباتهای همکار یا اسکلتهای بیرونی، انطباق با علامت CE را الزامی میدانند. یک قانون بهروزرسانیشده ماشینآلات به زودی این وظیفه را به تجهیزات مجهز به هوش مصنوعی گسترش خواهد داد. در مجموع، اروپا در حال تبدیل اصول - نظارت، شفافیت و عدم تبعیض - به تعهدات سخت است: شرکتها باید خطرات را ارزیابی کنند، کنترل انسانی را مستند کنند و اغلب هوش مصنوعی خود را تأیید یا ثبت کنند. همزمان، بودجههای اتحادیه اروپا، مراکز نوآوری دیجیتال و ابتکارات استاندارد، تغییر به سمت تولید انسانمحور را تشویق میکنند.
در مقابل، نظارت ایالات متحده همچنان ناهمگون و مختص به هر بخش است. به جای یک قانون واحد در حوزه هوش مصنوعی، راهنماییهای فدرال بر ابزارهای داوطلبانه - مانند چارچوب مدیریت ریسک هوش مصنوعی 2023 NIST - و اجرای پس از وقوع حادثه تکیه دارد. OSHA میتواند در صورت آسیب رساندن یک ربات همکار یا اسکلت بیرونی به یک کارگر، کارفرمایان را تحت بند وظیفه عمومی احضار کند، اما هیچ قانون ربات پیش از بازار فراتر از استانداردهای ANSI/RIA وجود ندارد. ناظران ضد تعصب (EEOC، FTC) هشدار میدهند که استخدام الگوریتمی یا ابزارهای نیروی کار هنوز باید عنوان VII و قانون FTC را برآورده کنند، در حالی که قوانین حفظ حریم خصوصی ایالتی (مانند CPRA کالیفرنیا) نظارت بر محل کار را محدود میکنند. وزارت دفاع قوانین اخلاقی الزامآوری در حوزه هوش مصنوعی برای پیمانکاران تصویب کرده است و طرح کلی کاخ سفید برای لایحه حقوق هوش مصنوعی 2022 از آژانسها میخواهد که ایمنی، شفافیت و انصاف را حفظ کنند. انتظار میرود فشار "قوانین نرم" - و چشمانداز مقررات آینده - در مورد استقرار صنعت 5.0 ادامه یابد.
در مجموع، اروپا در حال حرکت به سمت اجرای قانونیِ قابلیت اعتماد در سیستمهای هوش مصنوعی و صنعت ۵.۰ است، در حالی که ایالات متحده از ترکیبی از قوانین موجود و دستورالعملهای جدید برای تأثیر مشابه استفاده میکند. در هر دو حوزه قضایی، پاسخگویی و نظارت انسانی بر سیستمهای مشارکتی، مضامین اصلی هستند - که با هسته اصلی اعتماد از طریق طراحی مطابقت دارند.
۷.۲. استانداردها و بهترین شیوههای صنعتی
فراتر از قانون، گروههای صنعتی و نهادهای استانداردسازی در حال انتشار دستورالعملهایی هستند که به طور مؤثر نحوه اجرای یکپارچه Trust by Design را شکل میدهند:
- ISO و IEEE قابل توجه هستند: استانداردهای اخلاقی سری 7000 IEEE - به عنوان مثال، IEEE 7001-2021 شفافیت سیستمهای خودمختار و IEEE 7007-2021 استاندارد هستیشناسی برای رباتیک و سیستمهای اتوماسیون اخلاقی - به مهندسان الزامات ملموس و قابل آزمایش برای تعبیه ویژگیهای اخلاقی ارائه میدهند. ISO در حال کار بر روی یک استاندارد سیستم مدیریت هوش مصنوعی برای حاکمیت هوش مصنوعی، ISO/IEC 42001:2023 هوش مصنوعی - سیستم مدیریت است. شرکتها میتوانند داوطلبانه این استانداردها را برای نشان دادن تعهد خود به بهترین شیوهها اتخاذ کنند. ما توصیه میکنیم که صنایع یک رویکرد صدور گواهینامه را اتخاذ کنند - به عنوان مثال، صدور گواهینامه "هوش مصنوعی قابل اعتماد" یا "ایمنی سیستم مشارکتی" از یک نهاد شناخته شده، به ذینفعان (از جمله بیمهگران، مشتریان و کارمندان) نشان میدهد که سیستم از استاندارد اخلاقی بالایی برخوردار است.
- به اشتراک گذاری بهترین شیوهها: سازمانهایی مانند انجمن صنایع رباتیک (RIA) در ایالات متحده یا فدراسیون بینالمللی رباتیک (IFR) اغلب گزارشهای فنی و مطالعات موردی منتشر میکنند. به عنوان مثال، راهنمایی در مورد پیادهسازی ایمن رباتهای همکار یا درسهای آموخته شده از کار گروهی انسان و هوش مصنوعی. سیاستگذاران میتوانند کنسرسیومهای صنعتی را به تدوین دستورالعملهای باز تشویق کنند - مشابه نحوه به اشتراک گذاری پروتکلهای تست ایمنی توسط صنعت خودرو. در زمینه صنعت ۵.۰، بهترین شیوهها ممکن است شامل نحوه مشارکت کارکنان در استقرار فناوری یا نحوه اجرای یک طرح آزمایشی مؤثر باشد. شرکتها نباید مجبور باشند چرخ را از نظر اخلاقی دوباره اختراع کنند. مستندسازی و به اشتراک گذاری آنچه که کار میکند (مانند روشهای آموزشی مؤثر یا طرحهای رابط کاربری که اعتماد را بهبود میبخشند) میتواند پذیرش گسترده طراحی مبتنی بر اعتماد را تسریع کند.
- یکی دیگر از بهترین شیوهها، همسوسازی حاکمیت شرکتی با این آرمانها است: به عنوان مثال، شرکتها میتوانند استفاده اخلاقی از هوش مصنوعی را در گزارشهای ESG (محیطی، اجتماعی، حاکمیتی) خود بگنجانند. در حال حاضر، برخی از شرکتها معیارهای تنوع و ایمنی را گزارش میدهند؛ افزودن معیارهای اخلاق هوش مصنوعی (مانند تعداد سیستمهای هوش مصنوعی که از نظر تعصب ارزیابی شدهاند یا داشتن کمیتههای اخلاق) میتواند بخشی از شاخصهای مسئولیت اجتماعی شود. این امر شرکتها را تحت فشار قرار میدهد تا از چارچوبهایی مانند اعتماد بر اساس طراحی پیروی کنند تا انتظارات سرمایهگذاران و عموم را برآورده سازند.
ملاحظات هماهنگسازی بینالمللی: صنعت ۵.۰ یک جنبش جهانی است؛ تولیدکنندگان و ارائهدهندگان فناوری در سراسر مرزها فعالیت میکنند. مقررات ناهمگون میتوانند هم مانع نوآوری شوند و هم وضوح تعهدات اخلاقی را کاهش دهند. به نفع همه است که برای استانداردهای هماهنگ تلاش کنند تا سیستمی که در یک کشور قابل اعتماد تلقی میشود، در کشور دیگری غیراخلاقی تلقی نشود. اصول هوش مصنوعی OECD (که توسط بیش از ۴۰ کشور پشتیبانی میشود) اجماع سطح بالایی در مورد ارزشهایی مانند انسانمحوری و استحکام ارائه میدهد. این اصول، سیاستهای اتحادیه اروپا و ایالات متحده را شکل دادهاند و میتوانند به عنوان مبنایی برای همسوسازی تلاشها عمل کنند.
در نتیجه، مقررات و سیاستها با یک روند واضح در حال همگام شدن با پیشرفتهای سریع فناوری هستند: گنجاندن اعتماد و اخلاق به عنوان الزامات، نه صرفاً گزینهها. سازمانهایی که اعتماد مبتنی بر طراحی را اجرا میکنند، احتمالاً خود را در موقعیت مناسبی برای رعایت قوانین نوظهور خواهند یافت (زیرا آنها به طور فعال به نظارت انسانی، شفافیت و غیره پرداختهاند)، در حالی که کسانی که اخلاق را نادیده میگیرند، ممکن است در آینده با سردردها یا مسئولیتهای ناشی از رعایت قوانین مواجه شوند. توصیه ما یک رویکرد هماهنگ است: سیاستگذاران، محافظان و مشوقهای لازم برای عمل اخلاقی را تعیین میکنند، استانداردهای صنعت، دستورالعملهای فنی را ارائه میدهند و شرکتها این موارد را در عمل اجرا میکنند - همه اینها از طریق گفتگوی مداوم با نیروی کار و عموم مردم حاصل میشود. این حاکمیت چندلایه تضمین میکند که سیستمهای اطلاعاتی مشارکتی واقعاً عنوان "هوش مصنوعی قابل اعتماد" را در سراسر جهان کسب کنند.
در نهایت، با تکامل مقررات و فناوری، چالشها و سوالات جدیدی به وجود خواهد آمد. بخش بعدی به مسیرهای تحقیقاتی آینده میپردازد و مسائل اخلاقی صنعت ۵.۰ فردا و چگونگی تطبیق چارچوب ما را پیشبینی میکند.
ادامه دارد ...
اعتماد از طریق طراحی: چارچوبی اخلاقی برای سیستمهای هوش مشارکتی در صنعت ۵.۰ - بخش اول
اعتماد از طریق طراحی: چارچوبی اخلاقی برای سیستمهای هوش مشارکتی در صنعت ۵.۰ - بخش دوم
اعتماد از طریق طراحی: چارچوبی اخلاقی برای سیستمهای هوش مشارکتی در صنعت ۵.۰ - بخش پایانی
مقالات مرتبط:
- طراحی فناوری اخلاقی به سیستمهایی برای پیشبینی و انعطافپذیری نیاز دارد
- طراحی اخلاقی یک استراتژی مدیریت ریسک است
- گواهی اعتماد دیجیتال: ساخت نظامهای دیجیتال تابآور، اخلاقمحور و شهروندمدار - بخش اول
- گواهی اعتماد دیجیتال: ساخت نظامهای دیجیتال تابآور، اخلاقمحور و شهروندمدار - بخش دوم
- اخلاق طراحی و محدودیتهای طراح اخلاقی
- فضیلتهای طراحی
- طرح و نقشهی اخلاقی برای مقابلهی مستقیم با معضلات طراحی
- تعریف چارچوبی برای طراحی اخلاقی ــ بخش اول
- اصول اخلاقی برای طراحی ــ بخش اول
- مسئولیت اخلاقی طراح و طراحی اخلاقی ــ بخش اول
