«با مسوول یک شرکت قرار مهمی دارید. شرکت در طبقه یازدهم است و چون آسانسور خراب است مجبور می شوید علاوه بر این که از پله ها به سختی بالا می روید وسائل سنگین تان را نیز با خود بکشید. در میانه راه مرد جوانی، که بعدا متوجه می شوید منشی شرکت است، در حمل وسائل به شما کمک می کند. وارد دفتر شرکت که می شوید منشی ضمن عذرخواهی، برای شما یک نوشیدنی گوارا می آورد و سعی می کند به شما کمک کند که کارهای تان به بهترین وجه انجام شود. شما که از این همه دلسوزی و نوع دوستی مرد جوان به وجد آمده اید هم از صمیم قلب هم به صورت زبانی از او تشکر می کنید و تصمیم می گیرید با دادن هدیه ای لطف او را جبران کنید ولی وقتی تصمیم خود را با رئیس شرکت در میان می گذارید او با خنده ای شما را از این کار منصرف می کند و می گوید کار شما هیچ فایده ای ندارد. رئیس هنگامی که با چهره متعجب شما مواجه می شود می گوید: چون او آدم نیست بلکه یک ماشین هوشمند پیشرفته است که طوری طراحی شده که بتواند در موقعیت های مختلف تصمیم گیری کند»
اکنون آیا دیدگاه شما درباره منشی همان دیدگاه چند لحظه قبل است؟ اگر نگاه تان عوض شده چه چیزی باعث این امر شده است؟ آیا تشکرتان از ربات منشی کاری بی معنا بوده است؟ آیا باید به جای منشی از سازنده آن یا از رئیس شرکت تشکر کنید؟ اگر منشی، و در واقع ربات یا ماشین هوشمند، در بین راه، خواسته یا ناخواسته به وسائل شما که بسیار گران قیمت هم هستند، آسیبی می رساند کار او را بد می دانستید؟ آیا سرزنش کردن او ممکن و معنادار بود؟ آیا باید سازنده اش را تقبیح می کردید یا رئیس شرکتی که او را به کار گرفته است؟ (نمی گوییم شکایت به مراجع قضایی، چون این امر در حوزه اخلاق جای نمی گیرد و مسئله ای حقوقی می شود که اکنون مورد بحث نیست). اصلا می شود کار او را خوب یا بد دانست؟
ماشین ها و ربات های هوشمند هر روز بیش از پیش وارد زندگی انسان ها می شوند و کارهای بیشتری را بر عهده می گیرند.«شرکت IBM می‌گوید در پنج سال آینده کامپیوترها خواهند توانست لمس کنند، بچشند، بوکنند، بشنوند و ببینند. ابزارهای حسگر به کمک خریداران آنلاین برای لمس محصولات، پدر و مادرها برای دریافت صدای گریه بچه، آشپزهای آنلاین برای پخت پز و یک غذای خوشمزه و سالم، و غیره خواهد آمد. اما تاکنون چیزی در مورد حس ششم نگفته‌اند!»(منبع)حضور این میهمانان خوانده (!) در جامعه انسانی امروز، مباحث و سوال های فراوانی را مطرح کرده و می کند که بخشی از آن ها به حوزه اخلاق کاربردی مربوط می شود. به همین خاطر است که امروزه «اخلاق ربات ها» (roboethics) یک اصطلاح نسبتا متداول در ادبیات اخلاقی شده است (اطلاعات بیشتر در اینجا و اینجا) و «اخلاق روبات های هوشمند» (intelligent robots ethics) یکی از شاخه های مورد توجه در فلسفه اخلاق است و درباره آن کتاب ها و مقالات مختلفی – متاسفانه نه به زبان فارسی - نوشته شده است(چند نمونه از آنها در پایان همین مطلب معرفی خواهد شد) و همایش های گوناگونی درباره آنها برگزار می شود (بنگرید به اینجا)
/**/
درباره ربات های هوشمند چند سوال از منظر اخلاقی قابل طرح است: 1. آیا کارهای این ماشین ها را می توان به خوب یا بد اخلاقی متصف کرد؟ 2. اگر اینها عملی انجام دهند که از منظر اخلاقی نادرست باشد(مثلا به کسی آسیب رساندند یا اموال کسی را سرقت کردند) چه کسی قابل سرزنش است و اخلاقا باید این آسیب و ضرر را جبران نماید؟ سازنده یا به کار گیرنده یا فرد ثالث؟ 3. آیا مسئله «استقلال عامل اخلاقی» برای این ماشین ها صدق می کند؟ آیا می توان مدعی شد که هوشمندی آنها موجب می شود که خوب و بد کارهای شان به خودشان مربوط شود؟ 4. اگر خود این ماشین ها را به سبب میزان استقلال و هوشمندی که دارند از نظر اخلاقی بتوانیم مقصر بدانیم، این کار چه فایده ای دارد؟ چون قاعدتا نمی توانند آسیب وارده شده را جبران نمایند. پس چه کسی باید این کار را انجام دهد؟ آیا منافع آنها به اندازه ای هست که بتوان از ضررهای احتمالی شان چشم پوشی کرد؟
/**/
به نظر می رسد قضاوت درباره اخلاقی بودن یا نبودن کار ماشین های هوشمند مبتنی بر روشن شدن تکلیف موارد زیر است:
- آیا کار اخلاقی فقط برای «انسان ها» مطرح است و دیگر موجودات، از قبیل حیوانات یا ماشین های هوشمند، هر چند کارهایی بکنندکه می توان آنها را «خوب یا بد» دانست، مانند نجات ده ها نفر از زیر آوار زلزله، کارشان قابل اتصاف به خوب و بد اخلاقی نیست.
- آیا می توان بین «عمل اخلاقی» و «عامل اخلاقی» تمایز قائل شد؟ به این معنا که بگوییم خوب و بد بودن درباره نفس عمل قابل طرح هست ولی درباره خود ربات ها نیست.
- ملاک (یا ملاک های) اخلاقی بودن یک کار چیست؟ آیا علاوه بر آگاهی و اختیاری بودن، شرط یا شرط های دیگری هم برای اخلاقی بودن یک عمل لازم است یا خیر.
- چه کسی باید درباره اخلاقی بودن یا نبودن کار دیگران، مثلا ماشین های هوشمند، قضاوت کند. خود فاعل اخلاقی یا دیگران؟ اگر اختلاف پیش آمد چه باید کرد؟
- هوشمند بودن ربات ها و ماشین های هوشمند به چه معنا است؟ میزان آن چه اندازه است؟ این هوشمندی چه اندازه به استقلال در تصمیم گیری منجر می شود؟ آیا همه حالات و موقعیت های احتمالی که ماشین با آن مواجه می شود از قبل برای او تعریف شده است؟
با توجه به موارد بالا می توان گفت:
- برای اخلاقی بودن یک عمل، «آگاهانه و اختیاری بودن» شرط لازم است. از این رو اگر میدان عملی که تاکنون برای ربات ها و ماشین های هوشمند فراهم شده را بتوان مصداق آگاهی و اختیاری بودن دانست، کارهای آنها متصف به خوب و بد می شود. ولی نکته این است که اولا اختیار و آگاهی این ماشین ها مصنوعی و بر اساس برنامه هایی است که دیگران (سازندگان آنها) برایشان تعریف کرده اند. لذا کارهای آنها را بیشتر می توان نوعی عکس العمل مکانیکی دانست که بر اساس برنامه ریزی دیگران و با توجه به آزمون و خطا و تجربه به دست می آید، نه یک رفتار برخواسته از تمایلات قلبی و درونی. ثانیا کار ربات برای او هیچ هزینه ای ندارد. به عبارت دیگر، اخلاقی عمل کردن برای او نه مستلزم چشم پوشی از لذات و منافع است نه می تواند مثلا به قصد کسب رضایت درونی یا رضایت خداوند یا حتی رسیدن به منافع مادی باشد.
- نمی توان «فقط» اختیاری و آگاهانه بودن را ملاک فعل اخلاقی قرار داد. چرا که بر این اساس باید بسیاری از کارهای انسان، مانند غذا خوردن و قدم زدن، را نیز اخلاقی محسوب کرد. بنابراین لازم است قید / شرط / یا صفت دیگری را نیز برای اخلاقی بودن یک عمل در نظر بگیریم که عبارت است از «قصد و نیت» عامل. یعنی کار اخلاقی باید با نیت خیرخواهانه و انگیزه نیک انجام پذیرد. حال اگر نیت و قصد را نیز در اخلاقی بودن سهیم بدانیم، کار ربات ها و ماشین های هوشمند را نمی توان از مصادیق کارهای اخلاقی دانست؛ چرا که در حد اطلاع بنده، دست کم در ماشین هایی که تاکنون ساخته شده اند مسئله احساسات و عواطف درونی و داشتن نیت و قصد وجود ندارد.
- البته اگر قصد و انگیزه خیر را هم در اخلاقی بودن موثر بدانیم ، کار تا اندازه ای دشوار می شود چرا که اولا فهم و احراز حسن نیت افراد کار آسانی نیست و شاید در این زمینه بتوان فقط به اعتراف خود فرد استناد کرد (که البته در آن هم احتمال خلاف هست. چرا که دست کم انسان ها می توانند به دلائل مختلف، از جمله برای کسب منفعت یا دفع ضرر حتمی یا محتمل دروغ بگویند).
- باتوجه به موارد فوق، اگر قصد و نیت خیرخواهی را نیز در ایجاد عمل اخلاقی موثر بدانیم، کار این ماشین ها را نمی توان اخلاقی دانست. چرا که چنین امری برای آنها مقدور نیست. البته اگر در آینده ماشین هایی ساخته شوند که بتوانند قصد و نیت هم برای کارهای خود داشته باشند دراین صورت باید بحث حاضر مورد بررسی مجدد قرار گیرد.
- حال اگر کار خود ماشین ها را از مشمول حسن و قبح اخلاقی ندانیم، به نظر می رسد درباره سود و زیان کار آنها، هر کس به هر اندازه ای که نقش داشته شایسته تحسین یا مستحق سرزنش است و از نظر اخلاقی (یا حقوقی) باید پاسخگو باشد و ضررهای احتمالی را جبران نماید.
- از منظر اخلاق اسلامی اگر بخواهیم به ماجرا نگاه کنیم به نظر می رسد می توان با بهره گیری اخلاقی از قواعدی چون «لاضرر و لاضرار فی الاسلام» و با توجه به این که اموری چون آگاهی و اختیار از شرایط تکلیف است و با توجه این که ماشین های هوشمند را از قبیل «شیء» و «کالا» یا «مبیع» بدانیم که صاحب یا سازنده آن در قبال آن مسوول است، و همچنین با توجه به این که از دیدگاه اسلام متصف شدن به حسن و قبح اخلاقی فقط مربوط به انسان است می توان چنین برداشت کرد که کار ماشین های هوشمند در دایره اخلاق نمی گنجد و مسوولیت اخلاقی کارهای این ماشین ها بر عهده صاحبان یا سازندگان آنها است. و اگر بر عهده این دو ندانیم می شود فرض های دیگری را مطرح کرد. مثل این که بگوییم ضرر و زیان های ناشی از کار اینها، دست کم در مواردی که در اختیار نهادهای عمومی یا دولت هستند، باید از بیت المال جبران شود.
- کتاب «اخلاق ربات ها» Robot Ethics (Intelligent Robotics and Autonomous Agents series).(منبع)
- کتاب «اخلاق ربات ها: استلزامات اخلاقی و اجتماعی دانش ماشین های هوشمند» Robot Ethics: The Ethical and Social Implications of Robotics (Intelligent Robotics and Autonomous Agents series) هر دو با ویراستاری پاتریک لین، کیت آبنی و جورج بکر (منبع)
- مقاله «اخلاق ربات ها»(انگلیسی)(دانلود)
- مقاله «اگر رباتی بی اخلاقی کند» (فارسی)(در اینجا)
- مقاله «اخلاق ماشین هوشمند»، مجید اکبری، نامه فرهنگ، ش 53، پاییز 1383. (دانلود)
- مقاله «تازه ترین یافته های اخلاق رایانه: از هوش مصنوعی دنیای مجازی تا واقعیت مجازی» نوشته جوزف میگا کیزا، ترجمه رضا بخشایش، مجله اطلاعات حکمت و معرفت، س6، ش 4(64)، مرداد 1390، ص 18 – 24.(اینجابخوانید)
برچسب‌ها: فلسفه اخلاق, مقاله ها, اخلاق اسلامی, اخلاق ربات ها, اخلاق ماشین های هوشمند
