موضوع مبهمی به نام «اخلاق هوش مصنوعی»

موبنا- وقتی به مسائل اخلاقی فکر می‌شود، معمولاً فناوری به ذهن نمی‌آید. این در حالی است که «اخلاق فناوری» زیرمجموعه‌ای از مباحث اخلاقی است که به سوالات اخلاقی مربوط به عصر فناوری و تغییر در جامعه که در آن رایانه‌های شخصی و دستگاه‌های جدید معرفی می‌شوند، می‌پردازد.

اخلاق در فناوری طی سال‌های اخیر با پیشرفت فناوری متحول شده ‌است. نمی‌توان اخلاقیات را در زمینه فناوری به حساب نیاورد، چرا که وضع مقرراتی برای رعایت حقوق میان انسان‌ها با ماشین‌ها و ربات‌ها به روشنی از نیازهای مبرم جامعه است تا هرج و مرج و آشفتگی ایجاد نشود.

امروزه یکی از مظاهر بارز فناوری پیشرفته، ظهور هوش مصنوعی است که جهانیان را به ویژه در چند ماه اخیر با معرفی ربات‌های گفتگوگر یا چت‌بات‌ها به خود مشغول کرده است.

این ربات‌های همه‌چیزدان حالا دیگر قادر شده‌اند تا مانند یک انسان با بشر گفتگو کنند و به سوالات ریز و درشت ما با جستجوی لحظه‌ای و تحلیل اطلاعات و پاسخ‌های موجود در فضای اینترنت پاسخ دهند. آنها در حال حاضر به جایی رسیده‌اند که حتی می‌توانند شعر بگویند یا نوشته و توصیف هر فرد از منظره یا رویدادی را به شکل عکس و ویدیو به تصویر درآورند.

اما به مانند هر چیز در دنیا، بر کسی پوشیده نیست که رعایت اخلاق در این زمینه نیز واجب است، چرا که عدم رعایت آن به معنی ایجاد هرج و مرج و ضایع شدن حق خواهد بود.

 

اخلاق هوش مصنوعی چیست و چرا اهمیت دارد؟

با گسترش هوش مصنوعی و تلاش دولت‌ها برای تطبیق ساختار و قانون با این فناوری در حال رشد، اخلاق هوش مصنوعی به عنوان یک موضوع مهم مطرح شده است که همه باید از آن آگاه باشند.

تعاریف از اخلاق هوش مصنوعی متفاوت است، اما به طور کلی، «اخلاق هوش مصنوعی» اصطلاحی است که به مجموعه وسیعی از ملاحظات برای هوش مصنوعی مسئولانه داده می‌شود که ایمنی، امنیت، نگرانی‌های انسانی و ملاحظات زیست محیطی را ترکیب می‌کند.

«اخلاق هوش مصنوعی» در دایره المعارف جهانی ویکی‌پدیا به عنوان بخشی از اخلاق فناوری انگاشته شده است که به صورت خاص به ربات و هوش مصنوعی مربوط می‌شود و در مورد نحوه رفتار و عملکرد انسان با هوش مصنوعی و بالعکس آن است. در اخلاق هوش مصنوعی به بررسی حقوق ربات‌ها و درستی یا نادرستی جایگزین شدن آن‌ها در نقش‌های انسانی پرداخته می‌شود.

این موضوع در تعریف شرکت آی‌بی‌ام(IBM) که یکی از پیشروترین شرکت‌ها در توسعه فناوری هوش مصنوعی است، به عنوان موضوعی یاد شده است که دانشمندان و پژوهشگران داده را راهنمایی می‌کند که سیستم‌های هوش مصنوعی را به شیوه‌ای اخلاقی بسازند تا به نفع تمام جامعه به عنوان یک کل باشد.

طبق تعریف این شرکت، «اخلاق» به مجموعه‌ای از اصول اخلاقی گفته می‌شود که به ما در تشخیص درست و نادرست کمک می‌کند. اخلاق هوش مصنوعی نیز مجموعه‌ای از دستورالعمل‌هایی است که در مورد طراحی و نتایج هوش مصنوعی توصیه می‌کند.

انسان‌ها با انواع سوگیری‌های شناختی و ذاتی که در رفتارهای ما نهفته است و متعاقباً در داده‌های ما ظهور و بروز پیدا می‌کند، شناخته شده‌اند و از آنجایی که داده‌ها پایه و اساس همه الگوریتم‌های یادگیری ماشینی هستند، برای ما مهم است که آزمایش‌ها و الگوریتم‌ها را با در نظر گرفتن این موضوع ساختار ببخشیم، زیرا هوش مصنوعی این پتانسیل را دارد که این سوگیری‌های انسانی را با سرعتی بی‌سابقه تقویت کند.

به گفته آی‌بی‌ام، با آشکار شدن نمونه‌هایی از نتایج ناعادلانه، تعریف دستورالعمل‌های جدیدی، عمدتاً از سوی جوامع تحقیقاتی و علم داده، برای رسیدگی به نگرانی‌های مربوط به اخلاق هوش مصنوعی توصیه شده است. شرکت‌های پیشرو در زمینه هوش مصنوعی نیز به شکل‌گیری این دستورالعمل‌ها علاقه نشان داده‌اند، زیرا خودشان شروع به تجربه برخی از عواقب ناشی از عدم رعایت استانداردهای اخلاقی در محصولات خود کرده‌اند.

عدم دقت در این زمینه می‌تواند منجر به مواجهه با عواقب پرهزینه شود و باید اطمینان پیدا کرد هوش مصنوعی از هرگونه نقض حقوق بشر و آزادی‌های مدنی اجتناب کند.

یونسکو(سازمان آموزشی، علمی و فرهنگی سازمان ملل متحد) که تلاش‌های بین‌المللی را برای اطمینان از توسعه علم و فناوری با محافظت‌های اخلاقی قدرتمند برای دهه‌ها رهبری کرده و در زمینه تحقیقات ژنتیکی، تغییرات آب و هوایی یا تحقیقات علمی، استانداردهای جهانی را برای به حداکثر رساندن مزایای اکتشافات علمی ارائه کرده است تا خطرات منفی را به حداقل برساند و تضمین کند که آنها به جهانی فراگیرتر، پایدارتر و صلح آمیز کمک می‌کنند، معتقد است که پیشرفت سریع هوش مصنوعی فرصت‌های زیادی را در سطح جهانی، از تسهیل تشخیص مراقبت‌های بهداشتی گرفته تا ایجاد ارتباطات انسانی از طریق رسانه‌های اجتماعی و ایجاد کارایی در نیروی کار از طریق انجام خودکار وظایف ایجاد کرده است.

با این حال، این تغییرات سریع، نگرانی‌های اخلاقی عمیقی را نیز ایجاد می‌کند. نگرانی‌هایی از قبیل وجود تعصب و سوگیری در هوش مصنوعی، کمک به بدتر شدن آب و هوا، تهدید حقوق بشر و موارد دیگر از جمله این نگرانی‌ها هستند.

به گفته یونسکو، این خطرات مرتبط با هوش مصنوعی از قبل، شروع به ترکیب شدن با نابرابری‌های موجود کرده‌اند که منجر به آسیب‌های بیشتر به گروه‌های در حال حاضر به حاشیه رانده شده‌اند.

به اعتقاد یونسکو در هیچ زمینه دیگری قطب‌نمای اخلاقی به اندازه هوش مصنوعی مهم و مرتبط نیست، چرا که این فناوری‌ همه منظوره، شیوه کار، تعامل و زندگی ما را بازتعریف می‌کند و از نو شکل می‌دهد. جهان قرار است با سرعتی تغییر کند که از زمان اختراع ماشین چاپ در شش قرن پیش دیده نشده است. فناوری هوش مصنوعی در بسیاری از زمینه‌ها مزایای عمده‌ای به همراه دارد، اما بدون ضامن‌های اخلاقی، خطر بازتولید تعصبات و تبعیض در دنیای واقعی، دامن زدن به شکاف‌ها و تهدید حقوق و آزادی‌های اساسی بشر را به دنبال دارد.

 

تعریف اصول برای اخلاق هوش مصنوعی

در حالی که قوانین و پروتکل‌ها برای مدیریت استفاده از هوش مصنوعی در حال توسعه هستند، جامعه دانشگاهی به دنبال هدایت اخلاق در تحقیقات تجربی و توسعه الگوریتم‌هاست. سه اصل اساسی وجود دارد که به عنوان راهنمای طراحی آزمایش‌ها و الگوریتم‌ها عمل می‌کند که عبارتند از:

احترام به افراد: این اصل استقلال افراد را به رسمیت می شناسد و انتظارات پژوهشگران را برای محافظت از افراد با خودمختاری کاهش یافته که می‌تواند به دلیل شرایط مختلف مانند بیماری، ناتوانی ذهنی و محدودیت‌های سنی باشد، حفظ می‌کند. این اصل در درجه اول بر ایده توافق و رضایت متمرکز است. افراد باید از خطرات و مزایای بالقوه هر آزمایشی که بخشی از آن هستند، آگاه باشند و باید بتوانند در هر زمانی قبل و در طول آزمایش در آن شرکت کنند یا کنار بکشند.

سودمندی: این اصل از اصول اخلاق مراقبت‌های بهداشتی و پزشکی است، جایی که پزشکان سوگند یاد می‌کنند به کسی آسیب نرسانند. این اصل را می‌توان به راحتی در هوش مصنوعی به کار برد، جایی که الگوریتم‌ها می‌توانند بر خلاف نیت و قصد انجام کارهای خوب و بهبود یک سیستم خاص، سوگیری‌ها را در مورد نژاد، جنسیت، گرایش‌های سیاسی و غیره تقویت کنند.

عدالت: این اصل به مسائلی مانند انصاف و برابری می‌پردازد. این که چه کسی باید از مزایای آزمایش و یادگیری ماشینی بهره‌مند شود.

 

نگرانی‌های اساسی در مورد هوش مصنوعی

تعدادی از مسائل وجود دارد که در خط مقدم گفتگوهای اخلاقی پیرامون فناوری‌های هوش مصنوعی قرار دارند. برخی از این موارد عبارتند از:

تکینگی تکنولوژیک: بسیاری از پژوهشگران نگران این ایده نیستند که هوش مصنوعی در آینده نزدیک از هوش انسانی پیشی بگیرد، اما با توجه به توسعه فناوری‌هایی مانند خودروهای خودران، غیرمنطقی است که فکر کنیم یک خودروی بدون راننده هرگز دچار سانحه رانندگی نمی‌شود، اما در صورت وقوع حادثه چه کسی مسئول است؟

هنوز چندان درباره این موضوعات صحبت نمی‌شود، اما این‌ها انواع بحث‌های اخلاقی هستند که با توسعه فناوری جدید و خلاقانه هوش مصنوعی در حال بروز هستند.

تاثیر هوش مصنوعی بر مشاغل: در حالی که بسیاری از تصورات عمومی در مورد هوش مصنوعی به از دست دادن شغل متمرکز است، این نگرانی احتمالاً باید اصلاح شود. با ظهور هر فناوری جدید با پتانسیل مخرب بودن و آثار سوء، می‌بینیم که تقاضای بازار برای نقش‌های شغلی خاص تغییر می‌کند. به عنوان مثال، وقتی به صنعت خودرو نگاه می‌کنیم، بسیاری از تولیدکنندگان روی تولید خودروهای الکتریکی تمرکز می‌کنند تا با ابتکارات سبز هماهنگ شوند. در واقع صنعت انرژی از بین نمی‌رود، اما منبع انرژی از مصرف سوخت به سمت برق می‌رود.

هوش مصنوعی باید به روشی مشابه مورد بررسی قرار گیرد. هوش مصنوعی تقاضای مشاغل را به مانند همین مثالی که زده شد، تغییر می‌دهد. با رشد و تغییر هر روز داده‌ها، باید افرادی وجود داشته باشند که به مدیریت این سیستم‌ها کمک کنند. بنابراین جنبه مهم هوش مصنوعی و تأثیر آن بر بازار کار، کمک به انتقال افراد به این حوزه‌های جدید تقاضا در بازار خواهد بود.

حریم خصوصی: حریم خصوصی معمولاً در زمینه حفظ حریم شخصی داده‌ها، حفاظت از اطلاعات و امنیت داده‌ها مورد بحث قرار می‌گیرد و این نگرانی‌ها به سیاست گذاران اجازه داده است در سال‌های اخیر گام‌های بیشتری در این حوزه بردارند. به عنوان مثال در سال ۲۰۱۶، قانون GDPR برای محافظت از داده‌های شخصی افراد در اتحادیه اروپا و منطقه اقتصادی اروپا ایجاد شد و به افراد کنترل بیشتری بر داده‌های خود داد. در ایالات متحده، ایالت‌های جداگانه در حال توسعه سیاست‌هایی مانند قانون حفظ حریم خصوصی مصرف کنندگان کالیفرنیا(CCPA) هستند که از کسب و کارها می‌خواهد مصرف‌کنندگان را در مورد جمع‌آوری داده‌های خود آگاه کنند.

این قانون اخیر شرکت‌ها را مجبور کرده است که در نحوه ذخیره و استفاده از داده‌های شناسایی شخصی(PII) تجدید نظر کنند. در نتیجه، سرمایه‌گذاری در حوزه امنیت به اولویت فزاینده‌ای برای کسب ‌و کارها تبدیل شده است، زیرا آنها به دنبال حذف هرگونه آسیب‌پذیری و فرصت‌هایی برای نظارت، هک و حملات سایبری هستند.

تعصب و تبعیض: مواردی از تعصب و تبعیض در تعدادی از سیستم‌های هوش مصنوعی، سوالات اخلاقی زیادی را در مورد استفاده از این فناوری ایجاد کرده است. چگونه می‌توانیم در برابر سوگیری و تبعیض هوش مصنوعی از خود محافظت کنیم، در حالی که خودِ داده‌های آموزشی می‌توانند خود را در معرض سوگیری قرار دهند؟

نمونه‌هایی از وجود تبعیض و تعصب در سیستم‌های هوش مصنوعی مورد استفاده شرکت‌های بزرگ فناوری دیده شده است و همچنین می‌توان آن را در تعدادی از برنامه‌های کاربردی از نرم افزارهای تشخیص چهره گرفته تا الگوریتم‌های شبکه‌های اجتماعی یافت.

در مجموع، همین طور که کسب ‌و کارها از خطرات هوش مصنوعی آگاه‌تر می‌شوند، بحث رعایت اخلاق و ارزش‌ها توسط هوش مصنوعی نیز فعال‌تر می‌شود.

مسئولیت: از آنجایی که قانون قابل توجهی برای تنظیم شیوه‌های استفاده از هوش مصنوعی وجود ندارد، هیچ مکانیسم اجرایی واقعی برای اطمینان از اجرای اخلاقی هوش مصنوعی وجود ندارد. برای پر کردن این شکاف، چارچوب‌های اخلاقی به عنوان بخشی از همکاری بین اخلاق‌شناسان و پژوهشگران برای کنترل ساخت و توزیع مدل‌های هوش مصنوعی در جامعه پدیدار شده‌اند. با این حال آنها در حال حاضر فقط برای راهنمایی هستند و ضمانت اجرایی ندارند.

 

نحوه ایجاد اخلاق هوش مصنوعی

از آنجایی که هوش مصنوعی ماشین‌های اخلاق‌گرایی را به وجود نیاورده است، تیم‌های پژوهشی شروع به جمع‌آوری چارچوب‌ها و مفهومی برای حل برخی از نگرانی‌های اخلاقی فعلی و شکل دادن به آینده‌ی کاری در این زمینه کرده‌اند. در حالی که هر روز موارد بیشتری به این دستورالعمل‌ها تزریق می‌شود، در مورد ترکیب آنها در موارد زیر توافق نظر وجود دارد:

حاکمیت: شرکت‌ها می‌توانند از ساختار سازمانی موجود خود برای کمک به مدیریت هوش مصنوعی اخلاقی استفاده کنند.

قابلیت توضیح: از مدل‌های یادگیری ماشینی به‌ ویژه مدل‌های یادگیری عمیق، اغلب به عنوان «مدل‌های جعبه سیاه» یاد می‌شود، زیرا معمولاً مشخص نیست که یک مدل چگونه به یک تصمیم خاص می‌رسد. قابلیت توضیح به دنبال رفع این ابهام در مورد ایجاد یک مدل و خروجی‌های آن با ایجاد یک توضیح قابل فهم انسانی است که منطق ماشین را بیان می‌کند.

این نوع شفافیت برای ایجاد اعتماد با سیستم‌های هوش مصنوعی مهم است تا اطمینان حاصل شود که افراد درک ‌کنند یک مدل چگونه و چرا به یک نقطه تصمیم‌گیری می‌رسد. اگر بتوانیم دلیل آن را بهتر درک کنیم، برای جلوگیری از خطرات هوش مصنوعی، مانند تعصب و تبعیض مجهزتر خواهیم شد.

دستیابی به هوش مصنوعی اخلاقی بدون شک برای موفقیت آن مهم خواهد بود و توجه به این نکته مهم است که هوش مصنوعی پتانسیل فوق العاده‌ای برای تأثیرگذاری بر جامعه دارد.

شرکت آی‌بی‌ام مجموعه‌ای از مناطق تمرکز را برای هدایت و پذیرش مسئولانه فناوری‌های هوش مصنوعی ایجاد کرده است که شامل موارد زیر است:

توضیح پذیری: یک سیستم هوش مصنوعی باید شفاف باشد.

انصاف: انصاف به رفتار عادلانه افراد یا گروه‌هایی از افراد توسط یک سیستم هوش مصنوعی اشاره دارد. وقتی هوش مصنوعی به درستی تنظیم شود، می‌تواند به انسان در انتخاب‌های منصفانه‌تر و مقابله با تعصبات انسانی کمک کند.

استحکام: سیستم‌های مجهز به هوش مصنوعی باید به طور فعال در برابر حملات متخاصم، به حداقل رساندن خطرات امنیتی و ایجاد اطمینان در نتایج سیستم محافظت شوند.

شفافیت: برای تقویت اعتماد، کاربران باید بتوانند نحوه عملکرد سرویس را ببینند، عملکرد آن را ارزیابی کنند و نقاط قوت و محدودیت‌های آن را بشناسند.

حریم خصوصی: سیستم‌های هوش مصنوعی باید حریم خصوصی و حقوق مصرف‌کنندگان را در اولویت قرار دهند و از آن محافظت کنند و به کاربران در مورد نحوه استفاده و حفاظت از داده‌های شخصی آنها اطمینان صریح ارائه دهند.

سخن پایانی

امروزه از آنجایی که افراد از همه طبقات جامعه شاهد تاثیر هوش مصنوعی در زندگی و شغل خود هستند، اخلاق هوش مصنوعی برای اکثر مردم به بخش مهمی از سواد هوش مصنوعی تبدیل شده است. اخلاق هوش مصنوعی در حال حاضر در برخی دبیرستان‌ها و همچنین در دوره‌های هوش مصنوعی در دوره‌های تجاری حرفه‌ای تدریس می‌شود و با رایج شدن قوانینی مانند قانون هوش مصنوعی، می‌توان انتظار داشت که دانش اخلاق هوش مصنوعی به جریان اصلی تبدیل شود.

ایسنا