آیا می توان هوش مصنوعی را بوسیله اقدام منصفانه با مردم وادار کرد؟

این روزها به دیدن می رسد هوش بدلی تقریبا از پس انجام هرکاری برمی آید. این ادوات می تواند جهان ما را مثل سازی یواش و مکعب روبیک را با یک دست محلول کندو تا اینکه ارواح پنهان تو ژنوم اجداد پیشین ما را همچنین کشف و شناسایی کند.

البته توقع می شود تمامی این صعود ها برای منافع بشر لباس می گیرند؛ ولی آیا ممکن است این ادعا صحت نداشته باشد؟ در سال های اخیر، شاهد آن بوده ایم که بسیاری از جهیز های الگوریتمی که با آن ها سروکار داشته ایم، درمعرض خطرهایی همانند سوگیری های عمدی و غیرعمدی بوده اند. این سیستم ها پیش نمدار داخل پیش دماغ عارضه منکر با مشکلاتی مانند تبعیض نژادی مواجه شده اند و تا اینکه داخل اعتباردهی مشتریان متفاوت با جنسیت مرد یا زن نیز با اتهامات مذاکره برانگیزی مشت به گریبان بوده اند.

حال استفسار اینجا است که چگونه دانشمندان تضمین می دهند چنین سیستم هایی در آینده می توانند با «عدالت» رفتار کنند یا مهم نمدار اینکه «ایمن» باشند؟

پژوهشگران دانشگاه ماساچوست بوسیله لطافت تجسس ی انجام داده اند که فصیح می تواند پاسخی بخاطر پرسش یادشده ارائه کند. آن ها چهارچوبی تحسین کرده اند که می تواند از بروز رفتارهایی از ماشین ها جلوگیری یواش که به زعم آن ها «رفتارهای نامطلوب» به شمار می آید. فیلیپ توماس، پژوهشگر یادگیری ماشین می گوید:وقتی الگوریتم یادگیری ماشین به کار گرفته می شود، کنترل رفتار آن دشوار خواهد بود. ازآنجاکه تأثیر الگوریتم های ماشینی روی زندگی ما همواره بیش تر و بیش تر می شود، م عمده است که بتوانیم از تضمین عدل و اجتناب از هرگونه آسیب این سیستم ها مطمئن شویم.



درواقع، قاب یادشده که پژوهشگران بوسیله کمک آن توانسته اند انواع جدیدی از الگوریتم های درس ماشین را توسعه دهند، درک فطری از مفاهیمی مانند اخلاق وانصاف را به شعور مصنوعی اماله نمی کند؛ بلکه تنها به پژوهشگران معاون می بطی ء خود رفتارهای نامطلوب سیستم را لحظه طراحی هسته های الگوریتم ستایش و تدوین کنند.

تو هسته ی این سیستم جدید، الگوریتم هایی حضور دارند که با نام الگوریتم های سلدونین (Seldonian) شناخته می شوند؛ اسمی که برگرفته از یکی از شخصیت های اصلی سری رمان های علمی تخیلی اسمی «ماخذ» پی آیزاک آسیموف است. این الگوریتم ها تنها برای آن مدل سازی نشده اند که از اخلاقی بودن عملیات سامان مطمئن شوند؛ بلکه با آن ها می استعداد هرگونه رفتاری حتی مشتمل به خشکی امدن جوانب پیچیده ی کنف جهیز های پزشکی را نیز کنترل کرد. توماس ادامه می دهد:چنانچه مثلا در حال استفاده از الگوریتم سلدونین تو درمان دیابت باشم، می توانم اقدام نامطلوب را به عارض سطح پایین قندخون یا هیپوگلیسمی ستایش کنم و بوسیله ماشین بگویم که «وقتی داخل حال بهبود کنترلگر تو پمپ انسولین هستی، تغییراتی انجام نده که جهت اضافه دفعات رخداد هیپوگلیسمی شود». بیشتر الگوریتم ها راهکاری بخاطر اعمال چنین محدودیت هایی در رفتار ماشین ارائه نمی کنند و تو طراحی های پیشین این طور امکانی لحاظ نشده بود.

در بخشی از مطالعات، پژوهشگران توانستند عملا از این الگوریتم سلدونین بخاطر کنترل پمپ انسولین خودکار استفاده کنند. با این روش، آن ها موفق شدند راهکاری میان کنار برای گلچین استاندارد دُز انسولین سزاوار سرزنش تزریق بوسیله فرد را براساس داده های اندازه گیری گلوکوز خون همان فرد بیابند. همچنین در آزمایشی دیگر، آن ها الگوریتمی ترقی دادند که می توانست متوسط تشخیص ی عملکرد دانش آموزان را بدون هرگونه تبغیض جنسیتی پیش بینی کند؛ روند ای که بسیاری از الگوریتم های پیشین را به برهان همین سیلان به دردسر انداخته حیات.

پژوهشگران تأکید می کنند این آزمایش ها فقط مدرکی برای اثبات توانمندی های الگوریتم های سلدونین به احصائیه می آیند و تمرکز اصلی امر همچنان معطوف بوسیله ترقی ی خود چهارچوب است؛ چهارچوبی که دانشمندان دیگر هم بتوانند از آن برای ساخت سیستم های درایت مصنوعی داخل آینده بهره ببرند. توماس می افزاید:مقاله های مرتبط:سوگیری عمدی در فهمیدن جعلی چگونه به ما آسیب می رساندجایگاه اخلاق داخل هوش مصنوعی چیست؟خطرات کنونی هوش مصنوعی و طرز های مقابله با آن

معتقدیم هنوز جای یدکی بخاطر بهبود در این عرصه بود دارد. با اینکه الگوریتم های ما از مؤلفه های میسر ای تشکیل شده بود، نتایج به دست آمده زیاد تأثیرگذار بودند. امیدواریم پژوهشگران حوزه ی یادگیری ماشین با مصرف از قاب ما بتوانند الگوریتم های جدیدتر و مبهم تازگی ساختن کنند؛ الگوریتم هایی که بتوانند بوسیله شکلی مسئولانه برای کاربری هایی بوسیله کار جریان که پیش ازاین استفاده از یادگیری ماشین در آن ها بسیار مخاطره آمیز بوسیله حساب می آمد.

یافته های اخیر درون قالب مقاله ای در ژورنال علمی ساینس منتشر شده است.بیشتر بخوانید:آیا فهم بدلی می تواند طنز را درک کند؟نگاهی بوسیله هوش مصنوعی اینستاگرام داخل پیشنهادهای حصه اکسپلورهوش بدلی نویسنده همکار تو نمایشنامه های شکسپیر را شناسایی کردبزرگترین خراش دنیا، قلب تپنده ی زننده ترین رایانه هوش مصنوعی جهان می شودONNX مایکروسافت بوسیله مبنا لینوکس می پیوندد