دانشمندان چارچوبی جدید هوش مصنوعی را برای جلوگیری از بد رفتاری ماشین ها ایجاد کردند

محققان دانشگاه ماساچوست  و استنفورد ادعا می كنند كه چارچوبی الگوریتمی تهیه كرده اند که ماشین ها بد رفتاری نمی کنند

اما به نظر ابن سخن بر گرفته از دیالوگ های یک فیلم علمی تخیلی است

این چارچوب از الگوریتم های “Seldonian” استفاده می کند ،

که برای شخصیت اصلی سریال “بنیاد” اسحاق آسیموف نامگذاری شده است

، شخصیتی از دنیای داستانی که در آن ابتدا “قوانین روباتیک” نویسنده توضیح داده شده است.

طبق تحقیقات تیم ، معماری سلدونیایی به توسعه دهندگان این امکان را می دهد

تا شرایط عملیاتی خود را برای جلوگیری از عبور سیستم ها از آستانه های خاص در حین آموزش یا بهینه سازی ، مشخص کنند.

در اصل ، به توسعه دهندگان اجازه می دهد تا سیستم های هوشمند را از آسیب یا تبعیض در برابر انسان خودداری کنند.

سیستم های یادگیری عمیق همه چیز را از تشخیص چهره گرفته تا پیش بینی های بازار سهام قدرت می دهند.

در بیشتر موارد ، مانند تشخیص تصویر ، مهم نیست که ماشین ها تا زمانی که صحیح باشند به نتیجه گیری می رسند.

اگر یک هوش مصنوعی بتواند گربه ها را با دقت 90 درصد تشخیص دهد ، ما احتمالاً موفقیت را در نظر می گیریم.

اما وقتی مسئله از اهمیت بیشتری برخوردار می شود ،

مانند الگوریتم هایی که پیش بینی کننده دوز دارو به صورت خودکار هستند

این هوش مصنوعی است که به صورت خودکار و بدون خطا دوز دارو را تشخیص می دهد.

کنترل بد رفتاری ماشین تا کنون

برای این منظور ، محققان از چارچوب الگوریتم سلدونیایی خود برای ایجاد یک سیستم هوش مصنوعی استفاده می کنند

که انسولین را در بیماران دیابتی نظارت و توزیع می کند و دیگری که معیارهای مربوط به بیماران را پیش بینی می کند ، استفاده می کنند.

در گذشته ، محققان چارچوب سلدونیایی را تأمین می كردند كه این سیستم ضمن یادگیری بهینه سازی دوز ،

بیماران را دچار حادثه نمی کرد. و در آخر ،دانشمندان به دنبال جلوگیری از بد رفتاری ماشین بودند