یک هوش مصنوعی قدرتمند مانند غول چراغ جادو است و یک درخواست اشتباه می تواند اشکالات خاصی را به بار بیاورد

یکی از ایراد هایی که به هوش مصنوعی وارد است این است که چون تمامیت کارها را انجام می دهد

دقت انسان از درخواست های خود را می کاهد و می توانیم ضربه ای سخت از این درخواست ها بخوریم

برای مثال شما تصمیمی می گیرید و به واسطه هوش مصنوعی توانایی انجام آن را دارید

بعد از انجام شدن این کار امکان دارد پیامد هایی وجود داشته باشد

که بخاطر هوش مصنوعی به وجود آمده اند چون بدون تفکر انجام پذیرفته اند

راه حل این اشکالات چیست؟

در حال حاضر روش استفاده از هوش مصنوعی قشار زیادی را بر روی طراحان اعمال می کند

جنبه اصلی مشکل این است که انسانها اغلب نمی دانند چه اهدافی را به سیستم های هوش مصنوعی خود ارائه دهیم

هنگامی که برنامه نویسان سعی می کنند تمام اهداف و ترجیحی که یک ماشین روباتیک باید همزمان داشته باشد را لیست کند ،

به ناچار لیست به طور ناقص تمام می شود

زیرا برنامه نویسان نمی دانند که چه طور در خواست را کامل کنند

محققان برای جلوگیری از این مشکلات و حل مشکل AI به طور بالقوه ، روش کاملاً جدیدی برای برنامه نویسی ماشینهای مفید را آغاز کرده اند.

این رویکرد بیشترین ارتباط را با ایده ها و تحقیقات استوارت راسل ، دانشمند رایانه در برکلی دارد.

راسل ، 57 ساله ، کارهای پیشگامانه در مورد عقلانیت ، تصمیم گیری و یادگیری ماشین در دهه 1980 و 90s انجام داد

و نویسنده اصلی کتاب درسی هوش مصنوعی: یک رویکرد مدرن است که به طور گسترده مورد استفاده قرار می گیرد

در پنج سال گذشته ، او به یک صدای تأثیرگذار در مسئله همسویی و چهره ای همه گیر

در جلسات و پانل های بین المللی در مورد خطرات و حکمرانی طولانی مدت هوش مصنوعی تبدیل شده است.

تفکر جدید می گوید به جای ماشینهایی که اهداف خود را دنبال می کنند ،

آنها باید به دنبال ارضای ترجیحات انسانی باشند.

تنها هدف آنها باید این باشد که اطلاعات بیشتری درباره موارد برگزیده ما کسب کنند