اینستاگرام و بستر رسانه های اجتماعی قبل از ارسال ، اظهارات احتمالاً توهین آمیز را پرچم گذاری می کنند
و از پوست گذار می خواهند که تجدید نظر کند.
سوء استفاده آنلاین به دلیل مقیاس و تفاوت های آن همیشه مسئله پیچیده ای بوده است.
آنچه که سانسور را ارزشمند می کند،یک بحث دائمی است .
اگر بیش از حد فیلتر کنید امکان خودآرایی را نقض می کند.
و اگر خیلی کم فیلتر کنید یک محیط خصمانه ایجاد می کند.
به پیچیدگی زبانها ، فرهنگ ها و هنجارهای مختلف می افزایید و این واقعاً یک چالش نا مناسب است.
به همین دلیل است که سیستم عامل های رسانه های اجتماعی مانند فیس بوک به هوش مصنوعی روی آورده اند
تا به آنها کمک کنند تا حجم پست ها و نظرات خود را مرتب سازی کنند.
اما زبان همیشه برای هوش مصنوعی بسیار دشوار بوده است –
چیزهای ساده مانند ورود مضاعف ، طعنه گری یا حتی اشتباهات غلط می توانند یک سیستم را به اشتباه سوق دهند.
برای پی بردن به این موضوع ، فیس بوک هزاران تعدیل کننده محتوا را به کار می گیرد
تا وقتی الگوریتم های آن نتوانند یک تماس داوری نهایی برقرار کنند ، قدم به میدان بگذارند.
تحقیقات نشان می دهد که این مشاغل اغلب بی رحمانه و وحشیانه هستند.
تحقیقات نشان می دهد که این مشاغل اغلب بی رحمانه و وحشیانه هستند.
اینستاگرام که متعلق به فیس بوک است ، اکنون سعی دارد رویکرد جدیدی را تجربه کند. به جای اینکه تنها به الگوریتم های خود برای سانسور مواد توهین آمیز تکیه کند ، به خودسانسوری کاربران نیز روی آورده. به عنوان یک نظر در حال ارسال ، اگر مدل AI سیستم عامل آن را مضر اعلام کند ، پوستر یک پنجره بازشو را مشاهده می کند که می پرسد “مطمئنید که می خواهید این را ارسال کنید؟”
مطابق اعلامیه وبلاگ دیروز ، اینستاگرام در آزمایشات اولیه ، بسیاری از افراد را ترغیب کرد که نظرات خود را لغو کنند. این یک تاکتیک هوشمندانه است که سعی کنید مقداری از فشارهای تعدیل کننده محتوای انسانی را کاهش دهید بدون اینکه محدود کننده باشد.
این اولین بار نیست که اینستاگرام از هوش مصنوعی برای تمیز کردن زبان استفاده می کند. در ژوئن سال 2017 ، آن را نیز با استفاده از یادگیری ماشین برای جلوگیری از بدترین سوء استفاده ها ، یک فیلتر تفسیر توهین آمیز را راه اندازی کرد. این سیستم عامل از آن زمان به بهبود مدل یادگیری ماشین خود ادامه داده است ، که به احتمال زیاد با استفاده از میلیون ها نقطه داده ایجاد شده توسط کاربران هنگام گزارش اظهار نظر در گذشته پیش می رود. آخرین ویژگی همچنین از کاربران می پرسد که آیا این اظهار نظر را اشتباه اعلام کرده اند ، حلقه بازخورد دیگری که می تواند داده های آموزشی مفیدی را ایجاد کند، و به ایستاگرام اطلاع دهند
