به نقل از «ایران آنلاین»

شرکت های فناوری در ردیابی ایموجی های نژاد پرستانه شکست خوردند

تاریخ انتشار: ۲۴ مرداد ۱۴۰۰ | کد خبر: ۳۲۸۲۳۴۳۶

گزارشی جدید نشان می دهد الگوریتم هایی که شرکت های فناوری برای شناسایی محتوای نژاد پرستانه توسعه داده اند قادر به ردیابی پست های توهین آمیز حاوی ایموجی نیستند.

تحقیقی در دانشگاه آکسفورد نشان می‌دهد شرکت‌های فناوری به دلیل وجود ایموجی‌ها نمی‌توانند برخی پست‌های محتوای نژاد پرستانه را شناسایی کنند.

به گفته کارشناسان الگوریتم‌هایی که گوگل توسعه داده در شناسایی و مسدود کردن محتوای نژاد پرستانه همراه با ایموجی فقط ۱۴ درصد کارآمد است.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

ایموجی‌ها می‌توانند نرم افزار را فریب دهند که محتوای مذکور اهانت آمیز نیست.

محققان انستیتو «اینترنت آکسفورد» در پژوهش خود متوجه شدند فناوری که برای مسدود کردن پست‌های توهین آمیز یا حاوی نفرت در فضای آنلاین توسعه یافته، بیشتر اوقات نمی‌تواند پیام‌هایی که حاوی ایموجی هستند را شناسایی کند.

ایموجی‌های معمولی مانند سمبل‌های میمون، موز و هندوانه بیشتر با محتوای نفرت پراکنی نژاد پرستانه همراه هستند.

پس از شکست تیم فوتبال انگلیس از ایتالیا در فینال مسابقات اروپا، ۳ بازیکن سیاهپوست تیم انگلیس با انبوهی از محتوای نژاد پرستانه از جمله ایموجی‌ها روبرو شدند.

محققان آکسفورد متوجه شدند فناوری‌های فعلی بازبینی محتوا به طور مداوم اشتباه می‌کنند و ایموجی‌ها را توهین آمیز نمی‌دانند. زیرا نرم افزار هوش مصنوعی به کار گرفته شده برای الگوریتم‌های مذکور برای شناسایی چنین ایموجی هایی برنامه ریزی نشده است.

در ماه جولای آدام موسری مدیر اینستاگرام اعتراف کرد این اپ در ردیابی کامنت های توهین آمیزی که برای بازیکنان فوتبال ارسال شده، شکست خورده است.

از سوی دیگر هفته گذشته توئیتر اعلام کرد ۱۶۲۲ پست توهین آمیز که طی فینال مسابقات فوتبال اروپا ارسال شده بوده را حذف کرده است./مهر

منبع: ایران آنلاین

کلیدواژه: توهین آمیز ایموجی ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ion.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ایران آنلاین» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۲۸۲۳۴۳۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

اقدام کمیسیون اروپا علیه فیس بوک و اینستاگرام

اتحادیه اروپا از فیس‌بوک و اینستاگرام به اتهام اقدامات گسترده و موارد مشکوک به نقض قانون خدمات دیجیتالی، از جمله عدم اقدامات کافی برای محافظت از کاربران در برابر انتشار اطلاعات نادرست خارجی در آستانه انتخابات سراسری اروپایی تحقیق می‌کند. - اخبار بین الملل -

به گزارش گروه بین‌الملل خبرگزاری تسنیم به نقل از روزنامه "دی پرسه"، کمیسیون اتحادیه اروپا پرونده شرکت متا، (شرکت مادر فیس بوک و اینستاگرام) را بازگشایی کرده است. این پرونده در مورد نقض احتمالی "قانون خدمات دیجیتال" و قوانین حفاظت از داده اتحادیه اروپا است.

به این ترتیب کمپین روسی "صدای اروپا" که هدفش به اذعان بروکسل پر کردن اروپا از ایدئولوژی پوتین با کمک کمپین های اطلاعات نادرست بود، پیامدهایی برای متا (مادر فیسبوک و اینستاگرام) داشته است. کمیسیون اتحادیه اروپا می خواهد موارد نقض احتمالی قوانین خود از طریف این شرکت را بررسی کند. در اینجا مسئله مدیریت متا با تبلیغات سیاسی مطرح است. گفته می شود که این شرکت نتوانسته است از انتشار اطلاعات نادرست هدفمند بخصوص از طرف روسیه جلوگیری کند.

کمیسیون کمپین به اصطلاح دوپلگانگر را هدف قرار داده است. به ادعای بروکسل کمپین با تقلید از منابع خبری معروف و معتبر، اینترنت را پر از محتوای تبلیغاتی در حمایت از سیاست های ولادیمیر پوتین، رئیس جمهور روسیه کرد.

کمیسیون اروپا در بیانیه ای اعلام کرد که تحقیقات قانون خدمات دیجیتال (DSA) سیاست ها و شیوه های شرکت متا را در رابطه با تبلیغات گمراه کننده و محتوای سیاسی در آستانه انتخابات اروپا در ژوئن بررسی خواهد کرد. البته روسیه به طور خاص ذکر نشده است.

اورسولا فون در لاین، رئیس کمیسیون اتحادیه اروپا، در بیانیه‌ای گفت: طبق قوانین اتحادیه اروپا، شرکت‌های فناوری باید از انتشار محتوای خطرناک جلوگیری کنند، در غیر این صورت با جریمه‌های سنگین مواجه می‌شوند. وی تاکید کرد: این کمیسیون ابزارهایی را برای محافظت از شهروندان اروپایی در برابر اطلاعات نادرست و دستکاری هدفمند توسط کشورهای ثالث ایجاد کرده است.

متا اکنون پنج روز کاری فرصت دارد تا قبل از ادامه این روند، به نگرانی های اتحادیه اروپا پاسخ دهد.

سال گذشته کمیسیون اروپایی علیه X (توئیتر سابق) در یک پرونده مشابه بررسی نحوه مدیریت پلتفرم ایلان ماسک با محتوای غیرقانونی و اطلاعات نادرست، به ویژه در ارتباط با حملات حماس به اسرائیل در 7 اکتبر را آغاز کرد.

کمیسیون اروپایی تاکید کرد: شروع این رویه صرفاً یک شبهه را بررسی می‌کند و ارزیابی اولیه مرجع هنوز نتیجه نهایی را نشان نمی‌دهد. کمیسیون اعلام کرد که به جمع آوری شواهد، به عنوان مثال از طریق مصاحبه، ادامه خواهد داد. علاوه بر این، کمیسیون اتحادیه اروپا از نظر تئوری می تواند امتیازات متا را بپذیرد.

در ماه اکتبر، تیری برتون، کمیسر صنعت اتحادیه اروپا به فیس بوک در مورد محتوای بیش از حد تحریف شده در این پلتفرم در ارتباط با انتخابات اروپا هشدار داد. برتون نوشت که می‌خواهد فوراً در مورد جزئیات اقدامات فیس بوک برای جلوگیری از جعل، از جمله با توجه به انتخابات آتی در اتحادیه اروپا مطلع شود. پارلمان اروپا در تابستان مجدداً انتخاب خواهد شد.

بروکسل از زمان اجرایی شدن قانون خدمات دیجیتال در سال گذشته، در حال مقابله با نفوذ روزافزون شرکت‌های فناوری بوده و تحقیقاتی را در مورد سایت‌های شبکه اجتماعی تیک‌تاک و ایکس (توییتر سابق)  آغاز کرده است. تیک‌تاک هفته گذشته در برابر فشار اتحادیه اروپا تسلیم شد و پس از اینکه کمیسیون از این پلتفرم درباره یک ویژگی پاداش در اپلیکیشن جدیدش، پاسخ خواست، ویژگی جدید را متوقف کرد.

اتحادیه اروپا همچنین ظنین است که فیس‌بوک و اینستاگرام ممکن است امکان مشاهده محتوا در فیدهای توصیه‌ای محتوای سیاسی از حساب‌هایی را که حجم زیادی از این دست محتوا را منتشر می‌کنند کاهش دهند و در این باره با کاربران شفاف نباشند که نقض قانون خدمات دیجیتال خواهد بود.

انتهای پیام/