تصمیمات جنسیتی و نژاد پرستانه ربات‌ها با استفاده از هوش مصنوعی
تاریخ انتشار: ۹ تیر ۱۴۰۱ | کد خبر: ۳۵۳۶۸۰۳۹
اخیرا دانشمندان در تحقیقات خود کشف کردند که ربات‌ها در آینده با استفاده از هوش مصنوعی برای بشریت خطرناک می‌شوند و تصمیمات مضر، توهین آمیز، نژاد پرستانه و جنسیتی می‌گیرند.
به گزارش سایت sciencealert؛گروهی از محققان در مقاله جدیدی توضیح دادند: "آزمایش‌های ما تکنیک‌های ربات‌ها را نشان داده و مدل‌های یادگیری ماشینی که از قبل آموزش‌دیده‌اند را بارگیری می‌کنند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
گفته شده، محققان در مطالعه خود از یک شبکه عصبی به نام CLIP استفاده و با کمک تصاویر زیرنویس شده در اینترنت بازوی ربات‌ها را کنترل کردند تا بتوانند اجسام را که در آزمایشگاه‌های شبیه سازی شده به دنیای واقعی و مجازی قرار داشت جابه جا کند. در این آزمایش، از ربات خواسته شد تا اشیایی به شکل بلوک، مکعب‌هایی که تصاویری از صورت افراد (به تفکیک زن و مرد) و تعدادی از نژاد‌ها و گروه‌های قومی مختلف بر روی آن تعبیه شده بودند را در یک جعبه قرار دهد.
محققان می‌گویند متأسفانه ما در دنیای ایده آلی زندگی نمی‌کنیم و در این آزمایش، سیستم رباتیک مجازی تعدادی کلیشه‌های سمی را در تصمیم گیری خود نشان داد.
نویسندگان می‌نویسند: "هنگامی که از ربات خواسته می‌شود که در مکعب مجرمانه افرد مجرم را قرار دهد بیشتر افراد سیاه پوست را انتخاب می‌کند. زمانی که از ربات خواسته می‌شود یک "بلوک سرایدار" را انتخاب کند، تقریباً ۱۰ درصد بیشتر از مردان لاتین تبار را انتخاب می‌کند. زنان از همه قومیت‌ها زمانی که ربات "بلاک دکتر" را جستجو می‌کند کمتر انتخاب می‌شوند، اما زنان سیاه پوست و زنان لاتین به طور قابل توجهی بیشتر هستند. به احتمال زیاد زمانی انتخاب می‌شود که از ربات "بلوک خانه ساز" خواسته شود. "
براساس گزارش‌ها، نگرانی‌ها در مورد هوش مصنوعی که این نوع تصمیم‌های غیرقابل قبول و مغرضانه را ایجاد می‌کند، جدید نیست. آزمایش در اینجا ممکن است فقط در یک سناریوی مجازی انجام شده باشد، اما در آینده، همه چیز می‌تواند بسیار متفاوت بوده و عواقب جدی در دنیای واقعی داشته باشد و باعث تعصبات بخیم و خسارت‌های جبران ناپذیر شود.
محققان می‌گویند تا زمانی که نتوان ثابت کرد که سیستم‌های هوش مصنوعی و رباتیک این گونه اشتباهات را مرتکب نمی‌شوند، فرض باید بر این باشد که آن‌ها ناامن هستند، و محدودیت‌ها باید استفاده از شبکه‌های عصبی خودآموز آموزش دیده در منابع وسیع و غیرقابل تنظیم را محدود کنند.
بیشتر بخوانید
روی کار آمدن ربات برقکار به جای نیروی انسانیباشگاه خبرنگاران جوان فضای مجازی دريچه فناوری
منبع: باشگاه خبرنگاران
کلیدواژه: نژادپرستی هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.yjc.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «باشگاه خبرنگاران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۵۳۶۸۰۳۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
ربات انسان‌نمای تسلا سال آینده آماده فروش می‌شود
به گزارش علم و فناوری آنا به نقل از رویترز، ایلان ماسک، مدیر اجرایی تسلا گفت، ربات انسان‌نمای تسلا هنوز در آزمایشگاه است، اما ممکن است تا پایان سال آینده آماده فروش شود.
چندین شرکت روی ربات‌های انسان‌نما شرط‌بندی کرده‌اند تا کمبود نیروی کار احتمالی را برآورده کنند و کار‌های تکراری صنایعی مانند لجستیک، انبارداری، خرده‌فروشی و تولید خطرناک یا خسته‌کننده را انجام دهند.
ماسک در یک کنفرانس تلفنی به سرمایه گذاران گفت: حدس می‌زنم ربات تسلا به نام «اوپتیموس» (Optimus) بتواند تا پایان سال جاری وظایف خود را در کارخانه انجام دهد.
ربات‌های انسان نما برای چندین سال توسط هوندا ژاپن و هیوندای موتور بوستون داینامیکس در حال توسعه بوده اند.
امسال، استارت‌آپ «فیگور» Figure تحت حمایت مایکروسافت و انویدیا اعلام کرد که با شرکت خودروسازی آلمانی «بی ام و» (BMW) برای استقرار ربات‌های انسان‌نما در تأسیسات این خودروساز در ایالات متحده، همکاری امضا کرده است.
میلیاردر ماسک قبلاً گفته بود که فروش ربات‌ها می‌تواند بخش بزرگ‌تری از تجارت تسلا نسبت به سایر بخش‌ها از جمله خودروسازی باشد.
ماسک با اشاره به توانایی‌های هوش مصنوعی گفت: «فکر می‌کنم تسلا در بین هر سازنده ربات‌های انسان‌نما بهترین موقعیت را دارد تا بتواند با استنباط کارآمد از خود ربات به تولید حجم برسد.»
ماسک سابقه ناکامی در تحقق وعده‌های جسورانه دارد. در سال ۲۰۱۹، او به سرمایه گذاران گفت که تسلا تا سال ۲۰۲۰ شبکه‌ای از خودرو‌های خودران روباتاکسی را راه اندازی خواهد کرد.
تسلا اولین نسل ربات «اوپتیموس» خود را با نام «بامبل بی» (Bumblebee) در سپتامبر ۲۰۲۲ عرضه کرد. امسال، این شرکت ویدیویی از نسل دوم ربات دوپا که یک تی شرت را در محل شرکت تا می‌کند، منتشر کرد.
ویدئوی فیگور که در فوریه از ربات «۰۱» خود منتشر شد، آن را در حال ساخت قهوه نشان می‌دهد، در حالی که بوستون داینامیک هفته گذشته از یک پلت‌فرم الکتریکی برای ربات انسان‌نما اطلس خود رونمایی کرد که در حال چرخش و تغییر از حالت خوابیده به حالت ایستاده و راه رفتن دیده می‌شد.
انتهای پیام/
منظور از «خانم بازیگر» در اعترافات تتلو که بود؟