به نقل از «فرارو»

هوش مصنوعی شاید خطرناک‌تر از بمب هسته‌ای باشد

تاریخ انتشار: ۱۷ مرداد ۱۴۰۱ | کد خبر: ۳۵۶۹۵۵۱۹

فرارو- توبی والش کارشناس فناوری استرالیایی است. به او لقب «ستاره راک البته در انقلاب دیجیتال استرالیا» را داده‌اند. او استاد هوش مصنوعی در دانشگاه نیو ساوث ولز است. آخرین کتاب او با عنوان «ماشین‌هایی که بد رفتار می‌کنند: اخلاق هوش مصنوعی» نام دارد.

او در سال ۲۰۱۵ میلادی پیشتاز انتشار نامه سرگشاده‌ای شد که در آن خواستار ممنوعیت تسلیحات خودمختار تهاجمی شد که بیش از ۲۰ هزار امضا را به همراه داشت.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

او نویسنده سه کتاب در زمینه هوش مصنوعی برای مخاطبان عام است: «این زنده است!، هوش مصنوعی از پیانوی منطقی تا ربات‌های قاتل» که به تاریخ و حال هوش مصنوعی می‌پردازد، «۲۰۶۲: جهانی که هوش مصنوعی ساخته است» که به تاثیر بالقوه هوش مصنوعی بر جامعه ما می‌پردازد و «ماشین‌ها با رفتار بد: اخلاق هوش مصنوعی» که به چالش‌های اخلاقی هوش مصنوعی می‌پردازد.

او در سال ۲۰۲۰ میلادی به عنوان عضو انجمن آمریکایی «برای پیشرفت علم» انتخاب شد. او در سال ۲۰۱۸ میلادی برنده جایزه سالانه افراد سال انجمن کنترل تسلیحات شد. او در سال ۲۰۱۴ میلادی برنده جایزه بنیاد هومبولت آلمان شد.

به گزارش فرارو به نقل از اشپیگل، «توبی والش» در مصاحبه با نشریه «آلمانی» اشپیگل" به بررسی اثرات مخرب بالقوه استفاده از هوش مصنوعی در میدان جنگ می‌پردازد. او می‌گوید که ما نمی‌توانیم هوش مصنوعی را از بین ببریم، اما باید آن را با ارزش‌های جامعه هماهنگ سازیم.

در ادامه پاسخ‌های او را به پرسش‌های خبرنگار «اشپیگل» خواهید خواند:

جنگ روسیه علیه اوکراین شبیه آزمایشگاهی برای سیستم‌های تسلیحاتی مدرن به نظر می‌رسد. اوکراین از ابتدا به پهپاد‌های ترکی بایراکتار متکی بود و اکنون گفته می‌شود روسیه نیز می‌تواند از پهپاد‌های ایرانی استفاده کند. این سلاح‌ها می‌توانند در آینده به طور مستقل و با کمک هوش مصنوعی کنترل شوند؟

در مورد استفاده از ربات‌های قاتل کنترل شده با هوش مصنوعی تنها موضوع زمان است. من فقط در یک مقاله در مورد نوع جدیدی از مین ضد نفر روسی به نام POM-۳ هشدار دادم. این مین بر اساس طرحی از ورماخت آلمان به نام Schrapnell mine ساخته شده است. این مین رد پا را تشخیص می‌دهد سپس ابتدا به هوا می‌پرد و پس از آن در ارتفاع یک متری منفجر می‌شود تا حد امکان با ترکش به سربازان آسیب برساند.

روسیه اعلام کرده که این مین ترکش را با استفاده از نرم‌افزار هوش مصنوعی کنترل خواهد کرد که می‌تواند به دقت تشخیص دهد که آیا واحد‌های روسی خود در حال نزدیک شدن هستند یا خیر و در صورت نزدیک شدن نیرو‌های خودی روس منفجر نمی‌شود و تنها در صورت تشخیص نزدیک شدن سربازان دشمن منفجر می‌شود و آنان را از بین می‌برد. چنین مین‌های زمینی‌ای ماهیت حیوانی دارند چرا که افراد را به صورتی بی‌رویه نابود می‌کنند و اغلب به کودکان ضربه وارد می‌سازند. به همین دلیل است که این نوع از مین‌ها در سطح بین المللی غیرقانونی محسوب می‌شوند.

۱۶۴ دولت از جمله اوکراین متعهد شده‌اند که از آن استفاده نکنند. با این وجود، روسیه جزو این فهرست نیست. انتقاد من از POM-۳ و استفاده از آن توسط ارتش روسیه باعث شد تا در فهرست افراد ممنوع الورود به خاک روسیه قرار گیرم و دیگر اجازه نداشته باشم به آن کشور سفر کنم.

یک مسابقه تسلیحاتی جهانی هوش مصنوعی مدت‌هاست که در جریان می‌باشد و عموم مردم تاکنون از آن بی‌اطلاع بوده اند. ارتش ایالات متحده در حال توسعه یک تانک رباتیک به نام اطلس است. نیروی دریایی ایالات متحده در حال کار بر روی یک کشتی جنگی رباتیک کاملا خودکار به نام «شکارچی دریا» یا Sea Hunter است که پیش‌تر به طور مستقل سفر خود را از هاوایی به سواحل کالیفرنیا تکمیل کرده است.

هم چنین، چین در حال توسعه موشک‌های کنترل شده با هوش مصنوعی است. روسیه قصد دارد یک زیردریایی بدون سرنشین به نام «پوزیدون» را بسازد که حتی قادر است به تسلیحات هسته‌ای مجهز شود. این یک کابوس است. آیا می‌توانید به چیزی وحشتناک‌تر از یک زیردریایی فکر کنید که در آن به جای یک کاپیتان یک برنامه رایانه‌ای تصمیم می‌گیرد که جنگ هسته‌ای را آغاز کند یا خیر؟

نباید فکر کنیم که این سناریو‌های ترسناک در نهایت هرگز محقق نمی‌شوند. سلاح‌های خودمختار شاید حتی از بمب‌های هسته‌ای نیز خطرناک‌تر باشند بدان خاطر که ساخت بمب هسته‌ای به دانش باورنکردنی نیاز دارد شما به فیزیکدانان و مهندسان برجسته نیاز دارید به مواد شکافت‌پذیر نیاز دارید به پول زیادی نیاز دارید.

بنابراین، خوشبختانه در آینده قابل پیش‌بینی سلاح‌های هسته‌ای برای بسیاری از کشور‌ها دور از دسترس خواهند بود. از سوی دیگر، درباره سلاح‌های مبتنی بر هوش مصنوعی وضعیت کاملا متفاوت است. اغلب سیستم‌های تسلیحاتی معمولی که هر جنگ سالار کوچکی در اختیار دارد برای توسعه تسلیحات هوش مصنوعی کافی هستند. با تراشه‌های رایانه‌ای و لوازم جانبی مناسب از یک چاپگر سه بعدی آن تسلیحات به یک سلاح مستقل تبدیل می‌شوند.

من نمی‌دانم آیا چنین سلاح‌هایی برای مثال، چند فروند تانک اطلس خودمختار و یا کشتی‌های «شکارچی دریا» واقعا برای جنگ تعیین کننده هستند یا خیر. با این وجود، این تسلیحات قادر خواهند بود به‌طور تصادفی از طریق نقص عملکرد جنگی را آغاز کنند. برای مثال، روسیه ظاهرا از یک سلاح مافوق صوت در تهاجم به اوکراین استفاده کرده است که با سرعت چند برابر مافوق صوت به سمت هدف خود پرواز می‌کند.

در چنین موردی، زمان کمی برای مدافعان وجود دارد که واکنش نشان دهند و این امر جنگ را تسریع می‌کند. این امر می‌تواند منجر به حمله رعد آسا شود که در آن سیستم‌های رایانه‌ای دشمن یکدیگر را در کوتاه‌ترین زمان ممکن موشک باران می‌کنند. این اتوماسیون جنگ اثر بی‌ثبات کننده‌ای دارد و ما باید به هر قیمتی از آن جلوگیری کنیم.

در اینجا این پرسش مطرح می‌شود که آیا سلاح‌های نیمه خودمختار نمی‌توانند جان انسان‌ها را نجات دهند؟ برای مثال، سیستم دفاع موشکی فالانکس ایالات متحده برای دفاع از کشتی‌های جنگی بسیار سریع‌تر از یک انسان به حملات پاسخ می‌دهد. با این وجود، فالانکس به وضوح یک سیستم دفاعی است. هوش مصنوعی در واقع با سلاح‌های دفاعی مشکل کمتری دارد. با این وجود، استفاده از آن نیز دشوار است. چنین سیستمی تا چه میزان قابل اعتماد است؟ اگر نرم‌افزار به اشتباه هواپیمای مسافربری را موشک دشمن تشخیص دهد و آن را منهدم کند چه خواهد شد؟

حدس و گمانه زنی‌های زیادی در این باره وجود دارد که ربات‌های قاتل تهاجمی هم اکنون مورد استفاده قرار می‌گیرند. ترکیه یک پهپاد خودگردان انتحاری به نام کارگو با نرم‌افزار تشخیص چهره را برای شکار انسان در مرز سوریه فرستاده است. طبق گزارش‌ها، کارگو از الگوریتم‌های تشخیص چهره مشابهی که در گوشی‌های تلفن همراه هوشمند وجود دارد با تمام خطاهای‌شان برای شناسایی و کشتن افراد روی زمین استفاده می‌کند.

تصور کنید که تعقیب شدن توسط انبوهی از پهپاد‌های قاتل تا چه اندازه وحشتناک خواهد بود. حتی اگر این پهپاد‌ها به طور خاص قابل اعتماد کار نکنند دیکتاتوری‌ها می‌توانند از آن برای ترساندن مردم استفاده کنند. این پهپاد‌ها برای کاربرد در ترور دولتی مناسب هستند.

برخی این ایده را مطرح می‌کنند که سلاح‌های کنترل شده با هوش مصنوعی را غیرقانونی کنیم. برای مثال، از همتای معاهده منع گسترش سلاح‌های هسته‌ای برای آن استفاده نماییم. غیر قانونی کردن این تسلیحات ممکن است همواره کارآیی نداشته باشد، اما می‌تواند از بدتر شدن آن جلوگیری کند.

نمونه‌های بسیار کمی از تسلیحاتی وجود دارند که در ابتدا مورد استفاده قرار گرفتند، اما بعدا غیرقانونی شدند. به استفاده گسترده از گاز سمی در جنگ جهانی اول فکر کنید یا به لیزر‌های کور کننده فکر کنید که می‌توانند سربازان را نابینا سازند. این تسلیحات توسط پروتکل سازمان ملل متحد در سال ۱۹۹۸ میلادی غیرقانونی شدند و از آن زمان تقریبا هرگز در میدان‌های جنگ ظاهر نشدند حتی اگر همان طور که می‌دانیم فناوری لیزر غیرنظامی به طور گسترده مورد استفاده قرار گیرد.

برای مین‌های ضد نفر این ممنوعیت به خوبی کار نمی‌کند، اما دست کم ۴۰ میلیون مین به دلیل پروتکل‌های غیر قانونی نابود شده‌اند و این شرایط جان بسیاری از کودکان را نجات می‌دهد. این یک داستان مشابه در مورد مهمات خوشه‌ای است: حدود ۹۹ درصد از ذخایر منهدم شده است حتی اگر دوباره در سوریه استفاده شود. ما می‌توانیم از غیر قابل قبول شدن سلاح‌های خودمختار از طریق انگ زدن به آن اطمینان حاصل کنیم.

من پیش‌تر دید خوش بینانه‌ای نسبت به هوش مصنوعی داشتم و آینده درخشانی را برای آن پیش بینی کرده بود. اما نظرم تغییر پیدا کرد. واقعیت رخ داد! ما به تازگی شاهد بسیاری از عوارض جانبی ناخوشایند هوش مصنوعی بوده ایم.

در این میان، اتحادیه اروپا در تنظیم مقررات هوش مصنوعی براستی پیشرو بوده است و بازار اروپا به اندازه‌ای بزرگ است که برای شرکت‌های جهانی ارزش دارد که محصولات هوش مصنوعی خود را با قوانین اروپایی تطبیق دهند. با این وجود، شیطان در جزئیات است. تدوین قوانین یک موضوع است، اما پرسش اینجاست که تبعیت از قوانین واقعا تا چه حد اجرا می‌شود.

مشکل آن است که ما نمی‌توانیم سیستم هوش مصنوعی را که بد رفتار می‌کند قطع کنیم. ما نمی‌توانیم تنها رایانه‌های سیستم بانکی جهانی را خاموش کنیم چرا که در آن صورت اقتصاد جهانی فرو خواهد ریخت. ما نمی‌توانیم رایانه‌های کنترل ترافیک هوایی را نیز خاموش کنیم چرا که در آن صورت ترافیک هوایی از بین می‌رود.

ما هم چنین نمی‌توانیم رایانه‌های نیروگاه‌ها را خاموش کنیم، زیرا در آن صورت دچار خاموشی می‌شویم. امروزه ما کاملا به رایانه وابسته هستیم. این وابستگی تنها با هوش مصنوعی در حال افزایش است. ما نمی‌توانیم از شر آن خلاص شویم. ما تنها می‌توانیم تلاش کنیم تا اطمینان حاصل شود که ارزش‌های هوش مصنوعی با ارزش‌های جامعه ما هماهنگ هستند.

من پیش‌تر به درستی پیش بینی کردم که یک خودروی خودران باعث تصادف مرگبار با دوچرخه سوار و عابر پیاده می‌شود و آن پیش بینی دقیقا یک سال بعد رخ داد.

برای پنج سال آینده درباره هوش مصنوعی پیش بینی من آن است که با فناوری هوش مصنوعی «تشخیص چهره خودکار» رسوایی‌هایی را شاهد خواهیم بود. استارت آپ آمریکایی Clearview AI میلیون‌ها عکس را بدون رضایت افراد درگیر مورد استفاده قرار داده است. از این شرکت شکایت شد، اما کماکان به کار خود ادامه می‌دهد.

یک پیش بینی دیگر من آن است که دیپ فیک یا جعل عمیق یعنی فیلم‌ها و عکس‌های دستکاری شده با کمک هوش مصنوعی در اینترنت افزایش خواهند یافت. در چند سال آینده دیپ فیک‌ها در مورد انتخابات تصمیم می‌گیرند یا جنگ را آغاز می‌کنند یا هر دو عمل را انجام خواهند داد.

منبع: فرارو

کلیدواژه: هوش مصنوعی جنگ مورد استفاده قرار ما نمی توانیم هوش مصنوعی هوش مصنوعی برای مثال او در سال پهپاد ها پیش بینی هسته ای سلاح ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۵۶۹۵۵۱۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

معلمی؛ همیشگی ترین عشق است

ایسنا/گیلان معلم یک مدرسه استثنایی با بیان اینکه شغل معلمی یک کار ویژه است در پاسخ به این سوال که آیا از این انتخاب راضی هستید؟ تاکید کرد: با علاقه شدید قلبی و با کمال میل این شغل را انتخاب کردم و هر روز با عشق سر کلاس می روم.

۱۲ اردیبهشت ماه؛ روز معلم؛ فرصت تجلیل از آموزگاران و دبیران، اساتید دانشگاه و همه آنهایی است که سهم و نقشی در آموزش، تعلیم و تربیت ما دارند. معلمان مدارس استثنایی از آن دسته شاغلان حرفه آموزش و پرورش هستند که عشق و علاقه چاشنی کارشان است وگرنه شاید نمی شد در این مسیر ثابت قدم بود.

در همین رابطه مرتضی عابدپور لنگرودی، معلم جوان ولی با تجربه یکی از مدارس استثنایی رشت در گفت‌وگو با ایسنا از زیبایی های شغلش می گوید.

 وی که متولد ۱۶ تیر ۱۳۶۹ در لنگرود گیلان است و از چندین دهه پیش ساکن رشت شده، در خصوص نحوه ورود به این حرفه اظهار کرد: کارشناسی عمران و ارشد ادبیات دارم و با توجه به روحیه جستجوگری که در وجودم بود از زمانی که توانستم وارد بازار کار شوم، مشاغل مختلفی را امتحان کردم ولی هیچ شغلی نمی‌توانست روح مرا اغنا کند و خستگی، چیزی بود که در وجودم باقی می‌ماند و در مدت کوتاهی سعی می کردم شغل دیگری را پیشه کنم.

 او که شاعر و منتقد ادبی است، گفت: بیش از یک دهه است که در انجمن‌ها و کلاس‌های ادبی، منتقد بودم و در دانشگاه‌ها و موسسات ادبی، تدریس داشتم تا اینکه دو سال پیش وارد مدرسه شدم و امسال به صورت رسمی معلم بچه‌های استثنایی شدم.

عابدپور با بیان اینکه شغل معلمی یک کار ویژه است و ویژه‌تر از آن دانش آموزان استثنایی هستند، در پاسخ به این سوال که آیا از این انتخاب راضی هستید؟ و آیا ممکن است که بعد از مدتی از این کار هم به شغل دیگری روی بیاورید؟ تاکید کرد: شاید اغراق نباشد اگر بگویم از معدود انسان‌های کره زمینم که از شغل خودم راضی هستم و با علاقه شدید قلبی و با کمال میل این شغل را انتخاب کردم و هر روز با عشق سر کلاس می روم.

وی افزود: شاید از بیرون اگر نگاه کنیم جز سختی در این شغل چیز دیگری نباشد، شاید عده‌ای به دنبال میز و مسئولیت باشند ولی من از آن نقطه فرار کردم و امروز آموزگار بچه‌هایی هستم که عادی نیستند، مثل بقیه نمی بینند، نمی شنوند حتی نمی توانند مثل بقیه راه بروند و حرف بزنند ولی مملو از عشق و مهر و احساس هستند.

عابدپور با تاکید بر اینکه در این شغل یک مِهر نانوشته بین معلم و شاگرد است، در پاسخ به این سوال که خستگی در این کار چقدر است؟ گفت: اگر قِلق کار را بلد باشی و بدانی با هر دانش آموز چطور باید رفتار کنی، نه تنها خسته نمی شوی، بلکه از آموزش دادن و بودن در کلاس لذت هم می بری.

 از این آموزگار می‌خواهم در یک جمله معلمی را تعریف کند، می‌گوید: نمی‌شود! با یک جمله نمی‌توان عظمت این شغل را بیان کرد.

عابدپور تاکید کرد: وقتی خداوند انسان را خلق کرد به او یاد داد و انسان توانست اسماء حسنی را بیان کند، در واقع اولین ارثی که انسان برد آموزش دادن و آموزش گرفتن بود و شاید همین باعث شد که انسان اشرف مخلوقات باشد.

این معلم تصریح کرد: در واقع معلمی شغل نیست بلکه یک فطرت است. انسان‌ها همواره و در هر حرفه و پیشه‌ای که باشند، معلم هستند. پدر و مادر وقتی به کودک خود آموزش می‌دهند، معلم هستند، هر کدام از ما در هر شغل و حرفه‌ وقتی نکته ای را آموزش می‌دهیم، معلم هستیم. معلمی مثل لذت بردن از زندگی، مثل دوست داشتن و عشق ورزیدن؛ بخشی از زندگی است. منتها در جامعه امروزی و بر اساس نیاز اجتماعی برای این شغل چهارچوب تعریف شده و حکم و فیش دارد.

این آموزگار در پایان با بیان اینکه سیستم آموزش و پرورش نیازمند تحول بنیادی به ویژه در سیستم آموزشی استثنایی است، تاکید کرد: به جز دانش آموزان نابینا، دانش آموزان مدارس استثنایی عمدتاً نمی‌توانند به دانشگاه بروند و بر اساس سیستمی که تعریف شده وارد دوره متوسطه نمی‌شوند بلکه دوره حرفه‌ای و پیش حرفه‌ای دارند.

وی افزود: شاید این دانش آموزان نخبه علمی نشوند ولی باید تلاش کنیم تا جایی که امکان فراگیری دارند، مهارت های زندگی را به آنها یاد بدهیم تا به عنوان یک شهروند مفید وارد جامعه شوند. لذا پشت میز و صندلی نشستن در کلاس درس زیاد مفید نیست بلکه حداقل دو روز در هفته باید با معلم خود به کارگاه بروند و بر اساس علاقه و توانمندی خودشان حرفه‌ای را یاد بگیرند این کار باعث می‌شود علاوه بر اعتماد به نفس، یک شغل هم یاد بگیرند تا بتوانند به یک شهروند برای خود کسب درآمد داشته باشند.

عابدپور تصریح کرد: بهترین وسیله آموزش برای بچه‌های استثنایی، بازی است البته نه بازی محض سرگرمی، بلکه فعالیتی که ذهن آنها را تقویت کند. این در حالی است که هنوز برای این مدارس زمین بازی مناسب تعریف نشده است و مثل بچه‌های عادی سر کلاس درس می‌نشینند.

 انتهای پیام