سیستم متن باز GPipe گوگل برای آموزش شبکه‌های عصبی عمیق
تاریخ انتشار: ۱۰ فروردین ۱۳۹۸ | کد خبر: ۲۳۲۶۰۴۱۵
ایتنا- گوگل، کتابخانه مخصوص آموزش کارآمد شبکه‌های عصبی عمیق بزرگ خود به نام GPipe را به صورت متن‌باز درمی‌آورد. اگر در زمینه آموزش سیستم‌های هوش مصنوعی بزرگ کار می‌کنید، باید بدانید که گوگل از شما پشتیبانی می‌کند.
بخش پژوهش هوش مصنوعی گوگل به تازگی GPipe، کتابخانه مخصوص آموزش شبکه‌های عصبی عمیق خود را تحت Lingvo، چارچوب تنسورفلو برای مدلسازی توالی، به صورت متن‌باز درآورد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
از این سیستم می‌توان در هر شبکه‌ای از جمله لایه‌های متوالی چندگانه استفاده کرد.
به گزارش ایتنا از رایورز به نقل از ونچربیت، یانپینگ هوانگ، مهندس نرم‌افزار هوش مصنوعی گوگل، در یک پست وبلاگ اعلام کرد: «شبکه‌های یادگیری عمیق یا به اختصار DDN، کارهای یادگیری ماشینی زیادی از جمله تشخیص گفتار، تشخیص دیداری و پردازش زبانی را به صورت پیشرفته درآورده است. مدل‌های DDN امکان عملکرد بهتر و پیشرفت در تشخیص دیداری را فراهم کرده است.»
مطالعات نشان داده است که رابطه محکمی بین سایز مدل و دقت طبقه‌بندی وجود دارد.
هوانگ و همکارانش در مقاله‌ای نشان دادند که GPipe از دو تکنیک آموزش هوش مصنوعی جذاب بهره می‌برد.
یکی از این تکنیک‌ها، نزول گرادیان همزمان تصادفی است که یک الگوریتم بهینه‌سازی است که برای به‌روزرسانی پارامترهای مدل هوش مصنوعی مورد استفاده قرار می‌گیرد و تکنیک دیگر، موازات خط لوله است که در واقع سیستم اجرای وظایف است که در آن خروجی یک گام، ورودی گام بعدی شناخته می‌شود.
اکثر دستاوردهای GPipe از تخصیص حافظه بهتر برای مدل‌های هوش مصنوعی سرچشمه می‌گیرد.
GPipe در واحدهای نسل دوم پردازش تنسور گوگل کلود موسوم به TPU که هر کدام حاوی هشت هسته پردازنده و 64 گیگابایت حافظه است، استفاده از حافظه را از 6.26 گیگابایت به 3.46 گیگابایت کاهش می‌دهد.
این تنها مزیت GPipe نیست. این سیستم، مدل‌ها را در شتاب‌دهنده‌های مختلف تقسیم می‌کند و به صورت خودکار دسته‌های مینیاتوری را به وجود می‌آورد.
این موضوع باعث می‌شود که هسته‌ها به صورت موازی کار کنند و گرادیان‌ها در هر هسته تجمع می‌کنند و به همین خاطر کیفیت مدل تحت تأثیر قرار نمی‌گیرد.
منبع: ايتنا
کلیدواژه: شبکه عصبی متن باز گوگل هوش مصنوعی یادگیری عمیق
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.itna.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۲۳۲۶۰۴۱۵ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
اینترنت 4G نوکیا به ماه می‌رود
ایتنا - شرکت نوکیا مشغول توسعه سیستم ارتباطات LTE/۴G برای ماه است و نخستین قطعه از شبکه احتمالا در اواخر سال جاری میلادی به این سیاره ارسال شود.
قرار است طی ماموریت IM-۲ شرکت Inituitive Machine سخت افزاری برای یک نسخه ساده از شبکه ارتباط اینترنتی به فضا پرتاب شود و روی قطب جنوب ماه فرود بیاید.
تجهیزات نوکیا که در اصل یک جعبه شبکه ارتباطی است، لندر ماه Nova-C را با کاوشگر MAPP و ابزار جهنده Micro-Nova ساخت همین شرکت مرتبط می کند و به این ترتیب قابلیت های شبکه اینترنتی در مسافت های کوتاه و طولانی آزموده می شود.
تیری کلاین رییس Bell Labs Solutions Research در نوکیا در بیانیه ای اعلام کرد: ارتباطات نیز مانند سرپناه، غذا و تجهیزات حیاتی بخشی مهم از هر ماموریتی است که به مریخ انجام می شود. با ایجاد یک شبکه اختصاصی در فضا، ما از همان فناوری‌های پیشرفته‌ای بهره می‌بریم که میلیاردها تلفن هوشمند را روی زمین به هم متصل می‌کنند.
در سال ۲۰۲۰ میلادی ناسا قراردادهایی با ۱۴ شرکت امضا کرد تا فناوری های نوین برای پشتیبانی از برنامه آرتمیس را توسعه دهند. نوکیا ۱.۴۱ میلیون دلار دریافت کرد تا نخستین شبکه سلولی روی ماه را بسازد. این شرکت به جای توسعه فناوری های جدید، سخت افزارهای فعلی را برای محیط ماه سازگار کرد.
اگر همه چیز طبق برنامه ریزی پیش برود، شبکه ۴G/LTE نوکیا روی ماه پهنای باند بیشتری نسبت به سیستم های فرکانس بسیار بالا(UHF) فراهم می کند که برای ارتباطات فضایی توسعه یافته اند. این امر نه تنها ارتباطات بین فضانوردان بلکه برای سیستم های رباتیک خودران روی ماه را تسریع می کند. علاوه بر آن شبکه مذکور به تدریج برای مریخ سازگار می شود و در آینده به ۵G ارتقا می یابد.
حمله به نمازگزاران در گذره هرات افغانستان/ ۶ نفر شهید شدند