محققان ایرانی مصرف توان سخت افزارهای هوش مصنوعی را کاهش دادند
بازار پرواز: محققان دانشگاه تهران توانستند مصرف توان را تا ۸۰.۳ درصد، زمان پردازش را تا ۶۸.۳ درصد و فضای مورد نیاز سخت افزار را تا ۹۲.۱ درصد کاهش دهند.
به گزارش بازار پرواز به نقل از دانشگاه تهران، افزایش استفاده از هوش مصنوعی، احتیاج به پردازنده هایی سریع تر و با این وجود کم مصرف تر را بیشتر کرده است. یکی از قسمتهایی که در پردازش های هوش مصنوعی به توان و فضای سخت افزاری قابل توجهی نیاز دارد، انجام عملیات ضرب اعداد است.
پژوهشگران دانشگاه تهران در این مطالعه کوشیده اند این محاسبات را با روشی ساده تر و کم مصرف تر انجام دهند.
در این مطالعه، روشی با عنوان ELA-FPM برای محاسبه تقریبی ضرب اعداد ارایه شده است. ایده اصلی این تکنیک آنست که همه بخش های یک محاسبه عددی با یک میزان دقت پردازش نشوند؛ قسمتهایی که تأثیر بیشتری بر نتیجه دارند با دقت بالاتر محاسبه می شوند و قسمتهایی که تأثیر کمتری دارند، با یک روش ساده تر و سریع تر محاسبه یا حذف می شوند.
برای اجرای این ایده، محققان از یک جدول از پیش آماده برای انجام قسمتی از محاسبات بهره برده اند. این کار موجب می شود بجای استفاده از مدارهای پیچیده و پرمصرف برای انجام تمام محاسبات، قسمتی از عملیات با ساختاری ساده تر صورت گیرد. بنابراین، سخت افزار کوچک تر، سریع تر و کم مصرف تر می شود.
نتایج آزمایش های سخت افزاری نشان داد روش ELA-FPM در مقایسه با روش دقیق انجام ضرب، تا ۶۸.۳ درصد زمان پردازش کمتر، ۸۰.۳ درصد مصرف توان کمتر و ۹۲.۱ درصد فضای سخت افزاری کمتر نیاز دارد.
این تکنیک در مقایسه با بهترین روشهای تقریبی موجود نیز عملکرد قابل توجهی داشته است؛ به شکلی که تا ۶۵.۶ درصد کاهش زمان پردازش، ۷۰ درصد کاهش مصرف توان و ۷۱ درصد کاهش فضای سخت افزاری گزارش شده است.
پژوهشگران برای اطمینان از این که کاهش محاسبات موجب افت قابل توجه عملکرد هوش مصنوعی نمی گردد، روش پیشنهادی را روی چند مدل شناخته شده شبکه های عصبی آزمایش کردند. نتایج نشان داد در یکی از پیکربندی های ELA-FPM، حداکثر کاهش دقت مدلهای بررسی شده تنها ۰.۰۵ درصد بوده است؛ در صورتیکه در همین پیکربندی، زمان پردازش ۳۶ درصد، مصرف توان ۷۶ درصد و فضای سخت افزاری ۸۸ درصد کم شده است.
این یافته نشان داده است میتوان در بعضی کاربردهای هوش مصنوعی، قسمتی از محاسبات را با تقریب انجام داد و در مقابل، صرفه جویی قابل توجهی در منابع سخت افزاری و انرژی به دست آورد، بدون این که دقت غائی مدل به صورت محسوسی کاهش پیدا کند.
روش پیشنهادی همین طور روی BERT، یکی از مدلهای شناخته شده پردازش زبان، آزمایش شد. در یکی از پیکربندی های ELA-FPM، دقت مدل به ۸۴.۱۹ درصد رسید که حدودا با دقت مدل در حالت استفاده از محاسبات دقیق برابری می کند.
بر اساس یافته های این مطالعه، ELA-FPM می تواند راهکاری برای طراحی سخت افزارهای مورد استفاده در هوش مصنوعی باشد که انرژی کمتری مصرف می کنند، فضای کمتری اشغال می کنند و با این وجود سرعت پردازش بالاتری دارند.
این خاصیت می تواند خصوصاً در توسعه تجهیزات پردازشی مورد استفاده برای شتاب دهنده های شبکه های عصبی، مدلهای هوش مصنوعی و مدلهای زبانی بزرگ اهمیت داشته باشد.
این مقاله با عنوان «ELA-FPM: An Energy-Efficient LUT-Based Approximate Floating-Point Multiplier for Neural Network Acceleration» به قلم مهلا صالحی شیخعلی کِلایه، اسما ناصری راد، سهند دیوسالار، امید صالحی نیا و دکتر شقایق وحدت، عضو هیات علمی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران، در مجله IEEE Micro، از نشریات IEEE Computer Society، در شماره ماه های مه و ژوئن ۲۰۲۶ انتشار یافته است. این مقاله در پیوند زیر قابل مشاهده است:
https: //ieeexplore.ieee.org/abstract/document/11458722
منبع: بازار پرواز
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب