TL;DR
- مشاهده PDF HTML (تجربی) چکیده:.
- ماهوارههای مدار پایین زمین (LEO) با استفاده از مدلهای هوش مصنوعی نقش اساسی در رصد هوشمند زمین دارند.
- با این حال،.
چه اتفاقی افتاد
مشاهده PDF HTML (تجربی) چکیده:. ماهوارههای مدار پایین زمین (LEO) با استفاده از مدلهای هوش مصنوعی نقش اساسی در رصد هوشمند زمین دارند.
با این حال،. حافظه داخلی محدود و تأخیر بیش از حد استنتاج مانع از استقرار عملی مدلهای زبان بزرگ (LLM) بر.
روی یک ماهواره میشود. در این مقاله، ما یک طرح استنتاج LLM مشارکتی کارآمد برای شبکههای ماهوارهای LEO پیشنهاد میکنیم.
به طور خاص،. کل LLM به چندین مدل فرعی تقسیم میشود که هر کدام در یک ماهواره مستقر میشوند،.
در نتیجه استنتاج LLM مشترک از طریق تبادل فعالسازیهای میانی بین ماهوارهها را ممکن میسازد. طرح پیشنهادی همچنین از مکانیسم موازی خط لوله استفاده میکند که استنتاج مدل فرعی را با انتقال فعالسازی.
میانی همپوشانی میکند و در نتیجه تاخیر استنتاج LLM را کاهش میدهد. یک طرح فشرده سازی فعال سازی تطبیقی برای کاهش طراحی شده است خطاهای تجمعی ناشی از تقسیم مدل.
چند مرحله ای با حفظ دقت استنتاج. علاوه بر این،.
ما مشکل کمینهسازی تاخیر استنتاج LLM را با بهینهسازی مشترک نسبتهای تقسیم و فشردهسازی مدل تحت محدودیتهای حافظه. داخلی و دقت استنتاج فرموله میکنیم.
این مشکل به یک مسئله جستجوی کوتاهترین مسیر بر روی یک نمودار غیر چرخهای جهتدار تبدیل میشود که. وزنهای لبه به صراحت تأخیر استنتاج ناشی از تقسیم مدل و استراتژیهای فشردهسازی را کمی میکند،.
که از طریق یک الگوریتم جستجوی مبتنی بر ستاره اصلاحشده حل میشود. نتایج شبیهسازی گسترده نشان میدهد که راهحل پیشنهادی میتواند تأخیر استنتاج را تا 42 درصد و سربار ارتباط.
را تا 71 درصد در مقایسه با معیارهای پیشرفته کاهش دهد،. در حالی که کاهش دقت استنتاج را کمتر از 1 درصد حفظ میکند.
نظرات:. 13 صفحه،.
12 شکل،. موضوعات:.
محاسبات توزیع شده،. موازی و خوشه ای (cs.DC) استناد به عنوان:.
arXiv:. 2604.04654 [cs.DC] (یا arXiv:.
2604.04654v1 [cs.DC] برای این نسخه) https:. //doi.org/10.48550/arXiv.2604.04654 DOI صادر شده توسط arXiv از طریق DataCite (در انتظار ثبت نام) تاریخچه ارسال از:.
Songge Zhang [مشاهده ایمیل] [v1] دوشنبه،. 6 آوریل 2026،.
13:. 05:.
13 UTC (487 KB).
چرا مهم است
اهمیت این خبر در این است که روی استفاده واقعی از AI و تصمیمگیری سازمانی اثر میگذارد.
منبع
لینک منبع اصلی در کارت و صفحه مقاله نمایش داده میشود.