TL;DR
- چکیده:.
- ادغام مدلهای زبان بزرگ (LLM) در خطوط لوله کنترل رباتیک،.
- رابطهای زبان طبیعی را قادر میسازد که اعلانهای کاربر را به دستورات اجرایی ترجمه کنند.
چه اتفاقی افتاد
چکیده:. ادغام مدلهای زبان بزرگ (LLM) در خطوط لوله کنترل رباتیک،.
رابطهای زبان طبیعی را قادر میسازد که اعلانهای کاربر را به دستورات اجرایی ترجمه کنند. با این حال،.
این رابط دیجیتال به فیزیکی یک آسیبپذیری حیاتی و ناشناخته را معرفی میکند:. حملات درب پشتی ساختاری که در طول تنظیم دقیق تعبیه شدهاند.
در این کار،. ما بهطور تجربی دربهای پشتی زنجیره تامین مبتنی بر LoRA را در سیستمهای کنترل روباتیک ROS2 با واسطه.
LLM بررسی میکنیم و تاثیر آنها را بر اجرای ربات فیزیکی ارزیابی میکنیم. ما دو استراتژی تنظیم دقیق مسموم را ایجاد میکنیم که مراحل مختلف خط لوله تولید فرمان را هدف.
قرار میدهند و یک بینش کلیدی در سطح سیستم را نشان میدهیم:. درهای پشتی تعبیهشده در مرحله استدلال زبان طبیعی بهطور قابل اعتمادی به خروجیهای کنترل اجرایی منتشر نمیشوند،.
در حالی که دربهای پشتی مستقیماً با فرمتهای دستوری JSON ساختاریافته همسو میشوند. از ترجمه جان سالم به در میبرد و اعمال فیزیکی را آغاز میکند.
در هر دو آزمایش شبیهسازی و دنیای واقعی،. مدلهای درپشتی به میانگین نرخ موفقیت حمله ۸۳ درصدی دست مییابند در حالی که بیش از ۹۳ درصد.
دقت عملکرد پاک (CPA) و تأخیر زیر ثانیه را حفظ میکنند،. که هم قابلیت اطمینان و هم پنهانکاری را نشان میدهد.
ما بیشتر یک دفاع تأیید عاملی را با استفاده از یک LLM ثانویه برای بررسی سازگاری معنایی پیادهسازی. میکنیم.
اگرچه این امر نرخ موفقیت حمله (ASR) را به 20 درصد کاهش میدهد،. تأخیر پایان به انتها را به 8 تا 9 ثانیه افزایش میدهد،.
که در سیستمهای روباتیک بلادرنگ،. یک مبادله امنیتی قابل توجه در پاسخگویی را نشان میدهد.
این نتایج آسیبپذیریهای ساختاری در معماریهای کنترل رباتیک با واسطه LLM را برجسته میکند و بر نیاز به. دفاعهای آگاه از رباتیک برای سیستمهای هوش مصنوعی تجسم یافته تأکید میکند.
رباتیک (cs. RO) استناد بهعنوان: (یا v1 [cs.
RO] برای این نسخه) https:. // شده توسط arXiv از طریق DataCite (در انتظار ثبت نام) تاریخچه ارسال از:.
Jin Wei-Kocsis [مشاهده ایمیل] [v1] شنبه،. 4 آوریل 2026،.
ساعت 23:. 06:.
16 UTC (401 KB).
چرا مهم است
اهمیت این خبر در این است که روی استفاده واقعی از AI و تصمیمگیری سازمانی اثر میگذارد.
منبع
لینک منبع اصلی در کارت و صفحه مقاله نمایش داده میشود.