TL;DR
- بازگشت به داستانهای مشتری 25 مارس 2026•4 دقیقه خواندناین پست مهمان نوشته شده توسط تیم در Doppel.
- Doppel یک پلت فرم بومیهوش مصنوعی است که سیستمهای یادگیری ماشین را برای شناسایی و مختل.
- کردن حملات مهندسی اجتماعی میسازد.
چه اتفاقی افتاد
بازگشت به داستانهای مشتری 25 مارس 2026•4 دقیقه خواندناین پست مهمان نوشته شده توسط تیم در Doppel. است.
Doppel یک پلت فرم بومیهوش مصنوعی است که سیستمهای یادگیری ماشین را برای شناسایی و مختل. کردن حملات مهندسی اجتماعی میسازد.
چشم انداز تهدید بهطور مداوم تغییر میکند،. به این معنی که مدلهای ما باید به همان سرعت تکامل یابند.
این به دو نیاز اصلی برای بار کاری ML ما تبدیل میشود:. آزمایش سریع استنتاج قابل اعتماد و مقیاس پذیر برای مدت طولانی،.
اصطکاک زیرساخت ما را در هر دو مکان کند کرد. آزمایشهای آموزشی بهطور متوالی انجام شد،.
استقرار استنتاج به خطوط لوله کانتینر سنگین نیاز داشت،. و جزئیات عملیاتی کوچکی در پشته ما انباشته شد.
در حال تولید هستند. این بدان معناست که توانایی ما برای تکرار در مدلهای یادگیری ماشین بسیار مهم است.
بزرگترین گلوگاه در جریان کار آموزشی ما،. ظرفیت آزمایش بود،.
به این معنی که چقدر سریع میتوانستیم ایدههای جدید را آزمایش و ارزیابی کنیم. از لحاظ تاریخی،.
خط لوله آزمایشی ما به این شکل بود:. آزمایشها به صورت متوالی اجرا میشدند که مشکلات متعددی را ایجاد کرد.
مشاغل آموزشی اغلب برای ساعتها ادامه داشتند،. بنابراین فرضیههای جدید باید تا پایان دوره قبلی منتظر میماندند.
هنگامیکه چیزی در اواخر آموزش یا ارزیابی شکست میخورد،. کل اجرا از بین میرفت و حلقه بازخورد دوباره شروع میشد.
از آنجایی که هر اجرا گران بود،. ما اغلب ایدههای متعددی را در یک آزمایش واحد قرار میدادیم تا «ارزش آن» را داشته باشیم،.
که جداسازی این تغییرات را در واقع باعث بهبود عملکرد میکردند. در عوض از مدیریت صفهای کار،.
استخرهای کارگر یا خطوط لوله آموزشی توزیعشده،. میتوانیم کدهای پایتون معمولی بنویسیم و کار را با ساختارهای سادهای مانند map() موازی کنیم.
یک مثال خوب اعتبارسنجی متقاطع K-fold است. هر فولد مستقل است، بنابراین میتوانند بهجای متوالی اجرا شوند.
در عمل،. اعتبارسنجی متقابل موازی مانند پایتون معمولی به نظر میرسد:.
یک تابع آموزشی در سطح فولد را تعریف کنید،. سپس آن را در سراسر تاها ترسیم کنید.
هیچ لایه ارکستراسیونی برای مدیریت وجود ندارد. چه یک بار اجرا کنیم چه ده، مسیر کد ثابت میماند.
Modal اجرای موازی در پشت صحنه را کنترل میکند. این الگو در سراسر گردش کار آموزشی ما نشان داده میشود.
به جای منتظر ماندن برای اجرای آزمایشها در یک زمان،. میتوانیم بسیاری از فرضیهها را بهطور همزمان ارزیابی کنیم و حلقه بازخورد بین ایدهها و نتایج را کوتاه.
کنیم. عوامل کدگذاری حلقه آزمایش را بهبود میبخشند گردش کار آموزشی ما از یک تکرار فشرده پیروی میکند.
چرخه:. پیشنهاد تغییر اجرای یک آزمایش خلاصه کردن نتایج پیشنهاد تغییر بعدی بر اساس شواهد این الگو در چندین.
پروژه اخیر که آزمایشات ML مستقل را بررسی میکنند نشان داده شده است. بهعنوان مثال،.
پروژه جستجوی خودکار آندری کارپاتی اجرای یک حلقه مشابه را بهطور کاملا مستقل بررسی میکند،. جایی که یک عامل کد آموزشی را تغییر میدهد،.
آزمایشهای کوتاهی را اجرا میکند،. نتایج را ارزیابی میکند و تغییر بعدی را پیشنهاد میکند.
رویکرد ما بیشتر مبتنی بر انسان است. عاملها مراحل مکانیکی حلقه را مدیریت میکنند،.
مانند راه اندازی آزمایشها،. جمع آوری معیارها،.
و خلاصه کردن نتایج. MLEها مسئول تصمیمگیری درباره اینکه چه ایدههایی ارزش آزمایش دارند باقی میمانند.
Modal بهطور طبیعی در این جریان کار قرار میگیرد زیرا CLI آن همه چیزهایی را که عوامل برای. تعامل با سیستم آموزشی نیاز دارند،.
در معرض دید قرار میدهد. عاملها میتوانند آزمایشها را راه اندازی کنند،.
گزارشها را بازرسی کنند،. خروجیها را بازیابی کنند،.
و اجراهای پیگیری را مستقیماً از محیط خط فرمان آغاز کنند. جایی که آنها قبلاً کار میکنند.
همراه با توانایی Modal برای موازی کردن بارهای کاری،. این به ما امکان میدهد ایدههای بسیار بیشتری را در مدت زمان مشابه ارزیابی کنیم.
گلوگاه از زیرساختها دور میشود و به سمت آنچه واقعاً مهم است تغییر میکند:. تصمیمگیری در مورد اینکه کدام آزمایشها ارزش اجرای بعدی را دارند.
دو ویژگی برای این سیستم برای کار موثر بسیار مهم است:. تأخیر کم،.
بنابراین تهدیدها میتوانند فوراً پردازش شوند،. و مقیاسپذیری الاستیک،.
بنابراین زیرساخت میتواند انفجارها را در طول کمپینهای حمله جذب کند. ترافیک حمله ذاتاً غیرقابل پیشبینی است.
یک مدل ممکن است برای مدتی بیکار بنشیند و سپس با شروع یک کمپین فیشینگ،. ناگهان درخواستهای زیادی دریافت کند.
زیرساختهای ارائهدهنده ما باید بهطور خودکار این جهشها را مدیریت کند. پشته استنتاج GCP ما مانند بسیاری از تیمها که قبلاً به شدت در GCP کار میکردند،.
اولین غریزه ما استقرار بود استنتاج از طریق اکوسیستم آنها. زمانی که ما آماده بودیم یک مدل جدید را به کار بگیریم،.
گردش کار ما معمولاً به این صورت بود:. بسته بندی مدل در داخل یک ظرف Docker سفارشی استقرار یک سرویس Cloud Run با یک GPUE نصب.
شده نمایش یک Flask /پیش بینی نقطه پایانی تماس گیرندگان را از طریق درخواستهای HTTP ادغام کنید. این راه اندازی بهطور طبیعی با چندین پلت فرم ما ادغام شد،.
اما چندین مدل عملیاتی را معرفی کرد. ساختن تصاویر معمولاً 10 تا 30 دقیقه طول میکشد،.
که به این معنی است که حتی تغییرات کوچک پیکربندی،. استقرار و تکرار را کند میکند.
Cloud Run همچنین محدودیتهای متعددی را تحمیل کرد که با افزایش حجم کاری ما بیشتر قابل توجه شد. هر نمونه Cloud Run میتواند تنها یک GPU را متصل کند،.
به این معنی که مقیاس استنتاج GPU معمولاً به مقیاس افقی بسیاری از نمونههای تک GPU نیاز دارد. افزایش ترافیک همچنین میتواند باعث شروع سرد یا تأخیر در تهیه تاخیر در هنگام آنلاین شدن موارد جدید.
شود. در نهایت،.
هر استقرار مدل مستلزم ایجاد یک لایه سرویس HTTP در اطراف نقطه پایانی Flask برای رسیدگی به احراز. هویت،.
سریالسازی و مسیریابی درخواست بود. بهطور جداگانه، این قطعات کوچک بودند، اما کد یکپارچه سازی مکرر اضافه شد و پیشرفت را کاهش داد.
جایی که Modal در Modal پرش کرد، چندین بخش از این گردش کار را ساده کرد. چرخههای ساخت و استقرار بسیار سریعتر شدند.
ذخیره لایه تصویر و حجمهای پایدار برای وزنهای مدل،. زمان ساخت را تا 10 برابر کاهش میدهد،.
حتی تنظیمات مدل پیچیدهتر ما به ساختهای گرم زیر دقیقه میرسد. این کار تکرار روی پیکربندیهای استقرار را بسیار آسانتر میکند.
رفتار مقیاسبندی نیز سادهتر شد. Modal بهطور خودکار بارهای کاری استنتاج را از طریق معماری بدون سرور خود در پاسخ به تقاضا،.
مقیاس میکند،. و به سیستم اجازه میدهد تا هنگام ظاهر شدن کمپینهای جدید،.
جهشهای ترافیک را جذب کند. Modal همچنین لایه سرویس HTTP را که قبلاً در اطراف هر یک ساخته بودیم حذف میکند.
مدل به جای نمایش یک نقطه پایانی Flask و فراخوانی آن از طریق HTTP،. توابع استنتاج را میتوان مستقیماً از طریق انتزاعات Modal فراخوانی کرد.
نتیجه یک جریان استقرار سادهتر و کد ادغام قابل توجهی کمتری برای حفظ است. نتیجه گیری در بین آموزش و استنتاج،.
بزرگترین تغییر Modal برای عملیات ML ما ارائه شد که هزینههای آموزشی ما را کاهش داد. قبلاً به صورت متوالی در بارهای کاری اجرا میشد که میتوانستند به صورت موازی اجرا شوند.
برای استنباط،. این به معنای حذف بسیاری از سربار دستی مورد نیاز برای بسته بندی،.
استقرار،. و مقیاس خدمات مدل بود.
هیچ یک از این قابلیتها بر روی زیرساختهای ابر سنتی غیرممکن است. اما برای یک تیم کوچک ML که بر روی مدلهای شناسایی سریع حمل و نقل متمرکز شدهاند،.
Modal ساخت معماریهای مقیاسپذیر را آسان و واضح میسازد. در نتیجه، عامل محدودکننده در ما گردش کار دیگر زیرساخت نیست.
این به سادگی این است که چقدر سریع میتوانیم ایده بعدی را تولید و ارزیابی کنیم.
چرا مهم است
اهمیت این خبر در این است که روی استفاده واقعی از AI و تصمیمگیری سازمانی اثر میگذارد.
منبع
لینک منبع اصلی در کارت و صفحه مقاله نمایش داده میشود.